現今人工智慧強大，很多演算法、判定標準都交由人工智慧處理，不過有時候也會有誤判情形。美國舊金山一位全職奶爸在疫情嚴重時發現兒子陰莖異常腫脹，於是拍下照片要請醫師遠距看診，沒想到卻意外被Google判定違反兒童相關條款，向Google申訴後仍被駁回，讓他相當苦惱。
來自美國舊金山的40多歲全職爸爸Mark去年2月時，觀察到還在學走路的兒子走路方式不太對勁，後來發現兒子陰莖有點腫脹而且還伴隨疼痛感，後來老婆詢問診所後，診所表示要先提供照片讓醫生進行初步判斷，接著老婆就拿起老公的安卓手機拍下兒子腹股溝區域照片，接著再將照片傳到自己的iPhone上，以便後續傳到診所系統中。
▲拍兒子的下體是為了要先給醫生進行初步判斷，圖非當事人。（示意圖／取自免費圖庫pexels）
醫生看見照片後，開立了抗生素給孩子服用，問題很快就解決了，不過兒子問題解決後，爸爸自己也出現了問題。在拍完照片的2天後，他的手機發出通知表示，Google帳戶因為違反公司政策且內容可能違法遭到停權（他的照片會備份到Google cloud中），後來他按下「了解更多」的按鍵，發現有可能是違反了其中的「兒童性虐待和剝削」。
一開始，他很困惑，後來想到兒子看病的事情，他心想：「喔~天啊，Google可能認為那是兒童色情影片啦~」他以曾經當過軟體工程師的經驗推測，即使系統使用人工智慧判定，但是往往都還是有真人參與其中，以確保人工智慧沒出包，所以就填寫一份表格，解釋了兒子的情況，請Google再次審查。
於此同時，他身上也發生了一連串多米諾骨牌效應，不只使用十多年的通訊錄、電子郵件、照片、兒子出生的文件，一夕之間全沒了，連Google Fi電信服務也被關閉，幾乎所有數位服務都無法使用。
Google還審查到他相簿中有一段妻子穿著清涼和兒子躺在床上的影片，也遭舊金山警方調查。在同年12月，他收到警方來信，表示正在調查他Google帳戶中的內容，最終以沒發現任何犯罪事實結案。他拿著警方調查結果再次向Google申訴，但結局還是一樣，後來甚至收到帳戶將被永久刪除的通知，Google則表示「不會恢復他的帳號」。
結論：當初如果是用老婆的哀鳳手機拍，可能就不會有這個問題了...嗎？XDDDD
via nytimes
