爸拍兒下體腫脹照給醫生參考竟被AI認定性虐 安卓、哀鳳恐怕都逃不了
根據《紐約時報》報導，2021年某夜，當時在家遠距上班的電腦軟體工程師馬克（Mark）
，發現幼齡兒子的陰莖出現疼痛、腫脹發炎狀況，便拍下兒子患部情形給醫生參考，事後
兒子使用抗生素也康復了。
未料，拍完照片之後的2天，馬克卻收到Google官方通知，指出他被認定涉嫌對兒童性虐
待或性剝削，該張拍給醫生看的照片可能是被Google AI識別為兒童色情圖片，馬克是
Google重度使用者，會將影音資訊備份到雲端而被Google審查內容，最終Google決定關閉
他的電子郵件（Gmail）、電話服務（Google Fi）等，且申訴無用。
Google於2021年提交超過62份涉嫌虐待兒童的報告，禁用超過27萬名用戶帳號。根據《IT
之家》指出，包括Facebook、Twitter和Reddit在內，會使用2009年由微軟發布的
PhotoDNA工具來比對找出傳播虐童的圖像，另一款為2018年由Google發布的Content
Safety API，它處理虐童圖像內容的效率高達700%，目前也開源給Facebook使用。
馬克使用的是Android手機，但其實蘋果去年曾宣佈兒童安全（Child Safety）計畫，蘋
果曾在iOS / iPad OS 15.2測試版本中加上圖片審查功能，自動檢測iPhone和iCloud是否
涉及兒童色情影音內容，但消息一出隨即引來反彈聲浪，最終該計畫被無限延期。然而，
蘋果用戶也別高興得太早，畢竟只要使用Google就會面臨被審查的可能。