父親提供兒子裸照給醫生診斷病情，遭 Google 誤判為罪犯
2022/08/22 Jocelyn
去年 2 月診所因為疫情休診，一位父親 Mark 將兒子腹股溝照片傳給醫生診斷，Google
帳號遭照片審查機制停用。
根據《紐約時報》[1]報導，去年 2 月一位父親 Mark 注意到兒子私密處發炎，但由於疫情
下診所仍休診，因此在護士的建議下， Mark 使用安卓（Android）手機拍下兒子腹股溝
的照片，將照片傳給醫生後再進行視訊診斷。在 Mark 拍下照片的兩天後，即收到
Google 的通知，告訴他由於帳號出現疑似非法的有害內容，因此帳號已遭 Google 鎖定
。
Mark 無法使用 email、通訊錄、照片，且因為他使用的是 Google 電信服務 Google Fi
，因此連手機號碼都遭停用，他也曾試圖申訴 Google 的決定，但都被 Google 拒絕。
2021 年 12 月警察針對 Mark 的事件展開調查，證實這次事件與犯罪無關。
像其他網路平台 Facebook、Twitter 等，Google 對於照片的審查是透過微軟的
PhotoDNA 圖片辨識比對技術，而這樣的機制曾在 2012 年成功逮捕一位藉 Gmail 傳送兒
童色情照片的性犯罪者。
2018 年 Google 推出圖片審查的 AI 工具，透過 AI 來辨識從沒見過的兒童性虐資料（
CSAM），並以最快的速度下架照片並通報。Google 發言人指出，藉由機器學習，並建立
雜湊值（hash value，又稱數位指紋），來與已知的 CSAM 內容相比對。AI 發現不適當
的內容後，Google 將通報相關組織。另外發言人也說 Google 只會在用戶對照片採取動
作時，加以審查，包括將照片複製到 Google 相簿中等行為。
而對於誤舉報的事件，Google 給出的回應則是，公司遵照美國法律並運用雜湊值和 AI
來判定哪些內容是 CSAM，另外 Google 也設有團隊來檢視遭舉報的內容是否準確，且也
有諮詢小兒科醫生來辨識那些照片是用於醫療需求。
儘管藉由照片審查來保護兒童的權益固然重要，但審查機制背後的隱私問題也受到質疑。
Apple在去年推出了保護兒童的計畫（Child Safety Plan），Apple 會在用戶上傳照片
至 iCloud 前進行審查，方式與 Google 相似，如果雜湊值與已知的 CSAM 照片相符，則
會轉由人工審查，來判定是否有需要鎖定該帳號。
計畫推出後提倡數位權益的非營利組織 The Electronic Frontier Foundation（EFF）指
出，這危害到了 iCloud 使用者的權益。Apple 也因此暫緩了計畫，但隨著 iOS 15.2 的
推出，Apple 讓父母得以選擇，是否在家庭共享計畫的兒童帳號中加入照片審查機制，若
父母同意則小孩帳號的「訊息」App 將審查裡面的照片是否有裸露元素，若有審查到
Apple 則會將照片模糊化，並提出警訊以及提供可以協助網路安全的資源。
而對於 Google 此次事件，EFF 的 Jon callas 認為這樣審查功能是侵犯權益的，他表示
用戶擔心的就是帳號中的家庭相簿被審查後惹上麻煩。
在台灣的一位用戶也發生類似於 Mark 的情況，他懷疑因自己的雲端硬碟存放衛教文章所
需的兒童生殖器照片，而受到 Google 審查，進而造成帳號被無預警的停用。他也警告帳
號遭停用後不僅 email 和存在 Chrome 裡的密碼不能使用，而造成後續麻煩外，任何一
次性付費的 Google App 也需重新購買，甚至他的 Youtube Premium 帳號在被停用後仍
持續被扣款。
Google 的照片審查的確曾有效阻止了犯罪事件，但對於要將私密照片用於正當醫療用途
上的使用者，只要出現了審查錯誤，即會讓用戶的使用權益收到侵害，也容易讓用戶難以
再次信任公司所提供的服務。
[1] A Dad Took Photos of His Naked Toddler for the Doctor. Google Flagged Him as
a Criminal. https://is.gd/3CXkbS