1.原文連結:
https://goo.gl/G5QtH1
2.原文內容:
我是亞馬遜的員工,我們不應向軍方出售人臉識別技術。」這麼立場堅定的一句表態,出
自於在Medium上發布的一篇亞馬遜(Amazon)員工匿名公開信。
這整起事件要先從以「不做惡(Don't be evil)」作為信念的Google說起,今年(2018
)10月,Google宣布退出一個叫做《聯合企業防禦基礎設施》(Joint Enterprise Defen
se Infrastructure,JEDI )的政府計畫,計畫的內容是讓美國國防部把大量資料移轉至
商業雲端運作,總價值超過100億美元,合約可能長達10年,之所以會退出,Google表示
是因為無法確定這項合作是否符合Google的AI標準。
由於與美國國防部的合作案,涉及到公民隱私問題,先前Google員工也多次反對與國防部
合作,而Google退出後,亞馬遜也就成了接手的最佳人選。本周在舊金山舉行的《連線》
(Wired)雜誌 25 週年峰會上,亞馬遜執行長貝佐斯(Jeff Bezos)說:「我們將繼續
支持國防部,我認為我們應該這樣做,」他認為:「公司高層的工作就是做出正確的決定
,即使它不受自家員工歡迎。」甚至認為:「如果大型科技公司打算退出國防部,這個國
家將陷入困境。」被認為是在暗酸Google。
不過這一切在亞馬遜員工看來,完全跟亞馬遜一直以來所倡導的企業價值大相逕庭。
https://i.imgur.com/ZGOcbLl.jpg
當新科技用於執法,隱私與個人自由可能被侵犯
最近在Medium上出現了一篇亞馬遜員工的公開匿名信,文中提到幾周前,有超過450位員
工寫了一封信給執行長貝佐斯,希望公司能夠停止販售一款叫做「Rekognition」的軟體
給警方,不過目前為止仍沒有得到公司的官方回應。
人臉辨識軟體Rekognition,是基於亞馬遜的AWS圖像識別和分析平台,可以提供物體、場
景、人臉辨識與分析,主打可以在機場、車站等人潮擁擠的公眾場所準確地監控,最近正
積極向政府以及執法部門推銷。
https://i.imgur.com/TXPzJ6K.jpg
今年七月,美國民權聯盟(ACLU)最近做了一項測試,將國會議員照片與資料庫內的嫌犯
照片進行比對,結果亞馬遜的人臉辨識軟體Rekognition,竟然將28名議員誤認為嫌犯,
外界呼籲在執法中導入人臉辨識技術,必須有更嚴謹的討論。人臉辨識系統還有一個很大
的爭議,就是演算法偏見,因為系統一開始使用大量的白人男性資料作為學習基礎,因此
一直以來有色人種以及女性遭到系統誤認的比例極高。在這次ACLU測試中,比對結果出錯
的28位議員中,11人是有色人種,約占整體39%,過去ACLU也曾發信給貝佐斯強烈表達人
臉辨識系統偏見的疑慮。
新技術缺乏監管機制,無辜大眾可能成為受害者
「當一家公司將新技術帶進這個世界時,就有責任和義務衡量這項技術可能帶來的後果,
我任職的公司亞馬遜,正在允許美國各地的執法部門購買臉部識別軟體 Rekognition,我
和其他員工要求這項業務立即停止。」
員工如此憤慨不是沒有道理,亞馬遜官方表示,臉部識別軟體 Rekognition一次能夠存儲
和搜索數千萬張人臉,讓執法部門使用的同時,卻沒有相對應的監管機制,「從過去的經
驗我們可以發現,因為缺乏監督機制,國家將手中的強大監視工具瞄準那些可能是無辜的
人,在美國已經導致有色人種、移民和那些正在行使美國憲法權利的人們遭受過度監控和
過度干擾。」
https://i.imgur.com/vGoeQXk.jpg
員工認為,當政府、執法單位大規模採用新科技辦案時,忽略背後可能潛在的社會問題,
是相當不負責任的行為。「我們都有權在不受政府監控的情況下生活,像我們這樣的公司
不應該去協助監控。」
「貝佐斯一定知道這些疑慮,」員工認為,貝佐斯在外面大肆談論新科技可能被獨裁者濫
用的問題,但在公司內部卻希望員工靜觀其變,而非具體向員工解釋亞馬遜將如何採取行
動,來防止技術被濫用。
「亞馬遜常常在談論領導的價值,」員工說:「如果我們想作為產業的領導者,必須在民
眾的利益與公司利潤之間做出選擇,我們可以把危險的監控系統賣給警方,或者為對的事
情挺身而出,然而我們永遠做不到兩者兼顧。」
3.心得/評論:
當初原本以為Google退出,亞馬遜就穩了,看來也有變數了。