1.媒體來源:
ETtoday新聞雲
2.記者署名:
張君豪
3.完整新聞標題:
台灣首例deepfake換臉技術犯罪! 「無法律規範」檢警籲修法
4.完整新聞內文:
刑事局偵四大隊18日宣布破獲之知名網紅小玉、笑笑團隊涉嫌利用AI繪圖演算技術「
deepfake」後製包含知名台灣女網紅、明星名人換臉A片,並透過加密通訊軟體Telegram開
設群組招收會員販售牟利,短短一年獲利逾千萬元;刑事局證實這也是台灣治安史上首例利
用繪圖AI演算深偽技術衍生的新型犯罪行為。
加上身為YouTuber的小玉曾在愚人節當天上傳一則韓國瑜誇帶言詞搞笑影片,雖然小玉辯稱
是向民眾呼籲假新聞風險,但未來deepfake換臉技術若結合政治、犯罪目的散播假影片資訊
,對社會治安影響不容小覷。
警方點出,網紅小玉就曾在惡搞韓國瑜影片中表示,「該影片是花人民幣購買AI換臉軟體、
只要花30分鐘和一個配音員、我可以讓韓國瑜講出任何我想要他講的話。」但小玉操盤製作
女網紅、女模、名人民代換臉A片,不但不是正常影音創作,換臉A片反而對遭移植的當事人
形象、聲譽人格造成嚴重貶損。
刑事局說明,deepfake中文翻譯成「深偽」或「深假」是一種透過人工智慧(AI)技術中的
深度學習演算形成的虛假訊息,該技術可以應用於偽冒影像及聲音,只需被仿造對象的大量
相片、影片,透過電腦深度學習(deep learning)就可以製造肉眼很難分辨的假影片。
刑事局表示,國外科技巨擘、司法機關早就開始針對深偽影片的鑑識方式、分析軟體進行開
發;肇因像小玉這樣利用deepfake技術開發換臉A片,造成散播猥褻物品及影響遭換臉女網
紅、名人困擾;但若將該技術用於仿冒國家元首、政府官長或是政黨領袖的虛假影音,將有
可能衍生社會治安、選舉公平、甚至輿論動盪、民眾對立等社會問題。
警方分析國外案例,發現早在去年,英國有歹徒利用深偽技術,掌握模仿某跨國企業執行長
的語音技術,撥打電話給該公司出納人員,因此順利騙匯鉅款到跨國帳戶;因此包含歐美執
法機關,甚至Google、微軟等網路科技巨擘莫不投入開發針對deepfake後製影片的辨識軟體
,等同對該類影音技術「資訊戰爭」早已開打。
加上民眾僅需微薄資訊技能,就能在Githud等開源程式碼平台取得相關程式碼,或者下載各
類換臉APP,要做出簡單換臉影片並非難事,對此社群軟體龍頭包含臉書、推特紛紛開發換
臉影音辨識審核機制,防堵換臉假影片透過社群軟體流傳。目前台灣相關法律規定對
deepfake換臉影片並無任何規範罰則,網紅小玉販售知名女網紅、模特兒、名人換臉A片是
否引發後續修法效應有待觀察。
5.完整新聞連結 (或短網址):
https://www.ettoday.net/news/20211018/2104177.htm
6.備註:
法官:既然無法律規範 那麼......