AI生成川普被捕、普廷入獄影像 專家警告：加劇假消息傳播
https://img.ltn.com.tw/Upload/news/600/2023/03/24/4250478_1_1.jpg
調查記者希金斯透過AI合成川普與警察衝突影像，在推特上一陣轟動。（美聯社）
2023/03/24 21:24
〔編譯孫宇青／綜合報導〕
在人工智慧（AI）聊天機器人掀起議論之際，AI影像合成技術也更臻成熟，近期網路上即
出現美國前總統川普被捕、俄羅斯總統普廷入獄等以假亂真的AI製圖，且正好切合川普自
曝即將被捕，以及普廷遭國際刑事法院（ICC）通緝等時事，引起網友熱烈轉發討論。然
而，假消息專家警告，這恐怕會成為有心人士操縱輿論的新模式。
《美聯社》及《華盛頓郵報》指出，荷蘭開源情報網站「冒險者」（Bellingcat）創辦人
希金斯（Eliot Higgins）一時起意，將川普自揭可能因「封口費案」遭刑事起訴的消息
影像化，於是向具有模仿新聞機構專業影像能力、且剛發布新版「文生圖」（text-to-
image）合成模式的AI繪圖軟體Midjourney下指令，創造出川普被紐約市鎮暴警察團團包
圍、在被捕過程跌倒、與警察對峙，以及川普穿囚衣、蹲苦牢，甚至是川普從下水道逃獄
成功、跑到知名速食店吃漢堡等各種影像。
不僅如此，ICC日前以戰爭罪名向俄國總統普廷發布拘捕令一事，也成為希金斯的靈感來
源，同樣透過AI製作出普廷被捕、受審、入獄的逼真影像。
希金斯將影像分享到推特，並清楚說明這是AI製圖，不帶任何惡意。他原先以為會乏人問
津，不料兩天後，川普AI製圖的觀看次數竟超過500萬次。希金斯表示，川普影像只是為
了展現Midjourney在描繪真實場景時的優劣，當他輸入指示，程式就自動擬定一套情節，
但若細看就能發現其中很多破綻，包括照片中的川普竟穿戴警察腰帶，還有很多人的臉和
手都明顯扭曲等。儘管如此，照片仍引起轟動，而希金斯也被禁止使用Midjourney服務。
假消息專家警告，Midjoureny或DALL-E等AI製圖軟體，具有在使用者下達簡單指令後，運
用詳細背景資料快速製成真實場景的能力，這意味以後只要出現重大消息，就能透過AI生
成海量的假照片或影片，並在社群平台上廣為散布，導致社會在剛接觸某一事件的最重要
階段，就無法辨別事件真相。西雅圖華盛頓大學專研假新聞傳播的教授威斯特（Jevin
West）坦言，這會在危機發生時增添雜音，讓人們開始對體制和接收的訊息失去信賴。
非政府組織「見證」（Witness）媒體技術專家安倫（Shirin Anlen）表示，儘管希金斯
或其他使用者有表明影像是由AI合成，且只是博君一笑，但這樣還不夠，因為這些影像通
常很快就會被分享出去，但不包括註明文字。事實上，川普被捕的影像就被Instagram一
則貼文轉貼，還得到超過7萬9000個讚，「只要看到照片，人們就認定眼見為憑了。」
聯邦參議院情報委員會民主黨籍主席華納（Mark Warner）表示，政策制定者多年來一直
對合成媒體被濫用於散播假消息提出警告，雖然這項技術花了幾年才發展出這種能力，但
「我們正處在這種工具已普及、且功能卓越的臨界點」。華納也提醒開發者，若已可合理
預判旗下產品會直接造成傷害，開發者就可能必須負起責任。
自由
https://news.ltn.com.tw/news/world/breakingnews/4250478