標題:英國防部戰略防衛檢討 創先例使用AI惹議
新聞來源: (發文須填寫新聞網站名稱與連結,供板友分辨)
中央社
https://bityl.co/SK2x
(中央社記者陳韻聿倫敦10日專電)英國政府7月中旬啟動「戰略防衛檢討」(SDR),目
前已進入公共意見彙整階段,卻因為是英國中央政府機關首次在這類大型政策工程使用人
工智慧(AI)分析工具,而引發討論。
SDR的目標為以專業獨立的精神,全盤檢視英國面臨的安全防衛威脅及應對相關威脅的能
力,以利後續政策規劃和執行。根據國防部之前發布的時程,軍方、產業、智庫等各界意
見應於10月進入分析彙整階段。
政治新聞網站Politico報導,相關分析彙整將使用AI工具,這是英國中央政府部會首次在
重大政策檢討運用AI,可視為政府推動公務體系「科技化」的一環。
英國國防部已證實,將運用客製化AI分析彙整各界就SDR所涵蓋議題分別提出的意見。
根據報導,相關AI模型由美國科技公司帕蘭泰爾(Palantir)打造。帕蘭泰爾是在今年夏
天贏得合約。
不過,英國安全防衛產業界及學界部分人士對借助AI完成SDR有疑慮。一名防衛事務專家
指出,相關工具恐成為「特洛伊木馬」,讓惡意行為者有機可乘、駭入英國政府系統。另
一名專家則說,像SDR這麼重大的政策檢討不適合拿來實驗AI。
帕蘭泰爾打造的AI工具將透過檢索關鍵詞、題目等,分析彙整國防部收到的數以千計SDR
相關意見,並擬具概要,供官員參考。
牛津大學教授、防衛科技倫理專家泰德歐(Mariarosaria Taddeo)同時是國防部數個委
員會的獨立顧問。她指出,以AI輔助決策,這本身不是問題,令人有疑問的是AI是否僅扮
演輔助角色、使用者是否能以批判眼光檢視AI。
此外,AI工具如何被設計、有什麼樣的人涉入,以及已執行什麼樣的測試以避免、排除AI
內建偏見,也值得思考。
泰德歐另提醒資安風險。她指出,AI其實很脆弱,即便僅供內部使用,也可能遭遇攻擊。
關於AI內建「偏見」,一名防衛產業界人士透露,部分企業試圖「耍弄」系統,透過重複
特定字詞提升己方意見通過篩選的機率。
業界人士指出,分析彙整資料時,真人參與不足恐導致重要資訊遭遺漏,而另一些資訊則
被不公平、不合理地放大。
不過,政府官員強調,AI產出的資訊將持續被真人檢視。英國國防部一名發言人表示,國
防部一向對自身在國防領域廣泛運用AI科技的野心保持透明態度,SDR團隊正運用AI分析
檢視各界就SDR提出的大量資料與意見。
這名發言人提到,SDR的徵詢對象廣泛,涵蓋現役與退役軍人、各黨籍國會議員、產業界
、學界、大眾。
至於SDR何時完成,3名知情人士告訴Politico,SDR預計明年3月或更早之前發布,官方的
政策回應則預計在明年夏天前提出。(編輯:唐佩君)1131010
※每日每人發文、上限量為八篇,超過會劣文請注意
⊕請確切在標題與新聞來源處填入名稱與連結,否則可無條件移除(本行可移除)