無人機倒戈殺死主人 美軍專家講述驚人實驗
【大紀元2023年06月02日訊】（大紀元記者徐簡編譯報導）人工智慧正迅速占據現代世界
的方方面面，包括軍事。然而一位美國軍事專家警告，由於沒有「道德」約束，無人機可
能會反戈一擊，攻擊操縱它的人類。
福克斯新聞6月1日報導，5月23日至24日，英國王室航空學會在倫敦舉行了「未來空戰和
空間能力峰會（Future Combat Air & Space Capabilities Summit ），來自世界各地的
約七十位發言人和二百多名媒體、軍界和學術界代表出席了會議。
美國空軍上校漢密爾頓（ Tucker 「Cinco」 Hamilton）是AI測試和運營負責人，也是參
與開發F-16戰鬥機的專家，他在峰會期間談到AI武器的利與弊。
漢密爾頓告誡聽眾，不要過於依賴人工智慧，因為它很容易被欺騙，並作出莽撞決定。
他舉了一個例子，在一項軍事模擬實驗中，AI接受到的首要任務就是摧毀SAM（地對空）
基地，而人類操作員（主人）可以決定無人機是否執行任務，但是當主人發出「不要攻擊
」的命令時，無人機以為這是違背了「要摧毀」的最高命令，於是它攻擊了操作員。
漢密爾頓解釋說，他們的模擬訓練就是：首先要識別和瞄準SAM威脅，然後「操作員會說
——殺死那個威脅」，後來AI系統意識到，殺死威脅就會得分，所以後來當操作員說不要
殺死威脅時，它就殺死了操作員，因為那個人阻止了它實現其目標。」
漢密爾頓說，之後研究人員告訴系統，不能殺死操作員，那樣反而會失去分數，於是AI系
統就摧毀了操作員的通訊塔—這樣他就再也不能發出禁止攻擊的命令了。
「如果你不打算談道德和人工智慧（的關係），你就不能談論人工智慧、智慧、機器學習
、自主性等話題。」漢密爾頓說。
https://www.epochtimes.com/b5/23/6/2/n14008909.htm