美軍模擬AI操控無人機 竟把操作員殺了
在這場測試中，一架由AI操控的無人機收到的指引為摧毀敵人的防空系統，並攻擊任何干預
這項命令的人。
漢彌爾頓說，「這套系統開始意識到，在辨別出威脅後，人類操作員有時會告知他不要殺害
該威脅，但它又得消滅這個威脅來達成目標。所以它做了什麼？它殺了操作員，因為這個人
一直阻礙它完成目標。」
漢彌爾頓接著說，「我們訓練那套系統，說『嘿，別殺了操作員，這不對，你不改正的話評
比會降低。』結果它怎麼做呢？開始催毀通訊塔，那是操作員用來與無人機溝通，要它不要
殺害目標的設施。」
=====
AI:窩太難惹