除了「失業恐懼」這種工業革命發生後就有的情形,
很類似「功高震主」
因為他功能很強又不會累,所以給他更多任務自己執行
「他要是罷工怎麼辦?
他比你強,要是反抗你,你擋的住嗎?」
典型的作品像「魔鬼終結者」,就是這類恐懼的創作回應
所謂「天網」(Skynet) 變成毀滅人類的開端
「把核彈發射控制權交給AI」,成為人類最終的惡夢,
可歸結到「該不該把重要決定丟給AI做」
其實早已有一些跡象,例如金融市場的「程式交易」,
符合特定條件就大量賣出,往往造成市場劇烈波動
授權與否,一開始是僅靠「這對我利大於弊」來考量,
而在軍事武器上,這種誘惑更大
人類有許多缺點和脆弱性,但法律體系基礎仍是
「只有人類或法人能負責,
(除了「無行為能力者」需要監護人負責)
人類以外則是財產或不可抗力」
所以AI做決定產生的災損,必定要找人來承擔
(無論那個人是誰) ,而不是歸因「不可抗力」
即使簡單到只讓AI來開車,爭議也不少,
真實都市的路上狀況太多,再強的AI仍然可能誤判,
於是再度歸結到「AI開車時出車禍,算誰的責任」
隨著AI逐漸進化,這類恐懼也成為約束AI行為的動力,
希望還有時間讓AI產生的利益和可能的危害之間,
達成一種平衡
是否杞人憂天呢? 歡迎各位提出您的看法