※ 引述《teddy98 (小迪)》之銘言：
: 英國知名物理學家與宇宙學家史蒂芬．霍金(Stephen Hawking)曾多次警告說，人工智慧
: 可能會發展自己的意志，但這與人類的意願相衝突。
: 據英國「每日郵報」報導，霍金10月19日在英國劍橋大學探討人工智慧(AI)快速發展影響
: 的「利弗休姆未來智慧中心」(Leverhulme Centre for the Future of Intelligence)會
: 議上重申：「人工智慧的成功可能是歷史上最大的事件。但它也可能是最後的一個，除非
: 我們學會如何避免風險。除了好處之外，人工智慧也會帶來危險，如強大的自主武器，或
: 少數人壓迫多數人的新方法。這將給我們的經濟帶來巨大破壞。在未來，人工智慧可以發
: 展自己的意志，一種與我們意願相衝突的東西。簡而言之，強大人工智慧的興起，將是人
: 類最好或最糟糕的事情，我們還不知道。」霍金此前也表示，人工智慧快速發展與全球暖
: 化都會產生致命性的危險。
: 為了引發對人工智慧失控的討論，柏克萊加州大學研究員里本(Alexander Reben)曾製造
: 能自行決定是否「刺破人類手指」的機器人。他表示，儘管許多機器人公司強調有辦法避
: 免失控，但在倫理層面上，機器人其實靠不住。
: 里本將此機器人命名為「第一法則」，源自阿西莫夫的科幻小說裡，人類給機器人專門制
: 定了法則，其中第一條就是「機器人不能傷害人類，或者在人類遭遇傷害時不作為」。
: 里本說，這是第一個能自主並有意識地決定是否要違背阿西莫夫法則的機器人，旨在告訴
: 世人，能決定傷害人類的機器人已經存在了，我們必須正視問題、未雨綢繆，否則就太晚
: 了。
: 聯合新聞
: http://udn.com/news/story/6809/2116682
混沌效應講的是輸入初始直的微小差異會造成後端結果的毀滅性改變
一般來講 機器人要和人類互動一定要透過一個所謂的人機介面
而這個人機介面可能是收音器 螢幕 或是熱感應器之類
就算機器人被程式設計師coding而且debug過好幾次
但是你怎麼知道爾後越來越複雜 可以模擬人類心智的複雜機器人
會不會因此出現混沌效應? 而人類又能去預防呢?
一點點誤差
ex:初始輸入訊號小數點後面6位數的誤差 都可能會造成混沌效應(蝴蝶效應)
這個混沌效應在高等機器人身上去體現出來會變成什麼樣子?
沒有人知道
這可能是霍金背後在擔心的
coding 就很像 物理學的governing equation,
但能完美描述系統交互作用力的系統還是會有混沌效應的產生
這在本質上是避免不了也消除不掉的

爾後

重點在於絕對會有人製造出以殺人為目的的機器人接著機器開始本身的無限複製

所以要先做個 BUG

人類就是一種會自我毀滅的動物

電影早就拍過了

這不是debug的問題，而是Ai何時出現自我意識的問題有意識的Ai有靈魂嗎？這上帝創造還是投胎轉世，這又是另外一個問題

我想code如果是人一行一行寫的，應該還是能避免問題或找出

人與低等生物的基本差別在於神經元與連結多寡，目前ibm已經模擬出神經元構造，只要能達到1000億個以上，估計就會出現超越人類等級的AI

超越人類智慧的Ai是遲早會發生的，這也是霍金擔心的

Btw我指的都不是有自我意識的ai喔，而是受人類編碼控制的機器

到那個階段恐怕會被debug的不曉得是誰沒自我意識的機器人不用擔心，一台車用電腦故障撞死人，跟這議題無法相提並論之所以擔心是因為這領域進步超乎想像，這問題可能在本世紀內發生

到時候只剩下變型金剛了