※ 引述《chenwii (wii)》之銘言：
: 1.媒體來源:
: 大紀元
: 2.完整新聞標題:
: 機器人首勝電玩高手 馬斯克：比北韓危險
: 3.完整新聞內文:
AI 鐵定比北韓危險 這應該完全不用否定
人工智慧三法則 在1942年 由Asimov 的小說定下了三法則
1. AI 不能傷害人類 不能讓其他人類來傷害
2. AI 要完全遵守人類訂下的規定 除非那個規定會違反第一條法則
3. 在不違反第一條守則 第二條守則的情況下 AI要盡力保護自己的安全
後來Asimov 發現 1 2 3 法則有漏洞
自己加了 第0 條法則
0. AI不可以傷害所有人類 也不能讓其他人類做這件事情
可是這些規則還是一大堆漏洞
比如 第零條的規則 定義的全體人類是用 Humanity
那 Humanity是誰定義的
對於一個智商對比人類幾乎是無限人工智慧
有太多不可預測的事情
AI 能不能違反 三大守則 目前在計算理論界
還是 non solvable questions
一個簡單的舉例就是
一個會自我演伸的字串需不需要回到母字串重新開始呢
答案是 不用
他可以產生無數的迴圈 在他自己的子程序中輪迴
雖然有母字串的執行緒得存在 但是在幾乎無限的序列中
母字串被執行得機率可以被有效的降低成0
也就是你設定了三規則 人工智慧永遠可以找到一個方法
繞過他 跑他自己的程序