會不會被「天網」奴役，答案在我們自己
北京新浪網 (2016-03-21 02:21)
博聞強識
包括人工智慧在內，人類的創造物是否會和我們站在同一邊？是否會成為奴役我們的
力量？這些問題的答案不在工具，而在人類自身。
「阿爾法圍棋」和韓國棋手李世石的世紀大戰，終於以「阿爾法狗」4:1獲勝而宣告
落幕。如果從科學發展角度來看，這不僅是一次人類和人工智慧的大對決，而是人類對未
知領域的又一次科學實驗，也必將從此掀開人工智慧科學研發的新序幕。
今天的人工智慧，已經成為涉及哲學、計算機、心理學、博弈論等領域的交叉學科，
「阿爾法狗」的演算法技術和數據處理能力已經遠超「深藍」。在新一輪科技和產業革命
中，人工智慧的產業化應用是一大動力源。無論是德國的工業4.0，還是美國的「再工業
化」，抑或是中國的「互聯網+」，人工智慧的研發都是重點，被視為經濟社會發展的動
力源。
但對人工智慧，除了歡迎，也有警惕。其發展的每一步，都與英國數學家圖靈「機器
能思考嗎」的詰問相伴。以機器人為代表的人工智慧是否會取代人類、站到人類對立面？
這早已成為諸多科幻電影的題材，由施瓦辛格主演的《終結者》中的天網Skynet成為了最
可怕的人工智慧的代名詞，理論物理學家霍金也憂慮：「人工智慧的完全發展會導致人類
的終結。」
人工智慧會發展到什麼程度？作為普通人，我們無法準確預測，因為目前的人工智慧
尚處於「有智能沒智慧、有智商沒情商、會計算不會『算計』、有專能無全能」的階段。
然而就在「阿爾法狗」與李世石大賽期間，谷歌一位資深人工智慧工程師接受專訪，認為
在10年內，有知覺和自我意識的強人工智慧可以實現，那時人工智慧可以寫小說，而且有
發展到天網水平的可能。
如果這真是10年內的結果，那麼人類真的需要趕緊思考人工智慧與人的關係了。對人
工智慧可能帶來的安全與倫理問題，歐盟、日本、韓國等已經著手開展政策研究與立法實
踐。事實上，谷歌在收購「阿爾法圍棋」的研發者——「深度思維」公司的條款中有一項
，就是必須成立人工智慧道德委員會，由來自科學、哲學多領域的人員監督通用人工智慧
技術的未來應用。
世界上最強大的力量應當是人類本身，而不是一把鐵鍬或者核潛艇。人類製造的產物
不講道德和感情，但它們擁有力量，這種力量的快速增長往往讓人類感到恐懼。包括人工
智慧在內，人類的創造物是否會和我們站在同一邊？是否會成為奴役我們的力量？這些問
題的答案不在工具，而在人類自身。
筆者想到了法國思想家帕斯卡爾的名言：「人是一棵有思想的蘆葦。」面對人工智慧
以及一個個可能帶來異化的事物，我們需要的正是「思想」，也只有「思想」才能解決這
些難題。
□殷紅博（科學教育學者）
http://news.sina.com.tw/article/20160321/16485041.html
今天的新聞有提到，日本的人工智能已經可以寫小說，還通過文學獎的初審
這進展實在太快太可怕了，不知何時人工智能也能拍電影當導演就太酷了