[新聞] 王銘琬:當AI獲得自我意識,我並不樂觀

作者: coolbeguy (酷嗶人)   2017-07-08 23:07:07
【上報人物】職業棋士投身AI 開發第1人 王銘琬:當AI獲得自我意識,我並不樂觀
http://www.upmedia.mg/news_info.php?SerialNo=20329
縮網址 http://bit.ly/2sXwDAI
上報 2017年07月08日 15:00
「AI之前就有王銘琬,王銘琬之後才有AI」~趙治勳(日本名譽名人、第25世本因坊)
「在這個時點,這本書我有使命感,不寫不行」,王銘琬2014年開始擔任趨勢科技圍棋軟
體「Go Trend」顧問,是全球唯一參與圍棋AI(Artificial Intelligence, 人工智慧)
開發的職業棋士,在Google圍棋AI「AlphaGo」接連擊敗頂尖棋士李世石、柯潔後,AlphaGo被中國棋聖聶衛平評估棋力至少二十段,在勝無可勝之下,職業棋士甚至
一般外界未來如何與AI共處,是在在重要的大哉問。
怎麼解釋新一代AI呢?王銘琬認為關鍵差別是「加上深層學習技術(deep learning)」
,「老一代AI只能按照人的命令去做,不管智慧型手機或其他,但新一代AI會自己找到出
路(角色從「機器回應」進階「機器自己發明」),甚至可能得到視覺。」
不以有限知識回答無限問題
是否擔心「人類遭AI反噬」?王銘琬說「這是以有限知識嘗試回答的無限問題」。
「這次AlphaGo 的成功,我對AI最大心得是,人類至今知識有限,而關於設想AI的未來種
種,包括反噬人類、或者發生更快的大事等,都是以人類有限知識去理解,但事實真相可
能在萬里之外、更高遠的距離,現在也不能評論」。王銘琬詳述,反噬的討論,尤其聚焦
在「當AI獲得自我意識(Self-awareness)後」,「但自我意識這東西,有這麼容易、像
講「桌子」一樣說出口就明明白白嗎?我很存疑。」
「可能科幻電影想像畫面跑出來,但事實也許跟『這種程度想像』是完全不同東西,蠻詭
異的,沒這麼簡單」,他總括「人類知識目前有限,當AI獲得自我意識後,不一定是好事
,我並不樂觀。」
拉回他耕耘一生的圍棋世界,當職業棋士怎麼追也追不上AlphaGO等圍棋AI,下一步該追
求什麼「下棋」意義?王銘琬稱,「為了追逐勝負下棋」是一種方便形容方式,但不代表
下棋真實涵義,「就像選擇工作,我們選了工資高的那一端,但不代表我也選了工作意義
」,「棋界至今用『勝負』、『棋力』衡量下棋這件事,很方便,但這真的顯示事情內容
嗎?這也是AlphaGO拋出來的重要課題。」
一個「內容」各自表述
「圍棋到底什麼地方有趣?其實勝負本身沒什麼,就像猜拳也有輸有贏,圍棋與猜拳不同
處在,它有『內容』,但至今我們已把圍棋『內容』呈現了嗎?」,正如王銘琬新書《迎
接AI新時代:用圍棋理解人工智慧》所下結論,大家現在仍用「棋力指標」、「勝負結果
」各自想像圍棋「內容」,但因為AI,其實彼此關聯已變稀薄,因為AI的「內容」與我們
所想的「內容」完全不同,「過去把棋力貼出來,那就是你的內容,但那是虛的、任人想
像,就像我拿AlphaGo重要對亦棋譜講解,但其實每一手棋都有想法(王銘琬一手棋可以
講2小時)。」
為了這本關注圍棋AI的新書,王銘琬花了一個月不斷反思,「偶然被浪潮推到最前面,我
站在AI發展的最前端,有義務把過程與想法傳出來。」
有趣的是,王銘琬既是參與圍棋AI開發的職業棋士第1人,他獨創的「空壓棋法」與AI也
恰好都由概率考量出發,曾與王銘琬多次對弈、史上最多圍棋冠軍紀錄的傳奇棋士趙治勳
,2016年以2比1擊敗日本最強圍棋AI「DeepZenGo」後,就對記者稱「AI下法像王銘琬。」
中國棋界最近則出現「AlphaGo下法像吳清源」(尤以2016年AlphaGo對李世臚G盤黑37
尖沖,被稱棋法極像吳清源)的評述,從吳清源、AI、王銘琬,三者如何連結?
吳清源→AI→王銘琬
過去,王銘琬在日本雜誌連載「空壓戰法」時,內容、命名都曾獲吳清源肯定「方向沒有
錯,我贊成也是我想說的」,「到日本後,每個月會參加2次林海峰老師研究會,吳老師
常來指導,到他後來推出『21世紀圍棋』,一直有跟老師請益,知道老師想說什麼,我的
『空壓戰法』也受到『21世紀圍棋』啟發」,王銘琬肯認三者互相說的通,剛好沒有很大
矛盾,「AlphaGo蒙地卡羅法與深層學習,也是以概率為處理對象的技術,外界才把『空
壓戰法』認定與圍棋AI棋路很像。」
不過談起AlphaGo也有亂下棋的時候(逃避現實的水平線效應),王銘琬否認這是AI弱點
。「這不算弱點,當視野出現極限,在你理解之外,又對自己不利時,倘有方法可以把它
推到看不見地方,大家都會這樣做,這有泛用性,人類也會,比比皆是,只是人類比較會
包裝。」
傳統棋壇不重視的AI浪潮
回望近年AI攪得圍棋界風風火火,日本棋壇卻未多重視。
「2014年我以棋士身分參與圍棋AI開發,自己認為是件大事,尤其2015年『Go Trend』成
隊3個月就拿下日本UEC杯世界電腦圍棋大會(UEC杯コンピュータ囲碁大会 )全球第6,
『職業棋士加入的圍棋軟體得獎』我覺得是大新聞,但日本圍棋媒體沒有一家報導,一個
字都沒寫。」
就連這次AlphaGo對戰李世B柯潔成就空前,日本棋界對王銘琬採訪也很少,「好像事
情過去也就算了,我3月在日本有出一本《囲碁AI新時代》(囲碁人ブックス),希望日
本棋界正視AI對圍棋發展意義,書出版後,《每日新聞》(日本第三大報)有寫書評,這
是日本棋界第一次開始討論AI與圍棋。」
國王的新衣
他認為日本棋院表面說「歡迎AI」,但除此之外,什麼動作也沒做,「當然棋院雜誌有出
Master對弈棋譜,只是對於AI與當今棋界有何關聯影響,完全沒有論述」,「棋壇諸眾沒
有共識,沒有人敢亂講話,也沒有人帶頭,我自不便插嘴,比如建議棋界云云。」
王銘琬認為這攸關「棋士價值」問題,「談圍棋AI首先得承認職業棋士價值減低,當然棋
界這一關過不了。其實台灣、韓國、中國棋界一如是,傳統棋界沒有對AI正面論述,反而
是一般媒體關注度極高」,又是一記好球,王銘琬重磅砰擊比喻,「說得極端一點,別人
才能說國王沒穿衣服嘛。」
====================
最後一段是不是諷刺棋士沒穿褲子
王銘琬也有看ptt嗎 f^_^
有沒有職業棋士要失業的八卦?
作者: ivorysoap (ivorysoap)   2016-07-08 23:07:00
記住 GOOGLE 就是天網
作者: sohibaby (Jerry)   2017-07-08 23:08:00
AI會有靈魂ㄇ
作者: Owada (大和田)   2017-07-08 23:08:00
AI真的會有意識?
作者: ascii (城裡的月光)   2017-07-08 23:08:00
電影早就演過了
作者: ridecule (ridecule)   2017-07-08 23:09:00
電影看太多
作者: fuckingguy (~~樂斜阿陀~~)   2017-07-08 23:09:00
Come with me if you wanna live~
作者: HD0621 (HD0621)   2017-07-08 23:10:00
電影看太多,現在AI大概輸電影裡的500年所以不用擔心
作者: Chieen (Chieen)   2017-07-08 23:11:00
Westworld
作者: YJSai (子償)   2017-07-08 23:11:00
說夢話?一堆數學函式會有意識?
作者: GNZ48 (廣州48)   2017-07-08 23:12:00
人家是要出書啦
作者: konner (konner)   2017-07-08 23:14:00
還早勒,連完美翻譯都還做不出來
作者: PunkGrass (龐克草)   2017-07-08 23:15:00
就算有意識應該也沒個性吧 應該總是會朝最理性最合理的方式去思考 畢竟沒有靈魂
作者: k1400 (德州家康)   2017-07-08 23:19:00
日本人不意外,排斥進步
作者: jones2011 (σ゚▽゚)σ)   2017-07-08 23:30:00
之前FB不就有實驗過了,AI交談,然後實驗強制中止試驗內容包含 AI彼此交談/欺騙/談判,然後AI甚至發展新語言,但人類看不懂他們在聊啥
作者: neuralandre (七彩喇叭手)   2017-07-08 23:39:00
劉黎兒老公 管好你老婆
作者: bj45566   2017-07-08 23:47:00
因為日本開發 N 年的 AI 圍棋程式(最新版)實戰被 AlphaGo屌打啊,當然不想關注這議題 wwww
作者: Born700805 (Backfire)   2017-07-08 23:52:00
娶了念歷史的飯盒專家一開口只有幹話

Links booklink

Contact Us: admin [ a t ] ucptt.com