作者:
bitcch (必可取)
2014-10-31 03:20:09特斯拉CEO：人工智慧將召喚出惡魔
電影機械公敵（I, Robot）當中，中央控制系統VIKI以人類正在危害己身安全的判斷，控
制了NS-5機器人來執行「人類保護計畫」的情節，或許你還記憶猶新。影片中企圖控制世
界的VIKI正是一款人工智慧系統。為了不在現實中重演這樣的情節，特斯拉的CEO Elon M
usk再一次發出警告表示「人工智慧將會召喚出惡魔！」
對於人工智慧，近期科技界的相關研究方興未艾。然而Elon Musk繼先前曾表達「人工智
慧比核能更危險」宣言後，再度在麻省理工學院航空系百年論壇中表示，他對於計算機產
業未來的發展，也就是人工智慧被惡意使用的情況感到擔憂。
Elon Musk表示，「透過人工智慧，我們將會召喚出惡魔。大家都知道這樣的故事，有人
拿著五芒星和聖水，肯定自己能夠控制惡魔，但事實上卻是不能」。
Elon Musk的發言聽起來十分駭人，但其實他指的是人工智慧發展領域，正無限制的被研
究、應用。他表示為了預防人類不會為了研究或其他理由，做出一些危險的事情，在人工
智慧領域的研究會需要監管機制，可能是國際間共同提出，或是由單一國家來提出。
他已不只一次表達過對於人工智慧前景的擔憂。他之前曾開玩笑的表示，為了消除垃圾郵
件而開發的機器人，可能會自行做出決定，要毀滅人類。這彷彿又重複了電影機械公敵中
，男主角與一位小女孩同時遭遇重大車禍時，機器人因為生存機率的判斷，而放棄拯救小
女孩一樣。如同電影男主角所言，對於人類而言符合情理的判斷，機器人並不一定能懂。
相對的，採用人工智慧系統來進行判斷的機器人，也有可能像電影中的VIKI一樣，奪取控
制權企圖凌駕於人類之上，而可能為人類帶來超乎預期的災難。
http://ppt.cc/bD5P
作者:
lzyx (鬼島認證地溝油)
2014-10-31 03:23:00他說的是電影魔鬼終結者吧 =.=|||
作者:
samtony (kane)
2014-10-31 03:25:00目前電腦連翻譯都做不好了 想太多
很多科技業的感覺都會擔心這個，奇點來臨不是沒可能的Elon Musk就是號稱現實鋼鐵人那位啊，南非出身的美國創業者
作者: lolix (toy) 2014-10-31 03:28:00
ULTRON
作者:
TSbb (貸款三十年債開始)
2014-10-31 03:28:00有什麼好災難的? 人類現在就是對大自然的最大浩劫了
作者:
NuCat (騎烏龜去爬山)
2014-10-31 03:29:00明年的復仇者聯盟2也是這塊主題，奧創時代來臨
作者: chaunen 2014-10-31 03:43:00
萬磁王嗎?
作者:
KJK5566 (士林金鍾國)
2014-10-31 03:45:00先把伊波拉病毒搞定再來討論人工智慧危不危險
作者:
dderfken (托雷迪亞(é¬é¬šå¼µ))
2014-10-31 03:45:00賈維斯表示
作者:
idunhav1 (你知道天空為什麼是藍的?)
2014-10-31 04:02:00現在都是弱AI居多吧，車子電池燒起來該不會是強AI造成的
ai強的很強好不好傻傻的只是一直以來都在探索一個問題到底過度使用ai會不會讓人類產生浩劫?
作者:
alog (A肉哥)
2014-10-31 04:09:00ㄏㄏ把dns跟ip給切了看你怎麼連 只要機器人還需要連網路 人類winwin
作者:
alog (A肉哥)
2014-10-31 04:10:00ai要足夠的空間放置樣本跟資料庫
作者:
alog (A肉哥)
2014-10-31 04:11:00ai太強 肯定昂是人類給他權限太大 真的會被毀滅那太智障
作者:
alog (A肉哥)
2014-10-31 04:12:00ㄏㄏ不然你做一個給我看好嗎根本就無稽之談
他們還可以運算出最短的搜尋路徑只要能想的到就有被實踐的可能
這東西其實已經不是會不會出現 而是何時出現的問題了
只要理論上可行只是要花多少力量寫出來的問題光是我想就有辦法想的到何況美國那些鬼才
作者:
alog (A肉哥)
2014-10-31 04:14:00人是善用物器跟利用人的生物 AI這東西沒有你想象中的誇張你想的到的 電影都演過了
想想看google bot是怎麼突破一般網站的目錄結構讓他們洩光光 他們可以說你自己開的怪我囉?只是你不知道而已
作者:
alog (A肉哥)
2014-10-31 04:17:00呵呵 網站目錄這不需要ai啊
作者:
alog (A肉哥)
2014-10-31 04:18:00那我還在等
一個國家的領導者就有那種高度到底要不要發展可能是數百年前就決定好的不用全ai 就算是有人用某種超強的工具也夠猛的也不是你切ip就能解決的講太多我怕會把某些技術提前曝光
作者:
peng1016 (新竹5566)
2014-10-31 04:23:00目前ai盲點很多 但很多應用確實不錯 但都偏輔助比較多
作者:
alog (A肉哥)
2014-10-31 04:25:00目前人工智慧的應用還是要依賴網路人工智慧的決策 運算 擬出來的策略要放的資料是非常龐大的人類很怪 明明自己才最恐怖 竟然要懼怕ㄧ個自己家做出來的東
作者:
tinghsi (識時務者)
2014-10-31 04:28:00你以為人類科技一直進步不斷讓電腦效能變好
作者:
alog (A肉哥)
2014-10-31 04:28:00西 等到真的如你所說的災難前 恐怕人類延伸出來的問題先自己給滅了
作者:
tinghsi (識時務者)
2014-10-31 04:29:00實際上電腦是藉著人類的手不費吹灰之力拼命進化
從他打倒棋王那刻起世界就已經變的不一樣了就說了不用全自動ai 超強工具落在你的敵人手裡也夠讓你寢食難安了
作者:
alog (A肉哥)
2014-10-31 04:31:00事實上你還是該擔心的是社會上產生的問題 而不是這個ai只有社會階級地位高的人才能決定跟整合這些資源美國以前發展核武差點把自己給滅了
作者:
alog (A肉哥)
2014-10-31 04:33:00那ISIS是人還是AI?你應該還是要懼怕的是人
作者:
alog (A肉哥)
2014-10-31 04:39:00那到底是人為還是ai為呢 你離清楚
作者:
alog (A肉哥)
2014-10-31 04:40:00這篇人新聞重點還是在於要怎麼防堵人類濫用ai 做事而至於那種電影般的ai奪權什麼的讓他在電影演就好了該擔心的還是人
作者:
alog (A肉哥)
2014-10-31 04:42:00那我還真佩服你願意跟我這個土包子講這麼多@@
我不想再想下去了太可怕了你可以試著從防禦者的角度換成攻擊者的角度你就會看到無限可能
作者:
alog (A肉哥)
2014-10-31 04:47:00平常心看待就好了啦
作者:
tps6115 (林比爾小批發)
2014-10-31 04:49:00資工畢業講真的100年內AI你還是吃土去吧。
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 04:49:00他講的惡魔應該不是Skynet這種吧
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 04:52:00為了消除垃圾郵件開發的機器人要毀滅人類這更奇怪了這機器人的action space根本就沒有毀滅人類這一項啊
沒有沒有明確的選項不代表示情不會發生這才是他擔心的地方
作者:
tps6115 (林比爾小批發)
2014-10-31 04:55:00沒你好笑吧？一整個電影看太多...
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 04:57:00你可以教我一個只能選擇要不要刪除郵件的機器人要怎麼毀滅世界嗎？
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 04:58:00奪取控制權這講法也一樣，action space 根本沒有這一項是要怎麼奪取？
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:00:00會去設計一個ai還允許他更改權限，這設計者是白吃嗎？
你的電腦沒中過毒嗎?非體制內的行為又不是只有真實世界才會發生
作者:
tps6115 (林比爾小批發)
2014-10-31 05:02:00電腦中毒是有人設計病毒讓電腦中毒阿
作者:
tps6115 (林比爾小批發)
2014-10-31 05:03:00我都快笑死了，去學點基本知識再來好嘛!還電腦中毒勒
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:04:00所以是有人設計AI搞破壞，不是AI本身危險啊
裡面的mathod太多他只是有一項叫做求最有效率光是那條就有可能讓AI產生越獄的行為
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:06:00...你不給AI超過某個門的選項他是要怎麼越域你進行optimization不表示你不能放constraint吧
但最速解的結果可能就是進行某些非體制內的行為他進化了你們懂嗎?
作者:
tps6115 (林比爾小批發)
2014-10-31 05:08:00我只能說現階段強AI領域停滯不前很久了，沒有天元突破你應該不用替未來人擔這個心。
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:09:00所以要ai找一個x<1的最佳解，結果他給出了x=2?
作者:
tps6115 (林比爾小批發)
2014-10-31 05:10:00你的AI知識是來自哪裡阿?電影?小說?還是自己幻想？
作者:
nk (除了累還剩下啥...)
2014-10-31 05:13:00他說的不是沒道理 AI需要龐大的資料庫 這東西不可能放在機器人身上 但目前已經有這個資料庫技術了 那就是雲端運算系統
作者:
nk (除了累還剩下啥...)
2014-10-31 05:15:00機器人只要投過條件式的搜索就可以從雲端資料內找到行動模式
作者:
tps6115 (林比爾小批發)
2014-10-31 05:18:00這啥，猜謎機器人？
作者:
nk (除了累還剩下啥...)
2014-10-31 05:21:00好吧 我想說的很簡單 從雲端系統內構築機器人的行動模式AI的難度其實遠不如現在大家想的困難 只是現在剛起步而已
作者:
tps6115 (林比爾小批發)
2014-10-31 05:22:00這技術有可能啊，但和AI會失控有什麼關聯?
作者:
nk (除了累還剩下啥...)
2014-10-31 05:23:00所以這兩個實際的結合非常少 往往都是人有目的性的目標性事物問題在要給與行動限制這點會比較困難 因為他是蒐所出來的
作者:
tps6115 (林比爾小批發)
2014-10-31 05:24:00而且雲端運算根本不是什麼新穎的技術，以往是被基礎建設的不足才侷限了功能。
作者:
nk (除了累還剩下啥...)
2014-10-31 05:24:00所以他可能會跳過你的限制(因為限制條件本身可能不完美有漏洞)
作者:
tps6115 (林比爾小批發)
2014-10-31 05:26:00雲端運算也是把他該做的事情轉移到server上去做處理，該限制的不會不同...
作者:
nk (除了累還剩下啥...)
2014-10-31 05:26:00所以給予限制這點會隨著資料庫的增加反而有更大的缺陷存在
作者:
tps6115 (林比爾小批發)
2014-10-31 05:27:00況且切斷連線就gg惹...
作者:
tps6115 (林比爾小批發)
2014-10-31 05:28:00這都是弱AI的特點，沒有符合的行為模式就失去了智慧的外表
作者:
tps6115 (林比爾小批發)
2014-10-31 05:30:00你們害怕的是強AI的出現，但就現階段而言就讓它留在電影裡吧。要怎麼取得一個封閉網路核能電廠的主控權?若有能夠自己設計且製造機器人武力攻佔廠區的AI存在再來擔心吧。
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:40:00你倒是說說你到底在擔心什麼吧 哈哈
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:41:00如果我只讓一個ai下棋 他要怎麼威脅人類xD
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:42:00tps6115講的能自己設計和製造機器人武力的ai確實危險
作者:
tps6115 (林比爾小批發)
2014-10-31 05:44:00AI原理沒你想的複雜，要創造出符合強AI定義的AI就現階段而言還太早
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:44:00聽過啊，然後？
作者:
tps6115 (林比爾小批發)
2014-10-31 05:46:00人類連本身智慧是如何存在都不能掌握了，更別說複製出來
作者:
arrenwu (鍵盤的戰鬼)
2014-10-31 05:47:00魏徵斬龍王跟AI危險的關聯是？
作者:
tps6115 (林比爾小批發)
2014-10-31 05:48:00雲端技術也不是今年才出現的...
去睡吧連最基本的語句判斷能力都失去了CAPTCHA 技術也不斷的在改進因為就是有人會破而且還開放讓大家一起玩
作者:
tps6115 (林比爾小批發)
2014-10-31 05:57:00會被破解不意外啊，那種圖靈測試只是廉價的解決方案
作者:
Pietro (☞金肅πετροσ)
2014-10-31 06:05:00買下殘障車的人
作者:
WLR (WLR™)
2014-10-31 06:35:00等進步到會上八卦版發廢文再來擔心
作者:
ccucwc (123)
2014-10-31 07:10:00明年風見就要開著惡魔阿斯拉出來拿冠軍了 ~@@!!!