[新聞] AI教父辛頓:人工智慧威脅人類恐比氣候變遷

作者: rsreason (RSR)   2023-05-07 08:56:54
AI教父辛頓:人工智慧威脅人類恐比氣候變遷迫切
(中央社倫敦5日綜合外電報導)研究人工智慧(AI)的先驅辛頓(Geoffrey Hinton)
今天接受路透社訪問時說,人工智慧給人類帶來的威脅可能比氣候變遷「更加急迫」。
75歲的辛頓被視為「人工智慧教父」之一,他近期宣布已從效力10年的科技公司Alphabet
離職,因為他希望在不連累雇主的條件下,將人工智慧的風險公之於眾。
各界咸認辛頓的研究對於當代人工智慧系統發展有重要貢獻。1986年,他與人合撰影響深
遠的論文「藉由反向傳播謬誤來學習表徵」(Learning representations by
back-propagating errors),替支持人工智慧技術的神經網絡發展立下里程碑。2018年,
他因研究上的種種突破獲頒「圖靈獎」(Turing Award)。
如今有愈來愈多科技界領袖擔心機器的智慧超越人類、最終控制地球,於是公開對人工智
慧構成的潛在威脅提出疑慮,辛頓也是其中之一。
辛頓說:「我不是要貶低氣候變遷的重要性,也不是說不該擔心氣候變遷,那也一樣是很
大的風險。但我覺得(人工智慧)最後可能會更急迫。」
「關於氣候變遷,提出建議很簡單:只要停止排碳就好了。只要這麼做,情況總會好轉。
而關於(人工智慧),大家根本無所適從。」
獲科技企業微軟(Microsoft)贊助的美國人工智慧研究實驗室OpenAI去年11月推出聊天
機器人ChatGPT,替人工智慧技術競賽開了第一槍,這款工具很快就成為史上成長最快的
應用程式,每月活躍用戶在僅僅兩個月內就達到1億人次。
今年4月,有上千人簽署公開信,呼籲所有人工智慧實驗室至少在6個月內暫停研發比
OpenAI近期推出的GPT-4更強大的系統,其中包括社群媒體推特(Twitter)執行長馬斯克
(Elon Musk)、人工智慧研究先驅班吉歐(Yoshua Bengio)和羅素(Stuart Russell)
等。
辛頓與聯名人士懷有一樣的憂慮,擔心人工智慧會對人類造成存亡威脅,但他不同意暫停
研究。
他說:「這根本不切實際。我認同這是一種存亡風險,且已近在眼前,現在應該非常努力
投入大量資源去瞭解我們能做什麼。」
上述聯名信公開後,12名歐洲議會議員呼籲美國總統拜登、歐洲聯盟執行委員會主席范德
賴恩(Ursula von der Leyen)等領袖召開峰會,討論如何控管ChatGPT等先進人工智慧
系統的發展,因為這些系統的發展速度超乎預期。
辛頓說:「科技界領袖最懂(人工智慧),政界也必須參與。這件事關乎我們所有人,
所以大家都必須好好思考。」(譯者:曾依璇/核稿:戴雅真)
https://www.cna.com.tw/news/ait/202305060166.aspx

Links booklink

Contact Us: admin [ a t ] ucptt.com