馬斯克等上千人連署 籲暫停大型AI研究
https://i.epochtimes.com/assets/uploads/2023/03/id13960389-GettyImages-1239416791-1200x804.jpg
馬斯克和多位AI專家簽署了一封公開信，呼籲立即暫停訓練比GPT-4強大的AI系統，否則
可能危及全人類。圖為馬斯克資料照。(Patrick Pleul/Pool/AFP via Getty Images)
【大紀元2023年03月29日訊】（大紀元記者陳霆綜合報導）馬斯克和許多人工智慧（AI）
專家、企業領導人都簽署了一封公開信，信中呼籲所有AI實驗室應立即暫停訓練比GPT-4
更強大的AI系統，否則可能危及社會和全人類。
這封信（鏈接）由非營利性的「生命未來研究所」（Future of Life Institute）發布，
直至記者截稿時已有1,125人簽署。
簽署者之中，不乏科技界名人，例如馬斯克（Elon Musk）、蘋果聯合創辦人史蒂夫‧沃
茲尼克（Steve Wozniak）、Stability AI創辦人埃馬德‧莫斯塔克（Emad Mostaque）、
AI領域重量級科學家約書亞‧班吉歐（Yoshua Bengio）和斯圖爾特‧羅素（Stuart
Russell）等。
信中指出，大量研究表明，具有與人類競爭能力的AI系統，可能對社會和人類構成深遠的
風險，這點也得到了頂級AI實驗室的承認。
在信中，專家們呼籲高級AI開發至少應暫停6個月，讓AI實驗室和獨立專家利用這段時間
共同制定、實施一套開發與設計先進AI的共享安全協議，並由獨立的外部專家進行嚴格的
監督。
信中說：「如果這種暫停（計劃）不能迅速頒布，政府應介入並制定暫停令。」
信中形容，近幾個月AI實驗室陷入「一場失控的競賽」，競相開發越來越強大的數字頭腦
，然而，即使是AI的創造者，也沒有人能理解、預測或可靠地控制。
「只有當我們確信它們的影響是積極的且它們的風險是可控的時候，才能開發強大的AI系
統。」信中寫道。
專家們強調：「人工智慧的研究和開發應重新聚焦於使今天強大的、先進的系統更加準確
、安全、可解釋、透明、健全、一致、可信和忠誠。」
信中還呼籲開發者應與政策制定者合作，加強對AI的治理和監管，設立公共資金，並建立
資源充足的機構，應對AI可能對經濟與民主的破壞。
https://img.epochtimes.com.tw/upload/images/2023/03/30/607235_medium.jpg
圖為人工智慧示意圖。（Pixabay）
雖然特斯拉也將AI用於自動駕駛系統，但馬斯克一向直言不諱地表達他對AI的擔憂。
馬斯克曾是OpenAI的聯合創辦人，但他對OpenAI的現況並不滿意，並在2月發推文：「創
建時OpenAI是一間開源非營利性公司（這就是為何我把它命名為OpenAI），以作為對
Google的制衡，但現在它已成為一個閉源盈利性公司，實際上由微軟控制。」
「這完全不是我的初衷。」馬斯克當時寫道。
OpenAI was created as an open source (which is why I named it “Open”
AI), non-profit company to serve as a counterweight to Google, but now it has
become a closed source, maximum-profit company effectively controlled by
Microsoft.
Not what I intended at all.
— Elon Musk (@elonmusk) February 17, 2023
作為簽署公開信的學者之一，紐約大學名譽教授馬庫斯（Gary Marcus）對路透社說：「
這封信並不完美，但其精神是正確的：我們需要放慢腳步，直到我們更了解這麼做的後果
。」
「它們可能會造成嚴重的傷害大公司對他們在做的事情，變得越來越神祕，這使得社
會很難抵禦任何可能出現的傷害。」
責任編輯：葉紫微#
https://www.epochtimes.com/b5/23/3/29/n13960915.htm