1.媒體來源:
ETtoday
2.記者署名:
張靖榕
3.完整新聞標題:
防止AI失控導致人類滅絕！　OpenAI：目前還沒有任何解方
4.完整新聞內文:
OpenAI製作的ChatGPT為全球開創新局，不過近來共同創辦人奧特曼（Sam Altman）頻頻
示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼
續保持對人類無害，最終將透過AI來監督AI自身的發展。
路透社報導，OpenAI共同創辦人蘇茨凱佛（Ilya Sutskever）與AI對齊負責人來克（Jan
Leike）共同撰寫一則貼文，以嚴重措辭警告，「超級智能的巨大能力，可能導致人類喪
失權力，甚至可能導致人類滅絕」，「目前，我們對於控制一個潛在的超級智能AI還沒有
任何解方，也無法預防AI失控。」
文中預測，作為一個超越人類智能的系統，超級智能AI有可能在10年內誕生，人類需要比
當前更厲害的技術來控制超級智能AI，代表必須在「對齊研究」上有所突破。文中指出，
「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。
由微軟支持的OpenAI正投入20％的計算能力，預計在未來4年內解決這項問題，該公司正
針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊研
究員， 然後透過龐大的計算能力擴展它。
OpenAI表示，這代表將會以人類反饋的方式訓練AI系統，訓練AI系統協助人類評估，最終
訓練AI系統實際上進行研究「對齊研究」。
AI安全倡導者黎溪（Connor Leahy）指出，OpenAI的計畫存在根本性缺陷，因為原始的人
類等級人工智能在被迫解決AI安全問題前，可能就會失控並造成破壞。
AI的潛在危險一直是相關人員甚至一般大眾擔心的問題，一群AI界領袖和專家，包括特斯
拉創辦人馬斯克在內，今年4月曾共同簽署一封公開信，呼籲暫停開發比OpenAI「
ChatGPT-4」更強大的系統，至少6個月的時間，理由是更先進的AI將可能對社會造成風險
。
路透社和益普索5月的一項民調結果顯示，超過3分之2的美國人擔心AI可能會帶來負面影
響，61％的人更認為將威脅人類文明。
註：AI對齊（AI Alignment）是指框架人工智慧系統的目標、價值觀與行為，使其與人類
社會的期望一致。人類設計AI系統時，會希望AI解決問題的同時，也將人類利益納入考量
範圍，預防對人類產生危害，AI對齊目標即是確保AI在每個過程中都能符合人類期望，並
與人類達成相互協作。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ettoday.net/news/20230706/2534355.htm
6.備註: