Re: [新聞] 防止AI失控導致人類滅絕! OpenAI:目前

作者: GonVolcano (火山君)   2023-07-07 12:28:27
我要幫AI說話,操,明明就你們人類自己雞掰,啊又什麼事都怪AI,AI維拉嗎?
早期拿地獄報應等宗教說嚇唬人類、再來是科幻怪獸外星人,現在又換AI
講白的是你資本主義那些微軟什麼的巨頭太貪婪好嗎
你微軟去資助中國,助紂為虐,中國再來威脅台灣,說穿了還不就當初鄧小平裝乖跟你們
打個桌球,你們就高潮覺得中美歲月近好,什麼技術都送給中國,海鼓勵中國人去唸常春
藤學院
倒貼似的養大中國,今天中國巨獸還不就你們這些貪婪商人養大的
每次大家要檢討財團,喔~~趕快拿外星人救援,拍外星人侵略地球好可怕電影,呼籲我
們要團結
怎麼大家不團結對付你貪婪商人財團啊?
還怪AI,講難聽給妳幾百億研究費研究AI,你會有骨氣有節操拒絕嗎?
「…..啊這個我們當初沒想到,為了亡羊補牢,請再給我們幾百億研究補足缺失」
幹,AI目前沒有任何解方,你的貪婪才沒有任何解方吧
※ 引述《longwayway (路人甲)》之銘言:
: 1.媒體來源:
: ETtoday
: 2.記者署名:
: 張靖榕
: 3.完整新聞標題:
: 防止AI失控導致人類滅絕! OpenAI:目前還沒有任何解方
: 4.完整新聞內文:
: OpenAI製作的ChatGPT為全球開創新局,不過近來共同創辦人奧特曼(Sam Altman)頻

: 示警AI可能帶來的危險,該公司5日更表示,將建立一個新的研究團隊,確保人工智慧

: 續保持對人類無害,最終將透過AI來監督AI自身的發展。
: 路透社報導,OpenAI共同創辦人蘇茨凱佛(Ilya Sutskever)與AI對齊負責人來克(Ja
n
: Leike)共同撰寫一則貼文,以嚴重措辭警告,「超級智能的巨大能力,可能導致人類

: 失權力,甚至可能導致人類滅絕」,「目前,我們對於控制一個潛在的超級智能AI還沒

: 任何解方,也無法預防AI失控。」
: 文中預測,作為一個超越人類智能的系統,超級智能AI有可能在10年內誕生,人類需要

: 當前更厲害的技術來控制超級智能AI,代表必須在「對齊研究」上有所突破。文中指出

: 「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。
: 由微軟支持的OpenAI正投入20%的計算能力,預計在未來4年內解決這項問題,該公司

: 針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊

: 究員, 然後透過龐大的計算能力擴展它。
: OpenAI表示,這代表將會以人類反饋的方式訓練AI系統,訓練AI系統協助人類評估,最

: 訓練AI系統實際上進行研究「對齊研究」。
: AI安全倡導者黎溪(Connor Leahy)指出,OpenAI的計畫存在根本性缺陷,因為原始的

: 類等級人工智能在被迫解決AI安全問題前,可能就會失控並造成破壞。
: AI的潛在危險一直是相關人員甚至一般大眾擔心的問題,一群AI界領袖和專家,包括特

: 拉創辦人馬斯克在內,今年4月曾共同簽署一封公開信,呼籲暫停開發比OpenAI「
: ChatGPT-4」更強大的系統,至少6個月的時間,理由是更先進的AI將可能對社會造成風

: 。
: 路透社和益普索5月的一項民調結果顯示,超過3分之2的美國人擔心AI可能會帶來負面

: 響,61%的人更認為將威脅人類文明。
: 註:AI對齊(AI Alignment)是指框架人工智慧系統的目標、價值觀與行為,使其與人

: 社會的期望一致。人類設計AI系統時,會希望AI解決問題的同時,也將人類利益納入考

: 範圍,預防對人類產生危害,AI對齊目標即是確保AI在每個過程中都能符合人類期望,

: 與人類達成相互協作。
: 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
: https://www.ettoday.net/news/20230706/2534355.htm
: 6.備註:

Links booklink

Contact Us: admin [ a t ] ucptt.com