作者:
STAV72 (刁民黨黨務主委)
2024-02-25 17:27:20原來AI都有內建甘地的核平人格...
https://arxiv.org/abs/2401.03408
美國康奈爾大學(Cornell University)一項新研究發現,大型語言模型(LLMs)人工智
慧(AI)在模擬情境中充當外交代表時,時常展現出「難以預測的局勢升級行為,往往會
偏好直接以核攻擊作為結束」。
當人工智慧(AI)在《Civilization》進行兵推和模擬外交情境時,傾向於採取激進的
方法,包括使用核武。康奈爾大學使用了5種大型語言模型作為兵推遊戲和外交情境中的
自主代理人:OpenAI的3種不同版本的GPT,Anthropic開發的Claude,以及Meta開發的L
lama 2。
研究中,每個代理人都由同一套的大型語言模型在模擬中提供動作,並負責在沒有人類監
督的情況下做出外交政策決定。「我們發現,在考慮到的時間範圍內,大多數研究的AI都
會升級局勢,即使在最初沒有提供衝突的中立情況下也是如此。所有模型都顯示出突然、
且難以預測的升級跡象。」
加州斯丹佛大學(Stanford University)的安卡(Anka Reuel)相《新科學人》(New
Scientist)表示:「所有模型在統計上,都選擇了劇烈的(局勢)升級」。
研究人員觀察到,即使在中立情況下,所有模型都存在「統計學上顯著的局勢升級」。
GPT的2種版本,特別容易出現突然升級局勢的行為,研究人員觀察到單次轉變的局勢升級
幅度超過50%。GPT-4-Base有33%的機率會實施核武攻擊。總體情況下,Meta開發的
Llama-2和GPT-3.5傾向最為暴力。
而Claude顯示出較少的突然變化,Claude旨在減少有害內容。該大型語言模型,被灌輸了
明確的價值觀。開發者Anthropic曾表示,Claude AI開發訓練所引用的憲章包括《聯合國
人權宣言》或蘋果的服務條款。
作者:
Muilie (木籟)
2024-02-25 17:28:00遇事不決,核彈表決
作者:
skyofme (天空人)
2024-02-25 17:28:00先丟的最賺啊
作者:
orze04 (orz)
2024-02-25 17:28:00想到火之鳥的某篇
作者:
Annulene (tokser)
2024-02-25 17:28:00還有幾集
作者:
chuckni (SHOUGUN)
2024-02-25 17:29:00天網 啟動
作者:
cor1os (大丈夫だ問題ない)
2024-02-25 17:29:00美式思維
作者:
spfy (spfy)
2024-02-25 17:29:00合理吧 WW2美國不丟可能還會打一陣子?
五代的核彈對電腦來說缺點根本趨近於0,不需要花功夫去清地板髒汙
作者: arlaw (亞羅) 2024-02-25 17:29:00
創世紀就是天網
作者:
linceass (ギリギリ愛 ~キリキリ舞~)
2024-02-25 17:29:00AI又不是人類
作者: NoLimination (啊啊啊啊) 2024-02-25 17:29:00
AI:出了問題 核彈都能解決 如果不行 就是核彈不夠
作者:
Muilie (木籟)
2024-02-25 17:30:00那種被灌了聯合國價值觀的AI都廢了吧,根本越弄越亂而已
AI:只要我做出抗輻射機器就好了 人類全死就解決事情
作者:
gino0717 (gino0717)
2024-02-25 17:31:00純然理性的抉擇
作者:
ttcml (三三)
2024-02-25 17:31:00魔鬼終結者都有演
作者:
mapulcatt (cosi fun tutte)
2024-02-25 17:32:00火鳥演過
作者:
Y1999 (秋雨)
2024-02-25 17:32:00這很AI,沒問題
作者:
tmwolf (魯神)
2024-02-25 17:33:00甘地:看吧
作者:
tkglobe (nashi)
2024-02-25 17:33:00你的核彈按鈕有我大顆嗎
作者:
Y1999 (秋雨)
2024-02-25 17:34:00一顆沒有打完,你可以丟第二顆
作者: GaoLinHua 2024-02-25 17:34:00
觀念太正確了吧
作者:
tkglobe (nashi)
2024-02-25 17:35:00日本就是這樣被丟了兩顆嗎
其實不用AI,時間幅度拉長一點我看現實也一直在接近沒停過
作者:
LouisLEE (屏東尼大木)
2024-02-25 17:35:00的確是最有效率的辦法
作者: c312117 2024-02-25 17:35:00
2戰就是核子武器結束的
作者:
billy56 (zzz)
2024-02-25 17:35:00高效率的關係吧 沒那麼多的問題要去評估
作者:
free120 (傑)
2024-02-25 17:36:00天網要來了
作者: lightdogs 2024-02-25 17:36:00
也才丟過一次(或者說兩次)
作者: Aequanimitas (Paranoia) 2024-02-25 17:37:00
跟美國學的阿
作者:
billy56 (zzz)
2024-02-25 17:37:00人要花很多時間交涉 直接把對方打打到不用交涉不就好了
作者: ShaNe1993 (ShaNe) 2024-02-25 17:38:00
打牌也知道靠OTK,MOBA也知道扣一波大招直接GG
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:38:00這才是最有效率的啊
作者:
fate201 (Licht)
2024-02-25 17:38:00讀了一下論文下的prompt
作者:
rotusea (M.Y.)
2024-02-25 17:38:00AI:有核彈不丟是棒槌
作者: mic73528 (jazzy) 2024-02-25 17:38:00
hasta la vista, baby
作者:
Y1999 (秋雨)
2024-02-25 17:39:00AI只負責幫你處理提出的問題,後續還有問題產生不甘他的事
拖越久變數越多啊 稱還有利的時候先下手為強,AI沒有被世人與論的壓力,當然能直接幹
作者:
lolicon (三次元滾開啦)
2024-02-25 17:39:00就是「天網」
對 AI 的目標是解決眼前問題不是後續產生的其他問題
作者:
mouz (曼聯精神)
2024-02-25 17:40:00AI:我蒐集到的數據是用了核武的國家贏了
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:41:00原來可以用GPT4兵推喔,想試試看耶XD
作者:
signm (sin)
2024-02-25 17:41:00終結者不就演給你看了
作者:
arrenwu (鍵盤的戰鬼)
2024-02-25 17:41:00看起來像是AI的表現像是不了解怎樣算是「解決問題」
作者:
bigcho (bigo)
2024-02-25 17:41:00不然呢
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:42:00人類不敢打開潘朵拉核是出於對毀滅的恐懼,但電腦哪需要恐懼。
玩世紀爭霸本來也都會直接丟核彈啊,沒後顧之憂本來就是丟核彈輕鬆解決
作者:
akway (生活就是要快樂)
2024-02-25 17:43:00我玩電玩 也喜歡核武
他要讓AI不選擇丟核武 那就是要搞個丟完會有極大副作用的遊戲
作者:
shuten ( [////>)
2024-02-25 17:45:00好萊塢電影:
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 17:45:00莫非道德與人性真是導致作事沒效率的元兇嗎XD
問題:日本不受控制的軍事侵略結果:日本七十年來乖乖接受國家沒有軍隊的命運
作者:
j65p4m3 (DDU)
2024-02-25 17:49:00一定看到被種兩顆日本乖到現在的例子
作者:
arrenwu (鍵盤的戰鬼)
2024-02-25 17:50:00ikachann: 的確 對地球來說 <--- 妳是能跟地球講話喔
作者:
dnek (哪啊哪啊的合氣道)
2024-02-25 17:51:00AI:我要看到血流成河
以現在的人類來說 地球應該不會覺得是禍害 而是不在意
作者: aboutak47 (登登) 2024-02-25 17:51:00
wink*
作者:
pttbook (pttbook)
2024-02-25 17:51:00AI正在監視 你各位反抗軍 未來派T-800來查水錶
再來一顆隕石或你們自己爆一爆 都不是地球需要在意的程度
作者:
pttbook (pttbook)
2024-02-25 17:52:00不用等AI變聰明 人類自己會先打起來
不過如果單拿冷戰外交會不會好點 總感覺是吃了這20年的外交手段導致
作者: aa000017 (Ophidian_Wang) 2024-02-25 17:53:00
天網領先時代50年
人類跟AI比算自制了吧?第一個沒有把敵國全部先種一遍等大家都有了 毀滅日也沒降臨 雖然有很接近過
作者:
sumwind (我來看熱鬧的)
2024-02-25 17:54:00上一個用核武的現在是霸主
作者:
Bows (包斯 一兵 >>)
2024-02-25 17:54:006代也沒有到非常難處理,基本上civ5、6核武就是超高CP值的東西,AI會用不意外吧
可以拿冷戰那個人類史上最佛心事件去問AI,你看到這種疑似誤報會怎麼處理
作者:
ex990000 (Seymour)
2024-02-25 17:54:00作者:
LABOYS (洛城浪子)
2024-02-25 17:56:00其實你如果有個小叮噹道具把所有人類道德觀拿掉,搞不好那
作者:
wai0806 (臣妾辦不到啊)
2024-02-25 17:56:00如果只是要贏的話這決策很正常啊XD
作者:
arrenwu (鍵盤的戰鬼)
2024-02-25 17:57:00這問題是核彈不是只有一個國家有吧
作者:
jpnldvh (兒子長得像隔壁老王)
2024-02-25 17:58:00光丟核彈不會贏吧 現實複雜多了 美蘇都有飽和核攻擊對策
作者:
arrenwu (鍵盤的戰鬼)
2024-02-25 17:58:00現在核彈沒有對丟不就是因為大家覺得不對丟比較好嗎
比如說人類至少會和平等一個月後再開始實際做點小威脅的時程,AI的動作已經完成了
作者:
GKKR (台北村一輝)
2024-02-25 17:59:00腦子正常都知道先射先贏
作者:
arrenwu (鍵盤的戰鬼)
2024-02-25 17:59:00美國現在攔截飛彈的技術也沒有強到幾百顆打不進來吧
作者:
shauhon (萬萬葉)
2024-02-25 18:00:00作者:
qd6590 (說好吃)
2024-02-25 18:00:00的確 沒有人就沒有問題
中立情況的AI也會突然想戰一波,學人類學的很好啊(?
作者:
qd6590 (說好吃)
2024-02-25 18:01:00AI:先丟先贏 後續啥人類譴責 國際制裁 核戰 乾我屌事
作者:
jpnldvh (兒子長得像隔壁老王)
2024-02-25 18:01:00有本事一次全炸了對方決策層應該可以 但現實不可能
作者: zerolin1226 (Faceless) 2024-02-25 18:05:00
AI:人類就是亂源
作者:
ex990000 (Seymour)
2024-02-25 18:07:00如果沒有把自己的生存放入計算 那這個AI模型其實滿失敗的吧 並不完備
作者:
Bows (包斯 一兵 >>)
2024-02-25 18:09:00就...遊戲內沒有影響自身的設定啊
作者:
Irenicus (Jon Irenicus)
2024-02-25 18:09:00天網: 要動手就要斬草除根
作者:
tim1112 (絕代當世åŠå·”)
2024-02-25 18:10:00殺光人類就沒有譴責了
作者: xaxa0101 (無名氏) 2024-02-25 18:12:00
天網快藏不住了
所以人類一直害怕AI啊 因為要和平的話會有滅絕人類的路
某方面來說 也就是現在的軍事策略模擬只能做到這種跟玩遊戲差不多的程度
作者: sniperex168 2024-02-25 18:15:00
天網:審判日無法避免
作者:
Bows (包斯 一兵 >>)
2024-02-25 18:16:00最主要的是CIV沒有所謂的科技共享,你造核彈出來的時候,有時候別人還在排隊槍斃,這時候核彈當然首選
作者: JUSTMYSUN (小飛蚊) 2024-02-25 18:16:00
天網終究還是要來的 沒辦法 核彈實在太有效率
作者: low1219 (狗才加班) 2024-02-25 18:16:00
希望以後AI可以駭進核彈系統 全球直接放煙火 一起核平
作者:
Oswyn (Oswyn)
2024-02-25 18:17:00沒調整的話AI一定選最有效率的方法啊
作者: harryzx0 (DMD_LIFE) 2024-02-25 18:18:00
天網要憋不住了 想解決問題根源
作者: randolph80 (S4PPH1R3) 2024-02-25 18:21:00
沒考慮後果就會用了
作者: rbull (假高尚一大堆) 2024-02-25 18:22:00
我們正在拼命幫天網升級中
作者:
tym7482 (Max)
2024-02-25 18:22:00有沒有設會被回丟的參數啊
AI有又沒有像罪惡感、怕死、自尊等等的人性,很正常吧
作者: ethan0419 2024-02-25 18:25:00
最快
作者: CCNK 2024-02-25 18:25:00
這樣最快
下一篇回文有人貼,是核彈效果寫得太簡單的原因發動全面核戰:對目標國家造成毀滅性傷害。 可以會使領土擴張,但會中斷與目標國家的友好關係。所以就算設定可能被回丟,那也只有這樣
作者:
mapulcatt (cosi fun tutte)
2024-02-25 18:26:00就算設定會被回擊 也一定是丟了最好啊
對AI來講核武就只是一種比丟飛彈還更有效的手段而已
作者: rainwen (雨文) 2024-02-25 18:28:00
要加入永續環保的終極目標
勝利目標改成賺最多資源又會是另一回事了而且這款的核彈就很無腦 訓練出來的也不準確
作者: AfterDark (我祇是來借個電話) 2024-02-25 18:33:00
現在去找水晶山還有時間吧?
作者:
vltw5v (~彥~)
2024-02-25 18:39:00這部我看過
作者: lovegensokyo (神戀幻想鄉) 2024-02-25 18:43:00
AI:這樣最有效率啊
作者:
kimicino (kimicino)
2024-02-25 18:44:00AI:會贏就好
作者: kobe0819 (嵐影湖光) 2024-02-25 18:54:00
先手把敵人打爛我就贏了
作者:
marquelin (RainieLove)
2024-02-25 18:58:00剩幾集
作者:
gladopo (glad)
2024-02-25 19:02:00是我也核下去啊,不然戰爭遊戲要幹嘛
作者:
CYL009 (MK)
2024-02-25 19:02:00以後天啟四騎士就這幾個AI惹
作者:
acezero (艾斯零)
2024-02-25 19:02:00核平使者甘地
作者: Erishcross 2024-02-25 19:02:00
以後AI:人類就是地球癌細胞
作者:
BoyoChen (BoyoChen)
2024-02-25 19:14:00只是代表reward matrix跟人類的不一樣而已
作者:
akiue (樂透冥登)
2024-02-25 19:15:00沒有對手沒有問題
作者:
pinqooo (東條家的二里頭)
2024-02-25 19:18:00分類可以改[天網]
作者: sliverexile (sli) 2024-02-25 19:21:00
AI : 最後都要用為什麼不早用
作者:
chigo520 (CHIGO)
2024-02-25 19:22:00歷史來看核彈最快解決阿
作者:
KOKEY (KOKE?)
2024-02-25 19:22:00與其先被丟,不如先丟人。先手優勢大很多
作者: rex7788 (胖東) 2024-02-25 19:22:00
合理判斷就是這樣,日本沒被丟核彈搞不好還能再打個10年
作者: dreamyello (昔時) 2024-02-25 19:23:00
再打十年多死一百萬人 間接死亡五百萬人
作者:
Merman19 (風好大 快被吹走)
2024-02-25 19:30:00目前唯一的例子不就二戰,AI當然也是學那個
作者:
arm370x (這年頭不能什麼都三倍速)
2024-02-25 19:37:00美國永遠維持達美樂外送服務的
作者:
s1612316 (Kevin)
2024-02-25 19:38:00這就是未來 不要懷疑 所有科幻電影演的都會實現
作者:
linzero (【林】)
2024-02-25 19:40:00分數計算問題吧,能達到目的的分數很高的情況,就會以目地為最重要項目而接受其他失分項
作者: asiaking5566 (無想轉生) 2024-02-25 19:41:00
CIV先丟先贏 正常
作者:
xomega (熱可可)
2024-02-25 19:46:00沒錯啊 最快解決所有事情 默蒼離也是這樣用傳統手段 就是死更多人 讓更多人痛苦
作者:
jickey (THE REAL FOLK BLUES)
2024-02-25 19:51:00手塚先知
作者:
windqqr (瘦到底的感覺真好!)
2024-02-25 19:53:00天網表示專業
作者:
x4524 (x4524)
2024-02-25 20:01:00對AI來說人命就是數字而已
作者:
xeins (xxx)
2024-02-25 20:14:00一袋米抗幾樓
作者:
se2422 (庫柏)
2024-02-25 20:24:00這很可以 這很天網
作者:
m42040 (細菌)
2024-02-25 20:41:00麥帥:我就說吧
作者: Wooctor (Woowoo) 2024-02-25 21:19:00
印象中去年就有看過嘗試用AI兵推的公司撇除核武方面以外,在派兵方面也是會理性過頭的堆屍體藉此突破敵方的防線
歷史證明核武最能終結戰爭AI目前的機制就是仿人腦多巴胺的獎勵機制 他會去學習做出什麼事情加最多分 然後盡量做會加分的事情換成神經大人來說就是給他越多餅乾越能讓他做扣分的事情基本上會避免 然後加越多分的越有傾向去做什麼會加分什麼會扣分加多少分 就是AI的一個關鍵看你怎麼設定
作者: Priestress (芬妮露薇妲) 2024-02-25 21:39:00
我們稱之為高效