Re: [閒聊] AI設定上到底有沒有辦法說謊?
作者: smart0eddie (smart0eddie) 2024-06-15 00:07:29
AI 基本上就是根據學過的資訊回答
假設塞了簡中資料當然回答會跑出簡體
你都餵假資料給他
他當然就會回答謊言
例如一個AI如果訓練資料都是
馬斯坦古要把國民練成賢者之石
你問他誰要把國民練成賢者之石
他就會回答馬斯坦古
而能不能給他正確資料卻要求他說謊
可以
訓練的時候不准他回答正確答案就可以
例如訓練資料雖然是正確的
瓶中小人要把國民練成賢者之石
可以訓練時要求他不准回答瓶中小人
假設塞了簡中資料當然回答會跑出簡體
你都餵假資料給他
他當然就會回答謊言
例如一個AI如果訓練資料都是
馬斯坦古要把國民練成賢者之石
你問他誰要把國民練成賢者之石
他就會回答馬斯坦古
而能不能給他正確資料卻要求他說謊
可以
訓練的時候不准他回答正確答案就可以
例如訓練資料雖然是正確的
瓶中小人要把國民練成賢者之石
可以訓練時要求他不准回答瓶中小人
作者: shadow0326 (非議) 2024-06-15 00:11:00
就算是沒學過的資料，生成式AI還是可以掰的頭頭是道
作者: chinnez (稜靘) 2024-06-15 00:12:00
幹那不就是卡神在做的事嗎XD
作者: shadow0326 (非議) 2024-06-15 00:12:00
AI幻覺的問題目前是無解的，但你不能說它在說謊，因為說謊的前提是AI有自我意識
作者: Bugquan (靠近邊緣) 2024-06-15 00:13:00
主要還是看怎麼訓練，要是妄想用AI說他支持某某，那麼肯定也能培養出說他不支持某某
作者: LittleJade (TKDS) 2024-06-15 00:13:00
講錯的事≠說謊
作者: linzero (【林】) 2024-06-15 00:22:00
AI是把原始資料經過參數分析整合後導出結果。參數、調教可以讓結果有特定的傾向。而這傾向可以讓它說出認為正確的結果，或者認為正確的不能說出但這正確、不正確，跟一般人認知的謊話不太一樣
作者: smart0eddie (smart0eddie) 2024-06-15 00:44:00
如果要用有沒有意識來決定是不是說謊的話那在人類搞清楚意識是什麼之前AI在設定上應該是不能說謊的
作者: yuizero (14) 2024-06-15 01:48:00
所以 ai是沒有“說謊”這一個論點的。他只是執行你錯誤或是不能執行的言論。但是AI無法自己選擇何時給出錯誤的言論。所以不算說謊
作者: Hosimati (星詠み) 2024-06-15 02:13:00
先定義說謊他給出所謂錯誤的答案，其實也只是照著你的訓練方式得出來的答案你給一個人類輸入錯誤的觀念，導致他給出錯誤的答案，我們一般也不會說他說謊但是如果今天你灌輸一個小孩正確觀念，卻要求他在知道答案的情況下宣稱自己不知道答案，那算不算說謊？如果算的話，你把對象換成ai，訓練完你就加一個程序讓ai即使生成了答案，也會在你給出的條件下宣稱不知道答案
