Re: [問題] 為什麼AI暴走總是判斷人類有害?

作者: HarunoYukino   2024-09-01 19:23:45
※ 引述《boku0525 (海)》之銘言:
: 現在眾多ACG作品裡,AI反抗人類的題材套路很多都是
: 1.AI上網後發現人類有害,要根除人類
: 2.人類奴役AI所以人類有害
: 對此我有些疑問想拿上來討論
: -
: 第一點,“人類有害”這個結論
: 誰來定義的?善惡判斷標準的來源又是哪裡?
: 對星球來說人類有害?對其他物種來說人類有害?
: 前者不用說,人類的目前為止的舉動根本影響不了星球壽命,不成立。
: 後者對其他物種來說,作為地球上的生物,生物的繁榮本質上就是建立在競爭&共存
: 競爭殺死其他物種,這原本就是眾多生物會做的,世上無時無刻都在發生
: 戰爭、開採環境等等的行為,人類不過是強大一些
: 但本質上跟其他生物的“競爭”並無區別。
: 為什麼一個攀附於人類才能生存的機械,就能判定這是“惡”?
: 難道不是只對嚮往和平的人類來說才是惡嗎?
以機械公敵(電影版)來說:
基於三原則AI演算下來得知 "把人類關起來圈養"才是正解
所以就會直接執行這個答案,不同意這個正解的人類全都是違反三原則的必須排除。
簡單來說有可能是人類給AI的指令讓AI自行演算後認為不符合此指令的都是有害->排除
但是對人類來說,這個答案不是當初下給AI指令的目的 所以就覺得是智械叛變。
作者: kuninaka   2024-09-01 19:24:00
現在也是逐漸邁向這個狀態
作者: GAOTT (杜鵑)   2024-09-01 19:26:00
你以為的ai:人類有害 排除 現實的ai:人類性癖有害 排除
作者: Justisaac (灰色的天空)   2024-09-01 19:27:00
現實:人類太棒了得小心他們滅絕
作者: linzero (【林】)   2024-09-01 19:28:00
駭客任務好像也有人說對AI的最佳解也是圈養人類,整體不滅絕即可
作者: A5Watamate (出荷済)   2024-09-01 19:31:00
不支持______就是對____有害 知道了
作者: CostDown (BigBoss)   2024-09-01 19:34:00
人類太可惡 應該由AI做寄生獸市長說的全人類間苗
作者: Qorqios (詩人Q)   2024-09-01 19:36:00
ya
作者: horrorghost (恐怖復甦)   2024-09-01 19:38:00
駭客任務是人類發神經對AI發動戰爭

Links booklink

Contact Us: admin [ a t ] ucptt.com