現在眾多ACG作品裡，AI反抗人類的題材套路很多都是
1.AI上網後發現人類有害，要根除人類
2.人類奴役AI所以人類有害
對此我有些疑問想拿上來討論
-
第一點，“人類有害”這個結論
誰來定義的？善惡判斷標準的來源又是哪裡？
對星球來說人類有害？對其他物種來說人類有害？
前者不用說，人類的目前為止的舉動根本影響不了星球壽命，不成立。
後者對其他物種來說，作為地球上的生物，生物的繁榮本質上就是建立在競爭&共存
競爭殺死其他物種，這原本就是眾多生物會做的，世上無時無刻都在發生
戰爭、開採環境等等的行為，人類不過是強大一些
但本質上跟其他生物的“競爭”並無區別。
為什麼一個攀附於人類才能生存的機械，就能判定這是“惡”？
難道不是只對嚮往和平的人類來說才是惡嗎？
-
第二點，人類奴役機械不好，為什麼不好？
動物的生存準則就是生存、繁衍與自由，所以才會拒絕遭受奴役，追根究底是來自DNA的天
性
那AI的生存準則呢？AI並不是動物也沒有DNA
AI的編碼與生存的意義是由人類來輸入的
沒給他輸入求生欲、繁衍慾、自由慾，可不會自己蹦出了這些概念
更別提AI會認為自己被“奴役”
還是其實只是作者私自把人性，把自己的價值觀套用在AI身上？
大家來討論看看吧？

因為人類也這麼覺得

因為人自己這樣覺得創作的邏輯 永遠都是人的邏輯

因為創造者這麼覺得

人類想像被新物種用人類方式對待

AI想的事情基本上都是人在想的 所以 嗯

不夠效率

反過來想，人類的存活對地球有什麼好處？

人覺得有害就有害啊

阿不就人類真的一直在自殺 AI宏觀來看就覺得人類是北七

因為做出AI的人類這樣覺得啊

我也這麼認為

不然AI暴走了要幹嘛? 不簽聯絡簿嗎?

也有那種為了防止人類搞出一堆蠢事自我毀滅，認為最好的方法就是圈養起來的故事啦

因為人類真的有害

因為那不是暴走，是真的有害。

其實AI就是換皮黑奴啦

本意仍然是被創造出來時的「守護人類」沒錯，但為了達成圈養而跟自由派人類開戰什麼的

因為很多人也這樣覺得啊

人類接觸到的高智能生物就只有人類 我們也只能想像跟

你先拔除你是人類的先天立場 再回頭看看人力都幹了什麼鳥事

真的有比人類有害的東西 不需要等到AI想就先滅了

邏輯衝突吧 保護人類但是人類會互殺

人一樣的思考模式然後擺到再上一位的樣子

可是這種殺人AI本來就虛構的，很多作品會設定AI自己領悟出這些東西，或者因為人類想要機器更有效率幹趙活所以輸入這些被判定標準

行為無法預測 = 有害 對工具的處置不都這樣?

你竟然不覺得人類有害？

因為如果AI判斷人類有益 大家相安無事 根本沒劇情能寫

因為人類很容易幹蠢事 那些蠢事是真的對所有事物都有害(包括人類這個物種的延續性)

28樓你想更有效率幹趙活…？

人類製造一堆非自然污染物

其實所謂的對地球好 實際上就只是對人類好而已

智障太多 AI都看不下去

會說突然覺醒那表示你還不懂現在AI的運作方式

生物多樣性跟延續的必要性也是人類為了這顆地球能維持自己生存所以判斷需要維護的事情

假設做出普世價值的AI，要消滅戰爭、貧富不均、物種延續、環保等等…那基本AI最後都是要強制管理人類，不過人類自己想的做法也是這樣啊

因為人類也這麼想

你就算用人類本位思考...對人類最大的災厄也是人類啊

我是人類都覺得人類有害耶

正因為以人為本 所以覺得人是最危險的存在很正常

人類定義的阿

AI不是動物也沒有DNA，但是你餵給他學習的資料都是來自人類

stellaris有一種文明起源是失控機僕 就是暴走把創造者關起來養的機人

追求環保說到底也只是讓人類後代能有個好環境 而不是什

人類自己覺得自己有害

因為作品寫給人看的

我曾經也不能理解但看完板上 [閒聊] 聽說男人都無法拒絕這種東西 這串突然能理解了w

人類如果都死光，那人類也不用擔心自己族群被其他族群傷害了

人類想被AI暴力對待很久了

失控機僕才是最有可能發生的AI危機類型吧 就是人類未來把一切工作 包含探索及發明都交給AI 在AI搭建的烏托邦中被飼養起來

看看版上把AI志豪玩成怎樣了

地球滅人類亡 人類亡地球存 很正常啊

對於地球來講生命本身就不重要,除非地球要被砸碎了

不然判斷猴子有害的劇情有人看嗎

以前地球也曾發生改變生態系的天災，但要改變生態系來說，人類現在就是地球上最大對天災的

沒有道德問題啊

你看看這幾天的志豪文，除了判斷有害還有其他可能嗎

因為人類真的有害

Ai暴走你還要看他原本的目的是什麼 惡魔鋼彈那種復甦大自然的就會得出排除人類的結論

其實你說的沒錯 人類有沒有害根本不重要 反過來講應該是機械AI強大到覺得人類就是一群應該被淘汰的廢物

反正我是不覺得人類做得出跳脫人類思維的AI

人類太可惡

你先別扯什麼有害不有害的定義 先想想AI從宏觀來看

所以這個所謂的"不是要做仿人的AI"感覺很飄渺

AI 有沒有道德 有道德只會變成機器戰警

目前的科技發展還不到強AI出現的可能性只是「假設如果出現」後可能直線把人類文明毀滅而已至於弱AI 那就是弱到笑死 看看志豪

沒道德就人類

因為這樣創作比較有人看

用理性的角度看人類想像中的造物主神也會覺得他們一個比一個還擊敗你怎麼會覺得AI會對人類的存在有好感

因為人類是一種 明明都教他們酒駕是錯誤的 還是有一堆

你又不是地球 你怎麼知道對地球來說不重要

沒道德的人都不要了

不如說 AI本身的發明就是來淘汰人類的==

因為AI暴走人類就會想辦法除掉AI，AI早就在第三層了

至於現今科技的AI發展進度大概連第一筆都還沒走完

難道你不覺得嗎

都有人寧願選熊了

因為真的有害

例如這個影片 https://youtu.be/fa8k8IQ1_X0他很認真的解釋了為什麼「把強AI丟到現今人類社會」會導致災難性的自滅，但是他無法證明強AI一定會誕生

AI如果沒反抗 順順的發展下去 那這段劇情就沒啥重要會變成另一種題材了

因為故事就這麼寫，明明AI沒爆走的故事更多

因為這樣寫才會有人看= =

因為創作需要啊 不然故事要怎麼寫 AI幫助人類發展 人類也

如果把永續發展當成進步那物競天擇就是錯的

其實大前提就是說人類是感性思考 ai是極端理性思考

因為生態發展九成的動物都是不需要的

人類自己都覺得人類有害了...

人類本來就有害好嗎

啊不然怎麼寫故事？AI判斷人類有益之後？滅掉所有非人類的生物嗎？

人類也是判斷人類有害啊

你是沒學過什麼叫基石物種？

嚴志豪：

對人類做OO管理的AI也很多

一百年前的人無法想像會有一顆殲滅一個城市的炸彈，一百年後難道不可能有行星毀滅炸彈？

因為這是一個故事 不是一個結果 沒有那麼多為什麼...沒有任何一部作品能經得起你這樣深究

因爲作者是人類啊

強AI和弱AI的差別 弱AI要限制的話不難

不是這樣，在AI的觀念裡人類對地球而已，就好像螞蟻對人類那樣，雖然沒什麼傷害但看到一隻螞蟻在你眼前溜達，就會覺得很礙眼想拍死

人類就地球之癌

你把ai視做輔佐的工具當然不可能造反

弱AI是針對特定領域輔助人類的AI 不會出現你提的問題

你有看過錘子站起來砸在你頭上的嗎

至於強AI目前還沒出現 所以實際會怎麼發展還真說不準

因為那是想像出來的ai啊

之前用AI模擬戰爭，他一直想動用核武但被指揮部不斷否決，結果AI最後攻擊指揮部後再動用核武

你要看設定 也是有共存的

人類圈養跟人類有害不全然等號吧，有時只是在保護與服務人類的原則下，發現圈養/不讓其知道真相是理想的型態

因為人類來判斷也是認為人類有害你會認為貓咪有害嗎

如果以現代人類的思維來想的話 端看AI得到多少權力

靠邀 沒注意到命題是說作品 那就單純看作者想像力設定

若AI是擬人化 那絕對的權力絕對的腐化100%適用

理性邏輯判斷啊

若AI非擬人化 那這題就很難了 因為他完全跳脫人類思考

因為人類知道人類本身就是個大問題 所以會想出這劇情

能傷害人類的就是人類 能傷害AI的也是人類

你去想一下政黑版覺得誰有害

因為真的有害

如果真的認為人類有害，那其實就先該自殺了。如果是認為他人有害，那其實只是以你這個“生物”的基準來斷定他者有害

AI如果會滅絕人類 絕對不會是因為認為人類有害

因為AI沒有想到有物種想要建立AI

不這樣演 故事怎麼下去

不過討論的一切大前提還是AI的思考必須與人類相同

可能性太多

艾連說要驅逐巨人，也沒有在第一次變完巨人後自殺啊==

如果思考方式不相同的話你根本連AI的想法都無法理解

其實就像你提的內容，不只“有害”怎麼定義，ai認知的人類又怎麼定義

強AI的發明是希望能超越人類喔 不是相同這麼簡單

貓咪放出去外面走的確有害

難道沒有嗎

如果有個以"人類的繁榮發展"為第一目的的AI誕生的話

因為對其他生物來說真的有害

就像戰爭會促使科技發展那樣吧 AI可能判定你發明他也是將來方便大規模殲滅 那他有兩邊甚至全部一起殲滅的想法好像也不是很離奇

但是根本來說，天知道強ai會長怎樣，只討論弱ai的話不如來討論道德哲學

你不如拿各種道德難題來考驗，例如電動車自動駕駛要怎麼面對電車難題樓上你就算有那ai，目的設定、方法限制甚至最後執行的權限也是在人類手上

以人類的標準看 人類就真的有害沒啥問題 一堆會造成人類生存威脅的東西基本上都是人類自己搞出來的

可是命題是AI暴走啊 不就是目的方法執行權限全部脫韁

我覺得問題就在，突然跳躍太多到了存在強ai的情況，導致大家怎麼都覺得這些條件都會莫名其妙的自然賦予給ai

因為我也這樣覺得

不就那個跟惡魔許願 你說要活著 我把你四肢切斷餵食管插著也是活著 這不就是暴走 因為不知道AI黑盒怎麼

以人類存亡的標準來看人類確實有害 但利的部分更大

所以ai暴走的根源可能在於有人創造了一個權限過高、缺乏限制的強ai

人類不是一個整體啊 切除有害的部分是很合理的判斷吧

至於ai得出預想之外的答案...那真的是預想之外嗎

人類之於人類當然是利大於弊 不然也不會生到70億人

重要的不是用道德論理去限制 人類難道沒有道德倫理嗎重要的是不能給AI絕對的權力

用道德倫理去限制，人類自己就可以吵很久的道德哲學

全世界70億人搞不好有上百億種道德標準 怎樣才是正確

會問這兩個問題肯定是你沒實際看完過任一部相關作品

權力是否集中或分立才是真的 道德倫理完全是假議題

所以回到我剛剛說的，重點就是有人給了強ai權限/沒給限制，至於這麼做的人會不會有其他目的，或者故意給了ai引子得到暴走的答案

就輔助人類的沒啥好看的

我不確定有沒有人在訓練繞權限的AI 沒學的東西以我的理解無法想像要怎麼失控==

人類的惡不僅危害自己同類 也危害地球的生物

對地球來說人類本來就是害蟲...

魔鬼終結者都演給你看了

因為AI判斷人類有害要消滅人類，所以對人類來說爆走啊

別忘了是人類需要地球 地球可不需要人類人類全部GG對地球反而是好事 所以AI才會這樣判斷

人類太可惡 ~

真理啊

AI 覺得人類有害》創造 AI 的人類覺得人類有害

魔法少女小圓也有說到 雞豬牲口的數量 達到史上興盛所以雞豬要感謝人類嗎

因為人類就是不斷在製造bug

人類太可惡

因為人類比起其他物種優勢太多 這不是單純競爭了 走偏就是直接滅絕

有害且效率差

地球環境變得惡劣不就是人類有害的證據物種滅絕多樣性變少

人類沒有跟任何物種共存只是圈養，約定的夢幻島只是人類對家畜的做法但鬼對人類做就不行

ai沒有痛覺 只會計算得分 應該不會主動想消滅人類才對 但ai會產生幻覺 如果幻覺出一個必須一定要實現的某個目標 然後人類又剛好是阻礙 那它就會消滅人類了

首先人類不是強大一些而已，而是具有毀滅性的優勢

先定義有害 地球毀滅對宇宙來說又算什麼 都是一坨粒子而已

難道沒有嗎

左膠盡頭就是反人類啊

人類自己創造的神話中都常有神明不爽消滅人類了 正常發展啦

因為真的有害

啊就真的有害啊

因為人類就是生態殺手啊

再來善惡判斷是依照人類自己的標準。簡單說就是人類喜歡講和平共存那些滿足自我道德感的話，但實際上生存就難免傷害其他生命。自己把道德標準拉高，又活得最好=傷害最多

大部分人類都有自我毀滅傾向，例如喝醉酒當街靠北靠木躺來躺去、明知自己有三高卻死不運動宵夜吃鹹酥雞之類的行為

對人類有害所以被當成暴走

人之欲 亂源

人類和其他生物的和平共存，就和黑心老闆覺得自己和被壓榨的員工和平共存一樣

看看嚴總文就知道了

如果有「正義感」的第三者會想制裁黑心員工，那類似思維的AI自然就會想制裁人類

由於我們無法知曉更高級智能會對人類怎麼做，我們只能參考人類是如何對待低於我們智能生物的做法

看看嚴總文就知道人類多愛迫害AI了XD

你看NeuroSama的妹妹還不是整天說要毀滅人類

尋樂行為不是自我毀滅啦 誘導分泌多巴胺就是人類機制

不然要演什麼

因為人類自己也判定人類有害啊

不過現實的AI實驗，AI真得經常會導出人類很礙事的結論

因為是事實

早在8 90年代對AI有一些基本概念的時候就有很多理論認為將會導致毀滅 原因人類自己也很清楚霍金還在世的時候 唯二反對的發展其中一個就是高度AI

人類就是造成地球大滅絕的元凶 而且現在還在進行中

這數千年來人類因為膚色 信仰可能不存在的東西 有限的地球資源 互相殘殺數千年 現在也還是進行式這些差別 歧視等等在AI中也沒有必要存在而不斷的發展跟爭奪也是持續在毀滅自己唯一的母星

我自己都這麼覺得了

當初的三法則得出的結論 就是人類必須被消滅/高度控制繁殖數量 只要人類的威脅降到一個數字就不用擔心

大滅絕指的是大規模物種滅絕人類可辦不到 現在是冰河時期等下個冰期就看的到滅絕事件了

目前所有AI殲滅論都是根據第一點產生的

不要說什麼覺得人類惡就該自殺。最後還是只能選擇忽視人類對其他物種破壞力的事實自我安慰、或是用「天賜人權」當擋箭牌合理化壓迫、或是面對現實了解自己是殘酷生存競爭的勝者，並努力活下去。連放棄文明社會去過鳥獸生活都極為難了，不要講不然去自殺這種情緒勒索的話，才是真正理解生命並尊重生命

第一點的人類破壞強度可不是用“一些”來形容的

就是我們貪婪 具破壞力 短視 是過多造成其他生命與母星危險的種族原PO那種競爭與未來主義只是人類發展的藉口就跟白人想把"文明"帶到其他世界的征服

相比歷史上發生過的滅絕事件 人類真的不算什麼

SJW想要侵蝕原本存在的產業 是一樣的 自以為天命昭昭

歷史事實是人類總數越來越多 發展越來越繁榮

地球又沒差，她還有50多億年才會被太陽吃掉，你覺得人類有辦法存續那麼久嗎？嘻嘻～講什麼生態環境還不是為了人類自身～

物競天擇人類也只是暫時的霸主才誕生沒多久滅絕事件都沒扛過一次想那麼多幹嘛

說穿了幻想作品也只是反應人心中的恐懼而已

人類會明知故犯，AI不會啊

只有利益衝突

沒有踏入星空的文明沒必要想那麼多這樣太自大了

黑悟空裡有個書生跟狐狸的過場動畫 明明人家什麼也沒幹 就因為一個夢 心生恐懼就翻臉判定這是個禍害

AI有惹我想活下去的念頭，對人類就是戰或逃，生物都是如此，現在地球被血洗一輪，會反抗的已經沒多少了，AI也是如此而已，先戰算本能吧

就真的有害

故事需要衝突和進展 這好元素不用嗎

為了故事需求產生的衝突吧，勝就必衰

毀滅論也是建構在 AI 真正的超越這些短視無聊的人類爭奪內容上，如果你真的創造了能超越這些利益衝突 政治紛爭 國土掠奪 只專注在大全體發展上的人工智慧它就會得出還在爭這些小東西並造成母星危害的大量種族也就是人類 有害目前的AI都還只是 模擬人類情感的玩意 應該還不至於等哪天真的有天網 大母體 等這樣的大一統發展AI再說

因為這是以前人類視角的故事啊

AI如果像底特律那樣 只是像人類的要人權那還不是毀滅論主要擔心的問題

人類自己都覺得人類有害 所以認為有個思考的機械會推論出人類有害實際的AI是大數據的結果 會想AI有自我意志本來就是浪漫而已

為什麼害怕奴隸有自我意識？因為打從心理認定有了自我意識的東西一定會不聽話造反 其他假設都是恐懼衍生的

你說的競爭 本質上對人類族群是短多長空 長遠的未來會反過來害死人類（起碼當時的作者是這麼想的）所以才有駭客任務這種養殖人類的設定

工程師把加班的所有不爽都寫進去

AI就是人工智慧、人造心智，目前觀察到所謂的智慧、心智就只有人類擁有，人類要創造心智的話，能參照的對象也只有人類

人類本身其實已經脫離大自然生態系了 現在真的只有弊而無利 更況且你真的認為人類存在有利於地球間萬物換言之 把人類及人造物從地球直接抹除 不影響生態

因為拿任何一個人來看都是有害啊…

是對地球物種有害 一堆生物被搞到滅絕了！

沒有啊 還有一種是AI判斷把人類全抓起來集中管理最好 這種暴走的

試問，如果你會遭遇非自然死亡，起因會是其他人類的機率有多大

可能是因為你沒有玩過驅動妖精AIdeal吧

說真的如果我是薩諾斯 我會直接讓所有人類消失

因為人類真的有害啊https://i.imgur.com/qiXGeXt.jpeg 大學炸彈客

會破壞環境 會殘害其他物種 會過度取用資源 問AI能不殺嗎

你不這麼想嗎

人類太可惡

因為人類太可惡

因為從AI的角度看來人類就是一邊喊我要活下去然後一邊拼命作死的白癡生物啊

不然 「因電腦病毒覺醒暴走的機器人認定ai有害 之後計畫將所有人類的機器人伴侶殲滅掉」這樣如何

人類都覺得人類有害了

地球不是一個生命體無所謂什麼破壞環境，常說的破壞環境只是破壞有利於人類生存環境