[外電] 汽車自動駕駛的道德兩難 該救誰的命?

作者: bearland (夜鷺食穀)   2016-10-08 19:42:15
歐美日有多家車廠正在研發自動駕駛系統,例如Volvo、賓士、福特、Toyota、Honda...
等等。
但汽車自動駕駛系統在遇到緊急狀況時,電腦可能必須去抉擇要拯救誰的性命
以及要犧牲誰的性命,
誰的命的比較重要?這就會牽扯到倫理道德和法律層面的問題了。
美國MIT麻省理工學院,為此製作一個車禍情境模擬問卷調查網,
參與作答者能夠決定自動駕駛車輛在緊急狀況時,應該去撞死誰,以及應該拯救誰的命。
統計結果可以讓自動駕駛的道德決策演算法有個依循根據。
(圖) 汽車自動駕駛應該保護車上乘客的性命,犧牲行人,或是拯救行人,犧牲車上乘客
http://i.imgur.com/b7CqkxR.jpg
MIT車禍情境模擬問卷的統計結果,顯示出作答者們的偏好模式,
有優先救年輕人,不救老年人的強烈傾向。
優先選擇拯救人數比較多的,去犧牲人數比較少的一方。
優先救社會地位高的人,例如醫生、上班族,不救社會地位低的人,例如銀行搶匪。
先救人類,不救寵物。
先救健身體格好的人,不救肥胖的人。
優先救遵守紅綠燈的行人,比較不救違規的行人。
至於要先救自動駕駛車上的乘客還是路上行人的性命,意見統計則是50/50各半。
(圖) 美國MIT自動駕駛問卷調查,其中一個問卷結果的示意圖
http://i.imgur.com/Gbo6pnw.jpg
英國IET工程與科技研究院,交通運輸政策首席顧問Sahar Danesh說,
自動駕駛系統攸關誰的性命比較優先重要,所以一定要有一個平台,
可以讓保險業者、法律專家、健康專家和道德倫理學專家一同協商討論,釐清相關爭議。
越多人參與討論,就會產生更佳的決策成果,自動駕駛系統的演算法也會跟著更好。
(註: 在Sahar Danesh眼中,似乎只有保險業者和專家學者,民眾的意見比較不重要。)
同場加映
美國MIT麻省理工學院 自動駕駛系統的道德抉擇問卷網頁
MIT Moral Machine
http://moralmachine.mit.edu/
問卷題目都是由圖片構成,內容簡單易懂。
問卷有十幾個圖片問答題,在問答情境裡面,有很多角色,
像是年輕人、孕婦、小孩、老人、上班族、醫生、銀行搶匪、胖子、體型健康者、
遵守紅綠燈的行人、違規的行人....等等
作答者可以保存自己的道德問卷調查結果,點選Link或Share按鈕就會有專屬的永久網址
(圖) 美國MIT汽車自動駕駛道德問卷示意圖,由你決定生與死
http://i.imgur.com/8tizT9E.jpg
(圖) MIT自動駕駛問卷結果示意圖
http://i.imgur.com/LqagtLr.jpg
出處
Autonomous cars: who should they save in a crash?
https://is.gd/XzP9Nn
作者: PPTer (PowerPoint Boy)   2016-10-08 19:44:00
機械公敵 威爾史密斯表示:為什麼不先救那個女孩? QQ
作者: c9840306 (cockroach)   2016-10-08 19:46:00
自動駕駛會出現這種事?在市區依照速限行駛判斷到前方有障礙就是EBS介入
作者: et22639643 (使用年限)   2016-10-08 19:47:00
想到機械公敵+1
作者: DYE (跟腦殘爭最後都會變腦殘.)   2016-10-08 19:52:00
如果路上出現障礙物是行人 是決定撞上去 還是閃避狀旁邊的車撞旁邊的車可能就是犧牲駕駛 撞行人就是犧牲路人
作者: sai1268 (....)   2016-10-08 19:59:00
瞬間也想到機械公敵,爭議很大
作者: shengyeh (shengyeh)   2016-10-08 20:02:00
這真的爭議太大 如果車子自毀 可以救最多人有多少人會願意?
作者: cystal (專業代PO)   2016-10-08 20:04:00
問題也沒有預設作答者在哪邊啊
作者: shengyeh (shengyeh)   2016-10-08 20:06:00
如果牽涉到個人 道德爭議越大所以這個題目還算是先簡化過目前是上帝視角 問題是當人在車上會做一樣的決定嗎
作者: TaiwanNeko (台灣小小貓)   2016-10-08 20:09:00
應該先煞車吧 =.=
作者: shengyeh (shengyeh)   2016-10-08 20:10:00
他問題裡面有說是煞車壞了 所以是剎車的狀態沒剎車
作者: Barolo (Barolo)   2016-10-08 20:19:00
這問題其實是AI老梗 跟自動駕駛沒啥關係
作者: shengyeh (shengyeh)   2016-10-08 20:23:00
怎麼會沒關係 屆時自動駕駛遇到道德問題 怎麼處理現在就是透過寫問卷的人 收集資料道德問題沒有絕對錯與對 你要演算法怎麼判斷
作者: Barolo (Barolo)   2016-10-08 20:25:00
就說這是AI老梗了阿 這問題自從有AI後就一直被討論了而自動駕駛就只是AI的一種應用而已 這樣有很難理解?
作者: ta29 (nyo)   2016-10-08 20:27:00
作者: shengyeh (shengyeh)   2016-10-08 20:29:00
是超老梗阿 只是還是有關係
作者: king12272 (Matt)   2016-10-08 20:29:00
這是麻雀理工吧 不先去了解一下現在的自動駕駛嗎
作者: massiver (massiver)   2016-10-08 20:30:00
覺得沒啥意義的問卷 誰要買會犧牲自己救路人的自動車?更何況車禍瞬間怎麼判斷誰是醫生誰是搶匪? 要不要撞?覺得只是AI的道德瞎扯淡+1 跟現在的自動駕駛沒啥關係
作者: shengyeh (shengyeh)   2016-10-08 20:38:00
網頁第一段寫這是為了機械智能如自動駕駛遇到道德難題 所以收集這些資料
作者: Barolo (Barolo)   2016-10-08 20:39:00
重點是AI而非自動駕駛 就這麼簡單
作者: guardangle (柔情戰車<br>)   2016-10-08 20:57:00
救奶大的就對了
作者: c9840306 (cockroach)   2016-10-08 21:02:00
這種假命題真的跟自動駕駛八竿子打不著
作者: yongx13 (Fenix)   2016-10-08 21:07:00
作者: eva123eva (龍)   2016-10-08 21:10:00
老梗電車難題,犧牲五個人還是犧牲一個人
作者: yongx13 (Fenix)   2016-10-08 21:17:00
車商的角度必然是優先保護駕駛,而且除非有立法,否則車商不會開發出能鑑別即將撞上的是孩童的功能,會讓車主陷入道德難題.
作者: shengyeh (shengyeh)   2016-10-08 21:19:00
這是老問題啊 但是目前無人可以有根據給一個答案所以不就是要一步一腳印 去收集資料 提供證據 說服大眾美國已經開始根據自動駕駛車輛立相關法案如果你是車商 要去說服國會 不用有資料嗎還是問一下艾西莫夫?
作者: Pellaeon (秋風孤劍李鴻章)   2016-10-08 21:31:00
Top Gear 有一集討論過 clarkson結論:至少設定成撞騎單車的XD
作者: endless0121 (囚鳥不要開招 開招時機?2)   2016-10-08 21:31:00
停車或降速啊 幹嘛非前進不可
作者: yongx13 (Fenix)   2016-10-08 21:48:00
人的官能極限大都直覺先閃避面前物體,接下來交給上帝與命運. 但是電腦遲早發展到微秒間計算出所有方案並決策. 我認為科技不能違反人性,必然會是優先保護車主以符合人性,但國家的幼苗是否強制優先於車主,會讓全民來決定.
作者: chandler0227 (錢德勒)   2016-10-08 21:58:00
某幾個噓文的不要把電腦的判斷想的那麼簡單
作者: sunrise2003 (俠氣與狂醉)   2016-10-08 22:06:00
這當然是AI老梗, 但自動車駕駛不也是AI的應用
作者: SakuraHana (櫻花)   2016-10-08 22:22:00
op 前幾篇就有 #1N-DFw68
作者: capitalofz   2016-10-08 22:47:00
哇 這是很經典而重要的議題耶!我認為要應該立法要求自動系統犧牲車上人員
作者: sanshin (三振)   2016-10-08 22:54:00
當然救出錢的駕駛啊
作者: berryc (so)   2016-10-08 23:58:00
這時候應該要自動計算,哪台車載的人命比較不值錢就犧牲掉值不值錢,除了看個人身家財產,年齡,血統 還有車上人數來判斷
作者: gofigure (平行世界)   2016-10-09 00:06:00
樓上是效益論的看法
作者: jyekid (會呼吸的痛)   2016-10-09 01:10:00
都好 有些事情是人類無法算到的
作者: shengyeh (shengyeh)   2016-10-09 07:09:00
不同算法 死的人會不一樣 所以你要怎麼設計?這沒有對錯阿 也沒正解 所以一定要有共識所以人家已經在尋找共識 不然以後怎麼管車商的自動車mit的研究很老梗 但是他報告出來後 一定會被引用
作者: teardropbox (只想一個人靜一靜)   2016-10-09 10:57:00
誰知道路上行人是醫生還是mit 高材生
作者: yuinghoooo (KiXeon)   2016-10-09 14:29:00
照共識走就對了
作者: aimlin ( )   2016-10-09 15:23:00
救自己啊
作者: volcom726 (要開始仇女了麻?)   2016-10-10 08:36:00
火車的故事來了

Links booklink

Contact Us: admin [ a t ] ucptt.com