[情報] NASA報告與AutoPilot半自動駕駛的侷限

作者: bearland (夜鷺食穀)   2017-03-04 18:57:33
「科學美國人」雜誌有一篇批評Tesla AutoPilot問題的報導,
內容有引述「美國太空總署」NASA的人因工程心理學專家Stephen Casner,
他對半自動駕駛系統的研究報告。
從第一艘太空船的研發專案開始,NASA鑽研「人類心理與自動化駕駛」相關課題,
已經有近60年的歷史經驗了。
(1958~1963, Project Mercury「水星計劃」中文簡介 https://is.gd/KJCXgG )。
(圖) 美國NASA水星計劃的太空船照片,前後共有7名太空人參與任務。
http://i.imgur.com/AQCet4C.jpg
(source: Dan Beaumont Space Museum https://is.gd/yqyofa )
根據幾十年來的相關研究,已經警告「人類專注力的有效週期」這件事,
會影響人們在(太空船)自動駕駛艙的表現。
Decades of research have warned about the human attention span in automated
cockpits
◇人類的注意力 有其侷限性 最多只能撐15分鐘 然後注意力會開始疲乏下滑
THE LIMITS OF ATTENTION
NASA的人因工程心理學專家Stephen Casner,他認為半自動駕駛輔助系統要求駕駛人
必須隨時不斷的注意路況,這是不切實際,非常不可行的。
Casner說,如果你只是坐在那邊,監視著系統運作,而這個系統又運作良好的話,
那會是一件很疲累的差事。
事實上,要求人類長時間的去精準監控那不斷重複的程序步驟,是件極度困難的事,
人類精準的注意力只能維持15分鐘,這就是所謂的「警覺性遞減」現象
(vigilance decrement)。
這是1948年,英國認知心理學家Robert Mackworth 在研究英國雷達操作人員的工作表現
後,所發表的重大發現。
二次世界大戰期間,為了監控德國空軍跨海來犯,英國政府在各地設置了許多雷達站。
Mackworth他發現雷達操作人員在監控雷達銀幕時,面對不斷重複掃過的銀幕畫面,
操作人員的準確度只能維持30分鐘,之後準確度會直線下降,快速滑落。
而且後來有更多更新的類似研究指出,人類的注意力只能持續15分鐘,
然後就會出現「警覺性遞減」現象。
Casner says. "If you're sitting there watching the system and it's doing
great, it's very tiring." In fact, it's extremely difficult for humans to
accurately monitor a repetitive process for long periods of time.
This so-called "vigilance decrement" was first identified and measured
in 1948 by psychologist Robert Mackworth, who asked British radar operators
to spend two hours watching for errors in the sweep of a rigged analog clock.
Mackworth found that the radar operators' accuracy plummeted after 30 minutes
; more recent versions of the experiment have documented similar vigilance
decrements after just 15 minutes.
◇AutoPilot出錯的死亡車禍,即使當時駕駛人有注意路況,可能也難逃一劫
科學人他們認為,車禍當時,即使Joshua Brown沒有在他的Tesla車上一邊AutoPilot,
一邊觀看哈利波特電影,在AutoPilot出錯時,他的心理狀態仍然會與魔鬼共謀對他不利
(因為注意力疲乏,會使他來不及察覺到AutoPilot出錯的危機,並及時做出反應)。
Even if Joshua Brown was not watching Harry Potter behind the wheel,
his own psychology may still have conspired against him
(圖) Tesla的Autopilot被NASA專家批評違反人因工程心理學,並不安全。
http://i.imgur.com/XOl7rGz.jpg
◇英國的半自動駕駛安全性研究
無獨有偶,英國南安普敦大學的研究人員也對半自動駕駛的安全性表達憂心。
英國「人因工程」研究權威Neville Stanton教授,在學術期刊上發表論文,
他們的研究發現,半自動駕駛車會有「反應時間落差」的問題。
(圖) 英國南安普敦大學的自動駕駛車模擬實驗室,他們改裝一輛Jaguar XJ,
並賦予它具備虛擬自動駕駛的功能。
http://i.imgur.com/nbuisUc.jpg
(source: Southampton University Driving Simulation https://is.gd/iTz1LH )
有26名受測人員,在XJ虛擬車上使用半自動駕駛模式,在時速112公里的情境下,
結果發現即使駕駛人有專心注意路況,沒有滑手機、看影片,
在模擬機出現要求受測人員接手駕駛的提示後,
他們從察覺到做出反應動作所需時間的中位數為「4.56秒」,
如果駕駛人有分心,例如使用手機等等的情況下,所需反應時間的中位數為「6.06秒」
在時速112公里的情況下,4.56秒後車輛都已經行駛142公尺了,再加上煞車距離,
以現行Golf GTI的112kph緊急煞停距離49.7公尺為例,總共就要近200公尺了。
如果半自動駕駛系統出錯,駕駛人想靠自身反應能力來避免車禍並不容易。
(圖) Neville Stanton教授,是英國「人因工程」界的研究權威
http://i.imgur.com/xgrD2kl.jpg
英國皇家航空學會曾頒發青銅勳章給他,感謝他對航空母艦飛行甲板的安全性所作的
貢獻。
英國「人體工學及人因工程」研究院也曾頒發獎章,感謝他對人體工學研究的貢獻。
南安普敦大學是英國研究型大學的第8強,他們的理工領域研究很強,
尤其是海洋、海事、水下機械工程領域素來享有盛名,在全球海洋與水下工程可排前10名

==心得==
汽車自動駕駛技術牽涉到人類心理和硬體技術層面,未來還有一段很長的路要走,
相信總有一天自駕車相關技術會成熟到進入實用化階段的。
在自駕車技術還沒成熟之前,不鬧出人命是業界開發的最高原則。
"Fail Fast And Iterate - But Not At The Cost Of Human Lives."
最近發生幾起自駕車意外事件,幸好都沒有出人命。
1. 德州達拉斯TX-121高速公路,第一代AutoPilot自駕車對路況判讀出錯,
直接撞上施工路障的車禍事件,可能就跟注意力疲乏現象有關。。
(https://is.gd/ZU0OZF )
2. 前幾天,兩名Uber員工跟紐約時報爆料,去年12月Uber的Volvo自駕車在舊金山市區
闖紅燈事件,是因為電腦自駕系統出錯才會闖紅燈,而非Uber官方所宣稱的是隨車駕駛人
員開車犯錯。
當時自駕車服務才上路短短幾天,Uber自駕車就已經闖紅燈至少有「六次」了。
(https://is.gd/DfKA1Z )
Uber信用破產,公司謊言被自家員工戳破了。
推動自動駕駛技術是一件好事,但廠商不能為了賺錢,就無視他人性命與車輛交通安全
連技術層次較低的AEB自動緊急煞停系統都可能有1/3車款不及格了 (5/15輛),
顯見目前還是不能過於倚賴新科技。
延伸閱讀
[情報] 德州Tesla Model S自駕車撞分隔島路障事件,車禍照片與車主發文
https://www.ptt.cc/bbs/car/M.1488584023.A.0CE.html
[外電] 員工爆料 Uber自駕車闖紅燈是電腦出錯 並非人為疏失
https://www.ptt.cc/bbs/car/M.1488588559.A.680.html
[情報] 澳洲實測AEB自動煞車系統,15輛車受測,其中有5款車不及格
https://www.ptt.cc/bbs/car/M.1488181584.A.3BD.html
出處
[科學美國人] 關於Autopilot的侷限 NASA能教Tesla的事
What NASA Could Teach Tesla about Autopilot's Limits
https://is.gd/onp3h1
[NASA論文] The Challenges of Partially Automated Driving
https://is.gd/yBqaUC
[論文PDF] The Challenges of Partially Automated Driving
https://is.gd/gpKnWG
(圖) NASA論文的三項重點
http://i.imgur.com/Nm2Sz9m.jpg
'Takeover time' in driverless cars crucial to safety
https://is.gd/UtLgAn
作者: shengyeh (shengyeh)   2017-03-04 19:11:00
其實聽起來蠻合理的
作者: sbax8186 (りぃちゃんヽ(・∀・)ノ)   2017-03-04 19:13:00
先幫補血 等等特斯拉和U伯大軍要蜂擁而出
作者: shengyeh (shengyeh)   2017-03-04 19:13:00
當你對某物開始信任後 自然會比較鬆懈等到突發狀況發生 自然會慢半拍不過應該也是有解啦
作者: thigefe (米麩)   2017-03-04 19:17:00
這就半套自駕,有問題不意外
作者: shengyeh (shengyeh)   2017-03-04 19:20:00
就設計一段時間內提供一些刺激給駕駛員如警示音或震動 要駕駛員拉回注意力
作者: dslite (呼呼)   2017-03-04 19:35:00
要自己隨時注意自駕會不會出包 為何不乾脆自己開?自己開的精神壓力比不知何時出包小得多
作者: W8570637 (W8570637)   2017-03-04 19:37:00
跟火車駕駛一樣的設計?
作者: sai1268 (....)   2017-03-04 19:51:00
同意啊,其實想像坐在副駕一直長時間注意駕駛行為跟路況,比自己開車還累
作者: l257065 (Tiwei)   2017-03-04 19:55:00
這是當然的阿...太空又沒那麼多三寶跟遮蔽物XD
作者: KGSox (天天開心)   2017-03-04 19:55:00
還蠻有道理的
作者: kiler520 (Sky我最威)   2017-03-04 20:00:00
學火車踩踏板?
作者: Scape (non)   2017-03-04 20:03:00
內文拿Jaguar XJ做實驗,標題批AutoPilot,蠻好笑的。要說注意力下降,任何跟車系統都有這問題只是AP是出頭鳥,拿出來打
作者: KGSox (天天開心)   2017-03-04 20:05:00
人家是在虛擬自動駕駛 拿甚麼車來改又不是重點
作者: Scape (non)   2017-03-04 20:07:00
那批評的點是注意力下降,AP是重點嗎?任何跟車系統都一樣
作者: UJhsiao (PRIDE)   2017-03-04 20:15:00
啊NASA就拿AP來舉例你在跳腳什麼?講不得喔
作者: rosemary (迷迭香)   2017-03-04 20:26:00
如果自動駕駛發展的成熟 對人類真的是好事 人太不穩定了雖然最近看了這些例子 覺得離這天還有點遠 但仍期待著
作者: refgdata (Sean)   2017-03-04 20:37:00
樓下scape
作者: yanli2 ( Yan™)   2017-03-04 20:45:00
難怪羅根討厭自動車
作者: shengyeh (shengyeh)   2017-03-04 20:49:00
未來有一天 全部車聯網 就沒問題了
作者: rosemary (迷迭香)   2017-03-04 20:52:00
可是路上的路況不只其他車輛 還有路人單車衝出來的狗等甚至像突然出現的維修路障之類的。。。
作者: shengyeh (shengyeh)   2017-03-04 20:54:00
樓上說的也是有理
作者: roccqqck (ccqq)   2017-03-04 20:57:00
目前判定不會動的東西 反正比較難判定喔
作者: cystal (專業代PO)   2017-03-04 21:20:00
之前看特斯拉對衝出來的人3~5秒鐘自動駕駛根本沒有反應
作者: HaHaPoint (笑點)   2017-03-04 22:00:00
其實火車駕駛也類似,最大問題在防止駕駛無聊打瞌睡
作者: DYE (跟腦殘爭最後都會變腦殘.)   2017-03-04 22:02:00
車聯網加上手機定位 至於狗....就讓他上天吧XD樓下狗本
作者: SakuraHana (櫻花)   2017-03-04 22:08:00
特粉會說特斯拉科技屌打NASA
作者: Killercat (殺人貓™)   2017-03-04 22:21:00
其實這個講的並沒有錯, semi-auto本來就有這問題但是你一但宣稱全auto 那撞車的責任都會要你來承擔這也是目前Tesla碰到的困境Tesla其實就是覺得還沒辦法擔這責任而已
作者: meianhua (我是男生唷)   2017-03-04 22:29:00
我也覺得要嘛就全自動 要求駕駛員保持注意只是欲蓋彌彰
作者: Ekmund (是一隻小叔)   2017-03-04 22:48:00
講是很有道理 但以實際意義來說 就是不贊同所有不達Lv5的自駕上路 這只有兩種可能
作者: meianhua (我是男生唷)   2017-03-04 22:49:00
個人覺得設計上車主要負的就危險物所有人責任 車廠要負
作者: Ekmund (是一隻小叔)   2017-03-04 22:50:00
1. 要馬所有車都改自駕 道路狀況單純化+車聯網
作者: meianhua (我是男生唷)   2017-03-04 22:50:00
的就商品製造人責任 對被害者而言都沒差 我就連帶請求至於車主跟車廠要怎樣攤是加害人自己內部分擔的問題
作者: Ekmund (是一隻小叔)   2017-03-04 22:51:00
2.發展出人類有史以來第一個非弱人工智慧的AI這兩個一個等30年 另一個等100年看能不能賽到
作者: meianhua (我是男生唷)   2017-03-04 22:52:00
車廠要車主保持注意就真的神經病 我都買自駕功能了是要怎麼注意 更累又無效有心也無力 那我幹嘛不自己開就好
作者: Ekmund (是一隻小叔)   2017-03-04 22:53:00
這種言論早就有了 只是不實際 現行目標只要超越人駕的事故發生率就有足夠的話語權了
作者: meianhua (我是男生唷)   2017-03-04 23:03:00
你車廠敢推自動駕駛就卡阿莎力 民事賠完被害人後就別轉向跟車主要 車主告你都不為過了不然他自己的財損車損找誰賠 刑事車主車廠兩個都要負 你買自駕車上路撞到人的風險自己要承擔(自由刑或罰金刑)車廠冒然推自駕害人也要負刑責(高額罰金刑)
作者: Ekmund (是一隻小叔)   2017-03-04 23:07:00
負賠償不是問題 負風險才是問題最理想的情況 自然是世界上不再有人類汽車駕駛 讓電腦來但屆時車商不再只是車商 會更偏向大眾運輸業者而且車會從買賣整車變成買賣使用權 強制定期回廠檢驗不然誰會願意為無法掌握的東西負上人命的責任?保險公司也不可能接受 那政策就不會放行所以現在這玩意兒根本不是車商阿不阿莎力的問題而是自駕還沒有強到讓社會大眾接受整個行車環境轉變的問題而這種東西不經過實際道駕個N年根本沒人會信實際面來看就變得衝突了 但要實現 這位來自NASA的大師想法就不切實際了
作者: JDKnife (絕地小刀)   2017-03-04 23:29:00
...一堆沒實際開過的人在那天馬行空 監看AP比自己開省力多了 照推文某些歪理ACC也很危險 因為不用控制車距?上次NHTSA調查已有AP降低40%事故的數據 特黑是還不死心..
作者: cystal (專業代PO)   2017-03-04 23:59:00
連報告都不看的真可憐
作者: levy (LEE)   2017-03-05 00:11:00
自動駕駛出錯的機率比人類手動駕駛低太多了
作者: Scape (non)   2017-03-05 00:48:00
這篇根本是標題殺人,看了原文NASA論文根本沒提過Tesla或是AP,而是在說自動駕駛(1-4級)可能會遇到的問題而Scientific American也是在說目前的AP的極限在哪並且把心理學考慮進去,點AP做的越好反而會使人分心這矛盾哪來的NASA專家批評AP有問題了?某b是以為大家都不會去看原文,用這樣的標題殺人法誤導人?
作者: Ekmund (是一隻小叔)   2017-03-05 01:01:00
果然說中了w
作者: DYE (跟腦殘爭最後都會變腦殘.)   2017-03-05 07:59:00
實際的意義就是 現行的自動駕駛+人力 出事的機率跟純自動駕駛 不加人力 差不多車商要求駕駛注意 只是不想承擔風險
作者: YJM1106 (YM)   2017-03-05 09:00:00
就是說車商認為必要時可以避險的人為操作實際上是沒有效果的
作者: chandler0227 (錢德勒)   2017-03-05 09:01:00
要求駕駛注意只是車商不想擔責任啦
作者: JDKnife (絕地小刀)   2017-03-05 09:29:00
喔 那ACC也不要上市 還是可以不用看路?
作者: DYE (跟腦殘爭最後都會變腦殘.)   2017-03-05 09:55:00
現行多數的輔助駕駛(半自動) 很多有限制啟動的條件 例扶方盤這樣就是要駕駛已以往的態度去駕駛 電控只是輔助只有特斯拉是不管它也能讓車子自己跑
作者: rosemary (迷迭香)   2017-03-05 14:11:00
標題確實不妥 已經扭曲了原文
作者: bitlife (BIT一生)   2017-03-05 14:21:00
fail fast意為儘快發現/報告錯誤
作者: endless0121 (囚鳥不要開招 開招時機?2)   2017-03-05 16:36:00
特斯拉也要扶方向盤好嗎 =_= 不理警告不扶就會不開了
作者: oiolo (浜森守)   2017-03-06 20:56:00
本來就半套自駕啊?
作者: yuinghoooo (KiXeon)   2017-03-07 01:15:00
那機師也是自動駕駛,他們怎麼處理的?然後他不是antiAP啦,自駕會下降事故率已經證實,但是突發狀況反應慢也是這邊指出的重點話說完全不出人命我覺得不可能,感覺只要能顯著降低事故,為了大局可能會放水讓他上路...
作者: bearland (夜鷺食穀)   2017-03-07 02:47:00
科學人也有提到 天空飛行和地面道路駕駛情況大相不同兩者不能相提並論,以下是進一步說明

Links booklink

Contact Us: admin [ a t ] ucptt.com