1
雷鋒網(wǎng)按：在民航領(lǐng)域，自動化的普及大大減少了飛行員的工作量和壓力，同時也讓飛機成了最安全的旅行方式。那么，航空業(yè)在安全上的經(jīng)驗教訓(xùn)能應(yīng)用在自動駕駛汽車上嗎？特別是關(guān)于駕駛員與車輛互動的問題。為此，有人專門找了人為因素專家來尋找問題答案。
當(dāng) Marc Dubois 機長踉踉蹌蹌沖進機艙時，這里已經(jīng)是一片混亂的場景。他的飛機正在劇烈晃動，各種報警器發(fā)出刺耳的鳴叫，連儀表盤都看不清了。與此同時，兩位副駕駛也亂了陣腳，飛機開始直線下墜。
從后來的事故調(diào)查報告可知，Dubois 機長不知所蹤的那一分鐘成了乘客和機組人員永遠的噩夢，這場慘痛的事故也成了新飛行員們的必修課。2009 年 6 月 1 日凌晨，法航 AF447 永遠消失在了一片漆黑的大西洋中。那么，這期間到底發(fā)生了什么？
從打撈起來的黑匣子數(shù)據(jù)來看，飛機起飛四小時后機長離開駕駛艙準(zhǔn)備小憩一會，而此時飛機即將進入雷暴區(qū)域。之后客機的空速管結(jié)冰失靈，導(dǎo)致自動駕駛系統(tǒng)斷開，需要飛行員手動操控。不過，呼叫機長多次的卻遍尋不到的副駕駛最終錯誤的判斷了形勢，他選擇拉升飛機，導(dǎo)致飛機進入了失速狀態(tài)。面對急促的失速警告，副駕駛還以為是飛機儀表顯示錯誤。當(dāng)一分鐘后 Dubois 機長回到駕駛艙，一切都為時已晚。
這場罕見事故的黑鍋到底應(yīng)該誰來負責(zé)？自動化技術(shù)？機組人員？還是兩者都有錯誤？
事實上，當(dāng)年自動化技術(shù)進入航空領(lǐng)域時，兩者曾被認為是天作之合?！吧鲜兰o(jì) 70 年代起，飛機座艙的自動化就在不斷提高?！?杜克大學(xué)的資深研究科學(xué)家 Michael Clamann 博士表示?！爱?dāng)時，自動化的普及是為了減少飛行員的心理負擔(dān)。”
通常來說，如今的飛行員全程只需碰幾次控制桿，其他操作都由飛控電腦完成，飛行員更像是沉默的監(jiān)督員。
自動化的介入讓飛行變得更安全，空客的研究顯示，如今每一百萬次飛行的事故率已經(jīng)趨近于零。雖然航空公司將自動化當(dāng)成過去十年最重要的進步，但對它的無條件信任給飛行員和未來的自動駕駛汽車駕駛員都帶來了挑戰(zhàn)。連續(xù) 15 年的安全飛行讓 A330 飛行員根本不知道如何應(yīng)對危險情況。
事實上，航空業(yè)多年以前就開始研究自動化對飛行員的影響了。這樣一來，汽車行業(yè)研究航空業(yè)的經(jīng)驗就好理解了，畢竟兩者都有著相同的目標(biāo)：通過消除人類失誤來防止事故的發(fā)生。
初看來，在天上飛和在地上跑完全沒有可比性。前者經(jīng)過千錘百煉才能拿到執(zhí)照，整個飛行過程中必須注意到每個細節(jié)，而后者可能在駕校里學(xué)習(xí)兩個月就能上路了。
不過在自動化的問題上，Clamann 認為兩者是在同一軌道上。“這里不是要拿飛行和駕駛做對比，我們真正要探究的自動化對不同人類操作員的相同影響?！?/p>
在足球比賽中，我們也會遭遇類似情況，守門員和己方防守球員會盲目的向球撲去，他們確實都在盡力防守，但有時卻免不了會相互干涉，這種情況出現(xiàn)主要是因為責(zé)任劃分不明。在飛行員和駕駛員與自動駕駛交互時，這樣的情況同樣會出現(xiàn)。人為因素研究專家稱其為模式混淆。
“如果一個人希望系統(tǒng)控制整個事情的走向，他就很難掌握即時情況?！盋lamann 說。特別是在緊急情況發(fā)生時，有缺陷的人機交互（HMI）可能會帶來嚴(yán)重后果。
在 Clamann 看來，這就是造成 AF447 悲劇的主要原因。飛機不但沒有找到速度傳感器里到底出了什么問題，也沒能總結(jié)出到底如何排除故障。而這時，如果它能將情況準(zhǔn)確的傳達給飛行員并指導(dǎo)飛行員進行手動操作，也許悲劇就不會發(fā)生。
半自動操作狀態(tài)下，人類應(yīng)該隨時準(zhǔn)備拿回控制權(quán)，但我們準(zhǔn)備好了嗎？
人類是一種習(xí)慣動物，隨著我們對工作逐漸熟悉，大多數(shù)人會變得自鳴得意。不過，在一些復(fù)雜的任務(wù)，如開飛機時，自鳴得意是一個恐怖的詛咒?！把芯匡@示，在完成復(fù)雜任務(wù)時人只能專心 20 分鐘，隨后就會開小差?！盋lamann 說道?！斑@是人類的本性，飛行員也不例外?！?/p>
隨后，人類需要一段時間來恢復(fù)全神貫注，要拿回車輛控制權(quán)則時間更長，而無論是 3 萬米的高空還是擁堵的城市道路，這個反應(yīng)時間都太長了。舉例來說，去年的特斯拉致命事故中，駕駛員就是太相信那套 Level 2 系統(tǒng)，在緊急情況下根本來不及做出反應(yīng)了。
此外，我們還要記得一點：想保持技能就得勤學(xué)苦練。飛行員要花大量時間在飛行模擬機里就是這個原因，他們不但要學(xué)會應(yīng)對各種新情況，還得保持自己的技能。而在 AF447 的悲劇中，飛行員們就出現(xiàn)了技能退化，沒了計算機輔助他們就不會開飛機了。
更可怕的是，飛行員們天真的認為，有自動駕駛系統(tǒng)在，飛機就不會失速?！白约簞邮肿鍪驴筛谝慌钥粗鴻C器做不一樣。”Clamann 說道?！拔磥砣祟惪赡軙霈F(xiàn)駕駛技能退化問題，尤其是當(dāng)自動駕駛汽車進化到 Level 4 階段（Level 4 依然不夠完美，還是需要人類的輸入）?！?/p>
AF447 飛行員們遇到的問題可以被稱為自動化悖論，從核電站的操作員到游輪的船員都能適用。如果你不相信，可以想想自己還能背出幾個電話號碼？心算的能力在計算器出現(xiàn)后又退化了多少？
自動化系統(tǒng)越出色，人類操作員的技能就越生疏，因此一旦出問題，狀況就會非常極端。
“自動化悖論”可以分為三個層面：
第一，通過具備易于操作的特點以及自動糾錯功能，自動化系統(tǒng)可以容忍人工的無能。正因為如此，一個技能不熟練的操作員可以濫竽充數(shù)很長時間，直至他的無能被暴露出來——這種無能會制造極大的隱患，幾乎可以無限期地存在下去。
第二，即便操作員是專家，由于有了自動化系統(tǒng)，他們的技能得不到練習(xí)，久而久之，這種技能也會變得生疏。
第三，自動化系統(tǒng)失效往往發(fā)生在異常狀況中，或者會造成異常狀況，這需要操作員能夠熟練地應(yīng)對。一種更強大、更可靠的自動化系統(tǒng)只會讓問題變得更糟。
大多數(shù)航空公司的安全機制（訓(xùn)練和體檢）在自動駕駛時代已經(jīng)變得不切實際，因此自動化的影響肯定也會沖擊自動駕駛汽車市場?！癓evel 3 就是個可怕的點子，汽車制造商真應(yīng)該趕緊甩掉它?！盋lamann 說道。在他看來，自動駕駛技術(shù)非常不成熟，借助廣告詞讓駕駛員丟開方向盤愜意的看電影簡直就是謀殺。“不幸的是，半自動駕駛系統(tǒng)就是在這樣腐蝕著人們脆弱的生命?！彼忉尩?。
有解決方案嗎？“恐怕最終我們得靠新的交互界面了，它得能靠直覺主動與駕駛員交流與合作?！敝挥羞@樣，人們才不會輕信自動系統(tǒng)并時刻保持警惕。
有了安全的人機交互，開車發(fā) email 根本不是問題
為了讓駕駛員和系統(tǒng)進行相互了解，供應(yīng)商 Nexteer 董事長 Joe Klesing 建議進行智能交互界面的融合。舉例來說，車載攝像頭可以追蹤駕駛員的疲勞程度，判斷他是否能在緊急時刻反應(yīng)過來。如果需要，車輛還會通過視覺或聽覺警告來喚醒司機。
“研究顯示，聲音警告比視覺的要有效得多。”Clamann 說道。同時，簡單明了的命令（如“踩剎車”）可比長篇大論的說明有用。Klesing 認為，抬頭顯示技術(shù)能幫駕駛員注意到迫近的危險。同時，如果啟動了自動駕駛功能，可以通過方向盤回縮的動作提醒駕駛員。如果駕駛員想那會控制權(quán)，就必須將回縮的方向盤再次拉到面前。
在這里，我們還是要問一個問了幾千遍的問題：給系統(tǒng)加入更多自動化功能真的能讓它變得更安全？Clamann 認為，在添加自動化功能時，系統(tǒng)會發(fā)生改變，同時我們與其互動的方式也會發(fā)生變化。在航空業(yè)，隨著駕駛艙不斷自動化，各種針對飛行員的教育也在加強，目的就是幫他們理解這套系統(tǒng)，提早發(fā)現(xiàn)其有害影響。
那么，汽車行業(yè)也會走上這條道路，保證駕駛員能理解自動駕駛汽車嗎？事實上，各家公司都在拼命奔跑，它們都想第一個推出“安全”的自動或半自動駕駛汽車，而市場部門則通過對各種新功能的宣傳吹起了自動駕駛的大夢。
講到這里，先插播一條廣告，2018 年 1 月 16 日，雷鋒網(wǎng)·新智駕將在美國硅谷舉辦 GAIR 硅谷智能駕駛峰會，屆時也將有多位國內(nèi)外自動駕駛大牛一起探討自動駕駛的發(fā)展與未來。詳情點擊：https://gair.leiphone.com/gair/gairsv2018，歡迎大家關(guān)注。
回到正題，在這場狂飆突進中，我們卻忘了一個關(guān)鍵問題：推出新功能時卻忘了給用戶提供合適的技術(shù)知識，也就是說各家廠商連說明書都懶得提供。
卡內(nèi)基梅隆大學(xué)的自動駕駛技術(shù)專家 Raj Rajkumar 認為，我們距離實現(xiàn)完全自動駕駛，還有 10-20 年時間。在此之前，預(yù)計會是一種更為漸進的過程：在較為簡單的環(huán)境中，讓汽車自動駕駛，而人類則在情況變得復(fù)雜時接管控制權(quán)。
“隨著時間的推移，能實現(xiàn)自動駕駛的場景將會不斷增多。直到有一天，汽車將能完全自主行駛，但這最后一步將是很小的變化，人們可能都不會注意到?！盧ajkumar 解釋，而且即便到了那個時候，“還是會有一些事情會超出任何人的控制?！?/p>
如果這聽起來很可怕，也許是因為它本該如此。乍一看，汽車在情況變得復(fù)雜時，會向人類交還控制權(quán)，這聽起來很合理。但這引出了兩個直接的問題。
如果我們希望汽車知道在什么時候移交控制權(quán)，其實就是要求系統(tǒng)能夠知道自己的能力范圍——了解自己在什么狀態(tài)下能行，以及什么狀態(tài)下不行。這是非常困難的事情，甚至對人類來說都不簡單，更不用說一臺計算機了。
另外，如果我們希望人類接管控制權(quán)，那么人類如何知道做出適當(dāng)?shù)姆磻?yīng)呢？我們已經(jīng)知道，當(dāng)飛機的飛行控制系統(tǒng)斷開時，訓(xùn)練有素的飛行員會很難弄清楚究竟發(fā)生了何種異常狀況。因此，對于人類在計算機即將犯錯時及早察覺的能力，我們也理應(yīng)保持懷疑態(tài)度。
雷鋒網(wǎng)推薦閱讀：
如何優(yōu)化自動駕駛的設(shè)計思路？福特總裁談優(yōu)化理念：以服務(wù)用戶為核心
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
