波音737max客機(jī)墜毀事件給人們啟示，盡管自動(dòng)化系統(tǒng)給人們帶來(lái)便利，但是過(guò)度依賴(lài)系統(tǒng)可能會(huì)產(chǎn)生嚴(yán)重的后果。

最近，我問(wèn)我的同事他們是否曾被自動(dòng)駕駛功能所嚇到，有人和我說(shuō)英菲尼迪Q50混合動(dòng)力車(chē)的自動(dòng)制動(dòng)令人十分不快，因?yàn)楫?dāng)她在緊急轉(zhuǎn)彎前，自動(dòng)制動(dòng)會(huì)讓她的車(chē)突然放慢速度，結(jié)果她就被后方的車(chē)追尾了；另一個(gè)人則非常煩他的現(xiàn)代汽車(chē)的嘟嘟聲，因?yàn)樗x附近的車(chē)道時(shí)它就會(huì)發(fā)出警報(bào)；三分之一的父親常常用他家里的鑰匙扣啟動(dòng)他的豐田凱美瑞，開(kāi)車(chē)去上班，當(dāng)他開(kāi)車(chē)回家時(shí)他發(fā)現(xiàn)無(wú)法啟動(dòng)汽車(chē)。根據(jù)愛(ài)荷華大學(xué)全國(guó)高級(jí)駕駛模擬器主任 Daniel McGehee 的調(diào)查，大約40％的美國(guó)司機(jī)表示ADAS經(jīng)常做出令超出他們預(yù)期的行為。

近四十年來(lái)一直與自動(dòng)駕駛軟件密切合作的飛機(jī)駕駛員對(duì)此類(lèi)事件總結(jié)為8個(gè)字：自動(dòng)化帶來(lái)的意外（autonomous surprises）。

其中一個(gè)特別悲慘的例子大約發(fā)生在10月份，當(dāng)時(shí)獅航公司737 Max在印度尼西亞海岸墜毀，造成189人死亡。墜機(jī)事件仍在調(diào)查之中，但很快就有人猜測(cè)是事故發(fā)生的原因來(lái)自于波音導(dǎo)航軟件MCAS，該軟件設(shè)計(jì)用于將飛機(jī)指向下方。作為該型號(hào)重型前置發(fā)動(dòng)機(jī)的修正裝置，MCAS故障可能導(dǎo)致飛機(jī)急速俯沖。

然后，就在上周日，一架埃塞俄比亞航空公司的737 Max從亞的斯亞貝巴起飛后墜毀，機(jī)上人員全部遇難。再一次，所有的目光都集中在MCAS上。周二，達(dá)拉斯晨報(bào)登載了一系列關(guān)于飛機(jī)自動(dòng)駕駛功能的飛行員投訴。歐盟、中國(guó)和其他公司已將所有737 Max飛機(jī)停飛以應(yīng)對(duì)墜機(jī)事故，波音公司表示將更新該飛機(jī)的飛行控制軟件。

波音公司在2017年推出的所有新型號(hào)737上安裝了MCAS，但是他們認(rèn)為這些變化非常小，無(wú)需重新培訓(xùn)飛行員，甚至不需要對(duì)新軟件提出警告 - 包括新的覆蓋控制，并且該觀點(diǎn)被美國(guó)和歐盟監(jiān)管機(jī)構(gòu)所支持。

墜機(jī)事件提醒人們，即使商業(yè)航班變得高度自動(dòng)化，飛行員仍然需要很大程度上了解飛行飛機(jī)的導(dǎo)航系統(tǒng)，并知道如何以及何時(shí)應(yīng)該覆蓋控制飛機(jī)。737 Max的墜毀可能是對(duì)此的最好證明。一般來(lái)說(shuō)，這種人機(jī)生態(tài)使得航空旅行非常安全：美國(guó)十年來(lái)沒(méi)有一家航空公司消亡。

但美國(guó)宇航局艾姆斯研究中心的飛行員和研究心理學(xué)家史蒂夫卡斯納說(shuō)，自動(dòng)化并沒(méi)有讓飛行員的工作變得更容易：“你認(rèn)為這會(huì)使飛行員變成一個(gè)愚蠢的角色，但事實(shí)上是，你必須比以往任何時(shí)候都更加了解才行。”

卡斯納是許多飛行員和分析師之一，他覺(jué)得30多年前在飛機(jī)上引入自動(dòng)化與今天的自動(dòng)駕駛汽車(chē)非常類(lèi)似，因?yàn)樗緳C(jī)們都準(zhǔn)備把駕駛負(fù)擔(dān)交給自動(dòng)駕駛。

“歷史總是驚人的相似，這一切就像1983年一樣，”卡斯納說(shuō)，在大多數(shù)航空公司將自動(dòng)化成功部署之后，他認(rèn)為汽車(chē)制造商可能會(huì)過(guò)度使用不熟悉的技術(shù)解放人們的雙手，“我非常擔(dān)心即使航空已經(jīng)向我們展示了如何做到這一點(diǎn)，我們也可能在汽車(chē)方面犯很大的錯(cuò)誤，在車(chē)?yán)锏溶?chē)自己到達(dá)目的地可不是我們的強(qiáng)項(xiàng)。”

卡斯納與認(rèn)知心理學(xué)家埃德溫哈欽斯一起撰寫(xiě)了一篇新論文“ 我們需要讓司機(jī)了解什么？制定部分自動(dòng)駕駛汽車(chē)的駕駛員最低培訓(xùn)標(biāo)準(zhǔn)”，他們的一個(gè)主要觀點(diǎn)是，如果沒(méi)有了解系統(tǒng)運(yùn)行方式的飛行員，自動(dòng)化就不會(huì)像現(xiàn)在這樣安全。

“無(wú)論737 Max墜機(jī)事件的調(diào)查出來(lái)的結(jié)果如何，人機(jī)界面都將是一個(gè)重要的因素，”前戰(zhàn)斗機(jī)飛行員兼杜克大學(xué)人類(lèi)和自動(dòng)化實(shí)驗(yàn)室負(fù)責(zé)人米西卡明思說(shuō)。多年來(lái)，她一直擔(dān)心自動(dòng)駕駛汽車(chē)的問(wèn)題，駕駛員不僅會(huì)被自動(dòng)駕駛技術(shù)分散注意力，不了解其能力而忽視其警報(bào)，它也逐漸削弱了他們的駕駛技能，使他們無(wú)法在恰當(dāng)?shù)臅r(shí)機(jī)做出正確的操作。（使用自動(dòng)化的飛行員很大程度上保留了他們的駕駛技能，但他們的決策技能受到了影響。）

“他們讓人們陷入虛假的安全感，這是我們?cè)诤娇疹I(lǐng)域?qū)W到的一個(gè)教訓(xùn)，”卡明思解釋道，“只要是活人一般都可以拿到駕駛證，你可以強(qiáng)制人們接受某種標(biāo)準(zhǔn)化培訓(xùn)，但其實(shí)并不會(huì)不會(huì)這樣做，因?yàn)榇蠹叶己軕小＿@就是我反對(duì)Level 3級(jí)自動(dòng)駕駛的原因，你甚至不能保證所有人都接受被美國(guó)聯(lián)邦航空局的年度檢查，那你怎么能指望機(jī)器永不出問(wèn)題呢？”

這就是在空中和汽車(chē)之間的重大差異，飛行比走路更安全。對(duì)于司機(jī)和行人來(lái)說(shuō)，汽車(chē)出行仍然是非常危險(xiǎn)的，因?yàn)閷?duì)汽車(chē)危險(xiǎn)的界定條件實(shí)在是太低了，比如，在密閉的車(chē)庫(kù)啟動(dòng)汽車(chē)，因?yàn)橐谎趸贾卸舅懒硕畮讉€(gè)人，那不是將車(chē)召回的理由；同樣的，兩名車(chē)主在“自動(dòng)駕駛”功能開(kāi)啟時(shí)撞上一輛卡車(chē)當(dāng)場(chǎng)車(chē)毀人亡也不是召回所有特斯拉的理由。

McGehee表示，2019年的大多數(shù)汽車(chē)型號(hào)中廣泛引入的自動(dòng)駕駛技術(shù)比如緊急制動(dòng)，車(chē)道變換警報(bào)，自適應(yīng)巡航控制等等，可能會(huì)減少車(chē)禍的總體數(shù)量。（聯(lián)邦法規(guī)不要求將關(guān)于高級(jí)駕駛輔助技術(shù)的數(shù)據(jù)包含在碰撞記錄中，因此很難確定它的作用。）這些數(shù)據(jù)可能存在欺騙性，但也許你必須打破這些誤解，才能創(chuàng)造出一個(gè)自動(dòng)駕駛的烏托邦。

大多數(shù)自動(dòng)駕駛汽車(chē)學(xué)者都說(shuō)，如果自動(dòng)駕駛研究的最終結(jié)果是完全不需要人類(lèi)控制（正如谷歌的Waymo所做的那樣），那將非常有利于安全。隨著人類(lèi)適應(yīng)各種技術(shù)，這將是一個(gè)艱難的過(guò)渡時(shí)期。這些自動(dòng)駕駛技術(shù)很少是完美的，有些需要監(jiān)督，有些則需要訓(xùn)練。

“機(jī)器人為人類(lèi)提供了出色的備用驅(qū)動(dòng)力，人類(lèi)為機(jī)器人制造了可怕的備用驅(qū)動(dòng)器，“卡內(nèi)基梅隆的自動(dòng)駕駛專(zhuān)家Costa Samaras說(shuō)。但是，每年有成千上萬(wàn)的人死于酒后駕車(chē)，還有數(shù)千人死于沒(méi)有系安全帶，因此很難看到駕駛員考試將學(xué)習(xí)自動(dòng)化技術(shù)作為首要任務(wù)。

在某種程度上，這也是非常矛盾的，比如，克萊斯勒于1958年推出了“自動(dòng)駕駛儀”，這項(xiàng)技術(shù)很快將作為“無(wú)腳駕駛”廣告給女司機(jī)。今天我們知道它是巡航控制，它的作用是什么呢？只需按一下按鈕，你的車(chē)就可以以70英里/小時(shí)行駛。巡航控制聽(tīng)起來(lái)就像一個(gè)死亡陷阱，實(shí)際上，很難想象如果沒(méi)有了這個(gè)技術(shù)，應(yīng)該如何去開(kāi)長(zhǎng)途高速公路。

但是過(guò)了六十年之后，還會(huì)有人知道這個(gè)技術(shù)嗎？