首例自动驾驶致死背后:Uber无人车危局

《财经》杂志   文/本刊特派记者 刘泓君 发自硅谷 记者 王斌斌 刘甦 编辑/施智梁     

2018年7期 2018年04月02日出版  

Uber系统失灵成为千夫所指的矛头,这与它长久以来的激进理念有关,随致死案而来的,还有法律与监管争议、公众抵触、未来走向等一系列行业问题

“避免闯红灯与撞行人,原本是无人车最值得骄傲的地方,因为机器反应比人快,但Uber把这两件事都干了。”一位网友评价称。Uber无人驾驶车撞人视频公布以后,它的真实技术水平立刻成为技术圈的舆论焦点。

美国东部时间3月18日晚10点,49岁的Elaine Herzberg在推着她的自行车横穿马路时,被Uber正在测试的无人驾驶车撞伤,不治身亡。

与此前特斯拉自动驾驶模式失灵不同,这次事故中Uber的测试车处于完全无人驾驶模式,被认为是世界上首起汽车机器人致死事故。

由于受害者并未行走人行横道,亚利桑那警局局长Sylvia Moir在公开报告中表示,责任可能不在Uber而是行人。随着调查视频的公开,Uber在事故发生前毫无刹车迹象,技术专家几乎一致认为,这是Uber自动驾驶技术失灵所致。

受此事故影响,Uber全面停止了在美国与加拿大的自动驾驶车辆测试,此前,它在亚利桑那、匹兹堡、多伦多与其他地区均有测试基地。

由于担忧对安全驾驶员的心理影响,丰田汽车(TYO:7203/NYSE:TM)在事故后宣布暂停美国的无人驾驶测试。英伟达创始人黄仁勋称事故原因还不明朗,无法保证驾驶员安全,暂停英伟达无人驾驶道路测试。

“安全第三”,一位Otto员工曾将写有这种字样的一张橙色贴纸贴在旧金山总部里,这家公司后来被Uber收购,创始人安东尼·莱万多夫斯基(Anthony Levandowski)成为Uber无人驾驶的领导者。这句Uber内部自嘲式的玩笑,流露出对安全不以为然的态度。

自2017年以来,无人驾驶公司开始重金增加测试车辆,但伴随撞人案引发的法律与监管争议、公众抵触等一系列问题,Uber无人驾驶系统失灵成为千夫所指的矛头。

从问责行人到开始质疑和追责自动驾驶技术,这次交通事故正在激发整个行业对无人驾驶汽车是否过早推入市场的争议复苏。

 

疑点重重,自动驾驶界集体质疑

Uber像一个新参与者,经过多年发展还没有确保基础的车辆安全

 

警方报告显示,在行人出现之后,自动驾驶汽车毫无减速反应;测试驾驶员(未进行人工干预)称受害人突然出现在前方,收到的第一个交通事故警报是碰撞的声音。无人车在事故之前毫无刹车迹象是这起事故最大的技术迷点。

Uber肇事车辆的行车日志尚未公开,警方公布的事故视频成为该公司自动驾驶技术被质疑的关键依据。目前看来,感知、决策和控制等环节都可能存在问题。

对感知层面的质疑声音是最集中的。Navigant自动驾驶资深研究员Sam Abuelsamid告诉《财经》记者,如果自动驾驶的传感器没有失灵,雷达与激光雷达可以在黑暗中提前50米-100米识别到行人,汽车以38英里的时速前进时,完全有可能在行人前方的25米-30米之内停稳。

Brad Templeton是谷歌团队设计无人驾驶汽车的顾问之一,他听到一种未经证实的说法是Uber的内部人士透露当时该车辆关闭了激光雷达,以测试只使用摄像头和雷达的运行情况。

这样的操作在自动驾驶技术的测试中并不罕见。即使关闭了激光雷达,Abuelsamid认为,至少还有一种或者两种传感器,可以轻松识别横穿马路的行人。他获取的一份更高质量的视频显示,在车祸同样的位置,当天的视线情况远好于Uber提供的视频,仅仅靠摄像头就可以识别到行人。“警方最早的描述是错误的,他们是基于一个质量很烂的视频,受害者Herzberg女士只在视频中出现了1.5秒。”Sam告诉《财经》记者,如果三个传感器同时失灵,这似乎预示着Uber这套系统没有在公共道路上测试过。

能否夜间识别行人,除了取决于使用什么样的传感器,还得依靠算法。

“合适的传感器和好的算法,在夜晚的环境中也可以检测到穿过马路的行人。”百度硅谷资深软件工程师Calvin Miao对《财经》记者说。

除了传感器问题,第二个可能性就是Uber的感知与预测算法不足够好。如果软件不知道如何解释数据,即使传感器检测到行人,激光雷达和摄像头获取的有效信息就可能被认为是噪声而过滤掉,导致测试系统“看不到”行人,这些数据也失去了意义。

如果传感器以及融合都正常,第三种可能性是决策算法检测到行人后,车辆并不知道应该做什么。

最后一种可能是控制层的通路中断或者底层控制器故障。驭势科技联合创始人兼CEO吴甘沙告诉《财经》记者,“即使感知发现了,决策算法也下达了转向或刹车的指令,但进程崩溃了,底层逻辑出问题,车辆还是无法避让。”

高级驾驶辅助公司Mobileye的模拟系统中显示,使用警方公布的并不清晰的视频测试,在行人出现的第一帧就已经检测到人与自行车。也就是说,如果视频质量高或者肉眼可见比视频清晰,还会进一步提早检测到行人。

即使夜间疲劳时间段,也能比人眼更快探测到行人,这原本是无人驾驶技术的优势,却酿下一场血案。Mobileye首席执行官AmnonShashua批评Uber的表现像一个新参与者,经过多年发展还没有确保基础的车辆安全。

 

人祸?第二道安全闸的崩塌

在和谷歌的比拼中,Uber是只争朝夕

 

自动驾驶技术的安全性应该从两个角度来看,一个是技术本身的安全性,另一个是安全管理的有效性。在技术不成熟的情况下,需要测试驾驶员来保证安全。

安全驾驶员的失责也被视为Uber发生事故的重要原因。

美国对于驾驶员的规定相对宽松,而根据北京与上海公布的自动驾驶路测办法,测试驾驶员需具备三年以上安全驾驶经历,无酒驾、毒驾等违法行为,有50小时以上的自动驾驶系统操作经验,其中40小时以上是相应申请测试项目。在自动驾驶系统运行时,测试驾驶员应实时监督系统运行,并在系统出现故障或发出警告提醒时立即接管并操控车辆。如无法接管,应立即启动紧急制动功能。

在企业层面,在和安全驾驶员签订合同时,公司都会明确要求其在工作时需保持一个良好的状态,比如全神贯注地观察道路状况,随时准备接管。

大多数无人驾驶测试车会有两名工作人员,一名安全驾驶员负责观察路面状况并在紧急情况下接管控制车辆,而副驾驶座上会坐一名工程师,从更底层的数据层面观察车辆的运行状态。

案发时Uber的测试车里只坐了一名驾驶员,这并非业内进行测试的通行做法。只有在某套自动驾驶功能已经相当完备的情况下进行测试,会允许副驾驶不坐测试员。但致死这一结果也说明Uber的系统可能还没成熟到单驾驶员上路的水准。

而在警方公布的视频中,司机也并未全心关注路面,事发前几秒正在低头,疑似看手机。这名司机曾经两次犯重罪,在2001年抢劫被判入狱五年。根据网约车条例,Uber不得聘用重刑犯做司机,公司曾因此被巨额罚款。当然,重刑犯与这次事故无必然联系,但这名安全员并未在这起事故中起到任何作用。

研究了十多年车祸事故分析的司法鉴定高级工程师Zachary Moore认为:正常的人类司机,可以在干燥路面上看到行人,并在行人前方2.5米处完全停下。但无人驾驶系统更容易让人分神,司机反应速度可能并没有普通驾驶员快。

另一个让业内人士普遍感到困惑的点是,Uber晚上10点还在进行测试。一位国内领先的无人驾驶企业高管告诉《财经》记者,虽然美国对于测试时间没有限制,但他们公司如果要测试夜间场景,最迟到晚上8点。在时间问题上,还需要查证这个安全员在测试车上待了多久。“在车上一般不用动手开,司机如果一直坐着工作到晚上10点,就是疲劳测试,极有可能出现注意力的分散。”这位企业高管曾听闻,在和谷歌的比拼中,Uber是只争朝夕。

一波三折,激进的Uber与事故概率

安全第一、平稳推进,还是发展技术为先?

 

“近期发生的自动驾驶汽车致死事件提醒我们,无论汽车技术如何发展,安全是任何时候都不能忽视的问题。”3月28日,吉利控股集团董事长李书福在2018年智能汽车国际研讨会上说。

在发展自动驾驶技术方面,传统车企们显然更重视安全可靠性,换种说法,是更为保守。在10亿美元收购创业公司Cruise Automation研发完全自动驾驶技术的同时,通用汽车(NYSE:GM)自己的研发团队推出了L2级别的无人驾驶辅助技术Super Cruise,将其使用场景限定在经过测绘的设有明确上/下匝道的高速公路上,并且通过驾驶员注意力保持系统来监测司机的行为,要求司机保持专注,并能提醒司机接管车辆。

被业界公认为自动驾驶技术落后的丰田汽车以事故可能对安全驾驶员的心理产生负面影响为由,暂停了在美的测试。但过去同样落后的Uber则是更激进的冒险者。

2016年10月,Uber在匹兹堡测试时逆行进入单行道;同年冬天,Uber开始在总部旧金山测试,但没有向加州交管局申请路测牌照;测试的第一天,一辆测试车就闯了红灯,这段视频在网上风靡一时;此后,Uber的测试被加州政府禁止。今年2月,Uber在匹兹堡发生交通事故;3月,转战亚利桑那州后,又与当地人类驾驶汽车发生撞击,所幸没有人员伤亡。直到这次撞人致死,开始引起舆论的关注。

美国车辆管理局的资料显示,Waymo在加州无人车的接管次数为每5600英里安全员接管一次,Uber在加州测试时间较短,尚未公开接管次数。根据《纽约时报》最近获取的一份内部资料以及两名熟悉业务人士佐证,Uber正在亚利桑那州挣扎着达到每13英里接管一次。整整一年以前,科技媒体Recode曾经爆料,Uber无人驾驶每隔0.8英里就要接管一次,这几乎是无人车刚刚起步的水平。

在特斯拉交通事故发生后,莱万曾在公司内部说:“第一起自动驾驶撞人不是我们引发的,我很恼火。”一语成谶。这位Uber曾经无人驾驶的领导者以激进与蔑视规则出名,他曾多次要求团队大范围投入车辆,找到捷径,并在不申请测试牌照的情况下强行上路。

Uber的核心业务网约车刚刚起步时,曾经依靠类似的激进策略迅速扩张,层层突破监管时,成就了今天的Uber。急于求成,忽视安全,这些“毒文化”成为Uber在自动驾驶业务一波三折的深层原因。

2016年8月,Uber以6.8亿美元的价格收购莱万创建的公司Otto,这是Uber无人驾驶起步的标志性事件。两个月以后,Uber的无人驾驶车就开始路测了。莱万此前是谷歌无人驾驶的工程师,他所创建的新公司被Waymo认为在自动驾驶方面涉嫌侵权。

2017年2月Waymo起诉,在自动驾驶发展的黄金时期,Uber开始了长达一年的官司。之后,Uber无人驾驶节节败退——去年5月,灵魂人物莱万因起诉被迫离开,一时间自动驾驶部门出现大量离职;性骚扰、移民禁令、董事会内斗,大力支持自动驾驶的创始人卡兰尼克也被迫离开公司。

今年2月,Uber与Waymo之间的官司刚刚和解,这让停滞一年的Uber无人驾驶技术得到了一次喘息机会,然而,3月就发生了这起交通事故并引起舆论大风波。

 

谁该为无人驾驶事故负责

事故早已先于规则出现,各国的立法应该加速推进

 

“Uber在研发过程中做过事发时这样的场景模拟吗?在结构化道路上做过这样的场景试验吗?”在上汽集团北美公司总经理黄文华看来,在封闭场地内进行规范试验是极其重要的,应该从模拟,到封闭,再到半封闭,最后进入公共开放道路,循序渐进。

问题是,如何避免公司在技术领先与商业利益面前,以生命安危为代价跨越式前进?当一个新行业产生时,必然伴随着各种不规范现象。而当这种伤害可能扩大时,引导性的监管就显得尤为重要。

美国西南部的亚利桑那州,气候干燥少雨,阳光明媚,被看作是最适合自动驾驶测试之处,几乎成为各大无人驾驶公司的乐园。

在美国,几乎没有州对自动驾驶行业有严格的监管策略,只有加州需要特别的许可证和提交年度测试报告。达到何种标准可以进行无人测试,加州在政策上也含糊不清,这意味着这项报告在事故预防上没多大意义。

Abuelsamid认为,必须为传感系统制定基本的性能要求。当车辆在公共道路测试之前,传感器可以在阳光、暮光以及夜间可靠检测到行人、骑车人和其他车辆,测试程序的具体细节应由SAE International等标准组织制定。

联邦政府制定安全标准,但现实状况是美国各州各自负责车辆与驾驶员的注册信息。目前加州驾驶员获取驾照要求视力检查,确保司机可以看到路面标志;Abuelsamid称,无人车在上路之前,也应进行“虚拟视力检查”,如果车不能看到行人,或者看到不知道如何处理,这些车就不应该出现在路测中。

在国内,京沪两地的路测法规要求企业在封闭场地内“考驾照”,通过第三方机构和专家评估后才能拿牌上路,一定程度避免太不成熟的系统在公开道路上测试。

事故责任的界定也会影响无人驾驶的发展进程。美国法律采用判例法。根据美国法律,如果行人横穿马路且不在人行横道处,事故责任主要由行人负责。但如果受害者家庭起诉Uber无人驾驶技术不完善,则有可能影响Uber在当地的测试以及未来的法律法规。

目前中国的相关法律法规也仍处于酝酿阶段。

事故已先于规则出现,各国的立法应该加速推进,上海交通大学凯原法学院教授郑戈对《财经》记者表示,立法可以起到稳定人心的作用。虽然法律不能消除事故,但可以让人们觉得有安全保障。

公众尤其是法律界人士对责任如何划分疑虑重重。L0-L2阶段被认为是辅助驾驶,驾驶员是主导者,而L4和L5是以机器为主导的无人驾驶阶段,责任相对明晰。而L3阶段是一个尴尬的过渡阶段,司机和机器都需要参与其中,难分责任。在测试时,安全员受雇于企业,可以看成是一体的,等到消费者开始使用,一旦发生事故,更难以分清权责。在L3阶段,车企和消费者之间签订免责协议是大概率事件,而且肯定不会隐藏在产品或服务说明书中,会非常明显地告知,甚至需要消费者签字。

但生活中大多数人是风险规避者,一家产品已开始落地的自动驾驶企业创始人表达了他的担心,“如果签免责协议,消费者可能就会对安全产生疑虑,不敢买了。”

 

行业反思,谨慎前行

Uber给行业浇下一盆冷水,但无人驾驶前景仍被看好

 

在首例无人车致死案之后,更让行业紧张的是公众对无人车技术抵触情绪的复苏。一名Uber司机告诉《财经》记者,她曾经接到Uber的无人车测试邀请,而她对无人驾驶车感到恐惧。

皮尤研究中心调查显示,如果有选择权的话,一半美国人不愿意乘坐无人驾驶汽车,并对它表示担忧。这种情绪有所蔓延。“录像令人不安和担忧,3·18事故毫无疑问是一次安全上的大失败。”亚利桑那州州长Doug Ducey公开表态。他曾经在Uber被加州政府赶走时热情迎接,意欲把无人驾驶打造成亚利桑那州经济增长主要驱动力,事故发生一周后才向Uber发去暂停测试的行政令。

不过民众的担忧并未因Uber事件转化为恐慌,投资人也依然看好自动驾驶产业。华创资本合伙人熊伟铭对《财经》记者表示,最近大家都比较敏感,但“这一波负面情绪不会持续太久,大的资金还在继续进入这个行业”。

“希望尽管可能从这次事故中吸取教训,观察是否需要改变自己的测试汽车。”黄仁勋在GTC会后采访中强调。尽管事故原因还没有查明,但是他坚持自动驾驶是未来,并认为2020年之前,所有上路的电动车都会有一定的自动驾驶功能。

英伟达正在与包括Uber在内的370家自动驾驶公司合作,新发布了Drive Constellation平台。现场,一位工程师展示了如何在虚拟现实环境中测试自动驾驶汽车,使得测试员在训练软件时不必再冒生命危险。

从各大自动驾驶公司公开路测、试水商业化以来,行业正在集体给公众灌输一种观念:无人车不会有酒驾、情绪、分神等问题,比人类驾驶员更安全。

“无论自动驾驶技术多么的先进,总是会有一些物理客观因素存在,可能使得一些事故无法避免。”戴姆勒股份公司(PINK:DDAIF)董事会主席、梅赛德斯-奔驰汽车集团全球总裁蔡澈(Dieter Zetsche)在接受《财经》等媒体采访时表示,这个事故不会改变他们继续研发自动驾驶的初衷——负责任地交给客户一个成熟的自动驾驶系统。

百度公司(NASDAQ:BIDU)董事长兼CEO李彦宏在今年的中国高层发展论坛上也公开表示,自动驾驶会是更加安全的出行方式,完全自动驾驶的车辆3年-5年内就会真正进入开放道路运行的状态。

多位接受《财经》记者采访的业内专家表示,要做完全自动化的无人驾驶,得有完整全面的冗余备份,如Waymo和通用进行了真正的场景化设计。“我们做自动驾驶一定要有敬畏之心,一定要坚持冗余的多传感器融合方案。以目前的计算机视觉技术,任何狂吹自己深度学习多么牛逼,只用摄像头就可以低成本做自动驾驶的,都是‘耍流氓’。讨好车厂前,先摸摸自己的良心。”景驰CEO韩旭在微信朋友圈说。

因此,很多从业者认为封闭环境的无人车是可以最早落地的应用场景,通过增加环境的可控性和可预测性,减少昂贵传感器的配置和冗余。“在封闭环境的低速自动驾驶是需要最早实现的,以车的速度撞到人,不至于致死。”上汽硅谷投资前负责人齐蕾说。

吴甘沙表示,这次Uber的致死案对行业的影响更多是敲响警钟,让企业在设计、研发和测试产品时更加小心谨慎,安全第一,毕竟“出一起事故,对一家公司的声誉就是致命的”。

更多相关评论