Uber无人车曝出致命漏洞:系统根本无法识别行人过马路
Uber无人车曝出致命漏洞:系统根本无法识别行人过马路
作者: 陈思 来源: 沸闻立知 发布时间: 2019-11-08

 编者按:本文来自微信公众号“AI前线”(ID:ai-front),作者 陈思,36氪经授权发布。

AI 前线导读:2018 年,Uber 自动驾驶汽车发生了全球首例致死车祸,一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注,尤其是安全问题,Uber 也因此不得不停滞其全球无人车测试工作。一年多以后,随着更多细节的公开,Uber 无人车致死案的起因也变得更加复杂。

先来简单回顾一下案情。

2018 年 3 月 18 日晚上 10 点,美国亚利桑那州 坦佩市一名女子被 Uber 自动驾驶汽车撞伤,之后不幸身亡。

当地警察部门报告称,事发时,尽管有一名司机(安全员)坐在方向盘后面,但是,这辆车当时正处于自动驾驶模式,行驶车速为每小时 38 英里,而该地区限速为每小时 35 英里,而且没有尝试刹车。该车当时正朝北行驶,一名女子正在从距人行横道 100 码(约 91 米)的地方从西往东走。

亚利桑那州坦佩警察局局长 Sylvia Moir 表示:初步调查显示,在致一名行人死亡的交通事故中,Uber 可能不存在过错。他表示,Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的 Elaine Herzberg,而非 Uber。“根据受害人横穿马路的方式,无论是有人还是自动驾驶模式,要避免这起交通事故是极其困难的。”

然而,根据美国国家安全运输委员会(NTSB)周二发布的 官方档案,事情似乎并非如当时的调查所发现的那样。

Uber 无人车曝出“大漏洞”:无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。

这份长达 40 页的文件深入探讨了案件的各种细节。

文件表明:最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人。

此外,Uber 选择关闭测试车辆内置的紧急制动系统,而测试车辆制造商沃尔沃后来得出结论:制动系统原本能大幅降低无人车撞上受害者的速度。

注:对此有专家表示,从技术上来说,在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的,因为对于汽车来说,拥有两个软件“主人”是不安全的。

这很大程度上解释了为什么尽管汽车检测到受害者,且有足够的时间来停车,却还是以每小时 38 英里的速度撞了上去。

另外调查显示:当汽车在撞击前 5.6 秒首次检测到受害者的存在时,竟然将其 识别为车辆,随后又归类为“其他”,最后,无人车将她识别成了“自行车”。

NTSB 的报告显示:车辆每次尝试进行新的物体识别时,都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后,系统才意识到车辆即将撞到行人,并且需要紧急刹车。这触发了 Uber 的紧急控制机制:系统在确认“已检测到危险”的同时会制动一秒钟,在此期间,安全操作员(Uber 最重要的也是最后一道防线)可以控制汽车并进行刹车。

但遗憾的是,事故发生时安全员并没有在看路。因此,在撞击发生前 0.2 秒,汽车发出了声音警报,安全员才抓住方向盘,接管了自动驾驶系统。可是为时已晚,致命的撞击还是发生了。

Uber 发言人在一份声明中表示:“对 2018 年事故感到遗憾”,并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件,20 个月以来。Uber 已经改变了其安全驾驶员培训,现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构,并创建了一个系统,工作人员可以匿名报告安全问题。

NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议,届时调查人员将发布有关事故的全面报告,详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议,以便更好地构建防止此类事故的技术。

多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的 一份报告 也揭露了一些无人车系统存在的安全隐患,涉及百度、英伟达等多家企业的自动驾驶系统。

该小组分析了 2014 年至 2017 年提交的所有安全报告,其中涵盖 144 辆无人驾驶汽车,累计行驶里程达 111.6605 万英里。他们发现:在行驶里程相同的情况下,人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况,人类驾驶员往往需要快速接手才能阻止事故的发生。

而在提高安全水平的努力中,研究人员与相关企业发现,他们很难在无人驾驶系统遭遇特定问题之前,通过预先训练的方式让软件学会如何解决这些问题。

此外,软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说,单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够,因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。

在对一种已经公开的视音频技术(来自 百度 Apollo项目)进行测试时,该团队发现了超过 500 种实例,证明该软件在这些情况下 可能无法解决问题进而导致事故发生。

全自动驾驶何时能实现?

英伟达公司架构研究副总裁 Steve Keckler 曾表示:“无人驾驶汽车的安全性,决定着其能否在市场乃至整个社会当中取得成功。”

正是因为这些短时间内难以逾越的安全漏洞,才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人Steve Wozniak都发出感叹:不得不暂时放弃 L5 级自动驾驶。

但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来,国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务;老牌汽车制造商也纷纷投入精力去做自动驾驶,大众汽车就在前不久宣布成立 自动驾驶子公司,目前尚不知道这样的转变能给自动驾驶行业带来什么新动力,但是各方积极的态度还是能让人看到一些好的发展势头。

不过,热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车,乘客也好、行人也好,都是鲜活的生命,容不得半点马虎,只有解决了安全问题,才能让更多人相信无人车、选择无人车,在路况尤为复杂的中国,自动驾驶行业的“老司机”们还是要多下一些功夫才是。

Copyright©2002-2019  中国通信标准化协会版权所有  联系我们 | 意见反馈
网站备案:京ICP备05002969号-1 网站维护:通信标准化推进中心 (010)82054513, webmaster