首页 > 科技快讯 > Uber无人车曝出致命漏洞：系统根本无法识别行人过马路

Uber无人车曝出致命漏洞：系统根本无法识别行人过马路

晰数塔互联网快讯
2019-11-07 17:27

编者按：本文来自微信公众号“AI前线”（ID：ai-front），作者陈思，36氪经授权发布。

AI 前线导读：2018 年，Uber 自动驾驶汽车发生了全球首例致死车祸，一名女子在过马路的途中被撞身亡。此事随即引发了全球对无人车的关注，尤其是安全问题，Uber 也因此不得不停滞其全球无人车测试工作。一年多以后，随着更多细节的公开，Uber 无人车致死案的起因也变得更加复杂。

先来简单回顾一下案情。

2018 年 3 月 18 日晚上 10 点，美国亚利桑那州坦佩市一名女子被 Uber 自动驾驶汽车撞伤，之后不幸身亡。

当地警察部门报告称，事发时，尽管有一名司机（安全员）坐在方向盘后面，但是，这辆车当时正处于自动驾驶模式，行驶车速为每小时 38 英里，而该地区限速为每小时 35 英里，而且没有尝试刹车。该车当时正朝北行驶，一名女子正在从距人行横道 100 码（约 91 米）的地方从西往东走。

亚利桑那州坦佩警察局局长 Sylvia Moir 表示：初步调查显示，在致一名行人死亡的交通事故中，Uber 可能不存在过错。他表示，Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通事故过错在受害者本人——今年 49 岁的 Elaine Herzberg，而非 Uber。“根据受害人横穿马路的方式，无论是有人还是自动驾驶模式，要避免这起交通事故是极其困难的。”

然而，根据美国国家安全运输委员会（NTSB）周二发布的官方档案，事情似乎并非如当时的调查所发现的那样。

Uber 无人车曝出“大漏洞”：无法正确识别过马路的行人

美国国家安全运输委员会周二发布了有关对 Uber 无人车事故进行了 20 个月调查的文件。小组将在两周内发布有关该事件的最终报告。

这份长达 40 页的文件深入探讨了案件的各种细节。

文件表明：最明显的错误与软件有关。Uber 根本没有训练无人车在人行横道之外识别行人。

此外，Uber 选择关闭测试车辆内置的紧急制动系统，而测试车辆制造商沃尔沃后来得出结论：制动系统原本能大幅降低无人车撞上受害者的速度。

注：对此有专家表示，从技术上来说，在 Uber 的软件工作时关闭沃尔沃内置系统的决定是有意义的，因为对于汽车来说，拥有两个软件“主人”是不安全的。

这很大程度上解释了为什么尽管汽车检测到受害者，且有足够的时间来停车，却还是以每小时 38 英里的速度撞了上去。

另外调查显示：当汽车在撞击前 5.6 秒首次检测到受害者的存在时，竟然将其识别为车辆，随后又归类为“其他”，最后，无人车将她识别成了“自行车”。

Uber无人车曝出致命漏洞：系统根本无法识别行人过马路

NTSB 的报告显示：车辆每次尝试进行新的物体识别时，都会重新开始预测该物体的前进方向。所以直到撞击发生 1.2 秒钟后，系统才意识到车辆即将撞到行人，并且需要紧急刹车。这触发了 Uber 的紧急控制机制：系统在确认“已检测到危险”的同时会制动一秒钟，在此期间，安全操作员（Uber 最重要的也是最后一道防线）可以控制汽车并进行刹车。

但遗憾的是，事故发生时安全员并没有在看路。因此，在撞击发生前 0.2 秒，汽车发出了声音警报，安全员才抓住方向盘，接管了自动驾驶系统。可是为时已晚，致命的撞击还是发生了。

Uber 发言人在一份声明中表示：“对 2018 年事故感到遗憾”，并强调公司已对其安全计划进行了更改。根据 Uber 作为调查一部分提交给 NTSB 的文件，20 个月以来。Uber 已经改变了其安全驾驶员培训，现在每辆车安排两名安全操作员。该公司还改变了其安全团队的结构，并创建了一个系统，工作人员可以匿名报告安全问题。

NTSB 将于 11 月 19 日在华盛顿特区举行一次有关此事件的会议，届时调查人员将发布有关事故的全面报告，详细说明发生了什么以及哪一方需要承担什么责任。研究人员还将向联邦监管机构和 Uber 等公司提供建议，以便更好地构建防止此类事故的技术。

多家企业自动驾驶系统存在高危漏洞

近日伊利诺伊大学工程学院的一份报告也揭露了一些无人车系统存在的安全隐患，涉及百度、英伟达等多家企业的自动驾驶系统。

该小组分析了 2014 年至 2017 年提交的所有安全报告，其中涵盖 144 辆无人驾驶汽车，累计行驶里程达 111.6605 万英里。他们发现：在行驶里程相同的情况下，人类驾驶汽车发生事故的机率只相当于无人驾驶汽车的四千分之一。这意味着无人驾驶技术无法以理想的速度处理紧急状况，人类驾驶员往往需要快速接手才能阻止事故的发生。

而在提高安全水平的努力中，研究人员与相关企业发现，他们很难在无人驾驶系统遭遇特定问题之前，通过预先训练的方式让软件学会如何解决这些问题。

此外，软件与硬件堆栈中的某些错误只会在特定驾驶场景下引发安全问题。换句话说，单纯在高速公路或者空旷 / 拥护的街区进行无人驾驶测试可能还不够，因为这些软件 / 硬件故障仍有可能在其他条件下引发问题。

在对一种已经公开的视音频技术（来自百度 Apollo项目）进行测试时，该团队发现了超过 500 种实例，证明该软件在这些情况下可能无法解决问题进而导致事故发生。

全自动驾驶何时能实现？

英伟达公司架构研究副总裁 Steve Keckler 曾表示：“无人驾驶汽车的安全性，决定着其能否在市场乃至整个社会当中取得成功。”

正是因为这些短时间内难以逾越的安全漏洞，才让全自动驾驶的实现时间一拖再拖。就连苹果公司联合创始人 Steve Wozniak 都发出感叹：不得不暂时放弃 L5 级自动驾驶。

但是仍然有一些消息令行业振奋。不少科技公司都加入到“造车大军”中来，国内外不少测试地区已经开始上线 Robotaxi 自动驾驶出租车服务；老牌汽车制造商也纷纷投入精力去做自动驾驶，大众汽车就在前不久宣布成立自动驾驶子公司，目前尚不知道这样的转变能给自动驾驶行业带来什么新动力，但是各方积极的态度还是能让人看到一些好的发展势头。

不过，热情当头也请不要忘了一年前的这一场教训。无人车不是玩具小车，乘客也好、行人也好，都是鲜活的生命，容不得半点马虎，只有解决了安全问题，才能让更多人相信无人车、选择无人车，在路况尤为复杂的中国，自动驾驶行业的“老司机”们还是要多下一些功夫才是。