无辜者Elaine Herzberg 之死
要说过去十年来自动驾驶世界最重要的时刻，恐怕不得不提一年前那个夜晚。
当晚 10 点左右，Elaine Herzberg 悠闲的推着自行车过马路，但令她意想不到的是，一辆沃尔沃 XC90 径直冲过来结束了她的生命，而这辆车可是“武装到牙齿”的 Uber 自动驾驶测试车。
Herzberg 的死就像在陷入白热化的自动驾驶竞赛头上结结实实的泼了一盆冷水，对于一项要改变世界并拯救生命的技术来说简直是莫大的讽刺。
虽然这一灰暗时刻不会阻挡世界继续向自动驾驶未来进发，但它确实给了我们一个重要机会，让我们能停下来等等失落的灵魂，想想这起悲剧为何会发生，我们又能从中学到什么以防止悲剧重演？
第一课：这不是一场竞赛
与其他致命的技术灾难类似，Elaine Herzberg 的死也是一系列错误的多米诺骨牌相继倒下导致的：
首先，Uber 的软件出了问题，而这个问题还碰上了在车上不停看手机的安全驾驶员。
其次，测试车速度太快，Uber 的监管也不够。
最后，发生事故的道路基础设施太差（当然还有其他各种因素）。
归根结底，这场悲剧的罪魁祸首还是所谓赢家通吃的自动驾驶“竞赛”，大家都杀红了眼，不顾后果。
这个所谓的自动驾驶竞赛几乎成了大家眼中的“超级圣杯”：
一方面，创业公司打着它的大旗从风投那里融资。
另一方面，风投则用它来证明自己独具慧眼。
媒体更是将这场竞赛当成了一个好的故事架构，其中的悲欢离合都是赚人眼球的超级流量。
自动驾驶竞赛确实是个诱人的宏大叙事，它让你感觉自己正在见证历史，甚至普通人都能判断到底哪家巨头能笑到最后，即使他们根本理解不了这项技术的复杂性。
与历史上许多漏洞百出的探索一样，自动驾驶竞赛创造的宏大语境不但拉低了研发难度，同时也掩盖了一个最基本问题：那就是“如果这是一场竞赛，它的终点线到底在哪？”
说实话，自动驾驶竞赛这个说法其实成了 Herzberg 悲剧的导火索。因为在这个宏大的语境下，每个人都在追逐终点，大家不计成本、忽视监督、超常加班，甚至为了尽早上路测试掩盖一些“小毛病”。
Herzberg 的悲剧惊醒了一部分疯狂冲刺的人，但自动驾驶行业依然有许多人继续玩着“速度与激情”，为的是拿到更多融资或者在这个拥挤的行业显得鹤立鸡群。
如果开发者、监管者、政府和媒体还是无法理解这场疯狂竞赛到底要付出多大成本，恐怕 Herzberg 的悲剧未来还会重演。
第二课：公司文化建设不能停
Herzberg 的悲剧发生前不久，自动驾驶行业的一场风暴才刚刚平息，而 Uber 当时就处在风暴核心。这场风暴其实你也能猜到，那就是 2018 年 2 月初以和解告终的 Waymo 大战 Uber。两家公司因为激光雷达技术对簿公堂，Waymo 最终打得 Uber 自动驾驶部门元气大伤。而在此之前 Uber 内部还经历了一次大动乱，甚至 Uber 创始人 Kalanick 被“罢黜”。
在法庭上，Waymo 律师 Charles Veerhoven 就指出，在 Kalanick 统治下，“赢才是一切，即使会违法法律”，这是 Uber 的信条。这种方式已经深深烙印在了 Uber 的公司文化中。
事实上，Uber 测试车在旧金山上路初期，曾 6 次被抓到闯红灯，但即使这样 Uber 也要强行上马亚利桑那项目。即使 Kalanick 被离职后，Uber 的工程师还是大胆的“摘掉了”车辆的紧急刹车系统，而他们这样做就是为了让新任 CEO Dara Khosrowshahi 有个更为流畅的试乘体验。
总结来说，疯狂冲刺、躲避监管和操纵感知就是 Uber 公司文化的核心元素，这样的烂摊子能不出事吗？在美国，每年交通事故会夺去 3.5 万条生命，这就意味着自动驾驶汽车的开发可不能像移动应用或社交网络一样，安全才是整个项目的核心，它贯穿始终，同时也是最难的部分。如果哪家公司的文化中忽视了这一点，恐怕早晚会遭报应。
第三课：人类真是不擅长监督
自动驾驶技术原本是要降低道路风险的，但现在却成了压力倍增器，因为驾驶员一个不小心可能就会闯大祸。对人类来说，监督车辆行驶是个巨大挑战，因为这个过程太无聊，安全驾驶员很容易就会盲目相信系统，被其他事物引诱地开小差。
Herzberg 的死，安全驾驶员 Vasquez 也得负责任。车上的监控视频显示，在当晚的测试中，她居然低头看了 166 次手机，而监控画面中 Vasquez 惊恐的表情未来恐怕还是会一而再再而三的发生，因为“趋利避害”是人的天性。
其实这样的“毛病”在安全驾驶员群体还是比较少见的，因为他们普遍经过严格训练，而且测试时都“出双入对”。不过，普通人就没那么高“觉悟”，比如拿橘子夹在特斯拉的方向盘上“玩大撒把”的视频就是明证，一旦哪天他们耗光了运气，恐怕就得“亲人两行泪”。
第四课：无辜的路人惹谁了？
在事故的后续调查中，Uber 的激光雷达供应商 Velodyne 承认，自家传感器确实没能识别出 Herzberg 过马路时推着的那辆自行车。眼下，出于自保的目的，自动驾驶测试车搭载的传感器识别起坚固的物体更在行，也就是说行人和自行车被牺牲掉了，一旦遇到夜晚、强光或其它恶劣天气，传感器可能就会成为杀人帮凶。
其实这也是各家公司选择凤凰城的原因，这里不但天气条件好，路上还没什么人。一年之后，还是没有多少公司为测试车添加热成像传感器（几乎不受天气状况的影响），以专门照顾无辜的路人，实在是令人失望。好在，丰田研究所已经承诺，其新传感器套件会纳入热成像传感器，毕竟想在城市部署，就必须考虑到行人的因素。
第五课：政府部门可不能“脑子一热”
在加州的路测执照被收回后，Uber 干脆移师亚利桑那，那里的州长 Greg Ducey 为了将本州打造成创新带头人，对所有自动驾驶公司敞开怀抱。除此之外，亚利桑那还专门为这些公司降低了监管门槛，方便它们“野蛮生长”。这样的政策确实出了奇效，很短时间内亚利桑那就发展成了自动驾驶测试的大本营，直到 Uber 那起致命车祸。
Uber 测试车惹了大麻烦后，Ducey 州长态度直接转了 180 度，他对 Uber 在亚利桑那的测试车“判了死刑”。亚利桑那的政府部门更是急于撇清与 Uber 的关系，甚至开始担心其他公司也给自己惹事。
亚利桑那的经验也给其他州的政府部门提了个醒：“脑子一热”可是容易给自己惹大麻烦。降低监管门槛短期内确实有很强的诱惑，但其长期风险也相当巨大。
从宏观角度来看，如果放弃监管，还可能会给自己招来人身伤害的诉讼。政府部门要么主动平衡公共安全与路测的关系，要么就降低标准为路测开口，出了事被愤怒的公众口水淹没。
显然，谁都会走第一条路。
第六课：法律责任的划分必须跟上技术发展
Herzberg 的死引出了一个全社会都还没准备好回答的难题：如果自动驾驶真出事了，到底谁该承担责任？自动驾驶软件能算“人”吗？它能和人类驾驶员享用相同的权力并接受相应的限制吗？此外，安全驾驶员算责任方吗？自动驾驶公司又该付多少责任？还有监管部门呢？
既然事故都出了，现在我们就必须对这些问题进行回答了。一直以来，自动驾驶技术都被当做一个纯技术问题，但事实上，驾驶却是一个由法律约束的严肃社会活动。一方面来说，Herzberg 的死唤醒了全社会，新的规则和原则开始逐步成型，以便再次遇到事故时分配责任。另一方面，类似热成像传感器的问题依旧存在，大家还是不紧不慢，好像是对这场致命事故熟视无睹。这可不是要解决问题的态度，我们对精通技术法律专家和政客的需要与对天才自动驾驶工程师的追逐必须一样迫切，至少不能让 Herzberg 的悲剧重演。
第七课：高层们要听得进“忠言逆耳”
就在 Uber 致命事故发生前不到一个星期，名为 Robbie Miller 的 Uber 员工还专门给公司 ATG 和法务部门的高层写了封邮件。在这封邮件中，Miller 提到了许多问题，并警告高层这些问题可能会带来严重后果。不过，这封邮件高层们恐怕只理解了一半：“ATG 还得继续努力，这样才能将安全理念深植于公司文化中。
汽车一旦发生事故就会造成严重的后果，而自动驾驶技术不过关和人类司机的错误操作都会引发悲剧。我们不能每隔 1.5 万英里就撞上点什么东西，这样循环往复早晚会出大事，而且公司有些安全司机明显培训不够，他们经常开小差。”
在邮件中，Miller 还推荐了一些方案以改变 ATG 当时的作风，而这些方案现在基本已经成了行业通行的标准，比如一辆测试车配备多名安全驾驶员，别为了累积测试里程而测试，授权员工有危险立即停止测试，建立事故研究机制，在各部门间分享数据等。
现在看来，如果当时 ATG 按照 Miller 的方法对各部门进行整顿，Herzberg 的悲剧就不会发生。
第八课：基础设施至关重要
自动驾驶开发者不愿让自己的系统受制于人，因此他们拒绝承认基础设施的重要性，无论是特殊的街道功能设计抑或 V2X 通讯技术。这种做法其实可以理解，因为技术总是飞速发展，而基础设施却无法及时跟上脚步。
不过，无数残酷的事实却告诉我们，基础设施在自动驾驶安全方面有自己的一席之地，而当地政府必须保证自己管辖的街道不会让各种车辆“打架”。Herzberg 出事的那个地方在全世界都有“翻版”，这里没有斑马线但并不禁止行人通行。我们不知道 Herzberg 选择在这里过马路前想了什么，也许她只是图方便。但可以肯定的是，这条路在功能设计上有问题，无法有效阻止事故发生。
所以，如果哪座城市未来想引入自动驾驶汽车，必须记住这个教训：对基础设施配套进行改造。否则真的会吃不了兜着走。
第九课：反对自动驾驶汽车的大有人在
从自动驾驶汽车诞生第一刻，公众就对它持怀疑态度，但后续不停的宣传攻势开始让大家的扭转看法。Herzberg 的事故之后，公众再次对自动驾驶汽车投了不信任票，就连特朗普都在公共场合表示“自动驾驶永远成不了”。
其实这只是又一次的卢德主义（工人砸毁机器）抬头罢了，Waymo 的测试车在亚利桑那也没少受攻击，对于这种情况自动驾驶开发者及其坚定支持者们无法苛求太多。而且别忘了，Uber 的这次致命事故就来自高科技行业的傲慢自大，有人站出来反对自动驾驶汽车也是它们咎由自取。
眼下，这也是自动驾驶汽车面临的主要文化障碍：一般来说，高科技公司会用各种经济补贴来扫清前进道路上的障碍（想想打车公司的狂飙突进）。在自动驾驶汽车上，由于各家公司离实现自己的承诺还很遥远。因此对公众进行教育，与他们深入沟通变得更加重要。由于自动驾驶的复杂性和各种疑惑的存在，这个任务会变得相当艰巨。
不过，降低姿态并放下科技行业的傲慢，真诚与公众沟通肯定能有收获。即使依然一无所获，科技行业也不能再用“我代表着历史潮流”来安慰自己，对各种风险无动于衷。
第十课：信任是自动驾驶技术的现金流
从最基本的层面来说，信任其实就是稳定的长期关系。信任某人或某事意味着他会在合适的时候出现，想你所想，解你所困。这也是亚利桑那的自动驾驶事业遭遇巨大挫折的原因：政府选择信任自动驾驶公司并为其降低门槛，但 Uber 却最终用一场致命事故让政府蒙羞。这样的做法无法建立信任，只会埋葬一切。
Herzberg 的死是一系列不负责任行为的必然结果。也许未来还会有人被自动驾驶汽车夺去生命，但我们需要的是自动驾驶公司的真诚和透明，而不是事前吹得天花乱坠，事后却告诉我们现实其实很残酷。自动驾驶公司必须承认，在路测中有些风险不可避免，但自己已经在努力化解，而不是藏着掖着把风险不当回事，昧着良心赚黑钱。
对自动驾驶开发者来说，建立信任与创造出强大的预测模型或可靠的路径规划算法一样重要，因为自动驾驶汽车最终必须与飞机看齐：当你步入飞机机舱时，必须要有强烈的安全感。鉴于自动驾驶汽车已经没了操控或性能等卖点，因此真正值得各家公司大吹特吹的也只有消费者的信任了。如果哪家公司不愿融入当地社群，不愿透露道路风险、不愿接受监管、为了高估值不顾一切，它们最终肯定会引火自焚。当然，受伤的还有路上的无辜群众。
本文参考资料：
https://www.thedrive.com/tech/27023/10-lessons-from-ubers-fatal-self-driving-car-crash
本文转载自公众号：新智驾（AI-Drive），作者：大壮旅
