第四章 AI时代：人类将如何变革？（第12/27页）

自动驾驶的普及：中国有机会扮演关键角色

毫无疑问，自动驾驶将在不久的将来走进我们的生活。但真正意义上的，第4级或第5级的自动驾驶技术何时可以商用，人们有各种各样的预测。

初创公司Nu Tonomy希望能在2018年前后在新加坡提供拥有自动驾驶功能的出租车，并在2020年扩展到10座城市100。Delphi和Mobil Eye公司则声称，他们可以在2019年提供满足SAE第4级要求的自动驾驶系统101。百度公司首席科学家吴恩达希望，到2019年时将有大量自动驾驶汽车上路进行测试行驶，到2021年时，自动驾驶汽车将进入大批量制造和商用化阶段102。特斯拉公司创始人埃隆·马斯克宣布，目前上市的特斯拉汽车已经在硬件标准上具备了实现SAE第5级自动驾驶的能力。他预测说，2018年时，特斯拉将可以提供具备完全自动驾驶功能的电动汽车，但也许还要再花一到三年的时间，该型车才能正式获得批准并上市销售103。

我觉得，基于宣传技术和推广产品的考虑，科技公司、初创公司对于第4级、第5级自动驾驶何时可以商用的预测普遍比较乐观。实际情况也许比他们的预测要复杂一些，因为这不仅仅是一个纯技术问题。技术方面，谷歌（Waymo）的自动驾驶系统非常成熟，已经接近商用，也许只要一两年的时间，就可以达到SAE第4级和第5级的标准。但在非技术领域，政府、公众、企业还必须考虑诸多政策的、法律的、经济的、心理的甚至是道德层面的问题。

首先，现有的法律制度、政策、保险体系等，并不是为自动驾驶时代的交通量身定制的，一定存在诸多不合理之处。对于法律体系的改进和完善，一定不要以今天的眼光去预测未来的科技。

比如，当年蒸汽机动力的汽车问世不久，英国议会就于1865年通过了一部《机动车法案》。这部法案后来被人嘲笑为“红旗法案”。法案规定，每辆在道路上行驶的机动车必须由三个人驾驶，其中一个必须在车前面50米以外做引导，还要用红旗不断摇动为机动车开道，并且速度不能超过每小时4英里。结果，直到1896年“红旗法案”被废止前，英国对汽车技术的研发几乎还处于停滞状态，这个法案在英国汽车发展史上起到了极其愚蠢的负面作用。今天，在考虑为自动驾驶汽车制定合适的法规、政策时，我们千万不要落入100多年前英国“红旗法案”的窠臼。

其次，道德问题始终是制约自动驾驶商业化和大规模普及的关键因素。美国人比较喜欢用一个处于两难境地的道德测试来衡量自动驾驶的合理与否，这个测试叫作“有轨电车难题”（Trolley problem）。

英国哲学家菲利帕·福特（Philippa Foot）1967年首次提出这个伦理学的思想实验。问题很简单：假设你看到一辆失控的有轨电车在轨道上高速行驶，电车前方的轨道上有5个毫不知情的行人。如果你什么都不做，那么那5个人会被电车撞死。生死瞬间，你唯一的解决方案是扳动手边的道岔扳手，让电车驶入备用轨道。但问题是，备用轨道上有1个不知情的行人。扳动道岔的结果是，拯救了原轨道上的5个人，却牺牲了备用轨道上的1个人。这种情况下，你会扳动道岔扳手吗？如果用1条生命换回5条生命，你感到难以定夺，那么，假设牺牲1个人可以救50个人呢？

图43　有轨电车难题（CC BY-SA 4.0，Wikipedia）

换到自动驾驶的商用场景，政府和公众面临着同样难以定夺的诘问。从目前的测试结果看，自动驾驶技术比人类驾驶员驾驶汽车要安全，至少不存在人类驾驶员因为疲劳驾驶、酒驾等问题发生事故的情况。但自动驾驶不是万能的，在极端条件下，比如机器学习系统从未遇到过的情况发生时，自动驾驶系统也有可能导致事故，甚至对人类造成致命的伤害。

2016年5月7日，佛罗里达州的特斯拉电动汽车致死事故发生之后，特斯拉强调，在总计1.3亿英里的Autopilot模式行驶记录中，仅发生了这一起致死事故，据此计算的事故概率远比普通汽车平均每9400万英里发生一起致死事故的概率低。但无论概率有多低，这毕竟是一起致死事故。为了普及自动驾驶技术，人类面临的道德抉择并不比有轨电车难题简单。

如果自动驾驶汽车造成的死亡事故概率比人类驾驶员造成的死亡事故概率低，比如3︰5，那么，你愿意大力推广自动驾驶技术，用每牺牲3个人的代价，换回5个人的生命吗？

我用这个问题问了许多美国朋友，当我说3︰5的比例时，他们都纷纷摇头，连说“不行”。我发现，大多数人脑子里会有一个先入为主的道德假设，那就是人类驾驶员造成的事故已经被视为现行伦理道德体系中的一种客观存在，是人类自身的弱点导致的。但引入自动驾驶后，造成致命事故时，操控汽车的主体由“人类”变为“机器”，这种新的伦理道德关系就很难被现有的体系接受。如果自动驾驶技术可以拯救5个人，但代价是杀死另外3个人，大多数人就感到难以接受。他们是在用人类现有的伦理道德体系去评估机器的行为：采用新技术的决定是人类做出的，实际造成事故的主体却是机器而不是人，人类因为自己的决定，造成了“另外3个人”的死亡，这种道德压力是不言而喻的，这个时候，是否能拯救原本会因人类失误而死亡的5个人，反倒成了不那么重要的因素。