特斯拉Autopilot将救人无数但现在却拿命做测试

（原标题：Tesla’s Autopilot Could Save the Lives of Millions, But It Will Kill Some People First）

图示：2018年5月，一辆发动Autopilot的特斯拉轿车与警车发作磕碰。

网易科技讯 10月10日音讯，据国外媒体报导，特斯拉的终究方针是造出彻底主动驾驭轿车。为了这一天的尽早到来，其在一切特斯拉轿车中装置了Autopilot体系，并通过将司机作为志愿者进行路途实验。Autopilot终究或许会抢救数百万人的生命，但在此之前势必会导致一些司机的逝世。

以下是翻译内容：

这是杰里米·班纳（Jeremy Banner）生射中的最终一天。他在黎明前醒来，坐上赤色特斯拉Model 3，沿着佛罗里达大沼地地的边际向南行进。车窗外的沼地和农田在含糊的绿色中快速掠过。

班纳轻按了方向盘下的操纵杆，车内响起柔软的铃声。他发动了商场上最杂乱且最具争议的主动安全功用：特斯拉Autopilot。在电脑操控下，轿车可以加快、变道、驶出出口，假如前方有障碍物，还可以主动刹车。

特斯拉的方针是制作出国际上第一辆主动驾驭商用轿车，然后主导全球轿车商场，公司以为Autopilot是要害的第一步。用户也喜爱Autopilot。他们现已通过Autopilot行进逾越15亿英里(21亿公里)，也常常将软件功用发挥到极致。虽然车主手册提示司机需求亲近监督车辆状况，但这并没有阻挠一些人在行进的轿车上读书、打盹、弹琴或做爱。大多数时分轿车能把他们安全带到要去的当地。

但在3月的那个清晨，班纳的轿车没能发现正前方有一辆拖车正穿过四车道的高速公路。班纳也没有。轿车以109公里的时速撞了上去，车顶直接被掀翻，这位有三个孩子的50岁父亲当场逝世。

核算机过错看起来和人为过错彻底不同。Autopilot有闪电般的反响才干，注意力从不削弱，但有时无法发现路上的危险。自特斯拉2015年引进Autopilot以来，已知5起逝世事端中的4起都是这种状况。现实上，班纳发作的事端与新近一同有着惊人地相似。本年8月，班纳家人依据佛罗里达州的《非正常逝世法案》申述特斯拉。原告建议开门见山的产品职责索赔：特斯拉许诺供给一辆安全的轿车，却交付了一辆存在缺点的危险轿车。

但Autopilot与历史上简直一切其他消费产品都不相同，它在某些方面让咱们预见到行将到来的机器人年代会面对哪些问题。特斯拉首席执行官埃隆·马斯克(Elon Musk)表明，这项技能抢救了生命，许多特斯拉车主都能证明自己的轿车发现了危险，防止了磕碰。或许两边都是对的，电脑杀死了一些本来可以活下来的司机，但它们也抢救了更多司机的生命。

这个问题不再仅仅是学术问题。当马斯克决议让尽或许多的人具有Autopilot时，这相当于在全国际高速公路上展开了一个巨大的实验。

26岁的软件工程师奥马尔·卡齐(Omar Qazi)在洛杉矶405号州际公路上驾车向北行进时，双手从方向盘上拿开。其时轿车正以每小时80公里的速度行进在全美最繁忙的高速公路上，卡齐的黑色Model 3轿车方向盘微向左转，使轿车保持在车道中心。“这就像洛杉矶顶峰时段的交通，对吧?”卡齐说，“这真完美。”特斯拉具有大批铁杆粉丝，其间许多是殷实的极客，卡齐也是其间之一。

在洛杉矶城外的特斯拉充电站，藏着胡茬、穿戴蓝色耐克鞋的卡齐展现了实验性的智能呼唤功用，其时只要通过挑选的特斯拉测验者可以运用这项功用。他按下手机上的一个按钮，轿车驶出了泊车位。卡齐看着它穿过泊车场朝自己驶来。“这没什么用途，”他笑着说。但卡齐很喜爱夸耀这个花招，以至于会在泊车场徜徉等候观众。

智能呼唤可以一窥马斯克所许诺的无人驾驭未来，但关于路途驾驭来说，Autopilot是现在最接近未来的。特斯拉表明，这项技能还不行老练，驾驭员仍要会集注意力，需求他们把手放在方向盘上。对州监管组织来说，Autopilot仅仅一个高档驾驭辅佐程序，本质上便是一个增强的巡航操控功用。Autopilot还不能解决非高速公路上的交通信号灯和泊车标志等问题。但在上线的四年间，Autopilot的功用逐渐丰厚起来:平稳并线、避开插队的轿车、驶入另一条高速公路。

“它还不能彻底完结主动驾驭，但每隔几周就会有一次更新，并且轿车的驾驭特色更像人。这十分可怕。”卡齐说。几分钟后，一辆银色轿车驶入咱们的车道，车子稳稳地刹车，让进轿车。“看到了吗?”他说道。

这并不是说人类司机更优异。在洛杉矶，卡齐演示特斯拉的那天，一名不合法赛车手的马自达撞上了一辆停着的卡车；一名骑摩托车的人撞上一辆抛锚卡车而逝世；一名骑自行车的初中生被一辆车拖了四五百米，受了重伤。

现实上，驾驭是大多数成年人做的最危险工作之一。上一年全美有4万人死于事端，全球范围内事端事端形成140万人逝世。但人们对自己的驾驭技能遍及骄傲。几年前，交通事端形成的逝世人数开端小幅上升，有专家将其归因于智能手机的搅扰。常常有人边开车边发信息。

但不管有什么缺点，电脑都不会醉酒、疲惫、气愤，也不会有开车时刷手机的激动。主动驾驭技能许诺会消除94%由人为失误形成的事端。从这个视点来看，主动驾驭轿车或许成为与青霉素和天花疫苗齐名的救命稻草。

卡齐现已核算过了:他说主动驾驭轿车有朝一日将每天解救3000条生命。依照他的逻辑，任何阻止这一进程的人手上都沾满了鲜血。他说:“幻想一下，有人把软件推延一天。”“你真的会杀死许多人。”

在班纳发作丧命事端后不到两个月，马斯克邀请了大约100名投资者和分析师来到特斯拉在帕洛阿尔托的总部。在2个半小时的演示过程中，马斯克向投资者展现了新的重视点：制作第一辆实在的主动驾驭轿车。他说，今日上路的轿车将能在几个月内就用上Autopilot。到2020年的某个时分，它们将不再需求人工监督，并可以在客户不必的时分变成主动驾驭出租车。

“从财政视点讲，购买特斯拉以外的任何东西都不再靠谱，”马斯克举起双手说。“就像三年内具有一匹马相同。”

关于任何重视主动驾驭轿车行业的人来说，马斯克的时间表听起来特别急进。包含通用轿车、戴姆勒和Uber在内的大约36家公司正在竞相开发这项技能。许多查询人士以为实力最强的竞争者是Waymo，但它们都没有向大众出售主动驾驭轿车。

马斯克告知投资者，特斯拉将逾越一切企业，这要归功于现已上路的50多万辆轿车都装备了Autopilot。马斯克将Autopilot描绘为一种现在尚不完善，但会逐渐变得愈加灵敏和牢靠的主动驾驭东西。

硅谷发布智能手机应用程序和视频游戏的办法便是，先向客户发布尚不完善的软件，并逐渐解决问题添加功用。但这些产品并不会致人逝世。Waymo、通用轿车和其他公司也有相似方案，但它们只用在几百辆测验轿车中，布置在全国少量几个精心挑选的社区，并且简直总是由专业的安全驾驭员监督行进。现在通用轿车的原型车正以56公里的最高时速在旧金山多山的街道上移动。

另一方面，马斯克正以最快速度把他的东西送到顾客手中。这使得特斯拉工程师可以从客户那里收集到海量级驾驭数据，并依据实在国际状况完善Autopilot。即便特斯拉轿车没有激活主动驾驭形式，它们也会主动将驾驭员的挑选与核算机进行比较。每隔几周特斯拉就会完结Autopilot的更新，这让卡齐和其他车迷们很快乐。

马斯克说:“每个人都在练习这个网络，每时每刻。”他将这种良性循环称为“快速学习”，并将其与谷歌查找每年处理1.2万亿次查询进行比较。他宣称，未来某一天司机们不再需求方向盘。

当摩根士丹利的一名分析师就Autopilot的安全记载向马斯克施压时，他很快把论题转向人为驾驭的危险性，以及技能修正的潜力。他把轿车比作由人工操作的旧式电梯。他说:“他们会周期性地感到疲惫、喝醉或其他什么。”“所以现在没有电梯操作员了。”

考虑到生死攸关的利害关系，马斯克有时会把主动驾驭轿车说成是一场正义斗争也就家常便饭。他曾表明，让Autopilot退出商场“应该遭到品德斥责”。第一位死于主动驾驭的美国驾驭员是来自俄亥俄州的约书亚·布朗(Joshua Brown)，他和班纳相同也撞上了拖车。事端之后他的家人宣布了一份声明，基本上支撑特斯拉的品德考量。“改动总是伴跟着危险，”他们写道。“咱们的儿子对未来的高速公路安全发作了如此活跃的影响，这让咱们感到少许安慰和骄傲。”

马斯克表明，现在Autopilot是才干仅低于司机的最佳挑选。人类驾驭带来的安全性加上核算机辅佐维护。但问题在于当咱们把大部分职责交给电脑时，自己就会分心。咱们不知道核算机应该做什么。咱们的技能也会陌生。就像航空史上充满着人类对飞机主动驾驭功用的过度依靠所导致的各种过错。

前水兵战斗机飞行员、杜克大学普拉特工程学院教授米西·卡明斯(Missy Cummings)表明:“你的注意力会搬运，这是人的赋性。”卡明斯期望Autopilot退出商场。Waymo曾开发了一种相似体系，但在6年前抛弃了。陈述说，有太多司机在开车时发短信、化装、打瞌睡。

与此一起，核算机也会在看似最不或许的当地出问题，由于许多对核算机来说最具挑战性的使命对人类来说是小菜一碟。任何一个正常成年人都能分辨出良性路途特征和危险要挟之间的差异。但关于最杂乱的机器视觉软件来说却十分困难的。

特斯拉一向拒肯定Autopilot设限，由于这会让它更安全，但更不便利。该公司答应司机将Autopilot的巡航速度设置在当地限速以上，并答应在轿车可以检测到车道符号的任何当地翻开Autopilot，虽然手册上说仅限于在高速公路上运用。

图示：特斯拉轿车行进路程以及Autopilot行进路程（英里）数据核算

马斯克也或多或少鼓舞人们去测验Autopilot的极限。上一年12月当马斯克在电视节目上展现Model 3轿车时，他也翻开了Autopilot并松开了方向盘。本年5月份，在一段有关主动驾驭状态下的色情视频走红后，马斯克在Twitter上恶作剧说:“现实证明，运用Autopilot的办法比咱们幻想的要多。”

鉴于Autopilot现在现已行进了逾越15亿英里，确认其安全记载应该很简略。马斯克曾宣称，运用Autopilot驾驭的安全性大约是不运用Autopilot的两倍，但现在为止还没有相关数据揭露。特斯拉发布了Autopilot的每季度事端率数据，但安全专家表明，假如没有这些事端发作的具体状况，这些数据毫无用途。一项针对特斯拉事端索赔数据的保险行业研讨也没有定论。

在2016年的布朗撞车事端后，美国国家公路交通安全管理局(NHTSA)对Autopilot进行了查询，发现没有理由召回。该组织发现装置Autopilot的特斯拉轿车事端率比没有装置Autopilot的特斯拉轿车低40%，但相关核算依然存疑。虽然特斯拉提交了4.4万辆轿车的行进和磕碰数据，但除了5700辆以外，其他一切车辆的要害数据都有缺失或彼此对立。在5700辆轿车的数据中，运用Autopilot的事端率实际上更高。马里兰州独立核算参谋兰迪·惠特菲尔德(Randy Whitfield)本年指出了这些缺点，但NHTSA坚持其定论。

评价Autopilot或彻底主动驾驭技能的部分问题在于，不清楚社会将忍受何种程度的安全。机器应该是完美无瑕，仍是说比一般人类司机更好即可？丰田主动驾驭研制负责人吉尔?普拉特(Gill Pratt)曾表明:“人类对机器缺点形成的损伤或逝世零忍受。”“要到达所需的完美水平，需求多年的机器学习以及多得多的行进路程。”

图示：特斯拉铁杆粉丝卡齐

但如此高的规范反而或许导致更多的逝世。在兰德公司2017年的一项研讨中，研讨人员发现，与承受只比人类安全好一点的轿车比较，等候近乎完美主动驾驭轿车的本钱是用数万条人命来衡量的。机器人专家卡拉就主动驾驭轿车方针在国会作证时表明:“等候这一完美技能的人应该意识到，这并非没有本钱。”

其观点的要害是怎么了解机器学习。特斯拉和其他主动驾驭轿车开发商的产品要辨认一辆自行车，然后猜测它会朝哪个方向走，这太杂乱了，不能简略归结为一系列的指令。相反，程序员运用机器学习来练习软件。他们或许会给机器展现数千张不同自行车的相片，或许还会给机器看一些摩托车或单轮脚踏车，这样机器就会知道其间的差异。跟着时间推移，这台机器会生成自己的规矩。

得到的信息越多，这些机器就越聪明。卡拉以为，问题要害在于主动驾驭轿车在实验室里变得完美并不实际。她说，假如咱们真的想最大极限地抢救生命，咱们乃至可以在主动驾驭轿车比人类更危险的时分让它们上路，以加快练习。

即便造出了一辆完美的主动驾驭轿车，仅有能确认的办法便是把它放在路上。从核算学视点讲，丧命事端也是稀有的。在兰德公司的另一篇论文中，卡拉估量一辆主动驾驭轿车要无故障行进2.75亿英里才干证明更安全，而这一路程需求100辆测验车接连行进12年以上才干完结。

图示：交际媒体上的视频和相片显现许多司机在启用Autopilot时打瞌睡。

考虑到这一切，马斯克方案使用实在路途上的司机作为志愿者完善和测验他的产品，听起来并不那么张狂。现实上，假如不让很多司机面对被机器杀死的危险，就不或许完结主动驾驭的安全。而答应自Autopilot加快并在一般路途上行进也有必定的逻辑。每逢驾驭员为了防止事端而接收轿车时，这都是一个潜在的练习时机，可以让软件学习什么不该做。

美国现已有了一个对或许解救生命但也或许有丧命副作用产品进行测验的型：分阶段临床药物实验。卡内基梅隆大学哲学教授亚历克斯·伦敦(Alex London)等人呼吁轿车监管组织采纳相似办法，答应新技能分阶段上路，一起亲近监控其安全记载。

卡齐驱车前往帕洛斯维德斯草场，一路弯曲穿过崎岖的棕色山丘和山崖，俯视着太平洋。沿途并不是高速公路，但卡齐再次发动了Autopilot。总的来说，轿车体现得很好。

当路绕过峻峭山崖时，咱们碰到一个同向而行的骑行者。特斯拉正确辨认并逾越了他。就在要超车的时分，卡齐踩了刹车，让那人在超车之前骑到更宽的路上。他说自己期望机器也能做相同的工作。

但卡齐好像现已承受了这样一个现实：跟着特斯拉的遍及，Autopilot形成的逝世人数将会添加。“最大的公关噩梦就在前方，”他如是指出，“通往方针的路只要一条。穿过雷区。”（辰辰）

本文来历：网易科技报导 职责编辑：王凤枝_NT2541