热点聚焦:“Autopilot差点要了我的命”
作者 | 杨玉科
编辑 | Jane
出品 | 帮宁工作室(gbngzs)
(资料图片仅供参考)
特斯拉Autopilot(自动驾驶系统)的安全问题有多严重?
2023年5月26日,德国《商报》(Handelsblatt)发表一篇名为《我的Autopilot差点要了我的命》文章称,一名举报人泄露的特斯拉内部文件中,有大量数据表明——特斯拉自动驾驶技术的问题,可能比此前媒体报道和监管机构所透露的更加普遍。
根据泄露数据,在2015年至2022年3月期间,特斯拉客户已经提出2400多起关于自动加速问题,以及1500起关于刹车问题的投诉,涉及美国、欧洲和亚洲等地区。
这还不是全部,《商报》表示,这些数据中,包含了许多关于客户、员工和商业伙伴的个人信息和商业机密,包括超过10万名特斯拉前任和现任员工的姓名,以及私人电子邮件地址、电话号码、员工工资、客户银行等详细信息,甚至包括埃隆·马斯克(Elon Musk)本人的社会保险号。一些文件还涉及自动驾驶汽车、新电池开发或计划中的赛博电动皮卡等机密信息。
特斯拉试图对安全投诉保密,特斯拉的一项内部政策,要求员工只能口头与客户沟通投诉的细节,而不能完全通过电子邮件书面报告。
德国和荷兰的数据保护部门已经展开调查。勃兰登堡州数据保护官员达格玛·哈奇(Dagmar Hartge)承认指控的严重性并强调:“如果证明情况属实,从数据保护的角度来看这件事情特别严重,同时全世界有很大一部分人受到影响。”受影响的人不仅是特斯拉在勃兰登堡州工厂的员工,还包括德国和欧洲其他地区的员工。
如果这种违规行为被证实,特斯拉将被处以相当于其年销售额4%的罚款,根据美国证券交易委员会的数据,在2022年年底的收益报告中,特斯拉的收入约为815亿美元,因此特斯拉的罚款大概为35亿美元。
▍更详细的举报内容
《商报》披露了举报人泄漏的内部文件的更多细节。
其收到的100GB的数据和23000个文件,包括3000个关于客户安全问题的条目,以及1000多起撞车事故的描述。其中有139起“意外紧急制动”报告和383起虚假碰撞警告导致的“幽灵刹车”,即汽车在没有明显原因的情况下突然刹车。
《商报》联系了数十家公司,证实了这些投诉的合法性。一名密歇根州男子报告称:“突然刹车很猛,就像你能想象的那样,我被推到安全带上,汽车几乎停了下来,然后另一辆车从后面撞了我。”
此外,虽然一些司机安全控制了车辆,但也有一些司机“掉进了沟里,撞上了墙,或者撞上了迎面而来的车辆。”
除了向客户核实投诉,《商报》还向德国弗劳恩霍夫安全信息技术研究所展示了这些文件,该研究所得出的结论是,没有理由认为“这些数据集不是来自特斯拉的IT系统或特斯拉环境”。
泄漏文件还揭示了特斯拉如何处理与客户和公司外部其他人的关系。特斯拉内部规定,通常情况下,如果需要任何回应,就必须口头回答,什么都不能写在短信或电子邮件里。员工们经常被告诫只使用口头交流,不能把报告复制到电子邮件、短信或语音信箱中给客户。
一位来自加州的医生说:“他们从不发电子邮件,一切都是口头的。”她的特斯拉在2021年秋天自行加速,撞到了两根混凝土柱子上。
据《商报》报道,这些文件包括与客户沟通的“精确指导方针”。员工被告知,除非有律师参与,否则他们不应该发送书面版本的评论,而是口头传递给客户。
有一些客户确实收到了书面回复,其中一位客户投诉“幽灵刹车”,被告知自动驾驶系统的行为“绝对正常”,他应该重新阅读说明书。
长期以来,特斯拉一直试图掩盖客户对安全问题的投诉。早在2016年,美国国家公路交通安全管理局(NHTSA)就不得不宣布,客户可以公布安全问题。此前有报道称,特斯拉要求客户签署保密协议,才有资格获得有问题的Model S悬架系统的维保。
这些文件可能会在目前针对特斯拉的非正常死亡诉讼中发挥作用,后者指控特斯拉的技术存在根本安全问题,并可能促使州和联邦监管机构最终采取行动。
2021年,美国国家公路交通安全管理局驳回了类似客户关于意外加速的投诉,并将其归咎于“司机失误”。
美国安全监管机构对特斯拉的几项调查已经持续了多年,其中包括对特斯拉汽车明显倾向于撞上停在高速公路上的消防车、救护车和警车的调查。
加州机动车辆管理局(California Department of Motor Vehicles)正在调查,特斯拉价值1.5万美元的“完全自动驾驶”(FSD)选项的名称,是否违反了州法律和加州自己的规定,即禁止在非自动驾驶汽车的情况下将其宣传为自动驾驶汽车。然而,调查进行了两年多依旧没有结果。
在中国,监管机构已经在采取行动。就在两周前,特斯拉被迫对其在中国销售的几乎所有汽车紧急发布了软件更新,以解决意外突然加速的问题。
自2016年以来,马斯克一直承诺实现真正的完全自动驾驶,但迄今尚未实现。
《商报》称,当面对泄密和安全问题时,特斯拉的律师要求这家新闻机构向公司发送一份数据副本,并删除所有其他副本,并计划对“窃取机密和个人数据”采取法律行动。
特斯拉认为,泄露事件的罪魁祸首是一名前员工,他在离职前下载了数据。根据特斯拉管理顾问约瑟夫·阿尔姆(Joseph Alm)的电子邮件,该公司计划对这名前员工采取法律行动。
根据《商报》总编辑塞巴斯蒂安·马蒂斯(Sebastian Matthes)的一份说明,该媒体的编辑团队就收到的数据向特斯拉提出了几个问题。马蒂斯说,特斯拉没有回答他们的问题,而是要求删除数据,并谈到数据被盗。
目前仍然不知道是谁向《商报》提供了泄露的信息,事件还在继续发酵。以下是特斯拉对《商报》泄露事件的完整回应:
亲爱的lwersen先生,
根据您5月10日的邮件,您已经通知我们,收到了被盗的特斯拉机密信息,其中包括特斯拉和我们的商业伙伴的商业秘密以及特斯拉员工的私人数据。
我们将继续调查您邮件中所述情况。到目前为止,我们有理由相信,一名心怀不满的前雇员(……)在离开特斯拉之前,滥用他作为服务技术人员的访问权限,泄露信息,违反了他签署的保密协议,违反了特斯拉的数据管理政策和实践,也触犯了欧盟和德国的法律。
特斯拉严格保护机密信息以及员工和客户的私人信息。我们计划对这名前雇员提起法律诉讼,因为他窃取了特斯拉的机密信息和员工的私人数据。针对此事,我们还将与刑事当局合作。
需要澄清的是,您声称的与您分享的信息,至少已经违反了特斯拉的保密协议和政策、数据管理政策和实践,以及欧盟和德国法律。特斯拉将继续进行调查,并将对任何窃取、滥用或以其他方式,盗用特斯拉机密信息或员工和商业伙伴个人数据的人提起法律诉讼。
如您所知,除非有特殊情况,否则不允许使用非法获取的数据进行媒体报道。除其他事项外,在没有适当理由的情况下,拥有此类数据本身就违反了数据保护法。而对这些信息的不当处理,将使信息接收者比如《商报》,承担违反商业秘密、数据保护法和处理被盗数据等方面的责任。您拥有的任何此类敏感数据也需要您小心保护,以免进一步被盗用。鉴于此,请将此信息的副本发送给我们,并立即删除所有其他副本,并与我们确认您已经这样做了。
谨启!
Joseph Alm
特斯拉诉讼管理律师
2023年5月16日
▍为整个行业鸣警钟
特斯拉作为电动汽车行业先驱,被曝出大量数据泄露事件,在科技界掀起了轩然大波。这起事件不仅仅是特斯拉的冰山一角,还清楚地提醒我们,在人工智能和自主系统领域,迫切需要加强监管。
泄露数据揭示了对特斯拉自动驾驶系统的大量安全投诉,引发了对自动驾驶汽车整体安全性的质疑。投诉范围从突然加速问题到制动问题,描绘了潜在系统故障这一令人担忧的画面。
它的影响是深远的,如果被认为是未来交通工具的自动驾驶汽车,由于系统缺陷而引发事故,人们将看到汽车行业的重大挫折。
这已经不是第一次有人提出对特斯拉FSD的担忧了。特斯拉的FSD功能支持特斯拉自动驾驶仪和增强型自动驾驶仪的所有功能,包括自动变道、自动转向、自动泊车等。尽管存在这些担忧,特斯拉还是在去年11月向所有人提供了FSD测试版。
今年1月,美国国家公路交通安全管理局开始调查特斯拉的FSD软件。此前马斯克在推特上表示,该公司将为用户提供关闭“steering wheel nag”选项,该功能指示司机紧握方向盘以保持注意力集中。大约一个月后,该机构认为该功能存在碰撞风险,导致特斯拉召回了362758辆配备FSD的汽车,并暂停了FSD的安装。
这次泄漏不仅暴露了技术故障,还暴露了令人担忧的数据保护缺失。特斯拉员工和客户的敏感个人信息被公开,引发了严重的隐私问题。这一事件迫使人们质疑,像特斯拉这样的科技巨头,是否在保护利益相关者的个人信息方面做得足够。这为整个行业敲响了警钟,强调了在人工智能和自主系统时代需要强有力的数据保护措施。
此外,事件也凸显了各国政府加强监管的必要性。世界各地的监管机构需要执行更严格的法律,并制定新的法规,以确保公众的安全和隐私。目前的监管框架似乎落后于技术创新的步伐,留下了可能导致不可预见后果的缺口。现在,是世界各国政府在监管人工智能和自主系统方面发挥更积极作用的时候了。
对于相关公司来说,它们不仅仅是盈利的实体,还是社会行动者,有责任以道德和负责任的方式行事;对于特斯拉这样的公司尤其如此,它们处于开发具有重大社会影响的技术的最前沿;从确保稳健的数据保护措施到对系统限制保持透明,企业需要确保其行动符合社会价值观和期望。
虽然自动驾驶系统本身也存在一系列挑战,但人工智能的风险甚至更高。人工智能的错误或滥用会产生严重的影响,不仅会影响人身安全,还会影响隐私、民主和社会规范。人工智能可能被用于有害的用途,这凸显了强有力的保障措施、道德准则和监管监督的必要性。
特斯拉的数据泄露清楚地提醒人们,人工智能和自动驾驶系统带来了挑战。它呼吁人们采取行动、加强监管、提高企业责任,并就这些技术的未来展开社会对话。前面的道路可能充满挑战,但只要采取正确的措施,就可以走向一个技术负责任地、合乎道德地为人类服务的未来。
▍神话破灭
当人们用常识来评估某些报道和事态发展时,就会发现,人们对特斯拉的追捧是疯狂的。在股市,特斯拉被称为“传统汽车制造商的杀手”,这家美国汽车制造商在2021年11月达到了1.2万亿美元的市值。
这意味着,作为全球最大的电动汽车制造商,特斯拉的市值超过了传统汽车制造商宝马集团、福特汽车、通用汽车、本田汽车、梅赛德斯-奔驰、丰田汽车和大众汽车集团的总和。
即使考虑到未来的发展,这种估值也根本不合适——一个后起之秀的估值,要高于拥有数百万客户、数十万车间和制造工厂、以及有多年汽车生产经验的传统汽车制造商方阵。
如今,特斯拉的市值还不到这1.2万亿美元的一半,而且在一些行业人士看来,这个估值仍然是虚幻的。
制造自动驾驶汽车是特斯拉的既定目标之一。《商报》写道,特斯拉创始人兼最大股东马斯克曾于2022年6月表示,自动驾驶功能的开发将决定“特斯拉是值很多钱还是一文不值”。
其他汽车制造商也在为自动驾驶而苦苦挣扎。但在这一领域,几乎没有哪个汽车业老板能像马斯克那样做出如此重大的承诺。早在2016年,他就宣称自动驾驶“基本上是一个已经解决的问题”。直到今天,他一直在说同样的话。
然而,故事的另一面看起来非常严峻——马斯克似乎已经下定决心,但公司无法履行其承诺。相反,特斯拉汽车上的Autopilot被认为是造成多起致命事故的罪魁祸首。
特斯拉一方面否认这一切,另一方面又假装人们只被允许使用Autopilot作为“驾驶辅助”。
此前,这家美国公司在美国面临着许多有关驾驶辅助系统的法庭诉讼。美国国家公路交通安全管理局也对Autopilot展开了调查。
现在,整个事情通过泄露的特斯拉文件呈现出一种新的爆炸性,这些文件显示了一张我似乎已经很熟悉的景象。
据报道,举报人指责特斯拉对客户、员工和商业伙伴的数据保护不力。特斯拉确实有数据保护的官方承诺,这看起来真的很好。例如,根据商报获得的一项公司内部政策,护照和社会保险号等个人信息只能由特斯拉员工以密码保护的方式共享,并征得其主管的许可。受保护数据的访问权可能只授予“需要了解它”的员工。
数据保护是重中之重。然而,在特斯拉内部,事情似乎变得相当“破烂”,正如《商报》在其文章中所写的那样,媒体的研究对特斯拉是否真的在执行内部政策提出了质疑。
与此同时,这家美国汽车制造商受到了德国和荷兰数据保护当局的审查。勃兰登堡州数据保护专员哈奇向《商报》证实:“州专员收到了特斯拉可能违反数据保护的严重迹象。”特斯拉的德国工厂位于该州。
《商报》总编马蒂斯写道,特斯拉的崛起确实令人着迷。马斯克的确改变了汽车制造的世界,并推动了电动汽车的发展。但现实情况也可能是,这家美国公司发展太快,似乎注定要成功,反而放任内部管理随波逐流。无论如何,据《商报》报道,特斯拉文件表明,该公司对员工的数据管理非常松懈。
《商报》从几个渠道获得的文件中,包括1388份PDF文档,1015份Excel电子表格和213份PowerPoint演示文稿,以及大量的图像、视频、音频文件和电子邮件。
由《商报》12人组成的评估小组花了6个月的时间研究。评估结果显示,特斯拉的技术问题远比公众所知或认为的要大得多。特斯拉Autopilot系统似乎带来了一个特殊的问题。
据《商报》报道,特斯拉文件中关于Autopilot疑似安全问题的表格包含约3000个条目。《商报》的编辑随后在2023年5月中旬,向特斯拉发送了一份广泛的问题清单,要求特斯拉给出答案。特斯拉没有给出任何答案,但该公司要求《商报》删除这些数据,因为这是数据盗窃的。
《商报》似乎已经联系了特斯拉的客户,并试图与受影响的人取得联系,以便在其网站上发表一篇题为《关于特斯拉的文件》的文章。《商报》编辑团队提供了一项服务,读者可以用它来检查他们的信息是否包含在数据集中。该工具搜索选定的文件,查找员工ID或车辆号码(VIN)。
随着更多的事情浮出水面——自从马斯克在一片不满声中接管推特以来,特斯拉的“明星”也开始走下坡路——至少这个神话已经破灭,让位于一种更现实的观点。
▍解雇马斯克?
《商报》的研究记录了这家拥有12.7万多名员工的公司的结构,而这个结构是为一个人量身定制——马斯克。这家公司的老板似乎参与了最小的事情——无论是电池阳极的材料还是门把手,这就是创业公司的运作方式。
然而,超过一定规模的公司需要不同的结构、强有力的管理人员和既保护公司机密又保护员工数据的IT系统。
不可否认,马斯克是一位杰出的企业家。然而,如果他的领导缺陷意味着他的员工的权利和客户的生命处于危险之中,那么是时候收紧对他权力的限制了。
Carolyn Fortuna在Cleantechnica文章中写道:我是特斯拉的坚定支持者。我和别人共同拥有一辆Model Y,还有一小部分特斯拉的股票。我宣传了超级充电站网络的可靠性,我感受到驾驶特斯拉时的安全感,也享受到ModelY的各种优惠。
我承认:我喝了特斯拉的“Kool-Aid果味饮料”(盲目信任或追随)。但我无法再支持埃隆·马斯克担任首席执行官了。他曾经对公司抱有的强烈愿景,已经变成了一系列幻想场景和部分完成的计划。是的,马斯克很聪明。他的功绩也是确定的——他几乎以一己之力开创了交通电气化时代。但他已经无法充分发挥特斯拉掌门人的职责。
Carolyn Fortuna强调称,公开表明这样的立场对我来说是有风险的。自从马斯克收购推特以来,言论自由就成了一个奥威尔式的术语,是推广马斯克新自由主义世界观的一种手段。虽然我不是一个普通的推特用户,但我确实在写作时使用它,显然,如果我公开反对马斯克,我可能会成为影子禁令的对象。
虽然我意识到可能会成为反感或攻击的对象,但我不得不说,是时候解雇特斯拉CEO埃隆·马斯克了。而且话说回来,我可能不是唯一一个公开反对马斯克的人。
Axios Harris本周公布的一项民意调查显示,特斯拉的声誉已从2022年的第11位急剧下降至今年的第62位。美国人似乎已经变得“对伟大的想法和强大的大人物感到警惕和厌倦,他们觉得这些人承诺太多,却没有兑现。”他们说,最近几周,马斯克在推特的影响力已经取代了鲁珀特·默多克(Rupert Murdoch)和福克斯新闻,成为保守派媒体之王。
如果推特真的在2024年大选升温之际成为共和党的媒体重心,那么进步人士可能会发现自己对“科技王”的幻想更加破灭。马斯克一直批评拜登政府向亿万富翁征税,并向工会制造的电动汽车提供更多税收优惠的提议。也许,是时候让一些进步人士看看起亚EV6而不是Model Y。
马斯克一直专注于公司的自动驾驶能力,这种一门心思对公司造成了损害。马斯克对Autopilot的专注使他放弃了其他可能对特斯拉更有成效的努力。
今年2月,监管机构要求特斯拉召回(即发送无线更新)超过36.2万辆美国汽车,以解决其完全自动驾驶(FSD)Beta软件的问题。监管机构表示,驾驶员辅助系统没有充分遵守交通安全法,可能会导致撞车事故。
美国交通部长皮特·布蒂吉格(Pete Buttigieg)不相信Autopilot的名称或功能是正确的。本周,当被问及特斯拉Autopilot调查时,布蒂吉格告诉记者:“真正令人担忧的不仅是技术本身,还有技术与驾驶员之间的互动。”
Steve Hanley在CleanTechnica的愚人节恶搞文章《埃隆·马斯克:特斯拉赛博卡车已死,2万美元的城市汽车即将到来》,在本季度的文章中获得了最多的点击量。
为什么?人们厌倦了等待——他们想要答案——他们也想要“Model C”的发布,他们想要感受到自己喜爱的特斯拉品牌是新鲜的,总是领先于竞争对手。到现在,Model Y已经发布了4年多,跑车的更新还没有正式确定,特斯拉的粉丝们所能做的就是等待。
再等一会儿。也许新CEO会欣赏新车型发布时消费者的喜悦。
马斯克的滑稽行为也引起了一部人反感。他也介入了政治——“还给人们自由!他在反对新冠病毒口罩要求时惊呼道”;他承诺浮夸——“一辆配备8个摄像头、雷达、声纳和时刻保持警惕的特斯拉绝对是超人,”他侮辱工人——他称远程工作“在道德上是错误的”,并说“笔记本电脑阶层正生活在白日梦里”。
独立会计专家弗朗辛·麦肯纳在《时代》杂志上发表了一篇题为《创意》的文章,她认为,早在马斯克来到推特之前,美国证券委员会(SEC)就应该禁止他担任任何上市公司的高管或董事。
“解雇马斯克对特斯拉品牌来说既会带来动荡,也会带来活力。但我认为,必须这么做了。”Carolyn Fortuna说。
(本文部分内容综合ArcaMAX、Electrek、Cleantechnica、Globeecho、The Verge、Generativeai、Borncity报道,部分图片来自网络)