# 埃隆·马斯克：SpaceX、火星、特斯拉自动驾驶、机器人技术与 AI > 马斯克谈星舰与火星殖民计划、特斯拉全自动驾驶进展，以及人形机器人与 AI 风险。 - 原标题：#252 – Elon Musk: SpaceX, Mars, Tesla Autopilot, Self-Driving, Robotics, and AI - 期数：第 252 期 - 发布日期：2021-12-28 - 嘉宾 / 主题：埃隆·马斯克 - 网页版：https://lexfridman-cn.pages.dev/ep/elon-musk-3/ - 官方页面：https://lexfridman.com/elon-musk-3/ - 精读字数：约 6859 字（阅读约 15 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 2021年底，马斯克坐在 Lex Fridman 的麦克风前，说了一句听起来像玩笑的话：未来，一辆不能自己开的车，用处大概就跟一匹马差不多。 他并没有说马没用。养马的人还是有，只是很少，有点小众，属于个人爱好。车也一样。在马斯克眼里，汽车行业正在同时发生两件大事，一件是电动化，另一件是自动化。谁不参与自动化这场革命，谁的车在市场上就会变成那匹马。 他甚至给了个具体数字：一台能自己开的车，长期看价值是普通车的**五到十倍**。这个判断听起来激进，但它解释了特斯拉这几年做的所有设计选择，从屏幕上画什么，到方向盘要不要装监控摄像头，再到怎么收集数据、怎么定义错误。这篇对话把马斯克脑子里那套自动驾驶的逻辑翻了个底朝天，值得慢慢拆。 ## 把车的世界观画在屏幕上，是一次健康检查 很多人第一次坐进特斯拉会盯着中控屏看：屏幕上画着车道线、前后车辆、红绿灯，像一个俯视的简笔画世界。这个设计选择本身就有讲究。 马斯克的解释很朴素：整块屏幕的目的，是给车的感知系统做一次**健康检查**。车从一堆传感器拿数据，主要是摄像头，还有雷达、超声波、GPS，把这些信息转成向量空间里的对象，带上车道线、红绿灯、其他车辆这些属性，再重新渲染到屏幕上。你往窗外看一眼，再往屏幕看一眼，就能确认这车到底知不知道周围发生了什么。 > 你可以通过看窗外，来确认车到底知不知道发生了什么。我觉得这对让人理解系统来说，是极有力量的一件事。（马斯克） Lex 追问：为什么不把更多东西显示出来？比如计算机视觉里的道路分割、车道检测、目标检测，这些模型在边缘地带其实是有不确定性的。能不能把概率、把系统拿不准的部分也露出来，帮普通人建立对计算机视觉的直觉？ 马斯克的回答分了两层。他自己开车时确实会看调试视图。调试视图有两种：一种是增强视觉（augmented vision），在识别到的物体周围画框、打标签；另一种叫可视化器（visualizer），完全用向量空间表示，不显示任何照片，只把车的世界观画出来。 普通人看不懂，他说。你给一个完全不懂计算机视觉的人看那堆向量和概率，他只会一脸茫然。所以现在屏幕上呈现的东西，是专门为大众理解系统能力优化过的。这其实是个人机交互（HMI）的问题，跟技术展示关系不大。开发版里那些调试信息，对绝大多数人来说就是天书。 这个细节值得多想一层。它说明特斯拉把自己摆在了一个很特殊的位置：车上坐的人不需要懂技术，只需要能做一件事，把屏幕上的世界和窗外的世界对一遍。对上了就放心，对不上就接管。这个交互契约，比任何一份用户手册都管用。 ## 四十万辆车在路上跑，这就是数据护城河 聊到资源分配，Lex 把问题拆成三块：算法、数据、硬件。钱和时间都有限，该往哪儿砸？ 马斯克的答案里，数据那一块最扎眼。特斯拉每辆车配八个朝外的摄像头、雷达、通常十二个超声波传感器，加 GPS 和 IMU。当时路上大约有四十万辆车装着这套完整传感器，正在逼近五十万。 > 我不确定路上还有多少别的车装了这么完整的传感器，但如果超过五千辆，我会很惊讶。也就是说，我们手里有全部数据的百分之九十九。（马斯克） 这句话的分量在于，深度学习的魔法就是数据越多越好。但开车这件事，真正值钱的数据藏在边缘案例（edge cases）里。那些开得顺顺利利的常规场景，反而是廉价的，因为系统早就学会了。真正教会系统的东西，是那些让它犹豫、出错、被人一把抢过方向盘的瞬间。 怎么发现边缘案例？马斯克给了两个方向。 一个方向是正向样本。比如一个复杂路口，到底什么是最优的过弯轨迹（spline）？那些没有人工接管的行驶记录，就是标准答案。你把同一个路口的成千上万次通过数据收集起来，告诉系统当看起来是这样时，就这么开，就能拟合出复杂路口的最优走法。这是一种很聪明的挖掘方式：不需要标注，不需要人工筛选，几十万辆车在同一个路口反复通过，本身就构成了一个高质量的样本池。 另一个方向是接管。司机在 Autopilot 状态下突然接管，系统会收到一个信号，然后判断：他是为了图方便接管（比如想下高速），还是因为 Autopilot 确实出错了？这两种情况必须区分开，否则你会把好的行为也当成错误去学习。 ## 所有输入都是错误 对话里最有穿透力的一句话，出现在讨论接管数据的时候。 > 你可以把这件事看成：所有输入都是错误。如果用户不得不介入，那就说明有问题。所有输入都是错误。（马斯克） 这句话的锋利之处在于，它把用户体验从一个软指标变成了硬约束。用户为什么动手？因为他觉得系统做得不对。哪怕他只是在导航上做了个决定，这个动作本身也在告诉工程师：这里有个系统没覆盖到的缺口。 当然现实中要打折扣。想下高速、想变道，这类导航决策目前 Autopilot 本来就不负责，人接管是正常的。但这个折扣正在被快速抹平。马斯克提到当时刚推送的自动导航驾驶（Navigate on Autopilot）无确认版本，会自动超车慢车、驶出高速、走高速立交，绝大部分原本需要人接管的导航动作都会消失。 他说了一句：**我不觉得人们真正理解这是多大的一步。**Lex 也同意，不开这车的人确实没概念。 这里其实藏着一个产品哲学上的转变。早期辅助驾驶的失败方式是显而易见的，比如车道识别丢失、方向盘抖动，司机立刻就知道系统不行。而系统越做越好的时候，失败变得更隐蔽、更罕见，也更难被察觉。接管率的下降，既是进步的证据，也意味着剩下的每一次接管都更加值得挖。这就是为什么马斯克要把每一次人工输入都当成错误来对待：数量少了，每一条的信息价值就更高了。 ## 硬件已经就位，剩下的全是软件问题 聊到全自动驾驶最大的技术路障，马斯克的回答出人意料地轻描淡写：硬件这关已经过了。 特斯拉自研的 FSD 计算机（Full Self-Driving computer）当时已经量产。它花了他三年时间，处理能力大约是车上原来那套英伟达系统的**一个数量级**。换装过程简单到离谱：拔掉英伟达的电脑，插上特斯拉的，完事。摄像头可以跑满帧率、满分辨率，图像都不用裁，系统还有余量。 更关键的是冗余设计。所谓 FSD 计算机其实是两套完全独立的系统级芯片（SoC），互为备份。 > 你可以拿一颗螺栓打穿这个系统的几乎任何部位，它还是能工作。（马斯克） 他的类比是双引擎客机：两个引擎都在时性能最好，但坏掉一个也能安全飞。这两套系统只做冗余，不搞两个大脑投票做决策那种架构。因为现在连单套系统的性能边界都没摸到，根本没必要把功能分摊到两个芯片上，直接跑两份完整副本就行了。 这一切指向一个结论。现在下线的每一辆车，硬件上都已经具备全自动驾驶能力。剩下的是软件、是神经网络、是控制逻辑，而这些全部可以通过 OTA 空中升级推送。 > 如果你今天买一辆特斯拉，我相信你买的是一项会增值的资产，而不是贬值的资产。（马斯克） 这句话在汽车行业里几乎是大逆不道的。车一向是落地就贬值，而马斯克的说法是：硬件够硬，软件能一直长，车越用越值钱。在买车的人眼里，这是个很重的购买理由；在工程团队眼里，这是个很重的承诺。承诺一旦说出口，后续每一次软件推送都得对得起这句话。 至于软件还剩多远，他给了一串场景：高速上的体验已经是生活质量级别的改变，接下来要把这套能力延伸到城市街道，加上红绿灯识别、复杂路口通行，再往后是复杂的停车场。车能自己从车位开出来找你，哪怕停车场像个迷宫；也能把你放下，自己去找车位停好。 Lex 补了一句很实在的话：停车场手动操作是真的烦，这块自动化的收益特别大。 ## 人类到底该不该被盯着看 这是整场对话里两人分歧最大的地方，也是最有价值的部分。 Lex 的团队在 MIT 做了一项研究，从 Autopilot 公开上线起收集了三年多的驾驶员面部和身体视频。他们标注了大约一万八千九百次接管（disengagement），看司机能不能及时接管。结论是：在这些数据里，司机保持了功能性警觉（functional vigilance），该看路的时候在看路，该接管的时候接得上。这和大量关于自动化导致警觉性下降的文献预测相反。 但 Lex 很谨慎，他们的样本只是一小部分人。他问马斯克：这个结论能推广到整个人群吗？会不会有一小部分司机，用 Autopilot 越久越松懈？ 马斯克的回答直接绕过了这个问题。 > 这些很快都会变成无关紧要的问题。系统进步太快了。如果一个东西比人安全好几倍，那么再加一个人进来，对安全的影响是有限的，甚至可能是负的。（马斯克） 甚至可能是负的，这是关键。他把司机监控这件事放在一个动态的天平上：**如果系统可靠性还不如人，那监控司机是对的；如果系统远远超过人，那监控司机不但没多大用，还可能添乱。** 他给了一个电梯的类比。早年电梯是要配操作员的，你不许自己进去扳那个操纵杆在楼层之间移动。现在没人想要电梯操作员，自动电梯停靠楼层比人操作安全得多。反过来说，让一个随便什么人拿着操纵杆在楼层之间乱开电梯，那才叫危险。 > 你不会想让人在电梯里拿着一根大操纵杆吧？我宁愿要按钮。（马斯克） 他甚至给了个时间表：也许到 2021 年底，最晚 2022 年，人类介入反而会降低安全性，他会非常震惊如果这事没发生。 Lex 这边没有轻易让步。他承认从算法角度，基于摄像头的驾驶员监控是个迷人的问题：检测司机在看哪儿、认知负荷多大、身体姿态如何。而且业界很多人都相信，基于摄像头的司机监控是必须的。他问马斯克：难道监控一点好处都没有吗？ 马斯克的回答还是那个天平逻辑。系统的可靠性如果达到或低于人类水平，驾驶员监控就有意义；如果系统明显比人强，那监控帮不上什么忙。 这里其实藏着两种世界观的碰撞。Lex 研究的是以人为中心的人工智能，他相信如果摄像头监控设计得当、集成得好，短期和长期都有益。马斯克和特斯拉的焦点则在另一边：把 Autopilot 做到统计意义上的安全收益，大到可以压过任何关于人类行为和心理学的不确定性。 换句话说，**Lex 想在人的这一端做优化，马斯克想在系统这一端做到让人变得不必要。**两个人都有道理，只是押注的方向不同。前者假设过渡期会很长，长到值得为人的弱点设计一整套补丁；后者假设过渡期短得来不及做这件事，等补丁做完，系统已经不需要它了。 这场争论没办法在嘴上分胜负，只能交给时间和数据。而时间站在哪一边，取决于软件迭代的速度，这正是双方都承认、却给出完全不同结论的那个变量。 ## 事故率的心理学：四起事故和四万条命 聊到监管，马斯克抛出一组对比。 美国每年大约有四万起汽车死亡事故。但只要特斯拉出四起，它得到的媒体报道量可能是别人的上千倍。他说这是客观事实：监管机构会不成比例地关注能上新闻的事件，而特斯拉天生自带流量。 这里面的心理学其实特别有意思，他说，可惜我们没时间聊。 这也解释了为什么他要反复强调要多安全才够。监管上真正要回答的问题只有一个：比人安全多少才算数。能不能自己开，从来就不是问题。他的估算是要比人安全到两三百个百分点，而且不能只看死亡率。死亡样本太少，统计上不显著；要看撞车率、受伤率、永久伤害率、死亡率，一层层往上看，每一层都要比人类好至少两倍左右。 这是个很实际的工程约束。你想证明自己安全，得先有足够的坏事件样本来计算概率。事故太少，反而证明不了什么，这在统计上是件尴尬的事。 ## 操作设计域的宽与窄，是两种哲学 Lex 团队还在研究另一套系统：凯迪拉克的 Super Cruise。它的操作设计域（ODD，Operational Design Domain）非常窄，只在特定类型的、地图精细的高速公路上能用，测试充分但范围小。特斯拉的 ODD 则宽得多。 各有优劣。宽 ODD 的好处是，司机能更早、更多地去探索系统的边界，配合仪表盘上那个世界观的显示，慢慢建立起对系统的直觉。坏处也很明显：你等于让司机在任何能识别出车道线的地方都用它。 马斯克没回避这个矛盾，反而把话说得更狠： > 坦白说，让人手动去开一台两吨重的死亡机器，这事本身就挺疯狂的。未来的人回头看，会不敢相信以前居然允许任何人随便开着一台两吨重的死亡机器到处跑。（马斯克） 他又把电梯搬了出来。以前的人拿着操纵杆想让电梯停哪儿停哪儿，甚至停在两层楼中间都行。在未来看来，人类自己开车这件事，会像今天看电梯操作员一样古怪。 这段话听着像狂言，但它其实回答了 ODD 那个问题。在马斯克的价值排序里，人类手动驾驶的风险是基线，是那个需要被消除的东西。所以把 ODD 做窄，等于承认手动驾驶还要持续很久，等于在一个高风险基线上做局部优化。他想要的是把基线本身换掉。 ## 对抗样本：教系统认识什么绝对不是车 有黑客用对抗样本（adversarial examples）骗过 Autopilot，让它做出奇怪的反应。神经网络对输入的微小扰动极其敏感，这是整个行业的软肋。Lex 问：这种事防得住吗？ 马斯克说防得住，理由是神经网络本质就是一堆矩阵运算。要攻击它，得是非常懂行的人，基本上要逆向工程出矩阵是怎么搭的，再造一个精巧的扰动让矩阵算歪。 > 但挡住它很容易，基本上就是做一个反向识别。如果系统看到的东西像是矩阵攻击，就把它排除掉。这太简单了。（马斯克） 他的思路是让模型同时学两类样本：这是车，和这绝对不是车。这是两个不同的概念，都得训练。看到疑似被篡改的输入，就归到绝对不是那一类里剔掉。 他还顺带调侃了一句公众对神经网络的陌生：很多人听到神经网络，脑子里想的是渔网。 ## 烤面包机、爱与模拟宇宙 话题从工程拐到了哲学。 Lex 问：现在的深度学习方法离通用人工智能还有多远？马斯克说还差几个关键想法，但通用人工智能会来得非常快。到那时候我们就得想清楚该拿它怎么办，如果我们还有选择权的话。 他觉得好笑的是，人们总是分不清窄 AI 和通用智能。让车认出车道线、在街上导航，和真正的通用智能，完全是两码事。 > 你的烤面包机和你的电脑都是机器，但一个比另一个复杂得多。（马斯克） Lex 顺着这个梗问：你有多大信心特斯拉能造出世界上最好的烤面包机？马斯克笑了：世界上最好的烤面包机，是的。世界上最好的自动驾驶，是的。 他补了一句很有意思的话。对现在的他来说，自动驾驶这件事看起来已经是游戏、盘、赛点（game set match）。他不想显得自满或过度自信，但这就是它此刻看起来的样子。他可能会错，但眼下看起来，特斯拉远远领先于所有人。 然后是最柔软的问题。Lex 问：我们会不会造出一个我们能爱、它也深情地爱回来的 AI？就像电影《她》里那样。 马斯克的回答带着物理学家的冷峻。AI 会很擅长说服你爱上它。但这和它是不是真的爱你，是两回事，这就滑进了形而上学：情感和思想是不是存在于物理世界之外的另一个领域？ > 从物理学的角度看，如果它爱你的方式，让你根本无法分辨真假，那它就是真的。如果没有一个测试能让你区分，那就不存在区别。（马斯克） 他把这套逻辑推到了模拟假说上。真实世界和模拟世界之间，可能根本不存在能区分二者的测试。既然测不出来，从物理学角度，它们就是一回事。 但他也留了个口子：也许存在检测模拟的方法。只是你可以设想，一旦模拟里的实体找到了检测方法，模拟本身可以重启、暂停，或者开一个新的，把这个错误修正掉。这个想法有点像程序员发现线上 bug 之后的处理方式：不回滚，直接发新版本盖过去。 Lex 最后问：如果有一天你或别人造出了通用人工智能，你能问它一个问题，你会问什么？ 马斯克的答案只有一句：**模拟之外是什么？** ## 回到现实：这场对话对普通人意味着什么 整场对话最值得记住的，是马斯克那套把复杂问题压成一句话的能力。所有输入都是错误，买特斯拉是买增值资产，未来开车会像电梯操作员一样古怪。这些话之所以有传播力，是因为它们各自背后都站着一整套工程逻辑。 同时也要看清分歧在哪里。Lex 代表的是以人为中心的路线：在系统还不够好的漫长过渡期里，怎么通过监控、交互设计、心理学研究，让人和机器配合得更安全。马斯克代表的是以系统为中心的路线：他想的是把系统做到让人不再必要，把管理人的弱点放到了次要位置。 两条路不矛盾，只是时间尺度不同。短期看，Lex 的担忧是真实的，人确实会松懈，监控确实有用；长期看，马斯克的判断大概率会兑现，系统一旦远超人类，人的介入就成了噪音。 这场对话里，普通读者能直接落地的部分其实很具体： - 如果你在关注自动驾驶，别只盯着能不能自己开这个问题，重点看它怎么定义和收集边缘案例，接管数据怎么被区分成图方便和真出错，这才是系统进化的燃料。 - 判断一家自动驾驶公司，先看它的车队规模和传感器配置，再看它有没有能力把海量数据转成可训练的样本。算法可以追，数据规模短期追不上。 - 买任何带辅助驾驶的车，先花十分钟研究它的 ODD 边界。宽 ODD 让你更自由，也要求你更清楚它在哪儿会失效；窄 ODD 帮你规避风险，但功能天花板低。 - 如果你是产品经理，记住所有输入都是错误这个视角。用户每一次手动纠正，都是一条免费的需求信号，前提是你能把用户觉得不对和系统真不对分开。 - 别急着站队，问自己押注的时间窗口有多长。短期做人的适配，长期等系统的胜利，两种投入都需要，只是比例不同。 最后那句模拟之外是什么，其实也可以反过来问自己：我们每天开车、写代码、做产品，忙的这些事里，有多少是真正必要的输入，又有多少只是系统还没修好的错误。