# 罗德尼·布鲁克斯：机器人学

> iRobot 联合创始人回顾行为式机器人的思路，评估人形机器人、自动驾驶与 AI 泡沫的现实。

- 原标题：#217 – Rodney Brooks: Robotics
- 期数：第 217 期
- 发布日期：2021-09-03
- 嘉宾 / 主题：罗德尼·布鲁克斯：机器人学
- 网页版：https://lexfridman-cn.pages.dev/ep/rodney-brooks/
- 官方页面：https://lexfridman.com/rodney-brooks/
- 精读字数：约 12323 字（阅读约 27 分钟）

> 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

「机器能思考吗？」1950年，图灵在论文开头抛出这个问题。七十一年后，罗德尼·布鲁克斯（Rodney Brooks）的回答是：当然能，因为你就是一台机器，我也是一台机器。在他眼里，任何别的哲学立场都有点可笑。

这个人说这话不是随便说说。他在MIT领导过计算机科学与人工智能实验室（CSAIL），参与创办了iRobot，那家做出Roomba的公司，光扫地机器人就卖出三千多万台。后来是Rethink Robotics，做Baxter和Sawyer。再后来是Robust.ai，目标是教机器人常识，这件事比听上去难得多。

让他真正出名的，还有另一面：那些不合时宜的判断。所有人说自动驾驶还有三年的时候，他说别急。所有人说深度学习把智能问题解决了的时候，他说只解决了一小块。他写博客逐条记录自己的预测，标上日期，承诺三十年里每年回头对一次账。

这期访谈信息量很大，从他用冰块托盘做的第一台「计算机」，到那辆停在斑马线前不肯走的Cruise，到Rethink最后那难熬的一周。

## 一个用冰块托盘做计算机的男孩

1954年底，布鲁克斯出生在南澳大利亚的阿德莱德。家里有两本1961年出版的书，《电的奥秘》和《巨型大脑与机器人》，属于那套How and Why Wonder Books。他八九岁学会搭简单电路，学会二进制，剩下整个童年都在试图把书上的机器人造出来。

造不出来。他很早就认清了自己在机械上的局限，于是转去做「脑子」。最原始的版本是一个冰块托盘，每个格子算一个细胞，两根钉子做电极，加上电压，铜会在两个电极之间慢慢长出一座桥。时间一长，这个铜桥网络就「学会」了做加法。

预算决定了一切。钉子、冰块托盘，仅此而已。后来攒够钱买晶体管，他开始搭门电路和触发器。再往后是十二岁那年，他用旧电话交换机的开关拼出一台永远赢井字棋的机器，九个三位置的开关，空、叉、圈，加几个灯泡，没有有源器件。

他提到这件事的时候语气很平静，但你能听出来那里面有一种东西：他想造的是能打败成年人的机器。这个念头跟了他一辈子。

## 最漂亮的机器人没有脸

问他见过最漂亮的机器人。答案是多莫（Domo），他学生亚伦·埃德辛格（Aaron Edsinger）做的，现在摆在CSAIL主任丹妮拉·鲁斯（Daniela Rus）的办公室里。

上半身人形，两条手臂，三根手指的手，串弹性驱动器（series elastic actuators），缆线驱动，所有电机都藏在体内。埃德辛格当年没跟布鲁克斯要预算，也没说自己要干什么，直接开始花钱，花了很多钱。他还坚持把自己的机械工程师杰夫·韦伯（Jeff Weber）一起带进实验室。两个人做出来的东西，用布鲁克斯的话说，机械上漂亮到不像工程产品，各种零件阳极氧化成不同颜色，细节精致得像艺术品。

多莫的脸只有一个东西：眼球。眼球真的会动，里面装摄像头，带视觉注意机制。有人进门，它会转过去看人的脸。

为什么不给它一张像人的脸，布鲁克斯有个原则：

> 机器人长什么样，就是在为它能做什么许诺。别过度承诺。如果你的机器人长得像阿尔伯特·爱因斯坦，那它就应该和爱因斯坦一样聪明。（罗德尼·布鲁克斯）

多莫能做到的只有注视和注意力，所以它的脸上只放眼球。技术上有能力做得更像人，伦理上不该做。

## Rethink的那双眼睛

Baxter和Sawyer的屏幕上有一双图形眼睛。摄像头不在那里，这双眼睛会看向手臂即将移动的方向。工厂里站在旁边的人因此不会被人突然挥过来的机械臂吓到，机器人提前把自己的意图交底了。

这件事在机器人圈里争议不小。有些客户讨厌那双眼睛，Rethink就做了开关，运行的时候可以切成显示曲线图。另一些客户的反应出乎布鲁克斯的意料：他们嫌新版不如旧版像人，他们喜欢那双眼睛。

布鲁克斯说，他最遗憾的是，他接触过的顶尖机器人研究者，大多不愿意碰这件事。他们把它当机器，不当成一台可以建立人类连接的机器。在他看来，这是白白扔掉的机会。

顺便说一句，这双眼睛还有一个功能：无代码编程。Baxter用示教的方式教，屏幕上显示的是它对任务的理解。屏幕同时承担了两个角色。

## 《连错都算不上》

他正在写一本书，大约480页，暂定名《Not Even Wrong》（连错都算不上）。三条主线。

第一条是计算史。从1614年和1620年纳皮尔（Napier）和开普勒（Kepler）的拉丁文手稿，到巴贝奇和洛夫莱斯，到图灵1936年那篇论文。

那篇论文的目的在于否掉希尔伯特提出的三个问题之一，另外两个已经被哥德尔解决了，否定总比证明容易。图灵需要定义一种机械过程，能像当时那些被称为「计算机」的人一样工作：那些人拿着纸和笔，按规则写下一串数字，迭代次数越多，得到的有效位数越多，工程用的表就是这么算出来的。

图灵给出的机器很简单：一条无限长的纸带，一套人拿纸笔就能执行的规则。然后他证明这台机器做不到希尔伯特想要的那件事。至于这台机器是否穷尽了一切可计算的东西，他在论文里坦承，没有真正的论证，靠的是直觉。

「计算」这件事，就是这样被定义下来的。

## 计算的隐喻被用过头了

第二条线索是一个2×2的矩阵。

上行是科学，下行是工程；左列是智能，右列是生命。工程那一行对应人工智能和人工生命，科学那一行对应神经科学和非生物发生（abiogenesis，非生命物质如何变成生命物质）。四个学科，全部在1945到1965年之间定型成现在的样子，而且这四个圈子里的人互相认识，很多都在MIT的电子研究实验室待过，沃伦·麦卡洛克（Warren McCulloch）在那儿主持。

1943年麦卡洛克和皮茨写的那篇论文，用逻辑门的形式给神经元建模，没有任何实证依据。冯·诺依曼1945年设计EDVAC，参考文献只有三条，其中一条就是它。明斯基1953年的博士论文接着往下走。

布鲁克斯给这段历史起了两个章节名：「等等，计算机是人？」和「等等，人是计算机？」

第三条线索是隐喻的限度。人类理解世界靠的是「位置」和「容器」这套基本隐喻，海马体的位置细胞加上皮层一起构成了它。一旦超出隐喻的射程，我们就得发明新工具，微积分就是这样一个工具。

> 埃隆·马斯克的火箭升空的时候，它在计算吗？它靠计算进入轨道的吗？（罗德尼·布鲁克斯）

他的意思是，「计算」这个词承担了远超原始定义的工作量。它变成了一副眼镜，戴上之后很多问题就看不见了。

## 三次意外

布鲁克斯承认自己判断错过几次。

第一次是Mobileye。他原本以为那套老老实实的传统计算机视觉，在真车上不可能跑得那么好。坐进车里用过之后，他改主意了。

第二次是特斯拉把Mobileye整个扔掉，从零重做。他当时笃定追不上，那边积累了那么多年的标注工作和工程细节。结果追上了，而且靠的是一种「数据引擎」的思路：把驾驶拆成多个任务，从车队里回捞边缘案例，反过来喂给模型。这套工程能力让他重新评估了「能做到什么程度」这件事。

第三次是Waymo在钱德勒（Chandler）真的撤掉了安全员。他坐过没有司机的车，看着方向盘自己转，那确实是个时刻。

但他不认为这些意外推翻了他的结论。他的原话大意是：人们会从一辆无人驾驶车上做插值，得出「这事已经成了」的推论。这才是他要反驳的东西。

## 三万五千和十

美国每年死于机动车事故的人数是三万五千左右。工程师算账的方式是：自动驾驶只要把死亡人数降低10%，每年就能少死三千五百人，这是巨大的胜利。

布鲁克斯的预测反过来。如果自动驾驶一年撞死超过十个人，公众会炸锅。哪怕人类司机一年撞死三万五千。

这套账不理性，但他认为这就是现实的样子。人对新技术的容错阈值，和对同类的容错阈值完全不在一个量级。

他还有一个更结构性的判断：每次新技术进入日常生活，游戏规则本身都会变。汽车第一次进入城市的时候，城市被重建了，法律被改写了。乱穿马路（jaywalking）这个概念，是汽车公司推动立法造出来的罪名，为的是把人从马路上赶走，减少行人被撞死的数字。

所以他认为，真正的普及不会是把现在这辆车里的司机拿掉，然后一切照旧。边缘案例太多，成本太高。得等到环境被重新设计。

## 一条白线的黑边

布鲁克斯住在湾区，常走280号公路。那里的路面大多是混凝土，不是沥青。他注意到白色的车道线现在两侧描了黑边。他自己的车上的车道保持系统，没有这圈黑边就不好使。

他不知道交通部门是不是为了配合这类系统才这么刷的。但这说明一件事：基础设施会跟着技术走，往往是悄悄地、被动地、事后地跟。

他原本以为101公路最左边那条道会变成自动驾驶专用道，车开进去，按一个键，切换模式。五年前他预期会有很多动作往这个方向走。没有。他怀疑是因为特斯拉把话说得太满，把系统叫全自动驾驶，反而堵住了「大家一起改基础设施」这条路。

他举全自动列车的例子。美国大概有十五六套完全无人的列车系统，多数在机场里。真正在城市里跑的，只有檀香山那条，原定2017年运营，延期了，但总归会通。东京湾那条通往填海人工岛的全自动线路他也坐过。

你去看这类系统会发现一个共同点：轨道被彻底工程化过。每一站有两套门，一套在车上，一套在站台边缘，中间对不齐就打不开。整条轨道封闭，人爬不上去。日本那条线穿行在楼宇之间，全程如此。

他由此得出一个判断：全自动驾驶真正先跑起来的地方，是园区、封闭社区、机场、校园这类区域。里面的其他人不是随便什么人，他们知道这些车在那儿跑，速度低到随时刹停都安全。高速公路做不到这一点。这种车的样子可能根本不像现在的汽车。

他补了一句：这事在商业上不性感。你坐在车里，它停下来等，那种感觉极其难受。但换成退休社区里一个八十多岁的人，孩子已经没收了车钥匙，这辆车让他还能自己去超市，那就是完全不同的价值。只是这种价值影响的人数，比全世界所有道路加起来，要小好几个数量级。

## 旧金山北市场那一片

问他什么时候旧金山能有真正无人的出租车服务，覆盖任何两点之间。他的回答很干脆：十年之内肯定不行，除非道路被重新设计。市场街以南更久。

他住在那一带，每天都看见各家公司的测试车，Waymo最频繁，Cruise也不少。车里永远有人。他还观察到一些细节：有时候安全员没法自己接管，得等总部决策，人坐在那儿等很久，你能看出后台在开会。「事件解决时间」这件事，比任何声明都更能说明系统的成熟度。

他讲了一个亲眼所见的事。几周前的一个周五晚上八点左右，天快黑了，一辆Cruise开下坡、右转，然后直挺挺停住，正好压在斑马线上。为什么停？因为两英尺外站着一个人。一个女人站在自己车门边，用遥控器开锁，找不到钥匙，正忙着。车判定她随时可能跳出来。布鲁克斯一眼就知道不会，她压根没在看路，她在跟自己的钥匙较劲。

车停在那儿，停到他都看腻了。安全员没有接管。

然后关键的一幕来了：一个男人推着婴儿车下坡，斑马线被这辆车堵死了。他做了个聪明决定，没从车前过，绕到车后，推着孩子下了斑马线，走进路口，绕过这辆车。

> 没有任何人类司机，会在那儿停那么久。他们会赶紧挪开。安全被牺牲了，而牺牲的是那些根本没报名参加这场实验的居民。（罗德尼·布鲁克斯）

他不喜欢拿单个案例说事，这一点他自己也承认。但他认为这类事有个结构性问题：受影响的人和做决定的人不是同一批。

他还提到一个更荒诞的推论。人一旦发现把一只脚伸出路缘就能让自动驾驶车停下来，青少年会天天这么干。他认识的一个同事就专门这么「折磨」自动驾驶车。Waymo还没改名前就发现了这个问题：在四向停车路口，必须往前蹭一点，给出「我要走了」的信号，否则永远被人抢道。

这引出他的一个核心信念：和人打交道的机器人必须学会顶回去。可以被欺负的机器人，用户体验一定很差。

## 三十年的对账单

2018年1月1日，布鲁克斯在自己博客上列了一批预测，标上具体年份，然后承诺此后每年1月1日回头核对一次，一直核到2050年，那年他九十岁。

他做这件事的动机有点赌气：所有人都在做预测，错了没人记得，那不行，他得对自己有个交代。后来他又加了一条，不再做新预测，只核对这一批。话题集中在三块：人工智能、自动驾驶、太空。

有一条他现在觉得过于乐观：某年之前101公路会出现自动驾驶专用道。还有一条是2035年，无人出租车服务覆盖马萨诸塞州剑桥港的所有街道。他后来私下承认，这条也乐观了。那地方路窄，单行道多，还有人逆行走，人类司机开着都烦。

至于全自动驾驶在旧金山普及，他内心已经比当年更悲观一些。他给出的判断方式是：别问技术什么时候成熟，问环境什么时候被改造。

## 十四次失败

iRobot成立于1990年。到2002年，这家公司已经试过十四种商业模式，全部失败。同一年，两个产品同时成了。

Roomba定价目标是200美元。当时市面上另一台家用清洁机器人是伊莱克斯的Trilobite，卖两千欧元。布鲁克斯团队的判断是，两千欧元不是消费品，200美元才是货架上有人愿意掏的钱。这个目标倒推回来，意味着物料成本必须压到极限。

于是他有一堆当年的邮件，主题大概是「我找到了」。他去台北开MIT的会，会多留几天，坐车去新竹，一家一家拜访那些小公司。台积电让这些小公司不必自建晶圆厂就能创新，他们的活儿是把现成的芯片拆开瘦身：拿掉一半硅片，还能用。摩托罗拉6802，苹果一代用的那颗，被人削过之后照样跑。

iRobot当时给计算留的预算是五毛钱，所以布鲁克斯去香港看的不是电脑，是那种手持小游戏机和贺卡里的芯片。他会盯着人家删改后的规格看，然后判断：这个中断处理太弱，做不了通用。最后找到华邦（Winbond）的一颗，512字节内存，性能刚好够，价格在预算内。

董事会批准的产量，他们做了三倍，七万台。2002年9月18日发布，圣诞节前全部卖光。

他说起这段时的语气像在讲别人的故事。他开玩笑说自己本来是个纯数学家，后来变成了卖吸尘器的。

还有一件他真正骄傲的事。2011年3月，iRobot的机器人被送到日本，参与福岛第一核电站的事故处置。他2014年去过那里，有些机器人还在。为什么是他们的机器人能上？因为此前已有约六千五百台iRobot的机器人在伊拉克和阿富汗服役，处理路边炸弹，那意味着九年的严酷现场经验。日本的机器人当时正享受着全世界的赞叹，「看那个本田机器人，会走路，未来来了」，但它们没被真正部署过，到了现场什么也做不了。

> 那些拿到所有掌声的机器人，什么也做不了。（罗德尼·布鲁克斯）

## CFIUS和那难熬的一周

Rethink Robotics是他创办的另一家公司，也是他最痛的一次失败。他一直强调，他骄傲的是那件事：把机器人从工厂的笼子里放出来了。人机可以挨着站，安全，而且人不需要写代码就能重新指派任务。这两条后来变成了行业的默认期待，大公司小公司都在宣传。

失败的根子，他自己讲得很清楚，是在一个会议室里被说服了。

他给公司定的目标是三千美元一台，带力反馈，安全。他压根不打算卖给已经在用机械臂的工厂，他要卖给那些永远不会买机械臂的人。这样就不必迁就既有客户的期待。塑料齿轮箱能省一大笔钱，坏了换一个，整机当成运营支出而不是资本支出。

问题是塑料齿轮有扭矩波纹。控制工程师抱怨说，在波纹上做力控太难了。一位机械工程师说，那我们做个金属直齿轮箱，六周搞定。两年之后才搞定。成本想尽办法压，价格还是上去了。然后当时的CEO说，得做成两条手臂，不是一条。于是Baxter卖两万五。

两万五这个价位，唯一会看它的人，就是那些本来就有机械臂的工厂，因为两条臂比他们现有的便宜。但这些人习惯了0.1毫米的重复定位精度，习惯了一定的速度。布鲁克斯反复解释：你不需要位置重复精度，你像人一样用力控就行。对方说，可是别的机器人都有那个重复精度，你为什么没有。

他打了个比方。你要把一个零件插进一个直角槽里。位置控制的做法是：先把工件精确固定，你知道它在哪，直接走过去。力控的做法是：滑过去，碰到，感觉到，再顺着贴合进去。人拿到精度靠的是后一种。

说不通。于是他们又花两年去做一台三万五的单臂机器人，用谐波减速器一类的部件，而那东西本身带扭矩波纹，等于绕了一大圈又回到最初要解决的问题上。

公司最后的死法跟技术无关。他们有过买家，尽调做了好几轮，但每个财团里都有中国资本。美国外国投资委员会（CFIUS）这道关卡，历史上只动用过两次，却足以让所有银行家在最后一刻说「这个过不去」，投资人转身就走。等到现金快烧完，剩两个买家，其中一个用强硬的法律手段压另一个，说愿意出更高价接手，等他们真的没钱了，退出，然后以一周前报价的三十分之一买走了资产。

> 那是很难熬的一周。（罗德尼·布鲁克斯）

他当时说过再也不创业了。让他稍微好受一点的是，团队在一周之内被三家公司瓜分完毕，所有人都有去处，有些人甚至没换工位，因为新公司租下了那块场地。

## 为什么机器人公司这么难

他给了三条原因，全是他自己踩过的坑。

第一，创始人对能力的预期是错的。错在创始人这边，跟消费者无关。第二，定价错了。客户认为合理的价格，不一定理性。第三，让市场接受一项新技术本身就极难。

他承认自己在这三条上都栽过，失败比成功多。

至于会不会出现一家市值万亿美元的机器人公司，他说他现在还在创办机器人公司，所以不会做这种预测。他补了一句：九十年代也没人觉得苹果会变成万亿公司。这类事没法预测。

但他对另一个方向有判断：家用机器人会有巨大的市场拉力，动力来自人口结构反转。老人太多，照顾的人不够。只是现在的机器人还不够能干，算不过来这笔账。他期待它发生，然后提醒你一件事：Roomba是2002年发布的，他在iRobot又待了九年，那九年里一直在找下一款家用机器人。到今天，将近二十年后，这家公司的主力产品还是Roomba。

## 他没能问出口的问题

写这本书的过程中，他反复想到一件事，是他的自责。

五十年代和六十年代活跃的那批人，他大多认识，认识的时候对方已经老了。MIT每周四有faculty午餐，他就坐在那些人旁边。他没有问。

> 很多动机永远丢失了，永久地丢失了。（罗德尼·布鲁克斯）

如果能重来，他想问利克莱德（J.C.R. Licklider）什么。利克莱德是人机共生的提出者，在DARPA推动了这件事，1963年给MIT拨款启动了Project MAC。他想知道，哪些成了，哪些败了，当事人眼里什么算进展。

他还想问明斯基，1969年那本《感知机》（Perceptrons）为什么对神经网络下手那么重。明斯基的博士论文本身就是关于神经网络的。那本书里有定理，但全是负面定理，整个领域因此冷了十年。他怀疑明斯基自己也没料到后果。

他提到明斯基说过的一句话，大意是：保持产出的秘诀，是讨厌你过去做过的一切。布鲁克斯说，也许这就解释了《感知机》。

他还讲了个诺伊斯式的细节。七十年代末他在MIT人工智能实验室，高德纳（Donald Knuth）晚上在那儿写TeX。有一天主机宕机，他和另一位工程师打开洗衣机大小的磁盘机排查，拔出一块7400系列芯片，换上新的，插反了，冒烟。因为高德纳那么高的个子就站在后面看着，问什么时候能修好。

## MIT、Google和那些被锁起来的人

他对大公司收购学术人才这件事评价很直接：Google当年一口气买下八九家机器人公司，对这个领域是坏事。人不用再为公司的成败负责，被锁起来好几年，然后整条线被砍掉。他还提了一句更刺的：有些公司付了极高的薪水把人挖走，然后这些人再也不出现在公开场合，不能演讲，等于被收藏了。

他对Google那种「由一个创始人驱动的大梦想」也有保留。他不确定那个梦想的地基牢不牢，也不确定它会有创始人相信的那种影响。但他马上补了一句公道话：大梦想本身有一种统合作用，一群聪明人围着一个梦想转，会溢出很多相邻的想法，很多进步就是这么发生的。

至于2020年，他在那年的对账文章里写得很清楚：这一年不会被记作机器学习的分水岭。没有任何让人意外的事发生。论文数量暴涨，但大多是无趣的增量工作。真正让人一震的时刻是深度学习撞上ImageNet那一次。

## AlphaFold和AlphaZero

他不否认有些东西确实让他意外。

AlphaFold预测蛋白质结构，正确率高得让他吃惊，因为这是出了名的难题。但他马上指出实用性上的漏洞：你不知道它哪几个是对的。最近那版工具在解决这个问题，可能真能变成能用的东西，可能真的会推动结构生物学。

AlphaGo和AlphaZero则是另一码事。他提了一个问题：如果棋盘从19×19改成21×21会怎样？DeepMind的人当时的回答是彻底失效。人类棋手换个棋盘还能下。不过他也注意到，那之后他们发表的算法已经能适应更大的棋盘了，泛化能力在一点点扩张。

他不接受「学习」这个词被用得太宽。他学认路、学下棋、学拉丁语、学骑自行车，这是四种完全不同的能力。而现在一篇新闻稿就能把其中任何一种说成「公司X引领世界」。

他还有个更根本的批评：这些系统在条件轻微变化时就会崩掉，人不会。

关于国际象棋，他给了一个很有意思的视角翻转。象棋本身并不难，难的是人有本事选定一个任务，然后让上百万人愿意为它奉献一生，互相竞争，把性能推到荒谬的高度。费马大定理本身没什么意思，几千个人围着它折腾几百年才有意思。他说自己小时候的「病」就在这里：他造机器的乐趣，是造出能打败成年人、而且成年人打不过的东西。

他说十二岁那台井字棋机器是他最骄傲的作品之一。旁边的人说这里有魔法。他同意，那确实有魔法。但他接着说：每一次都是硬仗，一步，再一步。看到魔法就以为会一直这么走下去，是错的。

## 孙子、窗户和强化学习

他讲了一件让他震惊的事。一年前，他十六个月大的孙子第一次进那栋新房子。那房子有矮窗，孩子从没能够到过窗户。他走到窗前，一只手推窗框，另一只手转把手，把窗户打开了。

两只手做两件不同的事，这个组合他从没见过。那扇窗他从没见过，那个把手他从没见过，那个机制他从没见过。

> 他是怎么做到的？（罗德尼·布鲁克斯）

另一个故事是十八个月时玩的那个多锁具盒子。他没有把所有表面都摸一遍，也没有乱按。他看得出机关在哪儿，然后一个一个去试。里面当然有强化，但前面加了一层过滤器，把搜索空间砍掉了一大块。

然后是DeepMind。三四年前他去伦敦，进了那道Google员工都进不去的门，会议室里几个人给他讲他们的强化学习机器人实验：让机器人自己乱试，试多了就试出来了。那些机器人是Sawyer，是他公司卖的。对方很喜欢，因为Sawyer是柔顺的，能感知力，撞墙不坏，会停下来。

他问能不能去看看。回答是不行，保密。他后来在访谈里笑着说：那本来是我的机器人。

## 为什么「感知很难」这件事这么难懂

他讲了一个「注册」（registration）的问题，出自哲学家布莱恩·坎特韦尔·史密斯。意思是：你和那个物体之间，必须建立起一种对应关系，你才知道自己看到的是什么。这件事极其难，也极其含糊。

他举颜色。桌上那个盒子，他以为是蓝色的。但蓝色不是光子的属性，是大脑用色彩恒常性构造出来的。所以只要在停车标志上贴几条胶带，深度学习系统就认错，因为红色本来就不在光子里面。

狗的例子更狠。狗去闻一根灯柱，能闻出过去十小时里有多少只不同的狗来过、分别是什么时候。那是另一个世界的感知。而我们拿着单张快照，就以为自己在感知世界。

他由此说回莫拉维克悖论（Moravec's paradox）。他不觉得这是个悖论，这是演化花时间的地方。六亿年的多细胞生物在练习感知和移动，狩猎采集是很晚的事，语言可能只有二十万年，农业一万年。上面那层建立在下面那层之上，下面那层花了太久。

至于为什么我们直觉上分不清难易，他给了一个有点刻薄但很有说服力的解释：五十年代末六十年代初进AI实验室的，是一群考进MIT的聪明孩子。他们擅长什么？下棋，做积分。那才是「难」的。婴儿会看东西，谁都会，那不叫智能。

所以符号接地问题一直没被解决。深度学习开始给图像打标签时，有人说接地问题解决了。他说没有，被解决的是标注问题，某个百分比的准确率，两回事。

## 为什么你还不想跟Alexa喝一杯

图灵测试在他的评价里不高。他读原文，认为图灵自己从没说过这是个好测试，图灵只是拿它当一个修辞工具：如果你分辨不出人和机器的差别，那你就必须承认机器在思考，因为你说不出别的。但这个想法后来变成了一场「骗人」的奇怪游戏。

他讲了个MIT的旧事。八十年代末实验室办AI奥运会，其中一项是图灵原文开头那个「模仿游戏」的原始版本：判断对面打字的是男是女。有个男的从此找到了一个百发百中的问题：你小时候有绿色塑料兵人吗？你都拿它们干什么？装作男人的女人会说，哦，我把它们排成一排，我们打仗，摆战场。而一个真正的男人会说，我一脚踩扁，我烧了它们。

那对话本身呢，不带测试性质的那种？他认为那才是真正难的东西，比计算机视觉难得多，因为它太像人了，一切都看得见。

他提到六十年代魏泽鲍姆的Elisa，作者本人被吓到了，没想到人愿意对着它倾诉那么多。他去问，要让人愿意跟一个系统聊上一小时，图什么？答案是缺了几样东西。话题没有连续性，你没法提起昨天说过的事。没有一个持续存在的自我。没有共同经历，也没有记忆里共享的时刻。系统也没有任何意图，哪怕只是「想开心一点」这种程度的意图都没有。

他不认为这不可做，他认为这是最低门槛。够不够，不知道，还没人做到过。

## 关于爱，和《两百岁的人》

被问到人类会不会爱上一个AI，那个AI也爱回来。他先说，五十年代就有人爱上汽车了，那是另一种爱。至于那种能一起成长、相伴一生的关系，他的判断是，还很远很远。《银翼杀手》的时间尺度完全错了。

最难的地方还是身体。那个能感知世界、能被感知的形态。但如果只看声音，像电影《她》那样，他认为对某些人来说可能不远了。

他看着科幻片有个方法论上的意见：科幻片的套路是今天的世界原封不动，只改一件事。但现实不是这样，所有东西是一起长出来的。他认为这方面最好的电影是《两百岁的人》（Bicentennial Man），虽然拍得滥情。好在哪？机器人努力变得更像人的同时，人类在把机器人的技术装进自己身体，两条线在靠拢。

所以未来的人不会是今天的人。我们已经开始改造自己的婴儿，已经往身体里塞技术。他自己耳朵里就装着助听设备，好听见这场对话。

他还说了一句关于隐喻的话。量子力学一百年来这么难懂，是因为我们非要给它一个物理隐喻：它是粒子？不，它是波？总得是个我们懂的东西。他说不是，它就是一套奇怪的数学逻辑。他预计一两百年后，量子力学和暗物质都不会用今天这套语言来讨论，就像燃素说最后消失了一样。燃烧不在物质里面，是外面的氧气。我们对隐喻的渴望，加上有限的认知能力，一起给我们制造麻烦。

他讲了一个他很喜欢的巧合。Ada Lovellace写的第一段程序，是算伯努利数。而伯努利数恰好就是求鼓面那些不动点需要的东西。你敲一下鼓，它振动，表面上有些点纹丝不动。你可以用计算逼近它们，但鼓自己知道，鼓不需要算。她那个程序里还有个bug，除法的一处参数写反了，不过分析机从没造出来，这段代码也从没跑过。

## 风险、死亡和那本没写完的书

给年轻人的建议，他说没有统一答案，因为路不止一条。他反对被「什么好发论文」绑住，虽然承认自己那个年代可以当叛逆者还活得下去，今天也许更难。

核心是一句：想要真正有影响，就得准备好失败很多次，就得做很多不安全的决定。唯一让它成立的办法是一直做下去，做得足够久，然后其中一次会成。也可能不成，可能就落得一个很糟的职业生涯。这是可能的。反过来，全做安全决定的人，基本不可能真正贡献什么。

关于死亡。他说新冠刚来的时候他确实想过，因为那阵子谁都不知道会有多严重。那段时间他拼命写书。后来公司忙起来，书就搁下了，但他想写完。

问怕不怕。他说怕的是流口水，是失智，是那个「自己」不在了。旅途总会结束这件事，他知道很久了。但知道和知道，是两回事。他说这话的时候带了一点自嘲：博客上那些预测，核到2050年，他九十岁，每写一次年度回顾，就离自己预设的那个终点近一点。

## 关于意义

他希望留下的东西是什么？把那本书写完，然后有一个人读到，想法被改变了一点，接着引出了下一个大东西。一百年后有人在播客里说，我当年读过那本书，一切都不一样了。

生命的意义。他的回答很诚实：我们都很不擅长这件事。人容易被眼前的事抓住，因为眼前的事容易做，长期的事不容易。大局观上，我们很糟。

无神论告诉他一切都是随机的。但他想理解的是，秩序怎么从无序里长出来。整个宇宙是随机的，可地球这一小口袋复杂性偏偏出现了，为什么？这种复杂性有多常见？会不会持续？都不知道。

怕不怕我们是孤独的？他说他无法相信我们是孤独的，那太残忍。但那也可能是另一个更冷的答案：宇宙里到处是文明的坟场。我们也是其中之一。所有这些都会被忘掉，包括他造的机器人。

他最后说的其实很平静：历史上几乎所有人都会被遗忘，接近百分之百。他不认识任何记得他曾祖父母的人，因为没见过。

然后他补了一句：尽管有这么多荒谬，有时甚至毫无意义，生活还是挺好玩的。对他来说，最好玩的事情之一是机器人。

## 回头看，这几件事值得记住

这场对话里，布鲁克斯其实一直在说同一件事：技术在进步，人对技术的想象在原地打转。每隔几年就有人说「这次成了」，然后几年过去，我们还在原地往前挪了一小步。

他并不是唱衰。他自己造出了卖出三千万台的扫地机器人，也亲眼看着自己公司的机器人进了福岛的核电站。他知道东西能做出来。他只是受不了那些把一小步说成一大步的人，因为那些人最后会让公众对整件事失去耐心。

下面几条是这场对话里可以拿走的判断方式，不是结论，是工具。

- 判断一项机器人或自动驾驶技术的成熟度，别听发布会的时间表，去看环境有没有为它改变。轨道封闭了吗？站台加门了吗？白线描黑边了吗？环境改造的进度条，比模型指标的进度条更能预测落地时间。
- 评估一家机器人公司的风险，先看创始人对能力的预期是否离谱，再看定价是不是客户心里的那个价格，最后看它有没有能力推动用户改变习惯。这三条里任何一条错了，技术再好也会死。
- 如果要做硬件产品，先把零售价定死，再倒推物料成本，然后为那个成本去找别人拆过的芯片。布鲁克斯给计算留的预算只有五毛钱，这个约束反而逼出了产品。
- 做和人共处的机器人，主动把意图提前暴露出来。Baxter用眼睛看向手臂要去的地方，工厂同事就不会被吓到。这条比任何安全冗余都便宜，也更有效。
- 别给机器人一张超出它能力的脸。外形是承诺，承诺兑不了，用户的不信任会蔓延到整个产品。
- 在团队里当那个记住提问的人。布鲁克斯最大的遗憾跟成败无关，是当年坐在那些奠基者旁边吃饭，没问他们为什么这么做。你身边那些老同事，现在就去问。
- 如果你打算长期做一件难事，学他做一个可核对的记录：把预测写下来，标上日期，定好每年复查的日子。被自己打脸，是唯一能防止自我欺骗的机制。