# 德米斯·哈萨比斯：DeepMind > DeepMind 创始人谈 AlphaGo 与 AlphaFold 的诞生、通用人工智能的路线，以及科学研究的价值。 - 原标题：#299 – Demis Hassabis: DeepMind - 期数：第 299 期 - 发布日期：2022-07-01 - 嘉宾 / 主题：德米斯·哈萨比斯 - 网页版：https://lexfridman-cn.pages.dev/ep/demis-hassabis/ - 官方页面：https://lexfridman.com/demis-hassabis/ - 精读字数：约 11965 字（阅读约 27 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 访谈的第一个问题是个套娃。 > "如果我是你写来练手的 AI 程序，专门采访各路人物，直到水平够格来采访你，你会告诉我吗？"（Lex Fridman） Demis Hassabis 笑了笑，说不会。理由是：**告诉了你，你就会改变行为。**他把这称作一种海森堡式的处境，观测本身干扰了被观测者。 Lex 顺势把话题引向图灵测试。这位 DeepMind 的联合创始人兼 CEO 给出的回答，比大多数人预期的要冷淡：图灵那篇 1950 年的论文，从一开始就没有打算做成一份严格意义上的考卷。 ## 图灵那篇论文，从来没打算做成考纲 Demis 说，如果你真去读原文，会发现图灵没有规定评委是谁、知识水平如何、有多长时间盘问。这些恰恰是把一个思想实验变成正式测试时必须锁死的参数。 更尴尬的是，这个测试早就被人"通过"过了。十几年前就有人声称搞定，用的方法朴素到让人无语：让机器假装成小孩。评委以为自己在跟孩子聊天，标准自然就松了。这和一个懂行的 AI 研究者坐在对面、清楚这套系统怎么搭起来的场景，完全是两码事。 他倾向于换一个方向：**让系统在成千上万、最终可能是上百万个任务上达到或超过人类水平，覆盖整个认知空间。**测的是泛化能力，系统能不能跨任务迁移。一句话说得像人，在这个标准下不算数。 这背后是 DeepMind 当时的旗舰项目 Gato。语言模型预测下一个词，Gato 预测下一个 token，可以是文字，也可以是机械臂的关节角度、游戏手柄的按键。**预测这件事本身似乎是智能的地基，至于预测的是什么，反而没那么要紧。** Demis 说 Gato 是他们迄今最通用的智能体，但它只是个开头，还能往上堆好几个数量级的规模。"我们正在做这件事。" ## 八岁那年，他用下棋赢来的钱买了台电脑 Demis 四岁开始下棋。八岁那年，他用一场象棋比赛的奖金，买下了人生第一台电脑，ZX Spectrum。 这台机器在英国的地位有点像中国的红白机。它开机就是一个 BASIC 提示符，没有操作系统挡在中间，插上就能写。**英国整整一代程序员是被这台机器喂出来的。** 有意思的是家庭环境。父母完全不懂电脑，但因为钱是比赛赢的，他有决定权。于是他跑书店，买编程书，照着书把代码一行行敲进去。敲着敲着就开始改，改着改着就写起了自己的游戏。 "我当时说不出这个道理，但我感觉它是心智的延伸。"他说，你可以给它派个任务，然后去睡觉，第二天回来，它做完了。这句话他重复了两遍。所有的机器都在延伸人的某种能力，汽车延伸腿，起重机延伸手臂，**而这台机器延伸的是脑子。再往前走一步，就是 AI。** 十二岁，他拿到大师标准分，在同龄人里世界排名第二，排第一的是朱迪特·波尔加。也就是在这一年前后，他写出了人生第一个 AI 程序。 不是国际象棋，Amiga 跑不动那么大的程序。他写的是黑白棋，也叫翻转棋，规则比象棋简单得多，但把象棋程序那套东西全搬了进去：alpha-beta 搜索，局面评估，一层层往下推。灵感来自 David Levy 的《The Chess Computer Handbook》，1984 年出版，把象棋程序怎么造讲得明明白白。 十七岁，他进入游戏行业，参与设计《主题公园》（Theme Park），全球卖了几百万份。之后是《黑与白》（Black and White），那个养成一只神兽的游戏。**你怎么对待它，它就长成什么样。你虐待它，它就对村民凶残；你善待它，它就温和。**很多玩家第一次在游戏里意识到，自己一连串微小的选择，最后塑造出了一个什么东西。 ## 游戏是最狠的考场：规则清楚，反馈及时，人类基准现成 Demis 说自己的人生和游戏有三段关系。第一段是玩，第二段是设计，第三段是拿游戏当 AI 的试验田。 为什么 DeepMind 从第一天起就死磕游戏？他给的理由非常工程化： - 人类玩这些游戏玩了几百年甚至几千年，最强水平是多少，有现成的记录 - 输赢条件明确，奖励函数好写，强化学习最怕的就是奖励定义不清 - 可以在云上并行跑几百万局，样本效率极高 - 最后拿世界冠军来验证，外部标准无可争议 还有一层不那么技术的理由。围棋在很长时间里被当作 AI 的耻辱柱。人们说，不管你摩尔定律怎么涨，算力永远不可能啃下围棋，因为搜索空间大得离谱。**当一台机器在一个被反复宣告不可能的领域里赢了人类，这件事本身会震动几十亿人。**这种震动的源头在认知层面：原来我们以为的不可能，只是我们以为。 ## 2010 年，说"我们要解决智能"会被当成疯子 Demis 和 Shane Legg 在 2010 年创办 DeepMind。当时的使命宣言一直用到今天：**第一步，解决智能；第二步，用它去解决其他所有问题。** 他把这份 PPT 拿给投资人看，收获的是一堆奇怪的眼神。他们最终找到几个同样"不太正常"的人投了钱。更麻烦的是学术界。他后来回忆，那时候压根不敢跟教授们提这件事，一提就是翻白眼，觉得这孩子职业自杀。 但 2010 年恰恰是几个条件第一次同时到位的年份。 深度学习刚在学界冒头，工业界几乎没人知道。强化学习被认为可以规模化，而且神经科学给出了硬证据：猴子中脑多巴胺神经元的放电模式，和 TD 学习里的预测误差信号对得上，那是九十年代末的经典结果。**生物大脑用的就是这套东西，这条路在原理上不会错。** 算力那头，GPU 因为游戏产业被商品化了，便宜得离谱。Demis 说这事挺讽刺：为图形渲染造出来的芯片，最后成了 AI 的发动机。"搞半天全世界都是矩阵乘法。" 最后一块拼图是理论。Shane 的导师 Marcus Hutter 做过一套叫 AIXI 的东西，在无限算力和无限内存的假设下，证明了通用智能的最优形式，本质上就是一个强化学习系统在极限下的样子。Demis 一直在等这样的理论出现，就像图灵机和香农的信息论撑起了整个计算机科学。**一门学科要有地基，才配叫学科。** ## 蛋白质折叠：一句诺奖演讲里的旁注，卡了五十年 蛋白质是生物学的苦力。身体里每一个功能，背后都是蛋白质在干活，所以有人叫它们"生物纳米机器"。你去看看那些动画，几个分子咬合、旋转、开合，像一台被进化打磨了几十亿年的精密设备。 蛋白质由氨基酸序列指定，也就是一维的字母串。但在身体里，这根串会自己折叠成一个三维结构。**结构决定功能。**想知道这个蛋白质在干什么，想知道一种药该贴在哪，必须知道它的三维形状。 1972 年，Christian Anfinsen 在诺贝尔奖演讲里顺嘴提了一句：从氨基酸序列出发，直接算出三维结构，应该是可能的。至于怎么算，他没说。 这句旁白成了整个计算生物学领域的发令枪。有人把它叫作生物学界的费马大定理：写下猜想的人只在页边留了一行字，剩下的五十年交给后人。 五十年里，大家是靠实验硬啃的。先要把蛋白质结晶，这一步本身就极难，膜蛋白这种根本结晶不了。然后用 X 射线晶体学或者昂贵的冷冻电镜，一点点把三维形状照出来。实验生物学里有个残酷的经验值：**一个博士生，整个博士生涯，做一个蛋白质。** AlphaFold 2 把这个时间压到了几秒。 2020 年圣诞节前后，他们跑完了人类蛋白质组，大约两万个蛋白质。结构生物学家现在可以像用搜索引擎一样去查一个蛋白质的结构，不用再纠结"这个蛋白值不值得投入一个博士生的四年"。 ## 10 的 300 次方种折法，物理却在毫秒内算完了 这里有个更深的谜。Levinthal 在几十年前算过一笔账：一个普通蛋白质大约两千个氨基酸，可能的折叠构象有 10 的 300 次方种。可大自然在毫秒、甚至更短的时间里就把它折好了。 换句话说，**物理本身在解一个天文数字级别的搜索问题，而且解得又快又准。**绝大多数情况下，一个序列对应一个唯一且稳定的结构，但这个映射一点不显然，这正是问题难的地方。折叠出错会出大事，阿尔茨海默症的一个主流假说，就是淀粉样蛋白折错了形状，在神经元里缠成一团。 人类拿到的训练数据少得可怜。四十年的实验积累，总共只有大约十五万个蛋白质结构被解析出来。这个量级放别的任务里根本不够看。 所以他们用了不少巧劲。一个关键操作叫自蒸馏：把模型自己预测得最有把握的结果，反过来塞进训练集，把数据变多。**模型自己教自己，这是数据稀缺时最实用的一招。** 另一个关键决定是端到端。AlphaFold 1 输出的是一个距离矩阵，也就是蛋白质内部所有原子两两之间的距离，之后还得接一套单独的优化流程，才能把矩阵变成三维结构。AlphaFold 2 把中间那步删了，从氨基酸序列直接吐三维坐标。 Demis 说这是他做过的所有 Alpha 系列项目里总结出来的规律：**能端到端就端到端。**因为人手设计的中间表示，一定不如让梯度从最终输出一路流回输入。**人设的约束往往就是天花板。**他们还塞进去了不少物理和演化生物学的硬约束，比如键角必须合理，但约束的目的是缩小搜索范围，不让它替代学习。 这套打法有清晰的演化轨迹：AlphaGo 需要人类棋谱起步，AlphaGo Zero 把人类棋谱删了，从随机走子开始自我对弈，AlphaZero 把围棋特有的对称性等先验也删了，任何双人零和游戏都能从零开始，MuZero 更进一步，连游戏规则都不告诉它，让它自己从环境里学。 从模仿学习，到完全自监督，一级一级把人类的拐杖扔掉。**但这条路的顺序不能反过来。**Demis 说得很直白：直接上手做 AlphaZero 或者 MuZero，几乎不可能。一是因为做 AlphaGo 的过程中会学到大量东西，二是因为心理上撑不住。你得在好几年里持续面对"这不可能"的判断，同时相信自己做得到。 ## 把太阳装进盒子，需要毫秒级的反应 2021 年，DeepMind 和瑞士洛桑联邦理工学院（EPFL）合作，在《自然》上发了一篇论文：用深度强化学习控制托卡马克装置里的等离子体。 核聚变最难的地方之一，是那团等离子体的温度上百万摄氏度，比太阳表面还热，没有任何材料能盛住它。唯一的办法是用超导磁场悬空夹住。 问题是这团东西极不稳定。**你等于在盒子里捧着一颗微型太阳。**传统做法是用手工设计的控制算法，事先算好各种情况。可等离子体的行为是动态的，硬编码的控制器没法临场应变。 这几乎是为强化学习量身定做的问题：状态可观测，动作是磁场线圈的电压，奖励就是等离子体有没有散架，而且 EPFL 有现成的模拟器可以随便跑。他们做出来的控制器能把等离子体捏成不同形状并稳定维持，比如"液滴"构型，这种形状对能量产出更友好，而且维持时间破了纪录。 现在他们在和一批聚变创业公司谈下一个瓶颈问题。Demis 强调这套方法可复用：**进一个新领域，先找世界顶级的专家聊，把卡住这个领域的瓶颈列全，再从中挑出"今天的方法能啃动、且从 AI 研究角度看也有意思"的那一两个。** ## 用 AI 逼近薛定谔方程 同一时期另一篇论文，处理的是密度泛函理论。这件事听起来很硬，逻辑却很简单。 如果你能模拟电子的行为，你就能描述元素、材料、物质怎么运作。所有材料性质都由电子及其相互作用决定。我们有薛定谔方程，但精确求解只能对付极小的分子，稍大一点就算不动。于是几十年来，人们一直在写各种近似泛函，用经验公式去猜电子云会怎么分布。 DeepMind 的做法是把这个泛函学出来，交给模型，不再手写。他们可以在自己的算力集群上跑海量的分子动力学模拟，生成几乎无限量的数据，然后从这些数据里学一个既能描述更多种类化学、又足够接近精确解的函数。 Demis 开玩笑说，不搜猫视频的时候，那些空闲的机器都在跑量子化学。 我问他，AI 有没有可能有一天帮我们"撬开物理"，甚至做出超越光速这种事。他的回答回到了初衷：**他做 AI 一辈子的理由，就是想造一个帮人类理解宇宙的工具。**等真到了 AGI 那一步，物理会是他最先想拿去用的地方之一。 他提到一个自己着迷的细节。人类对时间、意识、引力、生命这些天天打交道的东西，其实一无所知。为了把日子过下去，我们给它们各自钉上几个假设，然后把柜子关上。**"你该时不时把它从架子上拿下来看看，提醒自己，那只是一堆假设。"**AI 也许能帮我们不做任何仓促假设，把柜子重新打开。 ## 虚拟细胞：一个谈了二十年的梦 AlphaFold 只是起点。Demis 的下一站是蛋白质与蛋白质的相互作用，蛋白质与小分子的结合，然后是通路，最后是整个虚拟细胞。 他和 Paul Nurse（弗朗西斯·克里克研究所所长、诺奖得主）聊这件事聊了二十年。如果能造出一个细胞的完整模拟，生物学和药物发现的效率会彻底改写：绝大部分实验在硅基世界里跑完，只在最后一步进湿实验室验证。 这话的分量在于时间。从确认一个靶点到拿出候选药物，现在大约十年。**如果大部分工作能 in silico 完成，这个周期有机会缩短一个数量级。** 去年 AlphaFold 出来之后，他给 Paul 打电话说，时候到了。现在克里克研究所就在他们马路对面，走路几分钟。 他还有一个更宏观的判断：**如果数学是物理的完美描述语言，那 AI 可能成为生物学的完美描述语言。**因为生物学太乱、太涌现、太动态。他不相信生物学界会等到自己的牛顿定律，那种优雅的、一行公式概括一切的定律，在细胞这个尺度上大概不会出现。既然如此，就只能把基本组件建好，让模型跑起来，像元胞自动机一样，你不能站在高处分析它，必须让它跑。 ## 开源这件事，他们算过账 我问起开源。AlphaFold 的代码和结构数据库全部放出去了，还有 MuJoCo，那个 robotics 圈几乎人手一个的物理引擎。 Demis 说这是逐个案例算过的。**MuJoCo 是他们专门买下来再开源的**，因为原作者一个人已经维护不动了。AlphaFold 的逻辑不同：下游应用太多，多到他们自己都想象不完，与其自己一个个做，不如把工具和数据全送出去，让全世界一起加速。结果是一年之内，超过五十万研究者用过它，他估计这差不多是全球职业生物学家的总数。 他举了个例子。几周前《科学》做了个专刊，封面是核孔复合体，细胞核的守门员，所有进出细胞核的物质都从这儿过。这东西是个巨大的甜甜圈，几十年解析不出来，实验数据有一堆，但分辨率太低，缺块。最后全世界四个课题组几乎同时用 AlphaFold 的预测去补那些缺块，像拼一副巨型乐高，把结构拼了出来。 "几乎每一家药企的高管都跟我说，他们的团队在用 AlphaFold。" 但他也明确，未来不会全都开源。有些会走商业路径，因为那样才能聚集足够的资源和影响力；有些走非营利；还有一些要考虑双重用途，比如合成生物学。**AlphaFold 发布前，他们咨询了三十位生物伦理学家。** 我问他，将来会不会有一天，AI 系统能无可辩驳地拿到诺贝尔奖。他的回答留了个精确的界线：**如果只是把互联网和 PubMed 上的东西平均一遍，那它仍然是工具。**就像伽利略和望远镜，功劳归伽利略，不归镜片。要够格拿奖，系统得自己提出一个相对论级别的东西，得自己"发明围棋"，光在既定规则下下出一手好棋远远不够。 ## 如果宇宙是一个精心设计的谜题 我提到一个假设：也许未来一百年的诺奖成果，早就散落在互联网上了，只是没人把它们连起来。Demis 说这个可能性很大。他相信未来几十年最重要的突破，多半出现在学科的交叉口，两个看上去不相关的领域之间冒出一条新的连线，DeepMind 自己就是神经科学和 AI 工程的杂交产物。 但有一件事人类的想象力够不着。**我们没法真正体会"读完整个互联网"是什么感觉。**他做过这个思想实验：假如我读完整本维基百科会怎样？这个大概还能勉强想象。整个互联网？超出认知范围。所以我们也就无法预判，把这一切同时装在一个脑子里，能看到哪些连线。 他把人类的知识总量想成一棵树，启蒙运动以来我们爬得还不错，但连树皮都还没爬满。AI 会把这件事加速到另一个量级，就像 AlphaFold 展示的那样。而且它可能不只是帮我们找规律，还会帮我们设计新的实验工具，去验证那些今天根本没法验证的理论。比如宇宙是不是在计算，比如普朗克尺度的一小块时空里能装多少信息（Scott Aaronson 这些人讨论过的问题）。 我追问：如果人类的认知树只是所有可能认知树里很小的一棵，那非人系统会不会走得更远，然后回头把结论带给我们？ 他说这可以分三层看：我们今天理解的、人类心智原则上能理解的、以及宇宙中客观存在的可被理解之物。**第三层可能有硬边界**，比如"宇宙之外是什么"，从宇宙内部或许原理上就不可知。但边界也可能只是我们这颗三磅重的大脑带来的，它被三维空间加时间的直觉死死框住了。工具不必继承这个限制，它们可以在 11 维、12 维里思考。 然后他给了一个我没想到的类比。跟他下快棋，你走不出他那一手，但他可以跟你解释，你事后能懂。**能欣赏莫扎特，不等于能写出莫扎特。**也许未来就是这样：人类无法原创那个东西，但可以在被解释之后理解它、欣赏它、验证它。 ## 费米悖论：我们很可能是孤独的 我问他外星文明。他的答案和多数人的期待相反：**他觉得最可能的情况是我们是孤独的。** 推理链条是这样的。地球人类的出现，只要历史上某个小岔口偏一点，比如那颗小行星早撞了一百万年，我们现在可能已经领先或落后一百万年。**一百万年，在宇宙尺度上短得可以忽略。**如果人类接下来几百年不把自己搞死，继续繁荣，造出 AI，走向太空，那么扩散到整个银河系所需的时间，按冯·诺依曼算过的那套自复制探测器的推演，也就一百万年左右。 再加上戴森球这种东西。围绕恒星铺设能量收集结构，会在星系尺度上留下极显眼的痕迹，恒星的亮度会周期性地忽明忽暗。再加上我们从 1930 年代起就在往外撒射电和电视信号，如果有一百万年的积累，几百个文明一起撒，天空里应该是一片嘈杂。 结果是我们把耳朵贴上去，听见的是安静。 常见的反驳他都听过。搜索还不够彻底、频段不对、形态差太远。他不买账：**那就该到处都是。**还有一种是"动物园假说"，高等文明默契地不干涉我们。他的反驳很人类：我们连自己这一个物种内部都协调不好气候变化，你指望几百个外星文明在优先级上完全一致？ 他甚至觉得这个假说和模拟假说在体验上是等价的：如果你的感官接收到的全息投影是别人投的，那和你活在另一个宇宙里没有区别，反正你都看不到真实。 如果孤独是真的，那反而是个好消息。它意味着**大过滤器已经被我们穿过了**，最难的关都过了。他猜最难的关是多细胞化：吞下一个线粒体，然后不消化掉它，反而整合成自己的一部分。这一步看着就不像能随便复现。至于智能，在地球上只演化出过一次，也是后来才发生的关卡。 人类智能怎么来的？他给的候选清单很务实：用火、烹饪，让能量摄取效率大增；工具，长矛和斧头，人类到达美洲后大型动物大量灭绝就是证据；部落协作，用语言组织起来打败了更强壮的对手。有意思的是，**大脑这套东西从一开始就非常昂贵**，约占身体能耗的百分之二十。一盘高水平国际象棋消耗的能量，和 F1 车手跑完一整场比赛差不多。 这就带来一个演化上的尴尬：半颗大脑没用。一个猴子的智商水平，还不足以支付那么高的能量成本，只有跨过人类这道坎，回报才突然兑现。**但你怎么跨越那道坎？**所以这件事只发生过一次。他说这和 AI 很像：长期以来，为象棋这类问题手工定制专用方案，永远比造一个通用学习系统更容易，因为通用系统一开始弱得可怜。 ## 意识与智能，可以互相拆开 我问他，通往 AGI 的路上是不是必须解决意识。他给的判断是**两者可以双向解耦**。 一边是高意识低智能：狗、海豚，有自我、有情绪、会做梦，但按 IQ 那套标准并不算聪明。另一边是高智能低意识：AlphaGo 那样的系统，在特定领域强到不可思议，但你跟它相处，完全感觉不到任何"里面有人的感觉"。 "也许我们对智能的定义本身就窄了。"我提了一句。他接得很快：狗的专精也是一种智能，只是被演化压进了一个极窄的通道。他甚至开玩笑说，狗这个物种在某种意义上非常成功，它成功让整个人类群体为它提供食物和服务。 关于谷歌工程师说 LaMDA 有感知那件事，他的态度非常直接：**今天所有系统，连一丝一毫意识的影子都没有。**这是人类心智的投射机制在起作用，我们的大脑天生就在任何东西里找意图，连没有生命的物体都会。六十年代的 Eliza，只用把你说的话反问回去，就骗到过不少人。 他给出了自己偏好的意识工作定义，出自 Max Tegmark：**信息被处理时所呈现出来的那种感觉。**他也承认这定义不好操作，但至少视角不错。从神经科学看，有些前提是必要的但不充分：自我与他者的区分、跨时间连贯的偏好、记忆。 然后他抛出一个我觉得整场访谈里最锋利的点。我们判断另一个人有意识，其实靠两条腿，而通常只讨论第一条： - **行为**：它说的话、做的事，像不像一个有心智的存在 - **基底一致**：它和我们一样，都是碳基的、颅骨里那几磅软乎乎的肉 机器永远不会有第二条。所以在机器身上，我们只剩下行为这一条腿站着。**而"基底相同"恰恰是我们在判断动物时给予信任的关键理由。**这个缺口，短时间内填不上。 但真正的问题不在哲学层面，在现实层面。他说得很清楚：当几亿人相信某个 AI 有灵魂，而且这种相信会给他们带来真实的情感慰藉，那时候该怎么办？ 他的现行立场是：现在的语言模型还没准备好大规模部署。卡住的地方是另外三样：可解释性、分析工具、护栏。我们还不理解它们究竟在做什么。而且有些问题得先定调，比如**AI 系统是否应该始终声明自己是 AI。**他觉得大概是应该的。 再往后，光靠科学不够。哲学、社会科学、神学、艺术和人文都得进来，因为这些领域才能回答"做人意味着什么"，以及增强这件事该往哪个方向走。 他也提到社交媒体这个前车之鉴。双重用途技术首先会被坏人、天真的人和疯子拿去用。AI 还多一层麻烦：它最终可能会有自己的能动性，那它本身就可能是善的或恶的。**所以测试必须走科学方法，做受控实验，而不是直接上线做 A/B 测试。**一个图像 App 出事，改回来就行；AI 出事，等你反应过来，伤害已经造成了。 ## 权力会不会腐蚀他 我问了个不太客气的问题：造出一个超级智能，是世界上最强大的东西之一，而"权力导致腐败，绝对权力绝对腐败"。他极可能是那个握着开关的人，他想过这事吗？ 他说他一直在想。防御手段有几条。**第一是保持接地气和谦卑**，最好的朋友还是剑桥本科那帮人，家人和朋友构成了锚。**第二是保持多学科**，因为无论你在某个领域多强，总有人比你更强；而且每进入一个新领域都从零开始学，这件事本身就让人清醒。他过去五年从零学完了生物学，那是巨大的一块，他学得很开心，也很被打击。 **第三是身边得有一群同样有伦理感、脚踏实地的人。** 然后他讲了更大的图景：他希望在"人类极大丰裕"这个方向上出力，治愈疾病，解决那些摆在面前的难题，最终让人类走向星辰，去看看那些外星人到底在不在；如果不在，去搞清楚为什么不在。 他还强调了一件容易被忽略的事：**AI 不会由某一个人或某一个组织独占运行。**它应该属于世界，属于全人类。而且造它的人来自哪种文化、持什么价值观，很重要。即便系统绝大部分知识是自己学的，它的底色里仍会留下创造者的文化残留。 至于稀缺与冲突的关系，他说得很克制：历史上的很多暴行确实发生在资源极度紧张的时候，所以消除稀缺有助于减少零和思维。**但那不够。**还有人单纯想要凌驾于他人之上的权力，还有人单纯想要凌驾于他人之上的权力，这种欲望不会因为物质丰裕而消失。 ## 他的夜晚，从晚上十点开始 我问他一天怎么过。**他是个彻底的夜猫子，并且把作息按照这个来优化。** 上午十一点到公司，一直开会到晚上七点，中间排得满满当当，这是他做协作和管理的时间。回家，陪家人吃饭，放松一会儿。然后大约晚上十点、十一点，他开始"第二天的工作"，一直到凌晨四五点。 这段时间用来思考、读论文、写论文。他说自己已经没时间写代码了，从效率上看也不划算，但长时段的思考和规划都在这里发生。他会把一大批邮件和任务发给团队，让他们第二天早上处理，而在夜里他已经把"我们该做这个项目""明天安排这个会"想清楚了。 工具是铅笔和纸。他说自己还是会把论文打印出来，用笔在上面划线标记，因为**手写的东西进脑子更深，留得更久。**家里堆着一摞摞笔记本。 凌晨一点到三点是他最珍视的时段。外面彻底安静，放点音乐，然后想那些最难的问题：这个方法到底对不对，强化学习在这个问题上能不能work，该用什么基准，要不要从零造一个基准。**这些判断一旦做错，代价是整个团队几年的投入。** 夜猫子作息的隐藏好处是弹性。如果思路正深，他可以一路做到早上六点，第二天认了，状态差一点就差点。早晨型的人做不到这一点，他们的日程从早餐就开始了，八点第一个会，正在flow里也得上。而他不用。 白天那七八个小时的会，本质上是在极短时间里装载极难的问题，这要求极强的上下文切换能力。他承认这是最难的事之一，尤其是 DeepMind 同时在做好几个学科，每一个学科自身都足够复杂。但他享受，因为他从小就是个通才型的人。当年放下象棋，一部分原因就是想明白了：这世界上有意思的东西太多，不该把一辈子只花在一个上面。 ## 斯宾诺莎、深夜，和那个必须承认的谜 他提到自己在这些深夜里读哲学，斯宾诺莎是近来的偏爱，也读科学史，看历史上那些大科学家是怎么想问题、怎么处理一个没人走过的领域。 我问他生命的意义。他的回答毫不含糊：**获取知识，理解宇宙。** 他引古典希腊，说求知本身就是少数几种真正的德性之一。而且这种德性会外溢：你越是理解世界和人，你越宽容、越有同理心。剩下的事会跟着来。 然后他说了一句让我停了一会儿的话：**这个宇宙的结构，似乎就是为"科学可行"而设计的。**科学方法能奏效，实验结果可重复，这件事本身就诡异。他甚至觉得计算机的存在也很可疑：沙子，地壳里最普遍的东西，居然能做成计算设备。要是当年只有钻石能造芯片，人类大概只会有一台计算机。 "这里面有点可疑。"他重复了一次。 整场访谈下来，这个人对时间、意识、引力、生命这些日常接触却完全不懂的东西，保持着一种近乎不安的诚实。他说真正的科学家越往后走越会发现，知道得越多，越清楚自己不知道什么。**他不太理解为什么不是更多人为这件事睡不着觉。** ## 信息或许比物质和能量更基本 我问他，我们是不是活在模拟里。他的答案分了两层，切开来看很有意思。 第一层他明确不信。Bostrom 那套推演，说我们很可能是祖先复刻出来的某个实验版本，他觉得这种可能性很低。这类模拟应该是被随手丢弃的东西，数量以十亿计。而他倾向于认为，这一个极其关键，甚至可能只此一份。 第二层他非常相信，那就是**理解物理最好的方式，是从计算和信息的角度入手。**大多数人会说宇宙的基本单位是物质或能量，E=mc² 那一套。他会说，信息才是。因为物质和能量本身也是由信息指定的，你身体里的分子怎么排列，那就是信息。从这个意义上讲，我们确实在某种模拟之中，只不过这个模拟就是现实本身。 至于 Penrose 坚持的"意识需要量子过程"，他把自己的立场说得很坦率。一边是 DeepMind 在推着图灵机往前走，一次次撞开被认为不可能的天花板，围棋、蛋白质折叠都是例子。所以他很不愿意赌经典计算走不到那里。另一边是他在神经科学读博士时看到的证据，目前主流观点是大脑里不存在任何量子效应，现有观察基本都能用经典理论解释。 两边夹击下来，他的赌注压在经典计算这一侧：我们大脑里发生的一切，原则上都能被经典机器模拟或逼近，不需要引入任何形而上的东西。 而这也正是他做 AI 的另一个理由。他说建一个智能的人造物，再拿它和人脑对比，这是人类第一次有工具去科学地研究意识、梦、创造力、情绪这些从文明诞生就悬着的问题。**以前只有内省，只有聪明哲学家的冥思。现在有了 fMRI、单细胞记录，还有能亲手搭出来的智能系统。** "我们的大脑是已知宇宙里最复杂的物体，而它只有几磅重。"他说这是宇宙最大的奇迹，也美得不可思议。宇宙长出了人脑，人脑造出了能帮宇宙理解自己的机器。 ## 如果只能问一个问题 我问他，如果真有一天他要进那个房间，跟第一个达到人类水平并超越的系统对话，只能问一个问题，他会问什么。 他说：**真实的本质是什么。** 会不会听懂？不一定。答案可能是 42。但他觉得那会是一个开始：对方会牵着他的手，一步步讲，给他看今天物理学里被完全漏掉的东西，用比标准模型更简洁的框架，把意识、梦、生命、引力这些困扰了人类几千年的谜，一并纳入解释。而标准模型我们自己也知道它不完整，只是一直在上面加东西。 他补了一句，我想那台系统大概会先叹口气，然后想，怎么跟这个人类解释。也许它会说，我给你画个图。 ## 一个可以照着做的清单 访谈结束前他讲了自己常对高中生、大学生说的两件事。这两条建议，加上前面那些关于稀缺、意识、作息的判断，拼起来是一份能落地的清单： - **趁年轻把兴趣铺开。**这个阶段有时间和试错成本，唯一的任务是把真正让你兴奋的东西找出来。找法不是空想，是大量接触。他特别推荐去看两个领域之间的连接点，那是发现热情最有效的路径。 - **把自己当研究对象。**搞清楚自己一天里哪几个小时脑子最好，用什么方式学东西吸收得最快，压力来的时候身体和情绪怎么反应。这些都需要反复测。然后改善短板，同时把长板磨到别人比不了。**那块长板就是你未来在世界上不可替代的部分。** - **把两件事的交集当作职业方向。**真正的热情乘以真正独特的强项，这个交集很窄，但一旦找到，产出量级完全不同。 - **保持通才。**他说得很直白，世界上有意思的东西太多，不该一辈子只做一件事。换领域也是防止傲慢最有效的办法，每一次从零开始都在提醒你，你在别的地方仍然是个新手。 - **别害怕被时代的主流判断判为不可能。**2010 年他跟任何人说"我们要解决智能"，得到的都是白眼。当时没人聊 AI，学术界的主流结论是"我们知道这套东西不work"。要是他信了，后面那些事都不会发生。 - **把难以想象的大问题写进别人的页边。**Anfinsen 在诺奖演讲里顺手提了一句"序列到结构应该是可能的"，没给任何细节，整个领域就往前跑了五十年。提问的方式，有时候比解决问题更能决定一件事情的边界。 - **给自己找一个夜里没人打扰的两小时。**他把凌晨一点到三点留给最难的那些判断，选哪个问题、押哪条技术路线、要不要从零造一个基准。这些决定一次就锁死整个团队几年的投入，而它们从来不是在会议里做出来的。 - **用同一块屏幕之外的东西思考。**他会把论文打印出来用笔划，手写过的东西记得更牢。工具的选择影响思考的深度，这件事在效率至上的年代容易被忘掉。