# 戴密斯·哈萨比斯：AI 的未来、模拟现实、物理与电子游戏 > DeepMind 负责人谈通向通用人工智能的路径、用 AI 模拟现实与物理，以及游戏对他思维方式的影响。 - 原标题：#475 – Demis Hassabis: Future of AI, Simulating Reality, Physics and Video Games - 期数：第 475 期 - 发布日期：2025-07-23 - 嘉宾 / 主题：戴密斯·哈萨比斯 - 网页版：https://lexfridman-cn.pages.dev/ep/demis-hassabis-2/ - 官方页面：https://lexfridman.com/demis-hassabis-2/ - 精读字数：约 12211 字（阅读约 27 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 Demis Hassabis（戴密斯·哈萨比斯）十几岁的时候在英国游戏公司写物理引擎和图形引擎。他后来回忆那活儿，用的是"极其痛苦地难"这个说法。要让一段程序模拟透明液体被液压机挤压、变形、溅出去，得手动处理表面张力、折射、本构方程，参数调到怀疑人生。 现在他管着一个叫 Veo 3 的视频生成模型。这个模型在 YouTube 上看了一堆视频，就能生成透明液体被液压机挤压、飞溅、流走的画面。他在 Lex Fridman 的播客里说，自己特别喜欢刷这类视频，因为只有他知道二十多年前那些夜晚有多难熬。 这个反差把他引到了诺贝尔奖演讲里的一个猜想上。他当时觉得，诺贝尔演讲有个传统，得说点稍微带刺激性的话，于是他提了一个：**任何在自然界中能被生成或发现的模式，都能被经典学习算法高效地发现和建模。** 这句话听起来像口号。但他给了论证。 ## 宇宙是一台信息系统，那么 P=NP 就是一道物理题 哈萨比斯的论证起点是 AlphaGo 和 AlphaFold 这两个项目。它们的共同点是面对一个组合爆炸到离谱的搜索空间。围棋有大约 10 的 170 次方种局面，蛋白质可能的结构有 10 的 300 次方种，两个数字都远超宇宙原子总数。暴力枚举到宇宙终结也算不完。 人类团队做的事，是先建一个关于这个环境的模型，然后让模型去引导搜索。搜索空间没变小，但走的路对了。 凭什么能建出这个模型？ > 蛋白质在我们身体里几毫秒就折叠完了。物理本身解决了这个问题，我们现在只是用计算的方式也解决了一遍。（Demis Hassabis） 他给出的解释是：自然系统有结构，因为它们被演化过程塑造过。他把这个叫"最稳定者生存"（survival of the stablest）。生命有达尔文演化，山脉有几千年的风化，小行星的形状被撞击历史打磨过，行星轨道被引力扰动筛选了无数次。凡是存续下来的东西，都经过了同一类过程的反复作用。 既然不是随机的，就存在可以被反向学习的流形。神经网络擅长跟着梯度走，只要地形上有梯度可跟，问题就从"枚举所有可能"变成"沿着坡爬"。 反过来说，如果某个问题真的没有结构，这个套路就不成立。**大数分解可能就是这种问题。**如果数论空间是均匀的，没有可利用的纹理，那就没有模型可学，只能硬算，那种场景下你或许真的需要量子计算机。 Lex 追问，能不能定义一个新的复杂度类，比如"可学习的自然系统"（LNS）。哈萨比斯说，他业余时间确实和几个同事在琢磨这件事。 然后他说了一句更狠的话：**他认为信息是宇宙最基础的单元，比能量和物质更基础。**能量和物质可以互相转换，但都可以看成信息的不同表现形式。如果宇宙是一台信息系统，那么 P 是否等于 NP 就不再只是计算机科学的问题，而是一道物理题。 他也没把话说满。混沌系统是边界地带，初始条件极其敏感，最终状态几乎不相关，这类系统可能很难建模。元胞自动机反倒大概率在可建模范围内，做个前向模拟就够了。 ## Veo 3 打了具身认知理论的脸 过去十几年，认知科学里有个相当主流的看法，叫"行动中的知觉"（action in perception）。核心意思是，你要真正理解这个世界，必须在这个世界里行动。所以具身智能、机器人、至少是模拟行动，被当成理解物理常识的必要条件。 哈萨比斯说他五到十年前也会同意这个判断。他自己就写过物理引擎，知道"我推一下桌上的杯子，它会掉下去摔碎，液体洒出来"这类常识背后有多复杂。 Veo 3 让这个判断变得可疑。**它只是被动地看视频，就获得了相当程度的直觉物理。** > 这种理解不是人类那种拟人化的、哲学意义上的理解。但这些系统确实建模了足够多的动力学，能生成八秒钟一致的视频，肉眼扫过去很难挑出毛病。（Demis Hassabis） 他把这种能力类比成小孩对物理的理解，而不是物理学博士的理解。小孩知道球会往下掉、水会流动、玻璃会碎，但推不出纳维-斯托克斯方程。Veo 3 大概就在这个层次上。 这个观察指向一个更深的判断：如果被动观察就能提取世界的结构，那说明现实本身存在某种低维流形。哈萨比斯说他喜欢看液压机压液体的视频，因为那类场景对物理引擎来说是最难啃的骨头之一，而生成模型纯靠看视频就逆向了其中一部分规律。 下一步是让视频变成可交互的。你可以走进那个生成出来的世界，在里面走动、推东西、改变它。他说以他的游戏背景，这件事想起来就让他兴奋。 > 到那一步，我们开始接近我所说的世界模型：一个关于世界如何运作、世界的力学、世界的物理，以及世界里那些东西的模型。而这正是真正的 AGI 系统所需要的东西。（Demis Hassabis） ## 游戏是理解现实的微缩实验室 哈萨比斯反复强调，游戏是他的初恋。他十几岁就开始做游戏 AI，那是他第一份职业工作。他做的游戏几乎全是开放世界，有模拟系统，有 AI 角色，玩家和模拟互动，模拟再根据玩家的玩法做出调整。 他参与早期开发的《黑与白》（Black & White）里有一个早期强化学习系统。你养一只神话生物，怎么对待它，它就怎么对待村里的居民。你对它凶，它就凶；你对它好，它就护着人。 > 你其实是在和模拟系统共同创作这个游戏。我们设定参数和初始条件，你作为玩家沉浸进去，然后故事是你们一起写出来的。（Demis Hassabis） 这种做法在九十年代有个硬约束：内容做不出来。玩家往哪个方向走，你得在那个方向准备好内容，而且要足够好看。当时只能靠元胞自动机这类经典系统制造涌现行为，效果总是有点脆，有点局限。 现在他认为拐点快到了。五到十年内，AI 系统能围绕玩家的想象动态生成内容，能随时改写剧情，能保证不管你选哪条路，故事都足够戏剧性。他管这叫"终极版的自己选冒险"。 Lex 提了一个区分：**真正的开放世界和"选择的幻觉"之间的差别。**《斯坦利寓言》故意把选择的幻觉做成主题，《匕首雨》用地牢随机生成给人一种无穷世界的感觉，但本质上还是预先写好的分支。**哈萨比斯要的是在游戏环境里做任何事都成立，唯一的实现路径是生成式系统。** 这也解释了为什么他对 AI 生成可玩世界那么上心。开放世界游戏和模拟游戏是所有娱乐媒介里唯一一种观众参与共创故事的形式。电影、小说、音乐都没有这个属性。 他被问到最喜欢的游戏，答案是《文明》一代和二代。Lex 调侃说他显然刻意避开了最新作，否则人就消失了。哈萨比斯承认，这类游戏太吃时间，他得小心。 关于他和 Elon Musk 都是硬核玩家这件事，他给的解释挺实在：八十年代末九十年代初，家用电脑刚普及，英国小孩手里是 Spectrum 和 Commodore Amiga 500。学编程最有趣的入口就是写游戏。而游戏又恰好把艺术设计和最前沿的编程焊在一起。**九十年代推动计算前进的东西，图形、物理引擎、AI、硬件，甚至 GPU 本身，全都来自游戏产业。** ## AlphaEvolve：LLM 出主意，进化做搜索 AlphaEvolve 是 Google DeepMind 的一个系统，用大模型提出可能的解法，再用进化计算在搜索空间里找没见过的新区域。 哈萨比斯把它归为"混合系统"这一类。基础模型加另一种计算技术，进化算法是一种，蒙特卡洛树搜索是另一种。他认为这个方向还有大量东西没被挖出来。 进化算法在九十年代和两千年代初被研究得很透，有个天花板一直没突破：**它们没法进化出真正新的性质。**你放进去什么属性，出来的还是那些属性的子集和组合，涌现能力基本没出现过。 但自然界的进化做到了。从细菌到现在的人类，全是新能力一层层长出来的。哈萨比斯觉得，把进化算法和基础模型结合，也许能跨过当年那道坎。 他也划了界限。AlphaEvolve 目前的成果，比如更快的矩阵乘法，属于在明确目标下的增量爬坡。这类系统很擅长做小步迭代，但让它"造一个更好的自己"，或者"发明一个和围棋一样深、一样美的游戏"，它现在接不住这种模糊的高层指令。 > 真正的问题是，它能不能做出像 Transformer 架构那样的跃迁？2017 年我们做出来的时候，AlphaEvolve 这类系统能不能也做到？现在看不太可能。（Demis Hassabis） 所以 AGI 的路径上有个分叉：是现有的爬坡能力一路堆上去就够，还是需要再来一两次同量级的架构突破。他说这是五五开，DeepMind 的做法是两条腿都压上，大约一半资源投在蓝天研究，另一半砸在现有能力的极限缩放上。 ## 虚拟细胞：一个想了二十五年的项目 哈萨比斯有个习惯，先立一个宏大到不现实的目标，再把它拆成可执行、可交付、单独拿出来也有用的中间步骤。虚拟细胞（Virtual Cell）是他拆了二十五年的那个目标。 他和 Paul Nurse 从九十年代就开始聊这件事。Paul Nurse 是他在生物学的导师之一，创办了 Crick 研究所，2001 年拿过诺贝尔奖。他们大概每五年回来重谈一次：要模拟一个细胞的完整内部机制，需要什么？如果能在硅基上做实验，把大部分搜索放在计算机里，只把验证留到湿实验室，实验速度能提一百倍。 现在他觉得零件快凑齐了。AlphaFold 解决的是蛋白质三维结构的静态图像，但生物学里所有有意思的事都发生在动态和相互作用里。AlphaFold 3 是朝这个方向的第一步，处理蛋白质与蛋白质、蛋白质与 RNA、蛋白质与 DNA 的成对相互作用。 > 下一步可能是模拟一整条通路，比如跟癌症相关的通路。再往后，才有可能模拟一整个细胞。（Demis Hassabis） 起点大概率是酵母。酵母是单细胞生物，但它本身就是一个完整生物体，而且被研究得非常透。Paul Nurse 当年研究的就是它。 这里有个技术难点：细胞里的事发生在完全不同的时间尺度上。蛋白质折叠是毫秒级的，某些调控过程是小时级的。**要处理这个，得让多个模拟系统按不同时间动态并行运行，或者做成层级结构，能在不同时间层之间上下跳转。** 另一个决策是粒度截断。模拟任何自然系统，都得先定一个截止层级，往下不再细分。他判断虚拟细胞大概到蛋白质层级就够了，不必下探到原子层级。AlphaFold 恰好提供了这一层的地基，上面再搭高层模拟，涌现行为从这些积木里长出来。 聊到生命起源，他推荐了 Nick Lane 的《进化的十大发明》。这本书讨论的是"大过滤器"到底在过去还是未来。**他的判断是，大过滤器更可能在过去。**从单细胞到多细胞这一步，地球上花了十亿年。细菌在捕获线粒体之前，安安稳稳地待了极长的时间。 他在意的是定义问题。我们到现在都没有一个干净的定义区分生命与非生命，这件事一直让他不舒服。 > 我们可以整天盯着彼此，盯着所有这些活物。我们可以用显微镜检查，可以拆解到接近原子的层级，却依然没法用简单的方式回答"活着"到底怎么定义。这挺不可思议的。（Demis Hassabis） Lex 说，最终的答案可能是没有那条线：从非生命到生命是连续的，物理、化学、生物之间没有断点。哈萨比斯没有反驳，他说这正是他三十年做 AI 的理由之一，AI 可能是回答这类问题的终极工具。 ## AGI 怎么验收：一座灯塔和一屋子专家 他的公开估计是：**2030 年之前有 50% 的概率出现 AGI。** 难点在于怎么知道自己到了。他给的标准里有两条线。 第一条是横切面的一致性。现在的系统是锯齿状智能，某些方面极强，某些方面莫名其妙地烂，而且不稳定。AGI 要求在整个人类认知谱系上保持稳定水准。测试方式是粗暴的：几万道人类能做的认知任务跑一遍。 第二条是灯塔式的时刻。**他想要的是 Move 37 级别的跃迁，而非分数表上的高分。** 他提了一个具体到让人拍腿的测试：把知识截止到 1900 年，把 1900 年之前的所有文献喂进去，看系统能不能自己提出狭义相对论和广义相对论。或者，看它能不能发明一个和围棋一样深、一样美、一样优雅的游戏。**而且不是在一个领域做到，是同时做到好几件。** 还有一层人类红队测试：把系统交给各领域几百位顶尖专家，比如每个学科的陶哲轩，给一两个月，看能不能找出明显的漏洞。找不出来，就可以比较有信心了。 Lex 提了个尖锐的反问：人类会飞快地把奇迹当成理所当然，专家们几周内就会跳过所有惊艳之处，死盯着"啊哈，这里错了"。哈萨比斯认可这一点。他举的国际象棋类比挺有意思：如果加里·卡斯帕罗夫或马格努斯·卡尔森走出一手妙棋，他自己可能根本想不到，但棋手能在事后解释清楚这手为什么成立。 > 如果系统也擅长解释，用简单的方式说清楚它在想什么，那对顶尖人类科学家来说，理解它会非常可行。而能把复杂的事解释简单，本身就是智能的一部分。（Demis Hassabis） Lex 追问：万一大师第一反应是"这步是臭棋"呢？哈萨比斯说那很可能发生，但靠直觉他们会想明白。而且游戏有个好处，它是科学判据：赢了还是输了，结果会告诉你这步到底行不行，然后你回头分析，把直觉补上。他说自己的大脑之所以这么运转，大概是因为四岁开始下棋，被那种硬核反馈循环训练了十几年。 Lex 补了一句自己的经验。现在 AI 生成的代码，他第一反应经常是"这里有个微妙的错误"，但随即必须自问：会不会是我错了，这里其实有更深的东西？系统越强，这个自我怀疑的成本越高。**你得判断这到底是 bug 还是 feature。** ## 三条缩放曲线，和一次六个月一轮的英雄训练 关于缩放定律，哈萨比斯说现在有三条曲线同时在走：预训练、后训练、推理时计算。三个方向的空间都还很大。 他也承认，谁也不知道还需不需要新突破。五五开。他说自己其实喜欢地形变难的时候，因为那时候事情从纯工程变成了真正的研究，而研究和工程的结合是 DeepMind 的甜区。 > 发明比快速跟随要难。如果我判断需要一次新的 AlphaGo 或 Transformer 级别的突破，我会押注我们是做出它的那个地方。（Demis Hassabis） 数据方面他不怎么担心。能不能造出分布正确的模拟器、用模拟器生成合成数据，才是他真正上心的地方。前提是你得有足够的真实世界数据把生成器训起来。他觉得眼下正好站在这一步上。 他给了 Gemini 版本迭代的实际流程：一次完整的训练跑加上产品化，大约六个月。这六个月里，架构、数据、各种方向上的新想法不断冒出来，团队把它们收集起来，测试哪些对下一轮有用，打包，然后启动新一轮巨型英雄训练跑（hero run）。预训练结束后是后训练，那里还有一大片实验空间，能再榨出不少增益。版本号通常指基座模型，2.5 那些增量版本往往是同一套架构上加的补丁或后训练技巧。 再往上一层是尺寸谱系。Pro、Flash、Flash-Lite，小的从大的蒸馏出来。他画了一条帕累托前沿：纵轴是性能，横轴是成本或延迟，不同模型覆盖整条前沿，开发者按自己的取舍挑。 关于基准测试，他的态度是必须要有，但不能过拟合。**这是个多目标优化问题，目标是无憾改进：**在编程上提分，同时不能让翻译、写作、科学推理掉下来。所以监控的基准套件越滚越大，同时还要看真实产品里的用户信号。 还有个更软的东西：人格。系统是啰嗦还是简洁，是幽默还是严肃，不同用户偏好完全不同。他说这几乎是在做心理学研究了，他读博时研究过五因素人格模型，没想到这套东西现在要用来设计产品。每个人想要的味道不一样。 ## 能源是解锁一切的钥匙 如果让他押注二三十年后人类的主要能源，答案是聚变和太阳能。 太阳能本质上是天上那台聚变反应堆。真正的瓶颈在电池和输电，也许最终走向空间太阳能，甚至戴森球那种量级。聚变在工程上他认为肯定可做，前提是反应堆设计对、等离子体控制得够快够稳。DeepMind 和 Commonwealth Fusion 在等离子体约束上做过不少工作。 材料设计是他最看重的方向之一。新型太阳能材料、室温超导、最优电池，这三样里任何一个被解决，对气候和能源的冲击都是革命性的。**室温超导一直在他的梦想突破清单上。** 他描绘了一个资源不再稀缺的世界。能源近乎免费且清洁，海水淡化的成本问题就消失了，这项技术本身早就成熟了，只是贵，目前只有新加坡、以色列这类富裕国家在用。沿海国家全都能用上。海水电解出氢和氧就是火箭燃料。配上可回收火箭，上太空变成公交服务。小行星采矿成为产业。 > 人类历史上第一次，我们不再受资源约束。这可能是一个全新的时代，不再是零和博弈。我有这块地，你就没有；老虎要有森林，旁边的村子就不能用，他们靠什么活？（Demis Hassabis） 他没说这能解决所有问题。人性的其他弱点依然在。但至少抽掉了一条最容易引发冲突的主线。剩下的问题是分配：怎么保证这些增量被公平地分享。 Lex 问，如果一百年后的文明达到了卡尔达肖夫一级，他会多惊讶。他说不会太惊讶。前提是我们没在这条路上把自己搞死。 ## 从追赶到领先：Google 那一年发生了什么 Lex 说得很直白：一年前 Google 在大模型产品侧是落后的，现在领先了。这中间发生了什么？ 哈萨比斯的回答集中在人和文化上。Corey、Jeff Dean、Oriol 带的团队，加上把 Google Brain 和原来的 DeepMind 合并，把最好的人和最好的想法聚在一起。他说这不容易，但整个团队都很争胜，也真的喜欢研究。他把这个叫"无情的进展"（relentless progress），配上"无情的交付"（relentless shipping）。 大公司的通病他也承认：层级、会议、管理者，是组织膨胀的自然产物。**他的对策是让 Google DeepMind 保持创业公司的行为方式，规模大，但决策速度和能量按小组织来。**一手做世界级研究，第二天就能接入几十亿用户的产品面，能同时提供这两件事的地方很少。剩下的工作是不断砍掉官僚主义，让研究文化和交付文化有空间生长。 关于产品能力，Lex 提到 Gemini 产品与工程团队对他的评价里有一条他没想到的：他不只是科学家，还是个很好的产品人。 哈萨比斯把这个追回到了游戏设计。他当年给几百万玩家设计游戏，那是在九十年代用最前沿的技术做产品。他说的核心技能是：能具身地想象使用这个东西是什么感觉，以及有品味。科学里用的品味，和产品设计里用的品味，是同一种东西。 > 设计今天的 AI 产品，你不能为今天的技术能力设计，得为一年后的能力设计。所以你必须是个非常懂技术的产品人，得判断现在做不出来的东西，研究进度在六个月或一年后能不能接上。（Demis Hassabis） 他对当下的交互形态很不客气。文本框聊天很可能只是一个过渡形态，多模态系统成熟之后，回头再看今天的界面会觉得相当原始。他想象的更接近《少数派报告》里那种协作式交互。**打字的带宽太低了，即便你打得很快。**下一步是智能眼镜、耳机，最终也许是某种神经设备，把输入输出带宽提高一百倍。 他甚至认为界面会走向 AI 生成：根据你的审美、你的思维方式、当前的任务，实时生成一套只属于你的界面。喜欢参数全暴露的高级用户看到全部旋钮，喜欢极简的人看到一片留白。 ## 程序员该往哪里站 编程和数学成了第一批被攻破的领域，这件事本身有点反直觉。哈萨比斯给的原因很干脆：**这两个领域的输出可以被验证，因此可以大规模合成训练数据。**对错有客观标准，合成数据的质量就可控。这跟写小说、做战略判断完全不同。 他的预测是，未来五到十年，拥抱这些工具的人会变得超人般高效。顶尖程序员的产出可能是今天的十倍，因为他们最擅长把工具用到极限，也最擅长指定架构、判断生成代码的好坏。 价值会重新分布。前端界面这类工作更容易被直接生成；高性能后端、游戏引擎、系统架构这类需要在约束下做取舍的决策，人的价值反而更集中。 > 这次变化的影响大概是工业革命的十倍，速度也是十倍。原来要一百年的事，十年就发生完了。两者相乘，冲击是一百倍。（Demis Hassabis） 他没回避这带来的痛苦。互联网、移动、工业革命，每次都有大量岗位被重构，也每次都长出了当时无法想象的新职业。但这次留给社会适应的时间被大幅压缩。他呼吁顶级经济学家和哲学家现在就开始想这个问题，包括普遍基本服务这类机制：生产力增量的一部分通过服务的形式分配给全社会，想要更多的人再去打磨稀缺技能，让自己变得独特。 Lex 把话题往政治哲学上推了一步：政府本身也是一种技术，如果它不能快速迭代，就会在剧烈变化中被撕裂，而政客恰恰擅长用分裂换选票。哈萨比斯同意需要新的治理结构和制度。但他强调顺序：**第一优先级是把资源总量做上去，从零和变正和；第二才是怎么分配。**没有前者，后者无从谈起。 ## 冯·诺依曼、斯宾诺莎，和理性的边界 Benjamin Labatut 的《疯狂之梦》（The Maniac）里有哈萨比斯的影子，书的主角是冯·诺依曼。Lex 说这本书是对天才与疯狂、以及发现之双刃剑的一次令人不安又优美的探索。 冯·诺依曼参与过曼哈顿计划，亲眼看着核物理从方程变成能改变世界的东西。他同时也预见了计算的未来。哈萨比斯说他大概不会对今天的局面感到意外，甚至在 1950 年代就已经预见到了。有一个细节他特别提到：**冯·诺依曼把学习机器称为"被培育出来的系统"（systems that are grown），以区别于被人编程的系统。** Lex 问，冯·诺依曼会给什么建议。他见过原子弹的诞生，见过官僚系统如何介入科学，见过政治人物如何定义敌人。哈萨比斯说，那个年代的书他读了很多，那批人极其出色，但今天确实需要更多对话和理解。他认为区别在于，AI 是通用技术，用途远比核技术广泛，能治所有病、能解决能源和稀缺，风险也同时在。他猜冯·诺依曼两头都看到了。 关于《疯狂之梦》里"理性的疯狂之梦不足以指引人类"这个判断，哈萨比斯是同意的。他把这东西称为精神维度或者人文维度，不一定要跟宗教挂钩，但必须有。**那个让人类之所以为人的火花，那个也许跟意识有关的火花，必须放在这件事的核心位置。** 他站在费曼那一边：科学与艺术是同伴。理解一朵花的颜色为什么那样演化出来，只会让它更美。文艺复兴时期的达·芬奇，大概根本不区分科学、艺术、宗教，全都属于生而为人、被世界打动的一部分。这是他试图采取的哲学立场。他提到自己最喜欢的哲学家之一是斯宾诺莎，因为斯宾诺莎把理解宇宙、理解人在宇宙中的位置，当成了理解宗教的方式。技术、意义、人是什么，在他眼里是同一件事的不同侧面。 他也提了个警告。搞技术和做研究的人容易只懂技术，视野太窄。这也是他支持 AI 峰会、支持各国政府参与讨论的原因之一。他觉得聊天机器人时代有个好处：普通人能亲手摸到最前沿的 AI，能亲身感受它，被迫参与到这场讨论里来。 ## 科学是唯一还在一起干活的地方 Lex 问，会不会出现某种 AI 领域的曼哈顿计划，各国按老思路把它当武器技术来升级对抗。 哈萨比斯说希望不会，那会非常危险，也是对这项技术的误用。他更希望最终走向 CERN 那种模式：以研究为核心，全世界最好的头脑聚在一起，谨慎走完最后几步，确保负责任地交到世界手上。他也承认，以当前的地缘政治气候，合作很难看到，但事情会变。至少在科研层面，研究者之间保持联系、保持主题上的贴近，很重要。 Lex 补充了一个更朴素的看法：教育的双向流动、移民的双向流动，人和人混在一起生活，纽带就长出来了，老派的对抗思维就割不裂。多元文化、多学科的研究团队一起啃科学问题，这是希望所在。**科学历来是最能连接人的东西**，科学家自己也清楚这是集体事业，彼此都能从对方身上学到东西。 关于 P-Doom，也就是人类文明自我毁灭的概率，哈萨比斯说他没给一个数字。原因不是回避，是给数字意味着一种根本不存在的精度。他不知道那些人怎么算出具体数值的。 > 我可以确定的是：它非零，而且大概率不可忽略。光这一点就够让人清醒了。（Demis Hassabis） 他的框架是：在高度不确定、但两头赌注都极大的条件下，唯一理性的做法是保持谨慎的乐观前行。一方面要把好处拿到，另一方面这些风险确实存在但无法量化。**所以最好的办法是用科学方法做更多研究，把风险定义得更精确，然后处理它。**他估计在逼近 AGI 这条线的过程中，这方面需要投入的努力至少是现在的十倍。 关于风险来源，他的判断是两类问题处在不同的时间尺度上，都同样重要。一类是常规的恶意行为者把通用技术改作他用，个人或者流氓国家都有可能。这里有个绕不开的矛盾：他一直坚定支持开放科学，AlphaFold 那些科学项目全部开源给学术界，但如果要限制坏人拿到强系统，同时又要让好人能充分在上面构建，这两件事怎么同时做到，他还没听到过清晰解法。 另一类是系统越来越自主、越来越接近 AGI 之后，怎么保证护栏有效、系统始终在人类控制下。 Lex 说自己更担心人这一侧。这不只是不把毁灭性技术交到坏人手里的问题，还有怎么让世界上的坏人少一点的问题。哈萨比斯承认这很难，但提了一个方向：用技术本身做早期预警，生物、核这类风险都可以，前提是你用来预警的 AI 本身足够可靠。这就成了一个互相咬合的问题，也因此特别难。他估计最终至少需要中美之间达成一些基本标准的共识。 ## 李世石的第 78 手 Lex 把话题拉回《疯狂之梦》，提到李世石对 AlphaGo 的那一手第 78 手，被很多人称为人类最后一次纯人类天才的闪光，一度把 AlphaGo 的判断打乱了。 哈萨比斯说那是个特殊的时刻。他把那个局面理解成互相激发：DeepMind 团队被李世石的高贵和才华打动，李世石也许被 AlphaGo 的下法激发，才逼出了那一手。纪录片《AlphaGo》把这个过程拍得很到位。 他认为这种事在很多领域会继续发生。**至少在未来可预见的时期里，人类提供的是提出正确问题的那种独创性，然后借用工具把问题解决掉。** Lex 顺着往下问：AI 越来越聪明之后，什么让人类特殊？这问题背后有个不太舒服的可能性：我们觉得人类特殊，也许只是一种自我中心的偏见。 哈萨比斯说这是他从小就想搞清楚的事。他读神经科学博士，研究想象和记忆，尤其是海马体，出路一直很清楚：光靠哲学思辨和思想实验不够，光在真实大脑上做实验也不够。**造出一个智能人造物，把它和人类心智对比，看差别在哪里，这才是找出人类特殊性的最好办法**，前提是真的有什么特殊性存在。 他猜是有的，但承认很难说清楚。他喜欢的一个关于意识的定义是：意识是信息被处理时的感觉。这个定义没有什么科学解释力，但直觉上挺有意思。他也留了个可能性：碳基和硅基在处理信息时，也许存在本质差异。 关于彭罗斯（Roger Penrose）的量子意识理论，两人是朋友，也聊过很多次，客气地保留分歧。彭罗斯和不少优秀的神经科学家合作过，想在脑里找量子力学行为的机制，到现在为止没找到有说服力的证据。**所以哈萨比斯押注大脑里跑的基本就是经典计算，这意味着相关现象原则上都能被经典计算机建模或模仿。** 但有个尾巴。感受质（qualia），那种"感觉起来是什么样"的东西，也许真的与基质绑定，没法搬到别的载体上。 他给了个很有意思的设想：如果将来我们真的做了脑机接口，也许是为了跟上 AI 的速度，那时候我们也许能亲身体验到在硅上做计算是什么感觉。这个体验本身可能就会给出答案。 他提到和已故的丹尼尔·丹尼特（Daniel Dennett）的一场辩论。我们为什么认为彼此有意识？两个理由。第一，你表现出的行为和我的类似。第二，我们跑在同一套硬件上。既然行为相似、基质相同，最简约的假设就是你感受到的东西和我感受到的类似。 跟硅基 AI 打交道的麻烦在于：第一条可能成立，第二条一定不成立。它的行为可能看起来像一个有意识的存在，它甚至可能声称自己有意识，但我们没法知道它实际感受如何，它大概也没法知道我们的感受。也许等到超级智能建起它自己的技术栈，那座桥才能搭上。 Lex 说，这对共情能力是个巨大的考验：去共情一个完全不同的基质。**人类历史上从来没被迫面对过这件事。**我们跟植物、跟演化树上离得很远的动物之间，某种程度上已经在做类似的事，但和一台计算机做这件事，是完全不同的量级。 哈萨比斯提到团队里有个叫 DolphinGemma 的项目，用一个模型版本训练海豚和鲸鱼的声音，也许有一天能建出翻译器。他顺带提了一句，海豚、虎鲸、大象、狗、猴子这些高等动物，某些方面确实有意识的迹象，哪怕按 IQ 衡量它们并不算高。共情它们，人类已经做得到了。 ## 为什么他仍然是乐观的 Lex 最后问，什么让他对人类文明的未来抱有希望。 他给了两样东西。第一是人类几乎不受限制的独创性。他说自己最喜欢看任何一个领域里做到顶尖的人，体育、科学、艺术都行，看他们进入心流状态，没有比这更美好的事。大脑是通用智能系统，上限极高。 第二是极端的适应能力。他举的例子挺逗：我们的头脑是在苔原上猎野牛时演化出来的，现在却要坐飞机、做播客、玩虚拟模拟，居然也应付得过来，这本身就很离谱。今天人们对着聊天机器人说话，反应是"哦，我跟聊天机器人聊天，挺好的"，社会适应这项技术的速度，比他预期的快。 Lex 自嘲说这个播客大概会被 AI 完全取代，他很可替代，正等着那一天。哈萨比斯回了一句"Lex，达不到你能做到的那个程度"，Lex 笑说这就是人类互相做的事：恭维。 整场对话里，哈萨比斯反复在做同一件事：把宏大到不现实的目标，拆成有意义的中间步骤，然后一步步交付。虚拟细胞拆了二十五年，AGI 拆成了六个月的英雄训练跑，能源拆成了材料、电池、输电和等离子体控制。**他不是在预言未来，他是在给未来排工程计划。** 而这种人的存在，本身就是乐观的理由之一。 ## 你可以从今天开始做的几件事 - 在自己所在的领域里，训练"品味"而不只是"技能"。哈萨比斯说区分伟大科学家和优秀科学家的，是能不能嗅出哪个方向、哪个实验、哪个问题是对的。在 AI 能解决越来越多技术难题的时代，挑对问题的能力会越来越值钱，而这个能力只能靠大量真实判断和反馈循环练出来。 - 如果你是程序员，把重心从写代码往"指定架构加判断代码好坏"上移。可被验证的输出最容易被合成数据攻破，这是编程和数学先被冲击的原因。往上游走，去做那些需要在约束下做取舍的决策：系统设计、性能边界、业务与技术的权衡。 - 给自己定一个"一年后能力"的产品判断练习。设计任何 AI 产品时，不要问今天的技术能做什么，问六个月到一年后能做什么，然后判断研究曲线能不能接上。这个习惯会逼你持续跟踪研究进展，而不是只看现有 API。