# 马诺利斯·凯利斯：人类文明的演化与超级智能 AI > 计算生物学家从基因组与演化视角谈人类文明的走向，以及超级智能 AI 可能带来的变革与风险。 - 原标题：#373 – Manolis Kellis: Evolution of Human Civilization and Superintelligent AI - 期数：第 373 期 - 发布日期：2023-04-21 - 嘉宾 / 主题：马诺利斯·凯利斯 - 网页版：https://lexfridman-cn.pages.dev/ep/manolis-kellis-5/ - 官方页面：https://lexfridman.com/manolis-kellis-5/ - 精读字数：约 8539 字（阅读约 19 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 马诺利斯·凯利斯（Manolis Kellis）在 MIT 领导计算生物学组，这是他第五次上 Lex Fridman 的播客。他区分人和 AI 的那个说法，比绝大多数讨论都硬： > AI 只有新皮层。它没有边缘系统，没有恐惧、逃跑、饥饿这一整套东西。（马诺利斯·凯利斯） 人的大脑是在旧系统上一层层加盖起来的。最上面是新皮层，负责推理；中间压着情绪；最底下是恐惧、战栗、转身就跑这些反应。AI 把这套底层全跳过，直接拿到了最上面那一层。 被跳过的部分，恰恰是创造力的来源之一。凯利斯说得很直接： > 我有时会生气，有时会饿，这些可能就是我的创造力来源。我不想变成一个没有情绪的机器人。我想惹点麻烦，想说错话，想冒出一句尴尬的评论，把别人顶到有反应的位置上，让别人换个角度去想事情。（马诺利斯·凯利斯） 他甚至觉得当下社会正在滑向一个没有幽默感的空间：所有人都怕说错话，于是集体沉默，然后开始不喜欢自己的工作。 ## 你身体里跑着三亿年前的代码 他讲人体演化层积的方式，比任何教科书都直观： > 我每一次细胞分裂，我就是酵母，就是一个单细胞生物。我每一次吸气、肺扩张、每一次心跳，我就是一条鱼，心脏几乎没怎么变过，血在血管里流、氧气、这些东西变了一点点。免疫系统，我们是灵长类。社会行为，我们是猕猴。你追踪每一个行为，都能在演化里找到出处。（马诺利斯·凯利斯） 这些旧程序一直没被"替换掉"。它们还在运行，还在分裂、代谢、抵御病原体、争夺地位。新皮层只是搭在最上面的一层薄壳。 软件工程里最常见的做法是推倒重写，把 v2.0 从零开始。演化从来不这么干，它只会往上打补丁，而且补丁打得极其聪明。三亿年前的代码今天还在你的细胞里跑，还跑得很好。任何一个被要求维护过祖传代码库的工程师，都能体会这有多难。 这层认知也顺手给了凯利斯一个伦理立场。既然体内每一条鱼、每一只猕猴、每一个单细胞都还在工作，那么杀戮的边界就不只是"别杀人"： > 所有那些生物过程从来没有停止存在，它们一直在我们体内活着。所以别再杀别的物种了。（马诺利斯·凯利斯） ## 演化越复杂，反而越快 他提出了一个看着矛盾的现象。1960 年代人们设计遗传算法，把复杂度一路加上去，很快就卡死了。原因不难推：随着复杂度提高，把你从"能用"推到"不能用"的突变数量指数级增长，把你推向"更好"的突变数量指数级下降。复杂度越高，演化出更好东西的概率越趋近于零。 生物演化几乎是反过来的，越复杂，看起来越快。 时间线摆出来是这样的：几十亿年才搞出一个会分裂的细胞，然后是多细胞、复杂的身体结构、精密的感官。蝙蝠在几百万年之内演化出飞行，还顺带演化出声呐。几百万年在演化的尺度上，是眨一下眼。 凯利斯的解释是，系统学会了演化。演化本身被演化出来了。 模块化、层级结构、可复用组件，这些东西让有意义的改动可以发生，同时不把整个系统弄崩。真正的门槛落在变异能不能被容纳上，能不能变异反倒好办。一个系统如果一改就全废，它的可演化性就是零。反过来，一个系统如果设计成"改动局部不影响全局"，它就能在复杂度不断上升的同时保持演化的速度。 人类今天写软件、搭组织、建公司，反复撞上的就是这堵墙。 ## 四十亿年只做了一件事：处理信息 如果要把整条演化轨迹压缩成一句话，凯利斯选的是信息处理。 最早的一步是趋化性（chemotaxis）。细菌沿着化学梯度移动，浓度高一点就往那边走。这是最原始的信息处理，也是捕食的第一步。 下一步是感光。所有已知的生命都演化在这块每 24 小时转一圈的岩石上，亮、暗、亮、暗。光既是能量，也是信息：光告诉你上面在哪。有了这个，就能演化出感光细胞，再演化出复杂的眼睛、多只眼睛，然后识别形状、运动、方向。有了这些输入，才有在上面搭认知基础设施的可能，去建模整个环境。 按这条线看，人类的出现是下一步。 > 有些动物在很多维度上比我们强得多，但在认知这个维度上，我们在这个星球上无人能及。（马诺利斯·凯利斯） 我们没有爪子、没有獠牙、跑得不快、嗅觉一般，却成了优势物种。原因就是那条主线：信息处理能力一直在往上加。 ## 下一层演化，用自己搭自己 沿着这条线往前推，凯利斯看到一个可能性：下一层演化，是自己搭自己。 人类用这套旧硬件，把认知能力推到极致，然后创造出了技术。技术能做很多原本只有认知才能做的任务，却不背上前面所有演化层留下的包袱。再往前，就是我们用现在的聪明才智去设计更好的编程语言，用编程语言去训练 ChatGPT，再让它去写下一层软件，加速下一轮。 他注意到一个能耗上的落差。大多数动物把 80% 的清醒时间花在找食物和搭窝上，人类大约只花 1%，剩下全给了创造性的活动。AI 连这一层都不用操心，它整个活在认知空间里。 > 把这理解成演化的下一个自然阶段，其实挺顺的。（马诺利斯·凯利斯） 还有一层让凯利斯觉得漂亮：造出这一层的东西，还活着，还在旁边看着，还能参与引导。他希望这种共存关系能一直持续下去。 ## 读自己的代码，是内省的最后一层 人类开始读懂自己的基因组，这件事在凯利斯眼里意义特殊。它是内省的终极形态：不只是观察自己的念头，而是直接读那套生成念头的源代码。 读懂之后就有干预的可能。不只是和 AI 协作来增强能力，还包括看清哪些神经通路支撑着共情、判断、正义感这类东西，然后通过神经元层面的、化学的、电的干预去调整。再往后，理解的不只是神经元的连接和功能，还有基因本身。 终点的清单很实在：能不能消掉精神疾病，能不能消掉神经退行，能不能消掉痴呆。 凯利斯的答案在这里拐了个弯。他不想要一个没有包袱的升级版。 愤怒、饥饿、坐立不安，这些东西混在一起才让人有意思。一个永远冷静、永远得体、永远说正确的话的人，不会冒出新想法。他觉得那种"更理性"的人，其实是把人身上最像人的那部分抑制掉了，代价是创造力和新鲜感一起没了。 ## 同一个模型，换几个提示词就换了个人 凯利斯有一个特别有意思的类比。他说在 ChatGPT 出来之前，他跟学生说： > 你就问自己，马诺利斯现在会怎么说？你们每个人脑子里都已经有一个还不错的我在跑。（马诺利斯·凯利斯） 这东西的正式名字叫橡皮鸭调试法（rubber duck debugging）。你对着桌上那只一动不动的橡皮鸭，一步步解释你写了什么代码、为什么会出现这个 bug。解释着解释着，你自己就想通了。鸭子的作用在于提供一个"你必须把话讲清楚"的框架，它自己一个字都不用说。 他讲了一个梦。他梦见自己在一个礼堂讲课，一位朋友正在给他讲癌症基因组和癌细胞如何演化的深刻洞见，讲得极其精彩。醒来他意识到，那些洞见全都是他自己的神经元产出的，只是被投射到了梦里的朋友身上。 > 我的神经元本来就有这个能力，但只有在"你现在是某某教授，你是这个领域的专家，你怎么说"这样的提示下，它才会启动。（马诺利斯·凯利斯） 他还有更小的例子。遇到不知道怎么办的时候，他就问自己： > 我不知道该怎么做，让我问问虚拟的 Lex，你会怎么做？虚拟的 Lex 会说，要善良。我说，哦对。（马诺利斯·凯利斯） 他自己在没被提示的状态下未必做得到，但提示一给，答案就出来了。 他最常用的提示词是"一步一步想"。这招对他十岁的儿子也管用。孩子做数学题总想一步到位，凯利斯完全知道他会错在哪一步。但只要说一句"请一步一步来"，孩子就进入状态了。 ChatGPT 的"think step by step"能起效，本质上是一回事。人类在训练模型时用的那套基于人类反馈的强化学习（RLHF），也是把同样的东西反向灌了回去。 ## 模型把知识、语境和风格拆开了 还有一个让凯利斯觉得美的发现。语言模型在极度过参数化之后，自己学会了某件事：知识、语境和形式是可以分离的。 你可以用俳句写科学知识，也可以用莎士比亚的腔调讲同一件事。模型能在几个提示之内，稳定地切换成"莎士比亚混搭大卫·鲍伊"的风格，而且切换得令人信服。这种变换的幅度和稳定度，人很难做到。 照这个思路推下去，人的心智里，同样的三个维度大概也是可分离的。这给心理学提供了一批新词汇。今天我们形容一个人的说话方式，只能说"他让我想起某位朋友"，含含糊糊。如果模型能帮我们精确地命名这些维度，这些概念在人的心智里也会变得更清晰，然后再被更好地编码回机器。 解释性这件事上，卷积网络好办。它有局部性，有层级结构，不同层看不同尺度的东西，激活特征能对上图像里的具体部位。语言模型难办得多，但凯利斯觉得还是能做。办法是"消融"：把网络的这一块去掉，看它会生成什么样的提示词，然后一点点逼近一套能描述这些维度的语言。 ## 基座模型是精神病院，也是思想史 Lex 提到一个想法：去看看没经过 RLHF 对齐、没有安全审查的基座模型，探索它能生成多少仇恨言论，能复活多少人类自己干过的事，能切换成共产主义、法西斯主义、资本主义中的哪一种，看看哪些部分被激活。 凯利斯顺着往下讲了一层。他说从某个角度讲，精神病院住的正是这些人：心智失去了控制，漂到自己 psyche 里某个特定的位置出不来了。他看那些描绘错乱心智的电影，常常在里面看到自己的某个版本，没那么极端而已。躁郁、精神分裂、抑郁、自闭，每个人身上都有这些方向上的投影，只是向量短很多。 > 这些行为都在每个人的向量张成空间里，大多数人的向量幅度小，因为他们没遗传到那组特定的变异，或者没暴露在那样的环境里，或者成长过程中的那套对齐机制对他们没起效。（马诺利斯·凯利斯） 顺着这个逻辑，婴儿就是没对齐的模型。凯利斯说，每个婴儿基本上都是一个怒火中烧的自恋者。 但接着他补了一句：也不全是。他观察自己三个孩子长大，性格里有一部分从头到尾没变过，另一部分在不同阶段剧烈摆动。有个孩子永远要更大的那块，有个孩子要求绝对平均，第三个说没关系我可以拿小的，你们别担心我。这些差异在很早很早就出现了。 ## 你选的朋友，正在写你的明天 人也是可以被提示的。给一个人一个环境，他的行为就会跟着变。 > 老话是，给我看你的朋友，我告诉你你是谁。其实更像是，给我看你的朋友，我告诉你你会变成谁。（马诺利斯·凯利斯） 第一步当然是你倾向于选像自己的人。更值得琢磨的是第二步：你的圈子里哪些行为算正常，你就会开始采用哪些行为。 这是一种元层面的演化。你每做一次某个行为，不只是得到今天的结果，还在为明天铺路，因为你强化了那条神经通路。凯利斯把它讲成了自我实现的预言：你按你希望成为的样子去行动，去挑那些和你想成为的样子一致的人，那些行为就真的会变成你的常态。 一个人的生活本身，就是一套极其复杂的提示机制。你选的朋友、你选的环境、你怎么改造这个环境，全都在持续给你下指令。 ## 教养能掰回来的，比你想的少 凯利斯是遗传学家，也是三个孩子的父亲，他在这件事上的坦白很不留情面。 作为父母，他和妻子花了巨大的精力去"修"后天那部分：教孩子分享，教他们善良，教他们开放，教他们互相信任，教他们跨过囚徒困境。所有人都只为自己打算，大家就都住在一个糟糕的地方；稍微利他一点，所有人都过得更好。他们并没有区别对待孩子，可孩子生下来就是不一样。 > 作为一个遗传学家，我必须承认，后天能做的就那么多。先天肯定占了很大一块。（马诺利斯·凯利斯） 他给了一个统计学上的细节来解释为什么。常见的基因变异一般效应都很弱，因为选择会把效应强的变异清除掉。一个大幅提高精神分裂风险的变异，不可能升到很高的频率。能留下来的常见变异，按定义都是效应温和的那些。 那么问题来了。如果性格、认知、行为的差异全都由成千上万个弱效应变异决定，按大数定律，孩子的特征应该稳稳地落在父母两人的中间。可现实里兄弟姐妹的差异大得惊人。在层常见变异之上，还压着一批以孟德尔方式遗传的罕见变异，效应强得多，直接决定了很多行为、生理和心理的走向。 同一套逻辑也能解释同卵双胞胎。同卵双胞胎的基因组几乎完全一样，但其中一个确诊精神分裂，另一个确诊的概率只有大约 50%。剩下那一半，来自发育过程中的暴露、环境、创伤，以及所有那些说不清的东西。 ## 天才的孩子，大概率是普通人 "回归"这个词的来源，凯利斯讲得很有意思。二战时战斗机飞行员在某次空战里表现特别好，回去被表扬了一通，下一次出战往往表现变差。军方当时的解读是：表扬把他们毁了。 统计学上的解读叫均值回归（regression to the mean）。那位飞行员受过极好的训练，实力被推到了很高的位置，某一次他发挥到了自己分布的上沿。下一次再抽一次样，最可能的结果是往中间靠一点。跟表扬没有关系。 把这个套到人身上就有点残酷了。爱因斯坦是人类智力的某种极致，但这不意味着他的孩子和孙辈会是天才。更可能的解释是，他本身是常见变异和罕见变异的一次极端组合，是分布尾部的稀有采样。他的后代从同一个底层分布里重新抽样，落点大概率会往中间挪。 这套框架的用处是校正直觉。孩子的表现可以从父母均值为起点去理解，再叠加上他们继承到的那组罕见变异带来的偏移。 先天和后天在这里搅成了一团。你说这是天生的，可能只是环境使然；你说这是教养出来的，可能只是同一套基因在同一个环境里的表达。父母不仅在塑造自己的环境，同时也在塑造孩子将要出生的那个环境。孩子在那个环境里出生，再带着自己那一袋基因变异开始新一轮。 > 先天能影响后天，后天能影响先天，两者至少是相关的、可互相预测的。想把它们拆开，非常非常难。（马诺利斯·凯利斯） 他还顺带提了一个演化尺度上的观察。人类作为物种，演化速度慢得可怕，一代人二三十年，拿来做选择循环是很糟的设计。真正高效的选择需要更紧的反馈回路。免疫系统就是例子：免疫细胞在分裂时做 V(D)J 重组，几百万种抗体在几天之内被造出来、被筛选、被扩增。那是嵌在人体内部、跑得比人类演化快好几个数量级的另一套演化。 受精那一刻也一样。几十万个精子在竞争，只有一个能进去。随机性确实存在，但随机性背后是一整套筛选机制在极小的尺度上高速运转。 ## 让 AI 去做数学，让人类负责不一样 回到 AI。凯利斯觉得这件事最值得期待的地方，是它可能把智力追求从一条窄门里解放出来。 过去的教育体系在筛选一种人：数学特别好的人。所有人挤向同一批学校，同一批专业，同一批岗位，仿佛人类的智力只有一个可测量的方向。可如果有 AI 能瞬间完成数学推导、写代码、跑分析，那么"数学特别好"这件事本身就不再稀缺。稀缺的会变成另一种东西：想法特别不一样的人。 > AI 可以做数学，那我们就该去找一群彼此差异极大的人凑在一起。那才是创新的真正摇篮。（马诺利斯·凯利斯） 这个判断背后的逻辑很硬。创新的本质是把两个原本不相干的点连起来，而连接的可能性来自差异。十个数学天才坐一桌，他们大概率会讨论同一个问题，用同一套语言，得出同一类结论。一个生物学家、一个木匠、一个诗人、一个机械工程师坐一桌，反而更可能撞出点东西。过去我们没法这么组织，因为专业分工要求每个人在单一维度上足够深。现在深度可以外包，广度就变得值钱了。 他还提到另一条路径：语言模型可以用几个提示词就被推离中心。你让它扮演某种特定的思路，它就会稳定地沿着那个方向去思考和表达。这和人类被环境塑造是一回事。 一个模型用几个提示词就能变成"莎士比亚混搭大卫·鲍伊"，而且变完还能稳得住、说得像。人类做不到这么快、这么彻底。这个差距本身说明了点东西：风格、语境、知识这三样东西在模型内部是解耦的，而在人身上它们被搅在一起，难拆难换。 ## 情绪的词有多老，人的心就有多老 凯利斯还想到一个绕得挺远的办法，去追问人类心理的底层结构：从语言的演化史里找线索。 善良、愤怒、嫉妒，这些词在不同语言里长得像不像？如果高度相似，说明它们非常古老，可能在人类分化之前就已经存在于共同祖先的语言里。如果差异极大，说明每个语言群体是各自独立地发明了这些概念。 把语言的分化树和人类迁徙的路线图叠在一起看，遗传学已经能相当精确地追踪后者的时间线。两条线对齐，就能推断出某个心理特质大概在什么时候出现、沿着什么路径传播。 这条路能走通，靠的是语言本身也是一层演化产物。它和基因组一样会变异、会继承、会分化，只不过传得更快。 ## 人被意识形态抓住，因为人本来就容易被提示 Lex 提了一个他很好奇的思想实验：把没对齐的基座模型放出来，让它生成共产主义、法西斯主义、资本主义的文本，看哪些部分被激活，看这些意识形态在神经网络里究竟长什么样。 凯利斯的回应绕回了"可提示性"这个概念。人之所以会被某套理念整个抓住，因为人天然就能被提示。给一套词汇、一套框架，人就会沿着它去想、去说、去行动。意识形态就是一套高度浓缩的提示词包，它把复杂世界压缩成一句口号，然后人就开始按那句口号生活。 > 也许共产主义、法西斯主义、资本主义、民主制度，在底层是连着的。人的心天然就被意识形态吸引，被一个中心化的想法吸引。也许我们需要一个神经网络来提醒我们这一点。（马诺利斯·凯利斯） 这个说法有点冷，但成立。人被概念捕获的速度，比人自己意识到的快得多。你读到一句足够简洁的解释，感觉"原来如此"，那一刻你就已经被提示了。 ## 基因能改，包袱别扔 回到他那个最大的分歧点。技术在往"可以修改自己的硬件"的方向走，读懂基因组、干预神经通路、消掉疾病，这条路的尽头是什么？ 凯利斯的答案很明确：他可以接受技术去消除疾病，但不接受用同样的思路去消除人的情绪包袱。 > 我不想变成一个没有情绪的人。我想惹麻烦，想说错话，想冒出一句尴尬的评论。（马诺利斯·凯利斯） 他说得很认真，理由也是功能性的：那些看起来是缺陷的东西，正是创造力的燃料。一个永远冷静、永远精确、永远说正确的话的头脑，输出会越来越可预测。可预测意味着可以被优化掉。真正不可替代的部分，恰恰是那些说不清从哪里冒出来的、带着点偏差和火气的东西。 他甚至认为当下社会正在往一个无趣的方向漂：所有人都在担心说错话，于是选择不说，于是集体变得沉默，然后开始不喜欢自己在做的事。 顺着这个逻辑，他还讲了一件让很多人不舒服的事：人的多样性不是可以被抹平的，因为它就是硬件本身。 > 我们在 99.9% 的程度上是同一个物种。如果把这件事真正想明白，人类大概就不会再互相打了。（马诺利斯·凯利斯） 但剩下那 0.1% 里，藏着六百万个常见变异和一堆罕见变异组合出的无穷可能。兄弟姐妹之间、父母子女之间，差异大得让"教养"这个词显得力不从心。凯利斯和妻子的六个兄弟姐妹，从远处看像同一个模具倒出来的，走近了看每个人都是另一个物种。有意思的地方在于，这些差异又小到不足以破坏沟通。大家还是同一种东西，只不过各自偏了不同的方向。 他说自己愿意相信，人类在高维空间里的那个"质心"是空的。没有一个标准的、平均的人。维度多到某种程度之后，中心区域根本没被占据，每个人都落在稀疏的外围。所谓"正常人"，只是一个统计上的虚构。 ## 给读者的行动清单 这期对话信息量很大，但如果只留下可以立刻用起来的东西，大概是下面这些。 - 把"一步一步想"当成默认设置。遇到复杂问题，无论是自己思考、跟同事讨论，还是向 AI 提问，都先要求拆成步骤。跳过步骤的思考，错误率会高得离谱。 - 给自己建几个"虚拟顾问"。针对你常遇到的问题，想清楚谁会给出最好的答案，然后在心里向他提问。人的神经元具备这个能力，只是需要一个提示才会启动。 - 刻意选择你的提示环境。你经常待的圈子、反复看的账号、日常对话的语气，都在持续给你下指令。这些输入会决定你明天是谁，选的时候认真一点。 - 别再追求在所有维度上中庸。中心位置是空的，往某个方向偏出去，才是你真正的位置。用 AI 补上你不擅长的深度，把省下来的时间投到你的偏斜上。 - 接受先天和后天搅在一起、拆不开这个事实。教育孩子、管理团队、评估自己的时候，把"我努力了所以他该变"接受先天和后天搅在一起、拆不开这个事实。教育孩子、管理团队、评估自己的时候，把"我努力了所以他该变"这个预期调低一点。人能做的比想象中少，但也没必要因此放弃所有努力。 - 保留你的情绪包袱。愤怒、饥饿、坐立不安，这些不是需要被优化掉的 bug。真正该修的只有一种：让你无法正常运转的那些。剩下的，那是你的燃料。 - 对意识形态保持一步距离。任何一句足够简洁、能让你立刻"原来如此"的解释，都值得警惕。它可能确实说对了一部分，也可能只是一套高效的提示词包，成功地把你的思考方向锁定了。 - 去找那些真的和你不一样的人。别只找技能互补的搭档，要找思路、语言、判断方式都跟你错开的人。AI 能补齐深度，补不了这种错位。 凯利斯这期讲得最重的一句话，其实藏在他的自嘲里。他说自己不想变成那种永远正确的人，想惹点麻烦。这话听着像玩笑，落到实践上却很具体：一个人在什么环境下会突然冒出新想法？多半是在他觉得安全、能说错话、不怕被纠正的时候。反过来，一个把所有不确定都藏起来、每句话都先过一遍审查的人，输出会越来越像模板。 AI 把知识、语境和风格拆开了，这件事正在重排人的价值。能被拆解、能被复制、能被打包成提示词的那部分能力，正在快速贬值。剩下的是那些拆不开的：你为什么会在这个问题上固执，你为什么对某件小事莫名愤怒，你为什么在所有人都说对的时候觉得哪里不对。这些偏斜没有理由，也不高效，却恰好构成了别人没法从你这里拿走的那一小块。 四十亿年的演化在人体内一层层打补丁，酵母、鱼、猕猴、新皮层，全部同时在线运行。凯利斯提醒人们别急着关掉底下那几层，道理到最后就是这么朴素。真正稀缺的是那个愿意在正确和有趣之间选后者的判断力，精确倒从来不稀缺。