# 马特·博特尼克：DeepMind 的神经科学、心理学与人工智能 > 结合神经科学与心理学视角，讨论 DeepMind 的研究如何借鉴人脑的认知与学习机制。 - 原标题：#106 – Matt Botvinick: Neuroscience, Psychology, and AI at DeepMind - 期数：第 106 期 - 发布日期：2020-07-03 - 嘉宾 / 主题：马特·博特尼克：认知与 AI - 网页版：https://lexfridman-cn.pages.dev/ep/matt-botvinick/ - 官方页面：https://lexfridman.com/matt-botvinick/ - 精读字数：约 13671 字（阅读约 30 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 马特·博特尼克（Matt Botvinick）在医学院读书时，同时想做外科医生和精神科医生。他以为自己是地球上唯一一个在这两个方向之间摇摆的人，跑去问导师。导师后来被证明是一位挺有名的精神分析师，听完说，这并不罕见，两个领域有一个共同点：都是往表面之下看。 二十多年后，他在 DeepMind 担任神经科学研究主任，带一支既看神经元也看神经网络的团队。他最近几年最上心的问题换了方向：AI 能不能被人类真正喜欢，能不能反过来喜欢人类。 这两件事隔得很远。但按他自己的讲法，它是一条线索慢慢收拢的结果。 ## 在他这里，心理学和神经科学是同一门学问 先说那个肾脏的类比。肾科医生研究肾脏，第一句话必然是问“这东西是干什么的”：把含有代谢废物的血从一侧接进来，把好东西留下，把废物以尿的形式排出去。这件事说清楚了，剩下的工作才是研究它怎么做到。 大脑在他这里是一样的问法。大脑是干什么的？答案是产生行为，从感知输入走到行为输出，而这些输出得对生存有用。这件事说清楚了，剩下的工作才是研究它怎么做到。而“说清楚这件事”本身，就是心理学在做的事。 所以他对心理学和神经科学的分界线越来越不耐烦。他承认这是个个人立场，但推到底就是一句话：如果神经科学不以“这个器官是干什么的”为出发点，那它研究的到底是什么？ Lex 追问，这个立场是理想主义的还是工程现实主义的。他的回答两头都算。他确实预期未来几十年里这条路线会出成果，但他也觉得，如果不这么框定问题，他根本不知道心理学家和神经科学家每天在忙什么。 Lex 抬出一个反驳：早期天文学家追踪行星运动的时候，完全不懂背后的物理，那也有价值。博特尼克当场同意。他说必须先有第谷那样的数据，才可能有牛顿。但他补了一句：那只是个阶段，还没到终点。 ## 基因这个隐喻先于物理机制存在了几十年 读研时他有过一段真实的困惑。心理学讨论问题的方式，大量依赖某种“虚拟因果机制”：注意力先选择了环境中的某个对象，然后这个对象的信息被传递给运动系统。他听着觉得不对劲。这些只是隐喻，谈不上机制。这里面没有任何一步真正还原到了物理层面。 后来他拿遗传学史给自己吃了颗定心丸。孟德尔的遗传学早于沃森和克里克的 DNA 双螺旋几十年。这中间有很长一段时间，人们用“基因”这个概念卓有成效地研究遗传规律：有显性、有隐性、有重组。基因在哪？没人知道。它是个被发明出来的解释性实体，人们把因果属性安在它头上。后来那个空白被物理机制填上了。 > 但那个隐喻是值得拥有的，因为它给了我们一个很好的感觉：我们在找的是哪一种因果机制。（马特·博特尼克） Lex 在这里追了一刀：所以在你看来，神经元的相互作用是不是也是一种隐喻？还是说到了这一层就不再是隐喻了？ 博特尼克犹豫了一下，说这话可能会引起争议。然后他给了明确回答：神经元之间的相互作用就是物理事实本身，因果交互真正发生的地方就在这里。当然你可以再往下还原到量子事件，但那是一条乌龟驮乌龟的无限下行链，他不打算钻。 他自己的取舍很清楚。永远停留在心理学那层描述上，他会觉得失望。他想要知道心理活动怎么从神经活动里长出来。反过来也成立：不带任何“要解释什么”的意识去研究神经活动，充其量是随机摸索。 ## 他最推崇的心理学研究，来自脑损伤病人 Lex 提了一个批评：心理学的样本量小得可怜，全都关在实验室里，从不去野外看真实的人。博特尼克没有辩护，他承认高控制度的实验代价就是，按设计本身就会丢掉真实世界的丰富性。 但他随后讲了读研时最打动他的东西：神经心理学。 研究者去找各种脑损伤的病人群体，看特定部位的损伤产生了什么特定的缺陷，然后反推这块脑区是干什么的。他形容这类实验“极具创造力，极其审慎，是好科学”。一个实验回答一个问题，同时抛出另一个问题，另一个人接着做实验回答那个问题。你能感觉到自己在逼近某种近似答案。 他举了语言功能的例子。语言产出、语言接收、视觉功能与阅读的关系、听觉与语义的关系，这些方向上的细致研究结出了一批漂亮的模型，那些模型会叫你真的产生“我理解了一件此前不理解的事”的感觉。 > 这些不属于工程问题。它们关于人类偏好和人类文化。心理学到这里就贴着哲学了。（马特·博特尼克） ## 把他拉进科学的，是一本没拆封的书 他先读的医学院，同时念了一个艺术史的研究生学位。做精神科轮转的时候，导师问他感兴趣什么。他说可能是精神科，因为他一直好奇大脑怎么工作，但他笃定没有人正在做他想做的研究，那时候他连“认知”这个词都还没掌握。 导师说，不一定。然后从书架上抽下一套书递给他。书还是塑封的，导师自己都没读过。 就是 PDP 那套书，《并行分布式处理》（Parallel Distributed Processing）。那个词是深度学习最早的名字之一。他抱回宿舍，从头读到尾。 这段细节值得留意，因为它解释了博特尼克整个学术趣味的底色。他进入科学，跟造更快的机器没什么关系；他是被那套书承诺的一件事拉进去的：认知的丰富性可以用网络来建模，而且建出来的东西有可能跟脑子里的东西对得上。 ## 元学习：慢的学习塑造出快的学习 他们那篇 2018 年的论文叫《前额叶皮层作为一个元强化学习系统》。核心概念是元学习。 他用学外语解释。第一次学一门外语很痛苦，一切都很陌生。等你学过两门，第三门就容易得多。因为你学会了怎么学：你知道接下来要背变位，要过语音关，你知道这一套流程长什么样。这里有一个慢的学习机制，在改造你那个快的学习机制。 论文真正的起源是一次纯 AI 的实验。他们用标准强化学习算法训练一个循环神经网络，不只训练一个任务，而是一整个互相关联的任务序列。然后给它同系列里的新任务，看会发生什么。 结果是元学习自己长出来了。 机制讲起来不复杂。循环神经网络有连接回路，活动能在里面停留、被更新，这就是神经科学里说的工作记忆。所以这个网络有一套动力学，活动模式随时间怎么演化，由连接方式决定。而连接方式，也就是突触权重，由强化学习算法在调整。 于是有了那条主线：**慢的突触学习，塑造出快的活动动力学，而活动动力学本身变成了一个新的学习算法。** > 你可以通过冻结突触权重来验证这件事。说，行了，不许再学了，你现在完蛋了。给它一个新盒子，它照样能搞清楚哪个按钮更好。（马特·博特尼克） 他描述那个过程：网络会从两个按钮之间来回试探，平滑地转成只按它更喜欢的那个，理性得像回事。但权重一点没动。它靠的是过去许多许多个盒子塑造出来的活动动力学。 这个组里恰好有一批神经科学家，看到结果后集体被敲了一下。这听起来太像突触记忆和活动记忆的区分了，也太像前额叶那身出了名的高递归连接了。 于是他们做了一个类比式的迁移：前额叶高度递归，是工作记忆的核心位置，那它支持强化学习吗？强化学习是取动作、看奖励、更新策略。也许前额叶就是在纯活动层面做这件事，用活动模式记住“我刚才做了什么、拿到多少奖励”，并以此为根据改变行为。 接下来那个问题才有意思：前额叶怎么变得这么聪明？这套跑在循环动力学里的程序，是从哪来的？工作给出的答案是，也许作用在突触层面的机制，也就是多巴胺介导的那套东西，负责塑造了这些动力学。 ## 他看重的是涌现，不是设计 Lex 问能不能一直往上叠：元学习、元元学习、元元元学习，一层套一层更抽象的能力。博特尼克说这个方向被过度延伸了，但紧接着承认，Schmidhuber 在博士论文里就半开玩笑地提过 meta-meta-meta 这条路。 然后他讲了这件事里真正让他着迷的地方。 后来 AI 圈涌现了大量元学习算法，很多很有效。但它们都是工程出来的：有人先想清楚“要让元学习发生，应该怎么设计”，然后写出算法。他们发现的这一种不一样，**它没有算法的形式，它更像一种必然发生的现象：只要有记忆、只要记忆的功能被强化学习塑造、只要训练任务是成序列且彼此相关的，它就一定会自己冒出来。** 你拦不住它。 他早前参与过另一篇论文《记忆增强神经网络中的元学习》，那里的记忆不是循环动力学，是一种槽位式的外部记忆。同样的故事，同样的结果。所以循环结构并非必要条件，有记忆就够了，再加上任务分布。 而任务分布这个条件，人类世界简直是满的。 > 你每天做的事，从来没有跟昨天完全一样的。但每一件事都跟前一件事有家族相似性。（马特·博特尼克） 他自己的说法是：世界是无尽的变化加上无尽的冗余。元学习就发生在这个设定里。人类特别擅长抓那个冗余，抓那个相似性。Melanie Mitchell 管这个叫类比。 ## 多巴胺可能存着一整条分布 另一篇论文叫《基于多巴胺的强化学习中价值的分布性编码》。他先道了个歉，因为要讲清楚必须先讲清多巴胺是什么。 传统的强化学习里，算法核心有一个价值信号：你预期未来能拿到的累计奖励，通常表示成一个数字。赌场里的赌徒，有某个概率赢多少钱，某个概率输多少钱，传统做法是把这一切加权平均成一个期望值。 分布性强化学习说：别压缩，把它当成一整条分布来记。赌徒脑子里想的是“有这么大可能赢这么多，有那么大可能输那么多”，不化简。 实验里这个改动显著加速了学习，策略也更好。但这属于先试出来、后找原因。人们这才回头问，为什么？ 已经清楚的一条原因是：**它驱动了更丰富的表征学习。**两个情境期望值相同，标准算法会把它们在内心里越挤越近，因为你被要求表示的那个量是一样的，整个系统里它们被搅成一坨。但如果这两个情境的分布不同，分布性学习会保住这个区别。而这个区别在别的任务里可能正好有用。 接着是跟脑子的对接。多巴胺目前主流的理解，是它编码了强化学习里的“奖励预测误差”：你拿到的比预期的多，就回头把那个价值估计往上调；拿到的比预期的少，就往下调。这是时序差分学习的核心，1990 年代建立了这条连接，之后大量研究在支撑它。 传统看法是，这个误差也是一个数字，一个“惊讶程度”的标量。分布性框架里，价值是分布，误差也就是分布。 Will Dabney 是早期做分布性时序差分的人之一，他找到组里的计算神经科学家 Zeb Kurth-Nelson，问：多巴胺有没有可能在做这种分布编码？然后他们拉上哈佛的 Naoshige Uchida，翻文献，列出一串可检验的预测：如果脑子真在用分布编码，那么在 Uchida 那些实验里，应该能看到这几件事。 结果那几项预测基本都被相当清楚地验证了。 博特尼克在这里的谨慎值得一提。他说，刚发完这种论文，下一个念头就是“希望它能重复”。好几个实验室在做后续实验，很快会有答案。 ## AI 与神经科学之间是双向的 他反复强调一件事：这类工作看起来是 AI 给神经科学送灵感，它同时也验证了 AI。如果能在脑子里找到证据，说明某个技术在生物系统里被使用了，那这个技术更可能是靠谱的，更可能扩展到复杂任务，更可能跟别的机制配合得好。 他把这称为两个领域之间的良性循环。这个循环一直都在，只是主导权在两边来回摆。他判断当下是 AI 领先的阶段：涌现出一堆想法，值得去脑子里找对应物。而神经科学这边，很多研究行为的方法还停留在早期认知心理学的框架里，跟 AI 现在挠头的问题（大规模复杂环境怎么办）有点接不上。 但他认为这个轮子必然会转回来，不太远的将来会有那么一刻，神经科学开始往 AI 研究者的桌上砸想法，改变他们工作的方向。 Lex 问了个更个人化的问题：一个人能不能同时在 AI 和神经科学两端都是世界级？ 博特尼克回答得很干脆：能，但那是极少数人，他自己不在那个名单上。他点出真正的门槛跟智力关系不大，长在工具的学习曲线上。在前沿做动手的 AI 研究，工程门槛高得惊人，编程、数据收集、数据管理、分布式计算，全套。神经科学那边又是完全不同的一套，而且方法在爆炸式增长。 他说最好的局面是光谱上每个点都有人，从纯神经科学到纯工程，而这些人身处一个互相说话的共同体里。他自己站在接近中间的位置，一条腿在神经科学，一条腿在 AI。他坦白这个位置叫他无法在任何一端拥有真正的技术专长。 > 但我至少希望，身边有几个能看见连接的人是值得的。（马特·博特尼克） 他补了一段很实在的观察：每个学科都有自己的盲点、都有点不幸的执念、都有自己的一套隐喻和参照系。有点智力上的多样性是健康的，能把人从卡住的地方拽出来。他在 DeepMind 天天看到这件事发生。 ## 机器人弹贝多芬弹得比人好，你想去听吗 话题转到他现在最投入的方向：人机交互。他组里有人这几年硬转向，从传统认知心理学和认知神经科学，转去做人机交互的实验研究。 他给了两个理由。第一个是追问意义：我们到底在干什么？把世界变得更好是什么意思？他很确定那意味着使人类生活变好。但这个命题认真看下去，复杂得吓人，尤其当你造的是学习系统。你写完代码交出去，它不会像谷歌地图那样照程序跑，它会从经验里学。 这自然引向 AI 安全。他特意强调那些问题极其重要，DeepMind 内外有大批人整天在想。但他想说的是另一面：**使人类生活变好，正面看是什么样子？** 跟同事聊完，他们的初步结论是：光靠哲学思辨不够，你必须考虑人实际上是怎么回事，人实际上想要什么，以及“人不知道自己想要什么”和“两个人想要的东西冲突”这两种情况有多难办。 他给了一个具体到有点吓人的例子。假如有一个机器人，弹贝多芬奏鸣曲比任何人都好，那种敏感度和表现力超出人类极限。你想去听吗？你愿意买票去音乐厅听一个机器人演奏吗？ > 这背后是偏好和文化的问题，跟工程无关。（马特·博特尼克） 再往下更麻烦。就算知道了答案，这是 AI 工程师该替所有人决定的事吗？大概不该。智能体应该去跟工程师群体之外的人交互，去搞清楚那些人想要什么。然后呢？两个人想要不同的东西，而你只有一个智能体，你要同时满足他们。这就进了经济学、社会选择理论，甚至政治的领域。 顺着这条线推到底，问题会滑出技术和工程的范畴，变成“你想要什么样的社会”。 他说这个念头浮现时，自己在 AI 研究里的感受变了，他用了一个词：refreshed，像是被刷新了一下。造这些东西，最终会把我们带回那些最根本的问题：什么是好生活，谁来定，怎么使多个群体的视角都参与进来塑造我们生活的方式。他开始觉得，负责任地做 AI 研究，有可能通向一次文化上的更新。 Lex 接过话头说，AI 会是 21 世纪的哲学。 ## 另一种叙事：能力越强就越仁慈 他提了一个常被忽略的叙事差异。人类获得更多信息和理解的时候，故事通常是这样的：他们变得更有智慧，更接近觉悟，更仁慈。佛陀那条线。 那么为什么我们不去设想，我们造的 AI 系统会越来越多地搞懂世界怎么运转、人怎么互动，然后变得善良？ 他说他不认为这会在没有精心设置的情况下自然发生。但这个方向本身是存在的。 Lex 在这里提了一个反向的观察：人类心智对最坏情况有一种近乎本能的偏好。**他说这话时，指的是一种根深蒂固的倾向，先算最坏的可能。**计算机科学里的最坏情况分析传统也强化了这个习惯。我们不想被老虎吃掉，所以先算最坏。但这不该阻止我们去把其余那些通向好结局的路径修出来。 博特尼克同意，并且指出一个不对称：说清“什么会出错”相对容易，说清“什么叫走对了”难得多，也不明显。而这恰恰是需要投入的地方。 他举了 WALL-E 那个例子。所有事情都由机器替你做了，那是一种完全不同形态的反乌托邦。那不属于我们想要的生活。 > 人从生活里获得的一部分满足感，来自把事情做成。（马特·博特尼克） 所以 AI 该帮什么忙、帮到什么程度、哪一步必须留给人自己，这些都得提前想。哪怕现在的技术还很原始，也该开始问：我们希望它们想要什么？ 他也提到，有些事现在就能做。DeepMind 近几年往科学应用上投入很多，比如蛋白质折叠，那是在实打实地把世界变好。而社交网络、推荐系统这类已经在跟人深度互动的东西，里面有大量交互机制还没被真正理解，更没被研究清楚。 Lex 举了 Twitter：怎么造出一个提升对话质量和健康度的 AI 系统？博特尼克说这是个漂亮的人类心理学问题，还加了一层：怎么做到不欺骗、不操纵，最大化人的自主性，以及怎么用民主的方式做这些选择。有本事造这类系统的人只是极少数，但“什么使世界变好”是所有人都该参与讨论的事。 他组里最近在读的东西值得记一下：AI 文献、神经科学文献，加上经济学、社会选择理论，甚至一点政治理论。他们刻意不去写哲学论文，想办法做真正的实证研究，走出第一步小的尝试，看看当带着全部复杂性、矛盾、悖论的人类，真的跟这些系统接触时，会发生什么。 ## 温暖的 AI 才是终极图灵测试 Lex 问了一个他自己都说是过度浪漫化的问题：我们能不能造出一个人类会爱的 AGI，而且它会爱回来？ 博特尼克的回答用了一项社会心理学研究。普林斯顿的 Susan Fiske，那正好是他以前工作过的系。她把人对人的态度拆成两个维度：一个是能力，这个人多能干；另一个是温暖，这个人多可亲。 你可以设想一个人极其能干但很冷，你会敬佩，但会有保留。你也可以设想一个人特别温暖但什么事都办不成，同样会有保留。**人类真正给出最高评价的，是又能干又温暖的那一小撮人。** 他强调这只是在做实证描述，没有价值主张的意思。 然后他把这个二维模型放到 AI 研究上，落差立刻出来了。整个领域几乎全在能力这一维上使劲。这个东西围棋下得比人好，很厉害，但那只是两个维度里的一个。 另一个维度是什么？他承认可能有简单的部分：给系统一张脸，做得可爱，耳朵大大的。那大概确实算一部分。但更核心的是一整套行为模式：一个 AI 系统表现出关心、体贴，叫人真的相信它是在关心，感觉上不像表演，不像在被糊弄。 > 我觉得那才是终极的图灵测试。不只是叫我们相信它会推理、会理解语言，而是让人觉得可以坦然说出，这个 AI 是个好人。（马特·博特尼克） 难的地方在于，我们对“温暖”没有足够显式的理解，没法直接工程化。而人类在这件事上强得离谱。这不完全是与生俱来的，有人天生更暖，但也有很多是学来的技能：叫别人知道你 cares，知道他在你这里有分量，知道你在享受跟他相处。这些是从彼此身上学来的。 所以他的判断是：手工设计这些行为没戏，但造出一个系统、给它一个方向，使它在跟人打交道的过程中自己学会什么叫让人舒服的互动，这并非不可能。 > 说实话，如果不是往那个方向走，我想退出。（马特·博特尼克） ## 神经科学的下一个章节：把行为请回来 展望部分他给了两条线。 神经科学这边有一个尴尬的错位。技术爆炸了，双光子、光遗传、各种记录手段，但用上这些技术的实验里，往往没有多少像样的行为。原因很实际：要用这些设备，小鼠得被固定住头部，动不了。你怎么使一只被固定的小鼠做出有意思的行为？人们想了很多办法，比如虚拟现实环境加一个可以跑的球。 这些尝试铺开之后，越来越多人开始问同一个问题：把行为请回来。那本来才是整件事的目的。 他期待两条趋势汇合：对行为的兴趣回升，加上对 AI 里那些计算机制的普遍关注。汇合的结果会是一个新章节，关于行为结构的兴趣重生，而这次是被 AI 里逐渐清晰的计算机制所照亮的。 如果真能做到，就离他前面说的那个理想状态更近一步：心理学和神经科学之间不再有分界，神经科学就是研究“大脑是干什么的”背后的机制，而大脑是干什么的？产生行为。 ## AI 缺的是随时改主意的能力 AI 这边，他认为核心难题是灵活性，而且是两层意思。 第一层，人能在很多事情上都还不错，不必只专精一件。第二层，人能极快地切换，也能极快地学会新东西，因为他们一眼就能看出新任务跟以前做过的哪些事有共同点。 > 我们的 AI 系统 blatantly 没有这个能力。（马特·博特尼克） 有人据此论断深度学习和深度强化学习这条路根本错了。他不这么看。但他承认那个更朴素的事实：我们还没造出有这种灵活性的东西，而大半个领域的注意力正在往这儿转。 这会引向抽象，也会引向心理学里叫“认知控制”的东西：在任务之间切换的能力，把一套从未执行过的行为程序快速拼装起来的能力，而且拼出来的东西对当前需求是合理的。这在神经科学那头，跟前额叶干的事关系极近。 ## 前额叶：那块“最前面的地皮” 他自嘲说给前额叶下解剖学定义是懦夫的做法：运动皮层很好认，大脑皮层这块外壳里，位于运动皮层前面的那部分，就叫前额叶。只说地皮位置，不说功能。 这段研究史读起来有点好笑。真正把这条路打开的是一战。大量带着脑损伤回来的士兵，成了研究不同脑区功能的窗口。这很悲剧，但确实极其高产。而让神经心理学家最挫败的一点是，损伤最靠前那块区域之后，缺陷到底是什么，怎么也说不清。 后来靠大量临床经验和细致观察，有人摸到了一个综合征。其中一位是俄罗斯神经心理学家鲁利亚（Luria），认知心理学的学生现在还在读他。他的结论是，额叶跟灵活性有关：抑制习惯、做不寻常的事、在瞬间之间灵活地改变正在做的事。 把这个功能聚焦得更清楚的，是控制性行为与自动化行为的区分，另一套术语叫目标导向行为与习惯行为。人脑里有专门给习惯用的通路，那些你天天做的事必须自动化，好把你的认知资源腾出来干别的。 学开车和开了十年车，区别就在这里。有些通路会慢慢吸收那些高频重复的行为，把它们变成习惯，变成自动的。 前额叶的角色，恰恰是站在习惯的对立面：**它使人能压下习惯。**使人能说，我在这种情况下通常做 X，但看现在这个情形，我大概该做 Y。 他举了肘击。伸手握手是根深蒂固的习惯行为，是前额叶叫人意识到此刻情况特殊，这个场合不能做那个惯常动作。鲁利亚设计的那些检测测验就是这个逻辑：我伸出手，但请你改用肘部碰我。额叶损伤的病人做这个极其困难。别人伸出手，握手反应就被自动拉出来了。 ## 小鼠有没有前额叶，这是个真问题 Lex 问，这个能力是人类独有的吗？小鼠有前额叶吗？ 博特尼克说这问题又棘手又及时。因为我们现在有革命性的技术，可以在小鼠和果蝇身上监测、测量，甚至因果性地干预神经活动。这些技术在猴子身上都用不全，更别说人。 所以“我们想理解的人类智能，能不能在这些生物身上追”变成了一个紧迫问题。而答案有分歧。 研究果蝇的人会说：果蝇比你想的聪明。他们会指给你看实验，果蝇能学新行为，能从一个刺激泛化到另一个，那种泛化方式暗示它们内部有抽象。 他自己常遇到的场景是这样的。他先描述一个观察：小鼠学某个任务慢得离谱，而那个任务对人来说简单到不值得提。他据此推论，小鼠没有我们想解释的那种认知灵活性。然后研究小鼠的人会回他：那个实验可能没做成，是因为你让小鼠处理的东西对小鼠太不自然。如果你保持实验逻辑不变，但把信息呈现方式换成小鼠在自然栖息地里习惯处理的样子，你可能会发现它比你以为的聪明得多。接着人家就放视频：小鼠在自然环境里拖着食物回窝，路上有障碍，它在想办法把障碍清掉。 他说这些是开放问题。 ## 大脑既不是积木也不是一锅粥 他先给了一个明确的判断：功能分化有压倒性的证据。不是所有脑区都在干同一件事。这从脑损伤研究里立刻能看出来，把电极插进去测神经活动也能看出来。 然后他补了两点，方向相反。 第一，仔细看功能分化，你通常得到的结论是，脑区之间的差异是渐变的，谈不上离散。很难把大脑切成边界清晰、通道清晰的真正模块。前额叶尤其如此，它由一堆子区域构成，功能定义不清晰，边界也模糊。 第二，一些非常新的研究显示，那些我们原以为功能很聚焦的脑区，其实携带着意想不到的信号。初级视觉皮层，教科书里说它是最早处理视觉信息的皮层中转站，它该关心的就是“我这个场景里边缘在哪”。然而只要有足够的数据，你能从初级视觉皮层里解码出各种东西：动物此刻在做什么行为，当前任务里有多少奖励可拿。 > 神经科学的历史就是在模块化和一锅粥这两种观点之间来回摆。我猜最后会落在中间。麻烦在于，中间那一片最难想。（马特·博特尼克） 他的解释很到位：人的概念系统处理模块化系统很轻松，处理完全无差别的系统也很轻松，唯独处理两者之间的东西会犯迷糊。但我们得习惯它。 ## 信息到底怎么在脑子里传 他承认自己老派。他认为深度学习研究里用的那些网络，是对大脑信息传递机制的一个合理近似。 标准的说法是频率编码：重要的是一个神经元放电多快，给它安一个数字，这个数字就足以刻画它在干什么。 这个看法有不确定性。有研究指出尖峰的精确时序有意义。也有研究指出，树突内部进行的计算相当丰富和有结构，跟我们在人工网络里做的事完全不对应。 但他的立场是，坚持这个高度抽象的层次，我们确实在往前走。他把神经传递的 101 讲了一遍：神经递质抵达一个神经元，神经元上有受体，递质与受体结合改变了膜电位，电位变化足够大就产生一个尖峰，尖峰沿轴突传导，触发递质释放。我们在造人工网络时不去管单个尖峰，只管尖峰的发放频率，管它叫这个神经元的“活动”。所以深度学习里一个单元的活动，粗略对应神经元的放电率。 Lex 提到他读到过一种说法，说机械振动信号可能也在传递信息，甚至有人主张电信号只是机械信号的副产品。博特尼克说没看过那篇，但那不改变整体故事。他顺带承认，物理里总有更深一层的故事，量子力学就是例子。 Lex 接着问了个更狠的：有没有可能我们对这套基本机制的理解完全错了？ 他答得非常干脆：太有可能了。 > 如果我连这一点都不承认，我就不该当科学家。（马特·博特尼克） 但他随后讲了为什么他仍然相信这条路。从 1980 年代开始，有一条没断过的研究链，方法一直是同一个：拿一个多层神经网络，在人、猴子或者大鼠做过的任务上训练它，然后去看网络深处的单元在干什么，去问那像不像我们知道的脑内神经元的活动。一次又一次，这个方法奏效了。以反向传播为核心的学习算法，产生的活动模式、反应模式、神经元行为模式，跟脑子里看到的惊人地相似。 巧合到这个程度，就开始不像巧合了。原文在这里断掉了。 ## 最迷人的那个悖论 Lex 最后问了那个浪漫的问题：在他的领域里，什么想法最美、最神秘、最令人惊讶。 他给了一个悖论。大脑如此神秘，感觉如此遥远。但同时，正是它造就了日常生活的全部透明性。大脑是把一切变得明显、变得熟悉的东西。而每时每刻，房间里总有一个。 他在普林斯顿教认知神经科学，最后一堂课他会这么跟学生说：人们谈到科学的灵感，常用的隐喻是抬头看星星，星星叫人惊叹宇宙，叫人思考自己的位置，思考万物怎么运转。他说他完全支持看星星，但真正给他惊叹的从来都是近得不能再近的那个脑子，那些遥远的星辰反而做不到。 Lex 追问，是不是也包括这一层：我们此刻这段对话能发生，是因为两个脑子在通信。他说是的，而且他常常觉得关于人工智能的讨论窄得让人失望。他提到自己一直对艺术有兴趣，人类完整的体验有很多层次，光说“我们讨论的是认知，情绪回头再加上”是不够的。人在每一刻经历的东西，范围大得惊人，而这一切是脑子产出的。 Lex 顺着讲了一个他常感沮丧的现象：语言里那些真正迷人的东西，音乐感、机智、韵味，一旦社区要建一个 benchmark 聚拢大家，就会大量丢失。你越想做得严谨，魔法掉得越多。 博特尼克接得很稳：他说他同意，但也要为第一波深度学习模型说句公道话。那批人建模型时，脑子里装着人类认知的丰富性，并不在意分数。 他讲了一场研究生时亲眼看着发生的辩论，题目听起来干得像木屑：过去式的形成。 一方说，心智里编码了规则，同时有一张例外清单。规则是加 -ed，但总有不这么干的时候，所以你必须存一张表。另一方是连接主义者，也就是今天的深度学习这帮人，他们说：别急着假设，先去真的看数据。看语料库。语料库里的东西非常丰富，大多数动词确实加 -ed，也有例外，但例外并非随机的，有线索提示哪些动词该例外，甚至还有例外之例外。 英语里专门有个词形容这个：准规则性（quasi-regularity）。有规则，但很脏。例外内部也有结构。 > 你当然可以试着把这个结构写成某种闭式解。但真正理解大脑是怎么处理这一切的，正确做法是搭一个深度神经网络，在这份数据上训练它，看它最终怎么表征这些丰富性。（马特·博特尼克） 这就是深度学习被引入认知心理学时的精神：冲着丰富性去的。他说这一点一直叫他觉得有说服力，现在依然是。 ## 缺的是随时改主意的能力 Lex 问得更细：在我们对生物神经网络和人工神经网络的理解之间，有没有哪个差异，是他觉得既有趣、又深刻、甚至就是通往人类级智能必须补的那一块。 他的回答落在他讲过很多次的那个点上：现在的系统缺灵活性，缺那种情境一变、立刻换挡的即时性，而这恰恰是人类行为最鲜明的特征。 有意思的是他接着用图灵机来类比。他说计算机导论课讲图灵机的时候，有一种讲法他记了很久：图灵机是一台机器模拟器，它能模拟任何别的机器。他觉得自己一直在这个框架里看人。人当然远不是图灵机，容量有限得很，但我们有一种能力，能组装出跟以往做过的一切都截然不同的行为。 > 我们脑子里装着某个基础机制，使得我们能跑软件。（马特·博特尼克） Lex 在这里逼了一句：所以在你看来，大脑归根结底就是个计算装置？里面有没有什么魔法？ 博特尼克的回答分两半。前半是，他很乐意把它当成纯计算。后半是，他绝不会满意，直到有人能告诉他那些基础计算究竟是什么、它们怎么产出人类认知的全部丰富性。 他把门槛抬得很高：搞清楚人怎么做算术、怎么下棋，对他来说远远不够。**他要的是全部。** ## 2001 太空漫游里那根骨头 话题拐到群体行为。Lex 提到大群体的行为，集体心智，把一群人看成一个智能有机体。他拿《2001 太空漫游》里猴子摸到那根骨头说事，说那是魔法般的时刻。 博特尼克先做了一件事：把功劳推开。他说自己很荣幸跟一群极聪明的人共事，但组里和 DeepMind 的多智能体工作，领路的功劳不该记在他头上。然后给了判断：人类行为在共同体内部发生，这一点在他看来不言自明。 Lex 提到 Harari 的那个论点：大量人类能共同持有一个想法、朝同一个方向收敛。像疫情期间，握手变成碰肘，没有人坐在一个屋子里开会，但一个观念在一段时间里分布式地收敛了。他觉得这几乎是我们认知和智能的每一个方面的基础。人好像没有一条清晰的、写在明处的目标函数，但我们都朝某个方向收敛了。 博特尼克在这件事上给了明确的保留。他说自己从不被“智能存在于共同体层面”这个说法说服。他有点固执地认为，我们要理解的基本单位是个体的人。如果必须在其他人的语境里去理解这个人，可以。但智能，他顽固地把它定义为个体身上的一种属性。 他自己也不确定这是否只是口味问题。 Lex 说他和博特尼克站同一边，同时点出那可能是科学家的还原论梦想。他也留了另一种可能：智能也许只在存在多个智能时才会出现。如果真是那样，那挺悲哀的，因为那极难研究。因为单独一个人根本不会变成现在这么聪明，那一个就不会是智人。 > 这是可能的。（马特·博特尼克） ## 环境的结构，和认知的结构一样重要 接着他说了一句他认为被严重低估的话：认真理解人类智能，或者造出类人智能，必须给环境的结构和认知系统的结构同等的注意力。不管那个系统是脑子还是 AI。 这是他早年在神经网络先驱身上学到的东西。他点了两个人的名字：Jay McClelland 和 John Cohen。 认知的结构，只有一部分是大脑架构和它实现的学习算法的函数。真正塑造它的是这些东西与所处世界的结构之间的相互作用。 这一点在强化学习里最明显：你能学到多少，取决于你能模拟多少。DeepMind 把这个道理的另一个侧面也讲透了，就是自博弈。竞争对手成了环境本身。他说这是 AI 里最激动人心的想法之一，而且真的能学成。 > 所以你看，至少在那个语境里，竞争对学习是必需的。（马特·博特尼克） 他还说了一句关于智能来源的判断，值得单独拎出来：很多看起来像是智能的东西，其实是环境结构的投影，谈不上系统本身的属性。这句话对做 AI 的人有直接的工程含义：当你发现一个模型学不会，第一件该检查的事，往往落在你给它的环境里有没有那种可以被抓取的结构上，而非模型架构。 ## 把这段对话收进日常 博特尼克这期聊的东西跨度很大，从基因隐喻聊到多巴胺的分布编码，从额叶损伤聊到机器人弹贝多芬。但真正能落到手上的动作，其实不多，也很难。下面几条是这期内容里最经得起反复用的。 - **先问“这个系统是干什么的”，再问“它怎么做到的”。**不论是读一篇神经科学论文、审一个模型架构，还是设计一个产品，先把这个器官、这个系统、这个功能的用途说清楚。说不清楚就开始抠实现细节，多半是在随机摸索。 - **看一个 AI 能力时，分两个轴打分：能力和温暖。**Fiske 那个二维模型可以直接搬过来用。评估一个助手、一个客服系统、一个推荐算法，别只问它“能不能办成”，也问“跟它打交道的人感觉如何”。现在绝大多数产品只在第一个轴上做优化，第二个轴基本空着，那正是差异化的地方。 - **检验你的训练环境里有没有“无尽的变化加无尽的冗余”。**元学习能不能自己长出来，靠的不在算法多花哨，而在任务分布里有没有共享的抽象结构。如果你的训练任务彼此毫不相干，或者彼此完全一样，那就别指望模型学到“怎么学”。 - **遇到“这个模型怎么这么笨”的时候，先怀疑任务呈现方式。**小鼠那个例子值得反复想：同样的实验逻辑，换成动物在自然栖息地里习惯的形式，它可能就聪明了。模型在某个任务上表现糟糕，先检查这个任务对它的“感官”和“动作空间”是否自然，再决定要不要改架构。 - **把“什么会出错”和“什么叫走对了”当成两个同等重要的研究议题。**最坏情况分析容易做，也符合本能，但如果只做这一半，你会得到一个“没有灾难”的世界，而那个“值得生活”的世界还需要另一拨人去修。团队里应该有人专门负责后者。 - **做跨学科的事，最好的位置可能是中间，但要接受代价。**博特尼克自己的坦白很诚实：站在中间能看见连接，但很难在任何一端拥有真正的技术专长。如果你的目标是做那个翻译的人，就主动去经营一个分布在整个光谱上的共同体，让两端的人互相听得见。 - **给系统一个方向，而不是一套规则。**温暖也好，人际互动的分寸也好，这些都没法手写进代码。可行的路径是设定初始倾向，然后让它从与人的真实交互里学。凡是宣称能用规则穷举人类社交细节的方案，基本可以先打个问号。 最后留一句他自己的话，可以当成这期的总纲。他说，说实话，如果不是往那个方向走，他想退出。 一个在 DeepMind 做神经科学研究的人，把“造出人类会喜欢、也会喜欢人类的系统”当成自己继续干下去的理由。这个理由听起来不像工程指标，但它可能比任何一个 benchmark 都更接近问题的本质。 因为如果最后造出来的东西很能干，但没人愿意跟它待在一起，那我们忙这一场，到底是为了什么。