# 约沙·巴赫：人工意识与现实的本质 > 认知科学家从计算角度探讨意识如何产生，机器能否拥有主观体验，以及智能与现实的边界在哪里。 - 原标题：#101 – Joscha Bach: Artificial Consciousness and the Nature of Reality - 期数：第 101 期 - 发布日期：2020-06-13 - 嘉宾 / 主题：约沙·巴赫 - 网页版：https://lexfridman-cn.pages.dev/ep/joscha-bach/ - 官方页面：https://lexfridman.com/joscha-bach/ - 精读字数：约 12891 字（阅读约 29 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 一个神经元感觉不到任何东西。一个大脑同样感觉不到任何东西。它们都是物理对象，而物理系统没有办法体验任何东西。 约沙·巴赫（Joscha Bach）把这句结论往外推了一步。既然物理系统无法产生感受，感受就只能出现在别的地方。**物理系统不可能有意识，只有模拟才可能。意识是一种自我模拟的模拟属性。** 这与大多数人的直觉正好相反。人们通常觉得模拟是假的，所以不可能有真实的意识。巴赫认为这个直觉建立在一个没有检验过的假设上：真实等于物理。而物理系统本身只是一堆按规则流动的信息，它连"疼"这个字都没有地方写。 巴赫是 AI Foundation 的研究副总裁，此前在 MIT 和哈佛做过研究。他出生在东德的一片森林里，父亲是学建筑出身、后来转做艺术的人。Lex Fridman 用三个小时和他聊了意识、心智、生命、宇宙，以及文明会不会把自己玩没。 ## 森林里的野孩子，和方圆几十里唯一的书呆子 巴赫的父亲来自一个建筑师世家，据说是巴赫家族一个很远的支系。他学的是建筑，祖父当年娶了一位贵族，被卷进战争，十五年后才回来，于是父亲的童年是在"被要求做事"的环境里度过的。他做不了自己不想做的事，后来干脆去做艺术，盖没有直角的房子，买了座老水磨搬到乡下，只做自己想做的。东德对这种波西米亚式的生活意外地友好：食物补贴很重，医疗免费，不用操心房租和养老金。另一件事是，你几乎不可能和政府不产生政治分歧，这对艺术家来说非常肥沃，你做的每件事都天然带着意义。 Lex 请巴赫给书呆子下个定义，巴赫给了这个： > 我有时把书呆子定义为，认为交流的目的是把自己的想法提交同行评审的人。而普通人明白，交流的首要目的是协商对齐。这两种目的经常冲突，所以书呆子必须学会怎么跟整个社会打交道。（约沙·巴赫） 巴赫就长在那样一个"大洞穴"里，四周全是书。他形容自己几乎是野生的。环境很美、很安静、也很孤独，于是他开始读书，上学之前就把能读的都读完了。同村的学校对他很客气，没有人欺负他，但他也交不到朋友。他当时说不出哪里不对，现在知道原因很简单：他是那附近唯一的书呆子，没有第二个小孩对物理、计算和数学感兴趣。真正的人际关系是九年级进了数理学校之后才开始的。 这段经历在他身上留下了一个特征，Lex 称之为"不被拴住"。不被当代人看重的东西拴住，不被简历和基准测试拴住。巴赫自己给了一个更冷静的提醒： > 这里有个很大的危险。你被期待嫁进某个思想传统，再嫁进这个传统里的某个流派。如果每个人都自己造一套范式，整个事业就无法积累。所以需要一种平衡，既要有范式级的思考者，也要有在既定范式里工作的人。（约沙·巴赫） 但他注意到一件事：AI 领域刚开始的时候，进来的人都有有意思的观点。今天的 AI 研究者要么根本没有有意思的观点，要么这些观点跟他们手上做的事无关。**因为他们在做的事，是把最先进的方法加上一个很小的 epsilon。**巴赫的态度很直接：如果别人能做，我为什么要做？如果现在的机器学习方法能通向强人工智能，那我在沙滩上等着就行了。 ## 古典哲学在德国是怎么断掉的 巴赫读的是克莱斯特、海涅、黑塞这一路，也读古典哲学家。他对尼采的评价很不客气，说尼采是古典世界里的喷子，聪明、好读，但他主要是在 troll 自己，因为他跟世界不对付，恋爱也不顺，最后成了一个虚无主义者。黑塞的《荒原狼》综合征是典型的青春期症状：你觉得世界误解了你，而你没意识到所有误解都源于你自己缺乏自我觉察，因为你把自己当成人类的原型，以为别人应该按你的本能反应来反应。 Lex 问，古典哲学到哪儿算结束。巴赫的回答是德国第一次革命，君主制结束、民主开始的那一刻。那之后德国人搞出了一种新的政府形式，却对"社会想成为的这个新有机体"没有感觉，等于把大学的头砍掉了，大学像没头鸡一样继续跑过现代主义。紧接着民主失败，法西斯上台，用和斯大林主义类似的方式烧掉了思想传统。两个德国都没恢复过来：东德剩下庸俗的辩证唯物主义，西德也没比哈贝马斯更尖锐多少。把犹太人杀掉和赶走，这件事的伤害同样无法弥补。 另一层原因是，哲学里低垂的果实基本被摘完了。最后一个大发现是数学里的构造主义转向：搞明白数学里真正能用的部分是计算。这件事发生在二十世纪上半叶，但它至今没有完全渗透进哲学，甚至没有渗透进物理。**物理学家在构造主义成为共识之前，就把数学的代码库给签出了。** 哥德尔证明了什么？用经典数学语义，你会掉进矛盾。哥德尔本人并不接受这个结论，他更相信自己那套语义，所以这个证明几乎把他的世界观震碎了。图灵就不那么难受，他能看到出路：数学一直都是计算。在经典数学里，π 是一个值；在计算里，函数只有在你算得出来的时候才是值。π 的最后一位数字你算不出来，你就只拥有一个函数。你可以把这个函数扔进本地太阳里，让它跑到太阳烧完，那时你会知道 π 的最后一位，但这也意味着物理宇宙里没有任何过程可以依赖于"已经知道 π 的最后一位"。 维特根斯坦比图灵更早看到了这件事。他甚至在图灵缺席时会取消课程，因为觉得跟其他人继续上没意思。《逻辑哲学论》是一本很美的书，75 页只写了一个想法，里面没有论证也没有引用，目的不是说服谁，只是把话说清楚。他那时已经理解，一切都可以用 NAND 演算表达出来，全部逻辑都能归约成现代计算机里的 NAND 门。某种意义上，他在图灵把它说清楚之前就理解了图灵完备性。 巴赫对自己在这条谱系里的位置很谦虚。他说自己还是那个在美丽山谷里长大的孩子，从外面看世界，试图搞明白发生了什么。老师告诉他一些事，这些事大多说不通，所以他必须自己造模型，必须去挖别人话底下的地基，把翻译过程中丢掉的东西尽量还原。他补了一句挺妙的自嘲： > 每当我有一个原创的想法，我通常已经晚了大概四百年。唯一的好处是，随着我年纪变大、探索变深，派对变得越来越小。（约沙·巴赫） ## 存在是默认状态，而我们住在分形的一条螺旋里 Lex 抛出那个最古老的问题：为什么会有东西存在，而不是什么都没有。巴赫说这可能是个方向错误的问题，追问"为什么"预设了目的或原因，而存在未必需要目的或原因。 他给出的答案很省比特：**存在是默认状态。**要编码"存在"这件事，需要的比特数最少。不存在未必是一个有意义的概念。如果一切能够存在的东西都存在，那么某样东西要存在，它就得是可实现的；而所能实现的只有有限自动机。于是整个存在可能是所有有限自动机的叠加，我们在其中的某个区域，这个区域恰好具备能容纳我们的性质。 Lex 追问基底是什么。巴赫答得很干脆：不知道，只知道它得能存储信息、能保持状态。 接下来这段是理解他整套认识论的入口。他借用了曼德博集合（Mandelbrot set）。你可以把整张图看成两行代码：在复数平面上对每个点测试一个数列，发散的点涂黑，收敛的不涂，中间的颜色由发散速度决定。假设你活在曼德博集合内部，你不知道自己在哪，也没发现那个生成函数。你能看到的是：眼前有一条螺旋，螺旋缓慢向右移，然后在某个点上消失。这个描述准不准确？准确。它是对现象的有效描述。但曼德博集合里其实没有螺旋，只有对某个把它解读成二维空间、并在某个尺度上定义规律的观察者来说，它看起来像螺旋。 他就是这么理解物理定律的。**我们得到的是一层层二阶、三阶的规律：螺旋会右移，螺旋会消失，消失之后会出现新的螺旋。这套描述有不错的预测力，它不触及内核，不解释自己是怎么被生成出来的，但对"我们纠缠其中的这个宇宙"解释得相当好。** 他还顺带批评了那种指望从物理里一步跳出系统的想法。你可以枚举所有可能的自动机，直到找到能产出你这个现实的那一个。你确实有可能从第一性原理出发判断自己嵌在全局分形的哪个区域，但路径只有一条，必须从第一性原理走。 ## 智能是建模能力，感知是已经拥有那些模型 巴赫给智能下的定义非常简洁：**智能是建模的能力。**它不必是目标导向的理性，很多聪明人在这一项上很差。它指的是，你被给了若干模式，你能看出结构，并且能预测下一批模式。 他把感知（sentience）和智能拆开了：感知是你拥有了某一类模型，智能是你还没有这些模型时获取它们的方式。这两件事经常被混为一谈，但很多高度聪明的人自我觉察很差，反过来，先验足够好的人不需要多聪明也能自我觉察。 于是图灵测试在他那里被重新解释了。真正的图灵测试是：你问一个系统"智能是什么"，如果它能解释自己是什么、怎么运作的，你就该把它判定为通用智能。**而这个测试的反面是，它同时也在测试我们。它是关于"人类是否聪明到足以理解自己"这个猜想的检验。**你通过建造一个 AI 来通过图灵测试。 那么今天的神经网络差在哪？巴赫给了两个维度。一是表示是否适配要表示的领域，二是模型的类型是否适配。他认为两方面都还缺，而且他不认为这是新闻，设计范式的人大多知道。具体缺的是统一学习：当我们学习时，某个时刻会发现所有感知到的东西都属于同一个对象，于是把它们学进一个模型，这个模型就叫宇宙。我们的经验没有一条秘密直连通往物理现实，物理现实是个永远无法访问的量子图，但它在我们的系统界面上能造出某些模式。我们把这些模式之间的关系叫作物理宇宙。发展过程中我们还会发现，几乎所有东西都能映射到同一个三维空间里。**这正是"广延实体"（res extensa）这个直觉的来路，物质世界只是心智领域中的一个，是那些把环境当作三维物理引擎来处理的所有模型的集合。** ## 天主教是一次大规模软件安装 Lex 请巴赫逐一解释二元论、唯心论、唯物论、功能主义。巴赫的切入角度很特别，他说西方这条特定的思想轨迹，是两千年 cult 灌输的结果。天主教把一套相对粗糙的神话当作软件装进了人的心智，把软件同步起来，让所有人齐步走，从而让那个"神"上线并高效运转。 > 神在技术上就是一个跨越多个大脑的自我，而我们每个人的自我基本只跑在一个大脑上。（约沙·巴赫） 如果把天主教神话翻译成现代语言，它的意思是：你和我在互动的这个世界，像一场多人角色扮演冒险，钱和物品都不是真的，这在东方哲学里叫摩耶，执着其中就叫轮回。同时它引入了更高的意义，即神圣。而神的自然形态，是你所属文明的柏拉图式理念，是由个体构成的超级有机体，是一个有意图的能动者。 二元论的问题在于它接错了线。它把心智领域和物理领域当成两种实体，物理世界因果闭合、底层完全机械，心智世界另有一套规则，而"真正的你"住在后一个房间里。巴赫说，这其实是把唯物论和唯心论用错误的方式连起来的结果。 > 诡异的地方在于，我们并不存在于物理世界里。我们存在于大脑给自己讲的一个故事里。（约沙·巴赫） 为什么？因为大脑感觉不到任何东西，神经元也感觉不到。但让大脑或者有机体知道"作为一个人是什么感觉"会非常有用，于是大脑造了一个这样的人的拟像，用它来建模这个人跟环境的互动。这个拟像是大脑持续书写和更新的多媒体小说。 为什么写小说里的角色会有情绪？巴赫拿《冰与火之歌》举例。角色站在山上，想攻下下面的城，他们看着天色，感到忐忑，也感到充满力量。为什么他们会有这些情绪？因为故事里就是这么写的。而故事里这么写，是因为这是对这个人的一个足够好的模型，能预测他接下来会做什么。我们是一回事。 > 你和我都是傀儡，是在我心中上演这出戏的两个傀儡。我认同其中一个，因为我能直接控制那一个。（约沙·巴赫） 那么"我"是不是也能被替换？巴赫说身份是软件状态，是一个构造，跟物理没有关系。它是对同一条世界线上的不同对象的表示。达赖喇嘛之所以会转世，原因不在于他糊涂。他不认同为一个人类，他认同的是一套治理软件，所以死亡只是他所运行的那具身体死了。要杀死达赖喇嘛，你得杀死他的传统。我们每个人身上都有这个结构的一小部分，你的孩子、你点燃的想法、你认同的社会，都在延续某些东西。 谈到死亡，巴赫的立场很硬： > 连续的存在才是那个模糊的概念。我们根本不拥有连续存在。把昨天的你和今天的你绑在一起的，只是你拥有关于他的记忆这个幻觉。（约沙·巴赫） 所以想要上传，技术上异常简单：造一台认为自己就是你的机器。因为它和你现在是一模一样的东西，你本来就是一台认为自己就是你的机器。你无法永生，但你可以不再害怕死亡，因为你意识到你从来没有连续地存在过。 ## 注意力、Transformer，以及为什么语言不是认知的底层 巴赫对意识的定义是：它大体上是"你注意力内容"的一个模型，是为了某种学习而演化出来的机制。 为什么需要它？今天主流的机器学习靠链式的加权和与非线性层，靠误差信号回传调整权重。代价是你需要改动大量权重，过程极慢，而大脑没有那么多时间。大脑做的是基于注意力的学习：定位到网络里可能改进的区域，把绑定状态和预期结果一起存成一条协议，以便日后回来重新审视这些承诺。这就要求系统记住注意力的内容。 另一个原因是，你构造现实时会出错，你会把倒影和阴影看成人。所以系统必须能指出是哪些感知特征导致了当前这个构造。还有一层：注意力系统本身就是用同一套机制训练的，所以它是自反的。如果你不关注注意力本身，注意力就会涣散。你此刻看到的东西，是大脑发散的走神梦，还是你仍然在感知？于是你周期性地回头看自己是否还在注意。**当"意识到注意力的内容"和"意识到自己在注意"之间的环收得足够紧，注意力成为注意力的对象，我们就醒过来了。** Lex 顺势问了 Transformer 里的注意力机制。巴赫认为它只建模了注意力的一面。他讲了一个老笑话：早期机器翻译要把"a bat broke the window"翻成德语，出来的结果是"一只蝙蝠用棒球棍打破了窗户"。那一版程序之所以这么翻，是因为它在同句内把 bat 的两种含义的可能性都最大化了。而 Transformer 不会犯这个错，因为它追踪同一性，把手指按在单个概念上，保证这个概念在后面还会出现，于是它能写出一段关于某位科学家的文字，名字、代词、故事全都对得上。**但它没有把这一切整合起来，它的意义会在某个点上散架，因为它还不理解自己说的一切都必须指向同一个宇宙。** 而追踪同一性只是注意力中一个很具体的机制，它并不负责产生我们这种意识。至于能不能把概念空间持续地整合起来，维特根斯坦晚年就在啃这个问题，《哲学研究》里卡住他的是"图像"。他想造一门逻辑语言来做真正的哲学，但处理不了知觉内容，最后他大概判断自己解决不了。巴赫认为这个失败预演了 AI 最大那次项目的失败。真要往前走，得靠更通用的函数逼近；用语法语言去硬啃几何，那条路走不通。 > 我同意维特根斯坦，只是我同意的是晚期的维特根斯坦。同时我也同意早期维特根斯坦的美。《逻辑哲学论》大概是二十世纪写得最美的哲学文本。（约沙·巴赫） ## 大脑是一个没有中央政府的元学习系统 巴赫把人工智能的三波说得很清楚。第一波是识别问题、设计解、把解实现出来，比如写一个下棋程序。第二波不写解，写一个自动搜索解法的算法，强化学习属于这一波。第三波是元学习：找到一个算法，它能自己发现针对某个领域的学习算法。**我们的大脑很可能处在第三波，它是一台元学习系统。** 具体的画面是这样的：没有任何一个中央控制告诉所有神经元该怎么接线。每个神经元都是一个独立的强化学习智能体，相当复杂，也很有动机想被喂饱。它在平均意义上"对的时候"放电，就能被喂饱。而"对的时候"取决于它所处的电化学环境。它必须学一个关于环境的函数，告诉自己什么时候放电。 Lex 追问：那谁在设定损失函数？巴赫的回答是，也有一堆"政府"在给大脑不同部分强加损失函数，这叫差异性注意。有些区域在你看脸的时候会得到特别奖励。没有这一条，你会得脸盲症。他的解释有点反直觉：脸盲症患者的大脑未必有缺陷，只是对脸的注意力处于平均水平，他们看脸的时间和看杯子一样多。**而那些没有脸盲症的人，对脸的注意力是强迫性的。你和我走过人群时不可能不扫脸。结果就是我们造出了极其精细的脸部模型，精细到能读出别人的心理状态。** 把这个机制放大到群体，巴赫给出了"精神"（spirit）的一个技术性解释：精神是一个自主机器人的操作系统。这个词被发明出来的时候，人们需要的正是这个词，只是当时已知的自主机器人只有人、动物、植物、生态系统和城市。组织更像一个函数，它告诉细胞该怎么行为；这个函数是细胞之间互动的涌现结果，没有什么超自然的形态发生场。 顺着这个思路，他愿意把一定程度的智能归给植物。问题在于植物没有神经系统，无法在体内瞬间传递远距离信号，只能靠相邻细胞之间的化学物质，信号传播速度是每秒几毫米。所以如果植物是智能的，它的时间尺度和我们不同。 > 有可能存在活了上千年、几乎不受干扰的智能生态系统，它们调节着自己的环境，改变了进化的走向。它们只是运行在另一个时间尺度上。（约沙·巴赫） 他甚至给了一个挺妙的解释：狮子的大脑比羚羊大得多，未必是因为抓住羚羊比逃跑更难，而是因为狮子需要为自己的环境建立更复杂的模型，也需要把食物供给当成需要守护的东西来管理。 ## 我们烧掉了一亿年的树，换来了所有人家里通上水管 巴赫有一个不太乐观的判断：我们当前的文明不可持续。他的判断依据是一道物理题。 先看历史数据。公元零年以来，地球上的人口一直在三亿到四亿之间浮动，一直到启蒙运动、工业革命才改变。贫困在他那里有一个精确的定义：你能生多少孩子，取决于你能喂饱多少，生多了就死。这是地球上所有动物的状态。而现代社会允许你想生多少就生多少，孩子不会死，于是生育率下降的原因变成了经济：多生孩子意味着社会阶层下滑。只有特别富和特别穷的人不受这条约束。 代价是什么？他给出这么一个说法：**我们在一个世纪里烧掉了一亿年的树，让所有人都用上了水管。**这句话背后是一个熵的账本。你把杠杆伸得离熵的深渊太远，对面却还没有落地，那么迟早撑不住，账单要付。 具体到气候，全球变暖本身并不是他最担心的事。他举了亚利桑那州，那里夏天本来就有三个月出不了门，你有车里的空调、家里的空调，一切都好。**要命的指标是湿球温度。把湿布裹在温度计上，快速挥动，读到的就是湿球温度。当你无法通过蒸发把体温降到 35 摄氏度以下，你就会死，哪怕你是个健康的年轻人、哪怕你躲在阴凉处。** 于是现代城市是一个"闭环制冷链"：你在有空调的房间醒来，开有空调的车，进有空调的办公室，去有空调的超市，中间只在很短的距离里奔跑。这个说法是从肉类供应链借来的，冷链一断，肉开始化冻，你就得把它扔掉。只要文明还在运转，能源供应还在，食物冷链卡车还能开到你家门口，一切都没问题。问题是气候变得极其不规律、极端天气事件变多之后，大规模露天农业会撑不住。 他还讲了一个更让人不安的可能性。文明的终结本身未必是最坏的结果，之后会有新的文明长出来。他真正担心的是生态系统翻过临界点：海洋酸化杀死浮游生物，蓝细菌接管，我们可能连呼吸的空气都没了。那才是地球上复杂生物的一次大重启。他也提到了丹尼·希利斯那种向平流层撒石灰来限制太阳辐射的方案，有效也好无效也好，至少是个思路。 关于火星，他的态度很冷静。马斯克要做的事解决不了全球变暖，因为火星比全球变暖最坏结果下的地球还要糟得多。**但它可能逼出全新的技术，那些在极端环境里被逼出来的想法，最终可能反过来强化地球上这个闭环制冷链。** Lex 问他有多大比例的概率会自我毁灭。巴赫绕开了这个赌注，因为一旦人死了，赢来的钱也没法领。他的判断落在另一处：人类这个物种未必灭绝，但当前这个文明不可持续，人口大概率会比今天少，而今天活着的人里大部分在一百年后不会有后代。 ## Twitter 是一个多巴胺成瘾、处于永久癫痫状态的全球大脑 Lex 提到了一个更有希望的方向：Twitter、YouTube 这类东西让好想法传播的速度前所未有。巴赫没被说服。 > 我们本该有几百万个冯·诺依曼和图灵，但不知为什么没有。我怀疑原因是我们摧毁了彼此的注意力。（约沙·巴赫） 他补了一句自嘲：我们之所以坐在这里录 YouTube 视频，是因为你和我都没有足够的注意力写一本书，而你们大概也没有足够的注意力读完它。Lex 反驳说已经录了一个多小时、八成听众还在听，形式不等于注意力。**巴赫承认社交媒体的终局是一个全球大脑，而 Twitter 是个挂满多巴胺、没有任何抑制机制的全球大脑，因此它正处在永久癫痫发作中。**人们用它来扮演一个在理智世界里不像自己的化身，透过手机镜头看世界，还以为那是真实世界。 那怎么改进？巴赫说他不给建议，因为他不是专家，但可以给想法。大脑某种程度上已经解决了这个问题：它有一堆独立智能体，却还能协同。他的方案是把协议拆开。今天 Reddit、Facebook、Twitter 的共同点是，它们都是拥有某个协议的公司，而这个协议被强加给一个社群。协议里有变现、用户管理、展示、评分、匿名、外来内容导入这些组件。**把组件拆开，让社群可以混搭、自创。谁来做这个决定这件事本身也可以进入协议：有的社群里是一个人说了算，有的是一群朋友，有的搞加权投票，谁也不知道哪种自组织原则最好。**然后通过激励让更有感知力的社群胜出，那些能产生最有趣行为、以最有益方式让人互动的社群。 Lex 马上指出了难点：演化意味着不适应者要死掉，而社交媒体的社群极不愿意死。一被审查就会激烈抗议，美国人对言论自由这件事非常敏感。巴赫的回答把问题向前推了一步：谁来判定你是不是好成员，以及这个判定过程对个人和整体社会的产出是什么。 > 高信任社会不需要大量监控，监控本身甚至会侵蚀信任，因为它惩罚的是那些在监控下看着可疑、但实际上做对了事的人。反过来，低信任社会里监控可能是更好的权衡。（约沙·巴赫） 美国正在从高信任或混合信任社会转向低信任社会，所以监控会增加。他还指出信念不是惰性的表示，它是会在你大脑上跑代码、改变你现实的实现。**有些信念只是公开展示站位的公关口径，比如嘴上说所有文化都同样好、同样平等，实际选择住在哪里时却强烈偏好某些文化。这就会在大家没有共同目标时导致非常棘手的局面。**他的判断是美国被困在极权与多元之间，到目前为止给出的解法很粗糙，因为它是个非常年轻又承受巨大张力的社会。他认为美国必须重新发明自己。 ## 政府在博弈论上干的事，是给你的收益表加一个偏移 Lex 问什么样的政府形式是好的。巴赫的标准很清爽：**理想的政府应该是不可察觉的、无摩擦的。你越能感觉到政府的影响，摩擦就越大，政府大概就越低效。** > 政府，从博弈论上讲，是一个施加在你的收益度量上的偏移，从而让你的纳什均衡与共同利益相容。（约沙·巴赫） 他举的例子很实在。我如果认为大家该少坐飞机，我待在家里，没有一架飞机会因为我而停飞，我却没有从 A 到 B。这需要政府共享这个想法，然后施加监管，比如让机票更贵，并激励其他对环境影响更小的交通工具。局部激励和全局结果之间的这道裂缝，就是政府存在的位置。 顺着这条线，巴赫把托马斯·阿奎那重新读了一遍，得出一个很有意思的结论。阿奎那不是二元论者，他是在给天主教社会设计操作系统。他讲人有四个基本德性：自我调节是节制，社会调节是正义，愿意在自己的模型上下注、也就是有利益攸关是勇气，选对目标是明智。这四个可以直接理性推导出来。另外三个所谓的神学德性无法从理性推导，只能通过和谐显现自己。 > 你需要对统一有承诺，服务于更高更大的东西，他称之为信。你需要对共同目标有承诺，共同目标正是爱的核心，你在对方身上看到比你自身有机体利益更重要的神圣之物。最后你需要希望，也就是在当下拿不到回报时仍愿意行动，因为那个东西还不存在，文明才能开始。（约沙·巴赫） 巴赫明说了，这不是让谁去信一个长胡子老头。脱掉神话之后，基督教的上帝就是文明的柏拉图式理念。我们今天生活的西方是民主制，而民主在巴赫的描述里是寡头统治加上行政机构。寡头是当下掌握生产资料的人，但他们不直接治理，因为变动太大：每一代都会发明新的生产资料，公司通常活不过三十年。所以实际治理交给机构，机构不由选举产生，但提供连续性，由可选举的政治家来领导。这套设计的好处是，你能在不杀人的前提下完成权力更迭。**而如果一个记者挖出了当权者不想让人知道的事，而这个体系没有 B 计划，那么记者就得死，这是靠深层政府治理的社会会发生的事。** 他对美国的判断是：美国社会为创新做了优化，没为可持续性做优化。 > 美国社会某种程度上是一个骗子的社会。作弊和创新在这里难以区分，而我们想要鼓励创新。你可以提出一个不可持续的商业模式并把它实现。**作弊会留下一层覆盖一切的毒性污泥，但这也是它成功的原因。（约沙·巴赫）** 社会流动性是同一个机制的另一面。正常的秩序里你不该往上走，你该往深走，社会需要面包师，需要非常好的面包师。但在一个创新的社会里，也许一台好机器就能取代所有面包师，而这未必是坏事。 ## 情绪是非符号系统跟符号系统对话的编码 心理学常区分情绪（emotion）和感受（feeling），日常语言不区分。巴赫给了一个层级化的定义。 **情绪是认知系统的一种配置。**最底层是情感状态，由唤醒度、效价、注意焦点宽窄、是内感受还是外感受这些调制参数组成，这些参数把你摆到一个和环境、和自己的特定关系里。 更窄的意义上，情绪是带有对象的情感状态，对象的相关性由动机给出。动机是一堆与奖赏绑定的需要。驱动你行动的是对需要的模型，因为在快乐和痛苦出现的时候，一切已经发生完了。**这些需要之间没有层级，它们共存并竞争，大脑要在它们之间找到动态的稳态。但目的需要有内在一致性，于是你会把它们组织成层级化的计划，也就是给人生编一个故事。**这里没有唯一解：有人为了艺术吃饭，有人为了吃饭做艺术，做的事可能一样，但合作方式完全不同，因为最终目标不同。 感受是什么？它是你的知觉系统对当前处境做出的评估。这个评估来自非符号化的部分，像一个神经网络，它把评估结果通过映射成特征的方式告诉符号化的部分。而这个映射的落点通常是身体地图。 > 你可能会在太阳神经丛那里感到焦虑，把它感受成一种收缩，这全是几何。身体地图是那个始终被实例化、始终可用的空间。所以那些非符号部分想跟符号部分说话时，把它们映射到身体地图里，是非常明显的一招捷径。（约沙·巴赫） 至于情绪的表达，巴赫猜测它演化自对抗性的沟通。一旦你开始通过面部表情和姿态读取别人的情绪状态，别人就开始利用它来隐藏和伪造。所以我们读的东西在那张脸之外。具体来说，我们读的是那张脸与"在这种场合应该做出的标准脸"之间的差值。葬礼上每个人都摆出肃穆的脸，但肃穆不表达你是否悲伤，它只表达你懂得葬礼上该摆什么脸，没有人应该知道你此刻在心里欢呼。 Lex 由此讲了自己的一个发现。他做播客有视频部分，很多人会看他的脸来判断嘉宾说的话该怎么反应，事后还会评论"你那段看着很无聊""你特别喜欢那一段"。他这才意识到自己是这出戏的一部分，而他真正想做的事是戴上面具和墨镜，安静地听。 巴赫说这在东欧有禁忌。东欧社会尤其是俄罗斯，对过度外露表情有一种排斥。而在美国正好相反，你被期待面部高度活跃，而且被期待表现出正面情绪。如果没什么理由就一脸高兴，在俄罗斯人看来你是个愚蠢、没品的人。他讲了个流传的段子：美国的评分曲线是，最差的 10% 叫"这是个不错的开始"，以上全是"太棒了"；俄罗斯的评分曲线是，除了最顶尖的 1% 全是"很糟糕"，而最顶尖那 1% 的评价是"还行吧"。 他还讲了一个更深的差别。美国的做法是聚焦正面、压制负面，东欧传统的直觉是：但凡你把一样东西托到水线之上，你就得把另一样东西压到水线之下，因为存在本身充其量是中性的。有美的瞬间，但美的瞬间和痛苦的真实性纠缠在一起，不承认痛苦的真实性，等于承认你愚蠢到没看见每个有意识的生物大部分时间都在受苦。 ## 幸福是大脑自己烤的饼干 巴赫不同意把痛苦当成幸福的前提，他说得非常干净。 > 痛苦来自你在意那些你无法改变的东西。如果你能把自己在意的东西调整到你能改变的范围里，你就不会痛苦。（约沙·巴赫） 那幸福呢？他用了一个很好的比喻：幸福是大脑自己烤的饼干。它不由环境做出来，环境做不出你的幸福，是你对环境的评估做出了幸福。而既然你能学会改变评估，你就能造出任意程度的幸福。 > 有些冥想者掉进了这个陷阱。他们发现了大脑里烤饼干的那间地下室，于是猛吃几个月，然后就腻了。意义危机从更深的一层冒出来：我为什么活着？我怎么才能造出一个对我来说有意义的可持续文明？（约沙·巴赫） 在此之前他们以为自己的不幸福源于不够幸福，于是他们"修好"了它，能随意释放神经递质。然后真正的问题回来了，就是原来那个问题。 所以意义是什么？巴赫的答案落在生命的最小单元上：细胞。 **细胞是本自组织的东西，可以参与演化。要运转，它需要三样零件：自我复制器、负熵提取器、图灵机。任何一样缺失，你就没有细胞，那东西就不是活的。**生命是在这个原则上长出的涌现复杂性。一旦有了这个智能超级分子，几乎没有什么是它做不到的，它可能是最优的计算基质，尤其在韧性上，一颗行星一旦被生命感染，就很难再灭菌。 他甚至提出，细胞可以看成一台冯·诺依曼探针。如果你想在别的星球上建智能，最好的办法可能就是种下细胞，然后等足够久，它有一定概率演化出一个足够通用的信息处理原则，并且变得有感知。 他还引了詹姆斯·哈迪的"存在性设计"：技术设计是从外向内做的，你在高度确定性、高度受控的环境里工作，用自己的确定性去实现某个梦想出来的功能，并与世界里已有的确定性功能无缝对接。而生物系统是从内向外设计的，一颗种子把周围相对无组织的东西变成自己的结构，从而驯服环境。**生命的目的是生产复杂性，而复杂性让你能够收割那些没有复杂性就收割不到的熵梯度。智能的目的则是在复杂条件下实现控制，把有序系统的边界推进混沌的领域。这就是我们正在做的事。** 那么在这种图景里，神是什么？ > 我不认为神跟创造有任何关系。我认为那是《塔木德》被误译进天主教神话的结果。我认为《创世纪》其实是一个神的童年记忆。（约沙·巴赫） 这个读法很漂亮。《创世纪》里先有光与暗，然后你发现天与地并创造它们，你构造植物和动物，给一切命名。这正是认知发展的基本步骤：孩子先区分明暗，再在其中分辨方向，然后发现天与地、植物与动物，给一切命名。这是每个心智都必须经历的过程，因为这些结构不是给定的，你的心智必须发明它们，才能让视网膜上的模式说得通。 他还点出了一个常被偷换的地方：就算有个大书呆子架了台服务器在跑这个世界，这个书呆子跟我们的关系也没什么特别的，他没有魔力给我们的存在赋予意义。把"造物主"和"意义之源"划等号，是一次手法很妙的偷换。同样地，亚里士多德的第一推动者，最朴素的解释就是一个自动机，把它等同于超自然存在是纯粹的胡说。 他最后给出了他认为我们真正在感知的那个更高存在：文明。我们和文明的关系，类似于细胞和我们身体的关系。我们之所以有这个先验，是因为我们演化成了要在这种结构里组织起来。**把神话剥掉，那个自然形态的基督教的上帝，就是文明的柏拉图式理念。** 整场对话里，Lex 挑出的一句是"幸福是大脑自己烤的饼干"。而巴赫自己给出的收尾，是一句关于我们这个时代的判词： > 如果把这当成一个电脑游戏来比喻，这是人类能玩的最好的关卡。而这个最好的关卡恰好是最后一关，它以正在死去的世界为背景。但它仍然是最好的关卡。（约沙·巴赫） ## 可以从这期访谈里带走的东西 - 把自己在意的东西列一遍，标出哪些是你无法改变的。痛苦基本都长在那一栏，那一栏是唯一值得动手调整的地方。 - 把注意力当成你真正拥有的唯一可训练资源。冥想在这个框架里跟玄学无关，它是一套控制注意力的技术，练到能看见自己的源代码，但最好先弄明白自己在改什么。 - 遇到让你不适却说不清原因的环境，先别急着贴标签，问一句：是不是我把自己当成了人类原型，默认别人该按我的本能反应来反应。 - 评估一份工作时，看它逼你建什么模型，而不只看它给的报酬。让你舒适的环境不会让你长出新的模型。 - 对社交平台的协议保持基本的怀疑，尽量待在你多少能参与制定规则的地方。你看到的那个世界，是被平台的流行度激励扭曲过的世界。 - 认真对待"身份是软件状态"这个前提。它能省掉很多没必要的纠缠，也能提醒你，你现在认同的那些东西是可以重新选的。 - 在创新和可持续性之间，别默认前者永远优先。美国社会为创新优化到了极致，那道副作用会以某种形式回到每个人身上。 - 如果在意长期，就把"我们一起要交付给谁"这个问题想清楚，而不是只在自己这一代内算账。