克里斯托夫·科赫：意识

Christof Koch（克里斯托夫·科赫）被问到一个假设：2040 年的 Siri，能通过任何你能想到的图灵测试，说话得体，记得你说过的每一句话，能陪你聊哲学也能陪你开玩笑。你会说它有意识吗？

他的回答很干脆：不会。哪怕它自己开口说"我刚醒过来，感觉很好"。

这个回答来自一个被引用超过十万次的人。1986 年到 2013 年他在加州理工当教授，之后去西雅图艾伦脑科学研究所做总裁兼首席科学官，写了《意识：一个浪漫还原论者的自白》。他这辈子干的事，就是想把"感觉像什么"这件事塞进科学里。

他和 Lex Fridman 这场对话，从上世纪的老问题一路聊到小鼠脑子里一块一毫米厚的结构。中间穿插了漂浮舱、蜜蜂的投票、莱姆的科幻小说，以及他自己从虔诚天主教徒变成接近佛教徒的过程。

先分清两个被混用了一百年的词

Koch 花了很大力气做一件事：把智能和意识拆开。

智能关乎功能。适应新环境，学得快，看懂局面里有谁、接下来会发生什么。你给它一个任务，它完成得好，这就叫智能。AlphaGo 下棋、Watson 答题、自动驾驶认路，都是功能层面的胜利。

意识关乎存在。它不完成任何任务。Koch 的用法很朴素：任何体验都算。坐在椅子上发呆算，深度冥想里那个说不清的瞬间也算。哲学家 Thomas Nagel 那句被引用了半个世纪的话最省事：当一只蝙蝠，感觉像是什么样子。

这两个东西在人类身上绑得死死的，所以我们习惯性地认为它们是一回事。Koch 的解释是进化的副作用。我们身边全是亲戚和别的物种，神经系统从线虫的 302 个神经元一路铺到蓝鲸的上千亿个。行为越复杂，脑子越复杂，我们就把"越有意识"这个标签贴上去。这个推断在生物界大体成立。

但数字机器把这个绑定拆了。计算机器智能的时候，我们完全不知道它跟意识有没有关系，甚至连方向都看不清。

三件让功能和体验脱钩的事

Koch 讲了三个人人都能验证的场景，来说明意识和行为可以彻底分家。

第一个是植物状态。他提到 1990 年代佛罗里达的特丽·夏沃（Terri Schiavo），心脏停跳后被抢救回来，在植物状态里躺了十四年。这类病人成千上万，他们会睁眼、会闭眼，有睡眠觉醒周期，偶尔还有些动作。但你找不出任何规律把医生说的话、母亲说的话和他们的反应对应起来。行为没有了，可《潜水钟与蝴蝶》里的那位法国编辑告诉世界另一件事：他只剩左眼能上下眨动，靠这个写完了一整本书。到最后连眼球都动不了的人也有。没有行为，不代表里面没人。

第二个是做梦。你今晚会睡着，会在自己麻痹的身体里醒来，遇见一只死了很多年的童年宠物狗，而且一点也不觉得奇怪。做梦时身体会给运动神经元发一个主动信号，让你瘫痪，这叫肌张力缺失（atonia）。缺了这个机制的人会把梦演出来，那是快速眼动期睡眠行为障碍，很麻烦的病。这里行为被彻底锁死，体验却饱满得能让你哭。

第三个是他自己的经历。他去了新加坡，进了一个漂浮舱：体温的水，泻盐，全黑，全静音。脱光了躺进去，很快身体感就消失了，没有边界，没有重量。接着声音没了，光没了，时间的流逝感也没了。刚开始你会觉得有点瘆人，会想"我是不是该无聊了"。可如果你克制住不去主动思考，剩下的就是一个没有身体、没有时间、没有声音、也没有念头的东西，但它醒着。

你没有任何功能在运转，没有在计算，没有在回忆，没有在计划，可你完全清醒。你是一团纯粹的存在。（克里斯托夫·科赫）

进化显然没给我们准备漂浮舱。所以"这玩意儿有什么适应意义"这个问题问不出答案。Koch 说生物学家一向不擅长回答"为什么"，我们连"为什么有两只眼睛而不是三只"都说不清楚。

想测意识，先造一个能打乱它的机器

对人，现在已经有一套办法。经颅磁刺激给大脑来一记脉冲，用脑电图看它怎么回响，再算这个回响的复杂度。这套流程在实验室里被叫作 zap-zip。

效果很硬：清醒的人复杂度高，麻醉的人、深睡的人复杂度低，区分准确率接近百分之百。同样的手法可以用在猴子、狗、老鼠身上，它们的脑子结构类似。

但把磁脉冲打进一台 iPhone，你只会把它弄坏。所以这条路对机器走不通。

Koch 的结论是：我们最终需要一个意识理论。不能靠直觉。直觉说会说话的就是有意识的，可婴儿不会说话，梦中人被麻痹了也不会说话，植物人不会说话。凭直觉判断，你在这些案子上全都会判错。

他押注的理论叫整合信息理论（Integrated Information Theory，IIT）。核心主张是：一个系统有没有意识，取决于它内部因果结构能产生多大的、不可再分解的因果力。这个量在数学上可以算，原则上可以对任何物理系统算。

泛心论不是"石头也有心事"

聊到这儿，Lex 追问了一个绕不开的传统：物性论和二元论打了几千年，意识在这两边的位置都很别扭。

Koch 把泛心论（panpsychism）分成了两档。一档是极端版：一切都是心，石头、森林、iPhone 都算。他觉得这个不太现实。另一档温和得多：所有生物都有那么一点点体验，从单细胞生物到巨杉。他倾向于后者。

他还提到了伯特兰·罗素的一个思路，通常叫罗素式一元论（Russellian monism），也有人叫中立一元论。大意是：物理学极其擅长描述事物之间的关系，电荷怎么作用，质量怎么弯曲时空，夸克之间怎么配。但物理学从不告诉你那个东西本身是什么，它永远站在第三人称的位置上描述关系。

那第一人称在哪？在意识里。Koch 的说法是，你的意识体验就是你的大脑、特别是你的皮层，从内部被感受到的样子。物理学是外部视角，意识是同一个东西的内部视角。

顺着这个逻辑，草履虫也值得认真对待。它确实很笨。可它身上有几千种蛋白质、上亿个分子组装成一个至今没有任何计算机能准确模拟的系统。它大概没有内心独白，没有期待，没有计划，可它可能真的有那么一丁点"感觉像什么"。

亚里士多德的三层灵魂，和今天定义不了的死亡

Koch 顺手把这个问题往回拉了两千多年。亚里士多德大概是西方最重要的科学家兼哲学家，他有一套说法：灵魂是事物的形式。生物身上有三层。

植物有营养灵魂，那是生命原则。动物在此之上还有感觉灵魂或者说欲望灵魂，它们能看、能闻、有驱力，想吃、想繁殖。只有人有理性灵魂。这套东西后来被基督教接手，理性灵魂变成了不朽的那部分，变成了跟上帝连接的通道。

今天我们把这三层换成了别的问题：什么是生命，什么是智能，什么是意识。答案都还没成形。Koch 举了个特别实在的例子：死亡的定义正在变得模糊。以前很简单，不呼吸了，心跳停了，就是死了，毫无争议。现在有呼吸机、有起搏器，于是一批又一批的会议在讨论死亡的法律和医学定义。生命的边界要在死亡的边界上倒推着找。

智能的定义同样糟糕。没有法律定义，只有智商测试和一堆实际成绩单。我们开始在窄意义上把它造出来，AlphaGo、Watson、各种自动驾驶，也有人在想通用智能。它大致跟"学习和适应"有关。但它和体验之间的距离，Koch 认为远得离谱。

笔记本里的黑洞不会把你吸进去

这里是整场对话最锋利的地方。

Lex 提了一个思想实验：假设 Henry Markram 的蓝脑计划大获全胜，十年后我们有了完整的人脑模拟，每一个神经元、每一个突触都对得上，它还会说话，会说"你好，我刚醒，感觉不错"。它有意识吗？

Koch 说不。理由是他最喜欢的一个类比。

我可以写下行进方程，让笔记本算出银河系中心那个黑洞，质量大到能把时空拧成一个连光都逃不出去的洞。可为什么这台电脑不把我吸进去？它模拟了引力，却没有引力的因果力。（克里斯托夫·科赫）

在计算机里跑一场暴风雨，你不会被淋湿。模拟和真实之间隔着的不是精度，是因果力本身。

数字计算机本质上是个数字时钟，所有计算都被离散的时钟节拍切成碎片。人脑不是这样运转的，它的因果结构是连续的、高度互联的。所以要做有意识的机器，你得造所谓的神经形态硬件，让它的因果结构和脑子处在同一个层级上，光靠软件模拟不够。

这段推论有个必须说清的后果：Koch 认为意识不是造出人类级智能的必要条件。在生物身上两者手拉手，因为进化把复杂度和因果力一起堆了上去。在数字机器里，它们可以彻底分开。

为什么我们觉得虐待一条狗很可恶

Lex 把话题引向伦理。一个超级智能，如果不跟我们共享任何价值，怎么办？

Koch 的回答绕回了共情。他拆了这个词的希腊语词根，empatheia，意思是"与之同感"。为什么绝大多数人觉得虐待一条狗令人发指？不是因为它是我老婆、我孩子，也不是因为它是一个人。是因为我们心里有个装置，会自动替对方疼。

他的推演是：如果人类真的要造出非常强大的通用智能，那么让它具备共情反应，可能符合智人这个物种的长期生存利益。一个能感受别的东西在受苦的系统，不太会顺手把人类清空。

那恐惧和痛苦是意识的必需品吗？Koch 说不是。他举了那个经典实验：把电极插进老鼠的内侧下丘脑，老鼠会不停地按压杠杆刺激自己，不吃、不喝、不交配，其他一切都不重要了。所以从逻辑上讲，一个只有快感的系统是可能的，虽然那种存在大概很糟糕。

但真实的生物需要整套配置。需要恐惧，需要那种对消亡的回避，也需要正向的欲望状态，好让训练有抓手。

从罗马天主教到佛教，中间隔着一片暗物质

Koch 在一个虔诚的罗马天主教家庭长大。现在他说，他不信那个从小被教导要信的上帝了，不信有朝一日会在永恒的幸福里与谁重聚。他看不到证据。

他现在的精神倾向更接近某种形式的佛教。他跟达赖喇嘛见过几次面，最打动他的一点是，这位老人反复强调的是减少一切众生的痛苦。不只是人的痛苦，是所有生物的痛苦，按能力分级，一只动物的苦比一个发育正常的人少。这种立场从一开始就在他们的传统里。

他也直接说了不成立的部分：轮回没有证据。

但他没有把话说死。他提醒，宇宙里我们连百分之四都还没搞明白，暗物质、暗能量究竟是什么，一无所知。他的态度是那种老派的诚实：我不知道的东西很多，但这不妨碍我认真对待我唯一能直接接触到的东西，也就是我的体验。

他说得很清楚：你对物理、对原子、对超弦、对分子的一切知识，都是后来的。你最先、也唯一直接熟悉的，是这个充满东西、图像、声音和触感的世界。

攀岩时那个消失的内心声音

Koch 喜欢攀岩，喜欢骑车。他描述的那种状态，运动的人大概都碰到过：进入所谓的 zone。

在那个状态里，内心的唠叨消失了。那个一直催你交税、催你回消息、反复回放你和前任那场吵架的声音，安静了。你完全在外面，在岩壁上，在车上，在球场上。

他觉得这跟漂浮舱里那种纯粹体验是同一件事的两面。一个是全然的行动，一个是全然的无行动，但都碰到了意识存在里某个非常基础的部分。那种满足感深得不像话，而且上瘾，人会一次次回去找它。

你碰到的是存在的根。这跟智能完全是两回事。（克里斯托夫·科赫）

顺带说一句他对模拟假说的态度。他认为那就是"我们生活在上帝心里"这个古老假设的现代版本，几百年里无数聪明人认真讨论过。它永远无法被检验，也谈不上有什么用处。人们喜欢聊，那就聊。

自由意志发生在你调动全部存在的那一刻

物理层面，我们活在一个大体决定论的世界里，直到量子力学出现，某些事情原则上不可预测。Koch 说他偏爱这个不确定性，因为另一种可能更难接受：宇宙初始条件定好了，剩下的全是在播放。

在意识层面，他的立场比较微妙。我们当然被物理约束，被过去约束，被父母的教诲和环境的暗示约束，心理学实验一次又一次证明我们多么容易被操纵。

但他说，到了那些真正需要反复权衡的人生决定上，要不要结婚，去不去那所学校，接不接这份工作，要不要在税上动手脚，当你把整个有意识的存在都投进这个问题，把所有相关条件都摊开来分析，然后做出决定，这已经是你可能达到的最自由的状态。

自由意志不是一种想干什么就干什么的意志。那种东西不存在。

潜意识是特性，不是 bug

Koch 写博客记录读的书，布尔加科夫、村上春树、尼尔·盖曼、卡尔·萨根。他说文学的价值在于接触更广的人类经验。你坐在实验室里盯着屏幕，看一张脸闪一下然后按键，这没什么错，但那只覆盖了体验的极窄一段。文学是通往其他状态的捷径。

他还提到了一个容易被忽略的好处：历史感。你去读几十年前的书，会发现他们看待某些问题的方式跟我们完全不同。每个文化在鼎盛期都以为自己什么都懂了，然后你才意识到，还有别的看世界的方式，其中一些可能比你的更有道理。

他谈无意识时提到了尼采，说尼采是那片"无意识的大陆"最早的发现者之一，比弗洛伊德早。人在荣誉、怜悯、慈善的名义下干的很多事，其实一点也不慈善。弗洛伊德后来接手了这块地盘，Koch 认为他是个天才，虽然后期走偏了。弗洛伊德最早是做神经科学的，研究七鳃鳗，还独立贡献过神经元学说，也就是神经系统由离散单元构成这个想法。

无意识到底有多深？他给了一个特别具体的例子。感情破裂的时候，你心里同时有爱、有恨、有欲望、有愤怒，全搅在一起。你想分析自己为什么这么难受，很难往下挖，因为这些情绪在杏仁核和其他一些地方生成，意识那双窥探的眼睛进不去。

你可以去找心理医生，可以跟朋友聊个没完，最后你能给自己讲出一个故事，为什么这件事发生了，为什么你爱或者不爱。但你无法确认那个故事是不是真的。你只是没有权限访问那些区域，而那些区域权力很大。

这算 bug 吗？Lex 问。失恋的旧账明明没用，为什么还赖在那儿不走。

Koch 说这是特性。如果每做一个动作、每起一个情绪，都得经过意识批准，人根本活不到现在。学打字、学骑车的时候，意识必须在场，然后你把这件事交给基底神经节和纹状体，训练出一批自动化的程序。他和弗朗西斯·克里克给这些东西起了个名字，叫僵尸代理（zombie agents）。它们替你处理手上的活，意识解放出来去操心文本的抽象含义。

至于那些清不掉的创伤记忆，他认为也有功能意义。除非是极度虐待导致的临床解离，正常人没有删除记忆的能力，我们因此受苦。可要是真给你一个随时擦除记忆的开关，你大概会擦到对自己毫无益处的程度。

蜜蜂投票，黑云思考，尺度决定一切

Lex 问了一个尺度问题：我们会不自觉地用人类的时间尺度和体型去想意识，那些极大的、极小的、极慢的东西呢？

Koch 先讲了蜜蜂。大多数人觉得那就是虫子。可蜜蜂能认出单独的人脸。分蜂的时候，它们要做一次足以让人焦虑一整周的决定：这棵树还是那面墙。侦察蜂飞出去实地考察，回来跳舞，跳好几天，用舞步给不同地点拉票，最后整个蜂群一起飞向侦察蜂自己达成的那个共识地点。它们的神经回路密度比人脑高十倍，虽然只有不到一百万神经元，复杂程度惊人。工蜂只活两个月左右。

所以在 IIT 的框架下，它们大概真的在体验什么，只是那套体验跟我们的完全不像。

然后是《黑云》。弗雷德·霍伊尔 1957 年的小说，一团云挡在地球和太阳之间，全球降温，后来人类用射电望远镜跟它搭上话，发现它是个智能实体，最后说服它离开了。Koch 说，如果这团云的整合信息峰值出现在"月"这个时间尺度上，那它的一个瞬间就是我们的一个月，它的一秒钟是另一个东西。这种形式的意识可能就生活在我们旁边，我们认不出来，因为它在尺度上跟我们错开得太远。

他还讲了莱姆的《无敌号》。人类飞船降落在一个星球上，发现原住民早就死光了，机器接管了一切，并且开始了自己的达尔文式进化。最终胜出的形态是无数六边形元胞自动机组成的巨云，平时一个一个躺在地上，遇到危机就组装成巨大的网络，然后它们变成超级智能，能控制一切人类能控制的东西。最后人类只能做两个选择：把整个星球核平，或者离开。因为他们根本没法理解这个东西，也没法跟它沟通。

Koch 借这个说了一个区分。"它有没有意识"和"我能不能知道它有意识"，是两个完全不同的问题。一个是本体论的，一个是认识论的。多重宇宙可能真的存在，但如果我们跟它交换不了任何信息，那它就只是认识论上的一片空白，不能因为测不到就说它不存在。

这个区分今天就派上用场了。有些实验室在培养微型脑类器官（mini organoids）：从你胳膊上取一点干细胞，放进培养皿，加几个转录因子，诱导它们长成几毫米大小的一团，里面大约有五十万个神经元，看起来像神经细胞。哈佛在做，斯坦福也在做。

它们可能已经开始体验到点什么了。但我们目前没有办法跟它们通信。所以伦理问题提前来了：它是否有意识，和我怎么知道它是否有意识，两条完全分开的问题，却要一起回答。

给年轻人的建议：站在几个学科的缝隙上

Lex 问，如果一个年轻研究者想搞懂或者造出人类级的智能与意识，该学什么。神经科学、计算、认知科学、哲学、计算机、机器人？

Koch 的回答是不选。已知唯一具备高水平智能的系统就是智人，真想造，那就得贴着人研究。他画的范围是：认知神经科学在一头，心智哲学在一头，计算机科学在中间。

他给了个历史论据。那些原创的点子基本都从神经科学里长出来。神经网络是，强化学习是，明斯基当年造的东西是，Hubel 和 Wiesel 那个著名的视觉皮层实验更是，它一路长成了多层网络。

顺着这个逻辑，他判断 AI 下一步的瓶颈恰好在这儿。卷积网络能做很多事，但它不理解。你给一个人看一张图：街上有人从别人包里掏钱包，人一眼就知道那是扒手。机器会告诉你，图里有男人、有女人、有包。除非你喂它十万张扒手图，否则它没有那个"一眼就懂"。

所以有些人的判断是：真要让机器像你我这样理解世界，就得回到心理学，搞清人是怎么做到的，大脑是怎么支持的。Koch 觉得最让人兴奋的位置，就在认知科学、神经科学、AI、计算机科学和心智哲学的交界处。

一毫米厚的地方，可能是"部分"变成"整体"的接口

最后 Lex 问他，抛开所有现成的谜，近期最想解开的是什么。

他讲了一个结构，叫屏状核（claustrum）。它藏在大脑皮层下面，岛叶下方，很薄，大概一毫米，嵌在白质的线路里，非常难成像。左右各一个。它的特殊之处在于：它跟每一个皮层区域都有连接。

弗朗西斯·克里克生前最后一篇论文写的就是它。他在医院里，去世那天还在口述修改稿。他们的假设是：这个结构从所有皮层区域接收输入，又向所有皮层区域投射回去，那它的功能大概像交响乐团里的指挥。皮层里有一堆演奏者，有的管运动，有的管心理理论，有的推断社交关系，有的处理颜色和听觉，各管一摊。而意识要做的事，是把这一切打成一个包。所谓绑定问题，说的就是这个。

屏状核的神经元数量比皮层少得多，但它跟所有区域都说得上话，所以位置上最像一个"整合器"。

这个假设正在被检验。他们用小鼠，找到了一种新的标记结构，起了个名字叫"荆棘王冠"（crown of thorns），长在屏状核里，拥有 Koch 见过的所有神经元中最广泛的连接。细胞体极小，但伸出来的轴突树巨大，同时覆盖同侧和对侧皮层。配上光遗传学这类工具，就可以把这些神经元打开、关掉，看小鼠的行为怎么变。

Lex 把它总结成一句话：这里是部分变成整体的接口。Koch 说这个说法很好，这是把一个个独立的模块变成一个完整的意识体验的地方之一。

整场对话里最该被记住的几件事

如果只带走一层意思，大概是这个：我们习惯用"表现得像不像人"来判断一个东西有没有内心，这个标准在生物界勉强能用，在机器上彻底失效。会说话、会答题、会安慰你，这些全是功能。功能可以做到极致，同时里面空无一物。

反过来也成立。没有行为，也可能满是体验。植物状态的人、被麻痹的梦中人、漂浮舱里那团没有身体的存在，都在提醒同一件事。

而 Koch 给出的路径不是"等 AI 更强大我们自然就知道了"，而是先去把理论建起来，让理论告诉你什么样的物质结构会产生体验，然后拿这个标准去量任何系统，包括那些跟我们尺度完全错开的系统。

下面是这场对话里可以直接拿去用的东西。

• 把"智能"和"意识"当成两个词用。下次讨论 AI 时，先问清对方说的是哪一个。混着用会让整场讨论原地打转。
• 别拿图灵测试当意识证据。它测的是模仿能力。一个系统越擅长模仿，你越容易误判，而不是越容易判断。
• 想判断一个系统有没有体验，去找它的因果结构，别找它的台词。能自我报告只是线索之一，而且是最容易被伪造的那条线索。
• 对尺度保持开放。蜜蜂、脑类器官、一团跨月思考的云，如果意识的载体取决于整合信息的方式而非人类的硬件，那我们认不出来的东西可能比认出来的多。
• 想进这个领域，别只学一门。认知神经科学、心智哲学、计算机科学的交界处，是 Koch 认为最有可能出下一个大突破的地方。深度学习的下一步瓶颈很可能不在算力，在理解。
• 给自己的"僵尸代理"留位置。把重复的、机械的事训练成自动流程，让意识腾出来处理真正需要它的问题。但也要接受，有些情绪你永远挖不到底，那不是故障。
• 去找那种让内心声音消失的活动。攀岩、骑行、漂浮舱，方式不限。Koch 认为那类体验触到的是存在本身，不是智能，而这件事值得每个人自己去验证一次。