# 斯科特·阿伦森：计算复杂度与意识 > 围绕量子计算、P 与 NP 的边界展开，探讨计算复杂度能否解释意识与自由意志。 - 原标题：#130 – Scott Aaronson: Computational Complexity and Consciousness - 期数：第 130 期 - 发布日期：2020-10-12 - 嘉宾 / 主题：斯科特·阿伦森 - 网页版：https://lexfridman-cn.pages.dev/ep/scott-aaronson-2/ - 官方页面：https://lexfridman.com/scott-aaronson-2/ - 精读字数：约 12302 字（阅读约 27 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 给一个物理系统算一个数，叫 phi。phi 越大，系统越有意识。人脑有一个 phi 值，一块只做纠错码的芯片也有一个 phi 值。算完发现芯片赢了。 这是整合信息论（IIT）的直接推论。斯科特·阿伦森（Scott Aaronson）在博客上把这个推论摆了出来：构造一个只做重复性纠错、跟智能和意识毫无关系的系统，它的 phi 可以远超人类大脑。 朱利奥·托诺尼（Giulio Tononi）的回应是：对，那它就是超级有意识的。 阿伦森在 Lex Fridman 播客里复述这段交锋时，语气里还带着当年的错愕。他说这是他在整个职业生涯里见过最胆大的一次"咬牙吞下"（bite the bullet）。对方没有争辩任何细节，直接承认结论，然后反问：科学本来就不用来确认直觉，它用来挑战直觉，你怎么证明我错？ ## 一个理论算错了一堵空墙 阿伦森把意识问题拆成两个。一个是那个臭名昭著的"难问题"（hard problem）：物质宇宙里为什么会有感受质，为什么体验会"像点什么"。另一个是他自己命名的"相当难的问题"（pretty hard problem）：哪些物理系统有意识，程度如何。胎儿在第几周开始有意识？狗和青蛙怎么比？如果意识是个多维向量，能不能告诉我这两个东西各在哪些维度上有意识、哪些维度上没有？ 这个问题的口气听起来温和，其实是所有实际争论的战场。要不要给昏迷病人拔管，AI 到什么程度该被当作道德主体，全都卡在这里。 IIT 是少数正面进攻这个问题的理论。它把系统抽象成一组互相连接的组件，规定信息怎么流动，然后算出一个 phi。phi 的定义在十几年里改过好几版，核心始终跟计算机科学里的"图扩展性"（graph expansion）有关：想让 phi 大，你就没法把系统切成两个只有微弱连接的部分。任何一刀切下去，两侧之间都得有密密麻麻的连接。 阿伦森说，读到这里他的第一个反应是后颈发凉。托诺尼团队先列了一堆关于意识应该满足的公理，接着是一段自然语言的讨论，然后 phi 就凭空出现了。中间没有任何像推导的东西。 > 他们表现得好像存在一个推导，你应该把它当成推导来读。实际上什么推导都没有，那个公式是直接从帽子里拽出来的。（斯科特·阿伦森） 这个批评还算温和。真正致命的是下一步：如果 phi 真能度量意识，它必须通过一些我们已经有答案的测试。它通不过。 一块巨大的异或门规则网格，结构均匀得像一堵空墙，phi 值可以轻松超过任何人。按照理论，这堵墙比你的母亲更有意识。阿伦森说，事情到这一步，这个理论谈论的东西我就不打算再叫"意识"了，得换个词。 他给出的理由是关于定义的一般原则：**一个定义只有在匹配我们下定义之前想谈的那个东西时，才算好定义。**托诺尼给出 phi 之前，所有人说的"意识"指的都不是异或门阵列。理论算出来跟这个前理论直觉完全对不上，那就是理论错了，不能反过来要求直觉让步。 托诺尼的反驳是"科学就是要挑战直觉"。这句话本身没错，可科学挑战直觉有先后顺序：**先拿理论去测那些我们已经知道答案的案例，测过了，才敢相信它在未知领域的预测。**一个新的温度理论，得先说沸水比冰热，你才会相信它说太阳比什么都热。IIT 连沸水比冰热这一关都没过。 ## 完美模拟按定义就不可被发现 话题转到模拟假说。阿伦森的处理很干脆：模拟如果是完美的，它按定义就不可分辨，你永远拿不到关于外面那层宇宙的任何直接证据。模拟如果不完美，能找到 bug，那我们会跨过那座桥，不过到那时候"模拟"和"奇迹世界"的区别也就模糊了。 真正有意义的是旁边那个问题：世界可计算么？ 这是丘奇-图灵论题（Church-Turing thesis）的物理版本。给定任意一个物理系统的初始数据，能不能用图灵机把它模拟到任意精度？阿伦森说目前证据相当强，我们的世界看起来满足这一条。万一不满足，我们还没发现哪里不满足。 彼得·肖尔（Peter Shor）开过一个玩笑：也许广义相对论和量子力学一直统一不了，是因为那部分宇宙根本没被完整指定，一旦有人尝试在黑洞奇点附近做实验，宇宙就会抛出一个溢出错误。阿伦森说他喜欢这个笑话，奥卡姆剃刀却指向另一边。宇宙已经稳稳跑了 140 亿年，我们不知道某个现象的物理定律，不构成"探测它会弄崩宇宙"的证据。 至于 Eric Weinstein 和 Stephen Wolfram 的工作，阿伦森的评价很克制：他们有的是希望某天能通向万物理论的想法，还称不上万物理论本身。而且"everything"这个词本身就含混。即便拿到了基本相互作用的统一理论，所有涌现行为仍然原封不动地等着被探索。那只是某个特定定义下的一切。 ## 彭罗斯叠了五层投机 罗杰·彭罗斯（Roger Penrose）关于意识的理论，阿伦森十几岁读他的书时深受震撼，几年前在明尼苏达的一个会议上还有机会当面长谈。他钦佩彭罗斯敢于提出这种级别的问题，不过要把这个理论拆开看，得数一数里面叠了多少层假设。 第一层，彭罗斯说的东西比"量子力学与意识有关"要激进得多，那种说法对他而言太温和。**他的主张是量子力学本身还不够。**即便大脑是一台量子计算机，量子计算机也能被经典计算机模拟，只是需要指数级更多的时间。这对他不够。他要的是大脑在利用尚未知晓的量子引力定律，那些定律在原则上是不可计算的，位置比停机问题神谕还高，比整个算术层级还高。 第二层，得存在这样一种量子引力理论。大多数研究量子引力的物理学家不会同意，他们从 AdS/CFT 对偶里学到的东西，恰恰支持自然是可计算的。 第三层，得让这种只在黑洞奇点和宇宙大爆炸尺度上显现的物理，影响到大脑。大脑在常温下用普通化学运转，它的底层物理被量子场论屏蔽得相当彻底。肖恩·卡罗尔（Sean Carroll）把这个论证讲得很细：无论量子引力带来什么新效应，都会被量子场论筛掉。 第四层，量子力学本身得是错的。彭罗斯需要"客观坍缩"（objective reduction），量子态大到一定程度会自发坍缩。这类理论（比如 GRW 模型）的好处是可测试，麻烦也在这里：可测试意味着未来几十年可能被证伪。Dirk Bouwmeester 这些人一直在做这类实验，只是还没做到能验证彭罗斯提案的程度。 第五层，也是最玄的一层，得让意识能够影响坍缩的方向。否则坍缩就是纯随机的，你的性情和选择插不进去。 再往上，整个塔的重量压在哥德尔不完备定理的一个论证上。 ## 哥德尔的论证，图灵七十年前就回过 论证的结构是这样：任何足够强、足够一致的形式系统，都证不出自己的一致性。人类站在系统外面，一眼就能看出它是一致的。所以人类的心智不属于形式系统，不属于计算机。 阿伦森说，绝大多数思考过这个问题的计算机科学家和数学家，不认为哥德尔定理能干成这件事。这个反驳本身也不新。图灵 1950 年写图灵测试那篇论文时，已经把它当成一个"古老且众所周知"的错误想法来处理了。 反驳的要点在于：机器完全可以不困在单一形式系统里。它可以不停往系统里加新公理，说"我现在假设我的一致性成立，看看能推出什么"，然后在更强的系统里继续。哥德尔定理对此一句话都说不了。**它只能保证一件事：机器每次加新公理时，不存在绝对的正确性担保。** 彭罗斯抓住的正是这一点。图灵的回答同样适用于人。我们加新公理的时候也从来没有过绝对担保，现在没有，将来也不会有。数学史上加错公理、走错路的例子多得是。 顺着这条线，阿伦森聊到了"幽灵在量子图灵机里"（The Ghost in the Quantum Turing Machine）那篇七年前的文章。他当时探索的是一种不依赖观察者的说法：大脑因为混沌叠加量子力学不确定性，存在一些即便用任意先进的未来技术也无法预测的方面。这个性质如果成立，至少能把大脑跟目前所有计算机区分开，尽管区分不开"任何可能的计算机"。 ## 把预测装进密封信封 Lex 问了一个更私人的版本：如果有人把你一生的全部行为写成一个预测，装进密封信封，事后打开全部应验，这会不会摧毁你对自己有意识的感受？ 阿伦森的回答很精确。这不会摧毁他对自己有意识的感受，却会彻底摧毁他对自己有自由意志的感受，摧毁得比任何哲学论证都彻底。 于是问题变成：这样的预测在物理上可能吗？ 如果大脑有一个干净的数字抽象层，每个神经元像晶体管一样执行数字函数，那理论上可以派纳米机器人进去扫描每个神经元的状态，做一个足够好的副本。如果必须深入到分子或原子层面，就会撞上量子态的不可克隆定理，撞上噪声。 这里藏着一个更难的问题。假设有人做出了一个副本，别人谁也分不出来，它说的话跟你像极了，只是不完全是你会说的话，因为噪声确实存在。只有你自己会说：不，我知道那不是我的意识，我的意识还在这里。问题来了，别人凭什么信你？ 阿伦森在这句话上停了一下，没有给出答案。 ## 从 ELIZA 到 GPT-3 2014 年，一个叫 Eugene Goostman 的聊天机器人被一堆媒体写成"第一个通过图灵测试的程序"。它模拟一个 13 岁的乌克兰男孩。记者打电话给阿伦森，他第一反应是我做量子计算的，不属于 AI 圈子。记者说你可以上网试试。他试了。 他问它：珠穆朗玛峰比鞋盒大吗？ 机器人开始打太极。阿伦森说问题出在它根本不知道你在说什么，谈不上聪明不聪明。这些问题之所以"显然"，是因为人类会把句子转换成对象的表征，再在对象上做常识推理。它没有这一层。 他还补了一句更狠的：这东西相对 1960 年代的 ELIZA 没有实质进步。ELIZA 只是把你说的东西换个方式抛回给你，效果却好得惊人，几百行 Lisp 代码就能让人掏心掏肺。Eugene Goostman 相对 ELIZA 的进步，跟它的媒体声量完全不成比例。 然后他话锋一转：最近这几个月，整个讨论变得有意思多了。 > GPT-3 并不通过图灵测试，也没人声称它通过。不过跟 Eugene Goostman 显然不如 ELIZA 一样显然，GPT-3 是一次重大飞跃，越过 ELIZA，越过此前世界上出现过的一切。（斯科特·阿伦森） 他引了 Scott Alexander 那个著名说法：OpenAI 基本上是把整个互联网磨成了浆，然后灌进模型里。阿伦森说他之前一直纳闷，为什么没人试过这一招，直接在整个网络语料上做深度学习，做一个聊天机器人。现在有人做了，结果非常惊人。 他也把边界划得很清。让 GPT-3 匹配括号，它做不好。做算术，它做不好。做涉及空间位置关系的应用题，它做不好。这几件事恰恰是计算机一百年前就碾压人类的地方。原因在于它只做一件事：预测下一个词。它不知道什么时候该停下来，切换到另一种完全不同的模式，做精确的逻辑推理。 他的推测是：人脑里确实有大量预测处理，预测处理又跟其他机制耦合在一起。视觉推理是一套，符号运算是一套，需要的时候可以像调用子程序一样调用。**GPT-3 展示了单一机制能达到的深度，也暴露了单一机制的天花板。** 天花板在哪里，他说没人知道。GPT-3 相对 GPT-2 只是网络更大、语料更多、训练更久，结果就明显更好。他没看到收益递减的确凿证据，只是隐约觉得事情不可能这么简单，同时承认这个直觉没什么依据。 ## 通用性：一次宇宙级的扁平化 Lex 问理论计算机科学里最美的想法是什么。阿伦森没怎么犹豫：通用性（universality）。 他讲了自己小时候学 GW-BASIC 的经历。刚学会写程序那阵，他以为这只是起点，接下来必然要学更复杂的语言、更复杂的构造，才能做出真正有意思的东西，比如自己梦想中的任天堂游戏。那感觉像第一次知道婴儿从哪来，属于"怎么之前没人告诉我"的震动。 然后他学到了通用性。**几个简单规则就够了，已经足以表达一切。**与、或、非，甚至只要一个与非门，就能表达任意位数的任意布尔函数。用与非门可以搭出整个宇宙。BASIC 的那几条指令，忽略内存寻址这类细节，表达力已经等同于任何编程语言。证明方式极其简单：在 BASIC 里写一个 C 或 Java 的解释器就行了。 这套东西可以追到 1930 年代图灵写下的那台机器。指令集被削到只剩读、写、左移、右移、停机、改内部状态。然后图灵证明它能模拟一切。还有第二层通用性：存在一台通用图灵机，只要你把任何其他图灵机的描述写在它的纸带上，它就能模拟那台机器。 阿伦森说，他当年以为会存在一个无限层级的、越来越强大的编程语言塔。后来发现自己这个想法很蠢。更让他安慰的是，哥德尔在 1930 年代也有过一样的猜想，读了图灵的论文之后，哥德尔承认自己完全错了。 这件事的意义是双向的。一边是巨大的扁平化，宇宙被压平了，你不可能发明一种 BASIC 表达不了的语言。另一边是解放，一旦知道规则就这么几条，剩下的全看你如何使用。**你手里的武器跟世界上最强的程序员是同一种。** ## 复杂度问的是需要多少资源 通用性回答了"能不能算"。复杂度理论回答"要花多少"。这是两个完全不同的问题，后者才是日常生活的全部。 加法是线性的。两个数长度翻倍，时间翻倍，就这样。小学竖式乘法是二次的。长度翻倍，时间四倍。后来人们找到了接近线性的乘法算法，这是复杂度的第一个实战案例。 因式分解是另一个故事。给你一个很大的数，找它的质因数。除了偶数、末位是零这类明显情况，如果质因数都很大，你几乎无从下手，只能在一个天文数字的候选空间里穷举。今天最快的公开算法（数域筛法）耗时大致按位数的立方根做指数增长。那个立方根是全部聪明才智的所在，外面还罩着一层指数。 这个不对称撑起了整个互联网的加密体系。它属于一个信念：因式分解对现有计算机而言本质困难。定理谈不上，信念而已。 阿伦森顺着讲了一个细节。1024 位的密钥，用几亿美元的计算资源大概就能拆，斯诺登泄露的文件看起来很像 NSA 在干这件事。如果真是这样，反而让人安心：**说明他们的极限就在那儿，2048 位他们也没辙。**找不到高效算法，这是硬墙。 量子计算的所有焦虑都来自这里，Shor 算法在这堵墙上开了一个洞。 ## 答案容易检查，是否也容易找到 P 是所有能用常规计算机在多项式时间内解决的问题。排序、基本算术、收发邮件、玩愤怒的小鸟，全在 P 里。 NP 经常被误解成"非多项式"，这个简称害了不少人。NP 指那些只要答案是"是"，就存在一个短证据、能在多项式时间内验证的问题。因式分解的判定版本是标准例子：让你找出一个数的三个非平凡因子，可能要找几百万年；如果你把三个因子摆在我面前，我除一下就知道对不对。 P 显然包含在 NP 里，你可以直接无视证据自己算。 整个理论计算机科学的核心谜题就是：P 等于 NP 吗？答案容易检查，是否也意味着答案容易找到？ 阿伦森押 P ≠ NP。他的博客上写过具体赔率：97% 到 98%。这个数字有讲究。如果有人问他一堆同级别的开放问题，每个都猜，他希望 50 个里对 49 个。这才是 98% 该有的含义。 他把 P ≠ NP 比作一条自然律：如果我们是物理学家，早就宣布它是自然定律了，顺手给自己发个诺贝尔奖。正因为我们是数学家或数学家的后代，才必须管它叫猜想。 高德纳（Don Knuth）有个相反的猜想：P 等于 NP，那个算法效率低到没法用。阿伦森说他不确定高德纳真有理由，还是这个说法好听。逻辑上完全可能：算法可能是 n 的一万次方，或者 n 平方而常数是谷歌。这种情况下 P = NP 会摧毁整个复杂度理论，得从地基重建，实际影响却接近于零。 如果算法真的能用，世界会变成什么样？ 先破掉所有加密，包括比特币，想挖多少挖多少。再往深一层，你会得到一个理论上最优的方法来训练任意神经网络。问题从"能不能找到那个能生成整个维基百科内容的小网络"变成"那个网络存不存在"。存在就能找到。 阿伦森还给了一个漂亮的说法。克雷研究所那七个千禧年大奖难题，P vs NP 是其中最大的一个，因为一旦有了这个快速算法，另外六个全能解。你只要问计算机：黎曼假设有没有一个短证明？只要这样的证明存在，机器就在多项式时间内找到它，用不着暴力搜索。 ## 动物园里最该被记住的那个类 2002 年，阿伦森建了一个网站叫 Complexity Zoo，收录各种复杂度类，现在大概有 500 个。他把它比作化学的元素周期表：这些是理论计算机科学最基本的对象。 往上是 PSPACE：多项式内存、可能指数时间，因为内存可以反复复用。国际象棋和围棋在任意大棋盘上的推广版本在这里，数独那类约束满足问题也在这里。PSPACE 被认为严格大于 NP。 再往上是 #P（读作 sharp P），计数问题。给你一个约束满足问题，问的成了"有多少解"，不再是"有没有解"。旅行商问题问有没有路线，计数版本问有多少条路线。它卡在 NP 和 PSPACE 之间。 还有 EXP，指数时间。1960 年代就证明了 EXP 严格大于 P，这是我们少数能证明的分离结果。可惜这套技术（跟对角化、跟停机问题有关）在面对跨资源比较时全部失效，帮不上 P vs NP。 BPP 是有界错误概率多项式时间，允许算法犯错，只要求错误概率小。BQP 是量子计算机能高效解决的问题。链条是 P ⊆ BPP ⊆ BQP ⊆ PSPACE。量子计算机解决不了停机问题，也做不了任何在可计算性意义上超越的事。BQP 包含于 PSPACE 的证明很漂亮：费曼的图像把量子计算看成枝蔓状的路径树，每条路径挂一个复数振幅，测量概率等于把所有通向该结果的振幅加起来再取模平方。这个求和落在指数空间里，你可以复用同一块内存逐项累加，于是归到 PSPACE。 阿伦森个人最偏爱的类是 BQP/qpoly，量子建议。假设你手里有一个特殊的初始量子态，制备它可能需要指数时间，也许它是宇宙大爆炸时留下的，一直躺在那里，你碰巧捡到了。这个态不知道你要输入什么，只知道输入的长度。他开玩笑说自己的邮箱地址就是这个类的奇怪组合，令人惊讶的是居然没人抢先注册。 他认为真正被低估的类是 SZK，统计零知识。定义简单得不像话：给两个从 n 位字符串上采样的概率分布，判断它们接近还是远离。凡是能归约到这个形式的问题都在 SZK 里。 这个类最初从完全不同的方向被发现，零知识证明。Goldwasser 和 Micali 靠这个拿了图灵奖，今天一些加密货币的核心也是它。所谓零知识证明，是向别人证明某事为真，又不泄露任何关于"为什么为真"的信息。 阿伦森举了个例子。要证明两张图不同构，你可能得穷举所有置换，那是个天文数字。假设有个全知的巫师对你说：你随便挑一张图，随机置换，发给我，我告诉你你挑的是哪张。你重复一百次，它每次都对。如果两张图同构，它每次只能靠猜，一百次全对的概率是 2 的负一百次方。你被统计地说服了，同时你对"为什么不同构"一无所知。 SZK 就是所有存在这种不依赖密码学假设的协议的题目集合。**它反复出现在阿伦森自己的工作里，也出现在很多人的工作里。他觉得这可能是最基础的复杂度类之一，只是被发现时没人意识到。** ## 一部电影没想到的事 2020 年，疫情横扫全球。Lex 问这场变故怎么改变了他的世界观。 阿伦森说，所有人的生活都变了，上一次这个量级的事件得追溯到二战。真正让他震惊的是机构的失败。CDC，那些我们以为可信的机构，还有大量媒体，表现之糟糕让他目瞪口呆。 他提到 2011 年那部电影《传染病》。片子几乎预演了后来发生的一切：病毒从中国起源，扩散到全世界，一切停摆，直到疫苗研发出来，所有人待在家里。太多细节都对上了。 > 他们唯一没能想象到的是：电影里从政府到疾控的每一个人都极度专业、极度敬业、把公共利益放在第一位。阴谋论者只是互联网上的一些路人，是专业人士要去对抗的对象。制片人缺乏想象力的地方在于，他们没想到阴谋论者、无能者和疯子会占据我们的机构，成为真正在管事的那些人。（斯科特·阿伦森） 他支持加速疫苗，支持人体挑战试验（human challenge trials）。志愿者先接种，再主动暴露于病毒，用这种非常规手段压缩时间线。他算过账：疫苗早一个月，价值以万亿美元计，还有几十万条人命。 检测基础设施和接触者追踪，这些本来可以在疫苗之外独立推进。两样都没做成。他称这是美国 240 年历史里最大的失败之一，说这话时没有加任何修饰。 Lex 插了一句自己的观察：二战那种举国体制，除了打破规则把事情办成，还有一种团结。如果他是总统，把病毒立为敌人是再简单不过的事。让他费解的是，分裂不但没减少，反而加剧了。 阿伦森说这是令人心碎的。他补了一句：这个国家历史上第一次出现一个连"假装想团结国家"都不愿意的总统。林肯打了一场内战，还在说要团结。 ## 选举、围剿与沉默的支持 访谈录于 2020 年 10 月，距离大选不到一个月。Lex 问他对结果的担心，阿伦森说他愿意留下记录：如果选举结果被质疑，他极度害怕接下来会发生什么，会不会有暴力，权力交接还有没有清晰的路径。他没有加"当然也可能是我多虑"的缓冲，只补了一句：如果这些都没发生，我可能会显得很蠢，但我还是要把话说出来。 话题顺着转到取消文化。阿伦森说他的反对态度用"强烈"形容是严重低估。他说自己不只是动嘴，也做过一些事：在博客上替不受欢迎的人和不流行的观点辩护，为公开讨论的规范说话，然后被社交媒体骂成种族主义者、性别歧视者。 他讲了一段需要完整听的话。 > 我很乐意在时间允许的情况下说一万遍：我痛恨种族主义、痛恨性别歧视、痛恨恐同。我不想做的是，把定义这些词的权力让渡给某一个政治派别，然后被告知：你还得同意这一堆极具争议的其他立场，否则你就是厌女者、就是种族主义者。凭什么？像我这样的人，对"什么是种族主义""怎样才能最有效地对抗种族主义"这些问题，难道就没有发言权吗？（斯科特·阿伦森） 他给出了一个更实用的判断：这场取消文化运动，用它自己宣称的目标来衡量，对抗种族主义和性别歧视的效果极其糟糕。它把大量本来会站在同一边的人推到了对面，把可争取的中间派变成了敌人。手段和目标之间的错配严重到让人怀疑发起方到底想要什么。 Lex 提到史蒂文·平克（Steven Pinker）。平克就是那个试图对困难话题保持思考的人，然后不断被围剿。阿伦森说他惊讶于平克居然扛住了，几个月前那次取消尝试他挺过来了。他私下认识平克一点，说平克对那些攻击有一种近乎不可思议的不为所动。阿伦森说他羡慕，也希望自己能那样，但做不到。他被攻击时的第一反应是想跟每一个匿名的推特用户、每一个 Reddit 上骂他的人坐下来聊一小时，让对方看看自己没那么坏。有时候真的有用。问题是还有另外两万个。 出路在哪？他说他不知道，某种程度上这问题比 P vs NP 还难。 他给了一个方向：支持开放讨论这一侧的人其实很多，只是沉默。**沉默的支持必须变得不那么沉默。**大多数人都觉得这些围剿荒谬，又不敢说，怕下一个轮到自己。这就是标准的猎巫动态，发起方非常清楚这一点，并且最大化利用了它。他说需要有人站出来讲：我们也不接受种族主义，你们现在干的事却是荒唐的。难的地方在于这非常耗神，你得字斟句酌，得回应每一条指责，即便你觉得自己安全。站出来的人越多，往前走就越容易。 ## 一套朴素的测试标准 回到图灵测试这条线，阿伦森的观点前后一致。他和托诺尼的分歧、他和 Eugene Goostman 的分歧、他对 GPT-3 的评价，用的是同一个方法。 拿到一个新理论或新系统，先别问它在最难的问题上表现如何，先问它在已有答案的问题上表现如何。Eugene Goostman 连"珠峰比鞋盒大吗"都答不上，它宣称通过图灵测试就没有意义。IIT 说一堵空墙比人更有意识，它谈论的东西就不是意识。GPT-3 能写一首关于指定主题、模仿指定诗人的诗，能写一篇在任何高中课堂大概能拿 B 减的论文，这些是可以核对的能力，所以它值得认真对待。 这套方法的另一面是，它允许你承认自己被打败。阿伦森说 GPT-3 写出的东西在很多情况下比他写得更好，说这话时没有保留。他还说，如果几年前有人告诉他 2020 年会有一个这样的系统，他会感到惊讶，任何否认这件事的人都是在回避眼前的东西。 他也拒绝往前多走一步。GPT-3 是不是通往通用人工智能的一步？他说这可以争论。它是不是展示了某种类似人类认知的东西？他说这取决于你怎么理解"预测下一个词"这件事。人类做的全部如果就是这个，问题就被消解了；人类如果在做别的事，GPT-3 就只是一块非常亮的拼图。**他诚实的地方在于，他承认自己不知道答案，没有假装知道。** ## 一颗心的傅里叶变换 Lex 最后问了一个对计算机科学家来说有点奇怪的问题：爱在你的生活里扮演什么角色？ 阿伦森先答得很平常：我爱我的孩子，爱我的妻子，爱我的父母，我大概跟大多数人没什么不同，家人在我生活里非常重要。然后他加了一句自我定位：我是理论计算机科学家，你要找关于爱之本质的深刻洞见，大概是找错人了。 访谈结束前他讲了一个漫画。他记得是《XKCD》的一张：画一颗心，然后对心做平方，做傅里叶变换，做积分，一步步操作，最后配文大意是"我平常那套方法今年不太好使了"。 这个笑话把整场访谈串了起来。阿伦森的所有工具，复杂度类、丘奇-图灵论题、哥德尔的反驳、phi 值的反例，都是同一件事：把它拆开、形式化、算出结果。这套方法在物理世界和计算世界里几乎无往不利。到了意识、到了爱、到了一个人为什么会被另一群人的愤怒摧毁，工具突然不好使了，他没有假装好用。 这也是他反复强调那件小事的原因。节目开头 Lex 引了他一句话：如果你总是赢，那你大概做错了什么。他解释过，自己失败时会很恼火，不管大事小事，那种感觉无价，前提是你能把它导向具体的改进计划。 在一个由 P vs NP 这种几十年解不开的谜题构成的学科里工作，失败属于日常。在一个连"哪些系统有意识"都定义不清的领域里工作，失败更是常态。他的判断标准从头到尾只有一个：这个理论在我们已知的案例上通过了没有。没通过就承认它没通过，别拿"科学就是要挑战直觉"来做挡箭牌。 这个标准朴素得近乎土气。它能挡住托诺尼，能挡住 Eugene Goostman，也能让他在 GPT-3 面前诚实地说：这次是真的，我被打败了。 访谈里有几句话值得单独拎出来看。第一句是关于"相当难的问题"的定位。阿伦森说他愿意接受一个能判断胎儿第几周有意识、狗和青蛙谁更有的理论，哪怕它给不出"为什么会有感受质"的答案。这个让步很大。多数讨论意识的人卡在难问题上，一卡就是几十年，什么实际结论都产不出来。阿伦森选择先要一个能用的东西，哪怕它不完整。这是一种工程师的姿态用在哲学问题上。 第二句是关于观察者相对性。Lex 提了一个定义：一个东西算不算被模拟出了意识，取决于这个系统里有没有一个对观察者来说的黑箱。阿伦森明确不接受这个方向。理由很硬：**如果意识这个词还有任何意义，它一定是被那个有意识的实体自己体验到的。**我不需要你来告诉我我有意识，你也不需要我来告诉你你有。意识如果变成相对于观察者的东西，它就不再是原来那个词了。这个反驳其实跟他对 IIT 的反驳是同一个：定义得匹配它原本想指的东西。 第三句是关于自指的限度。彭罗斯那条论证线的根，是想用哥德尔定理证明人心超越形式系统。阿伦森的反驳没有停留在技术细节上，他把它拉回到一个更朴素的位置：人类加公理时也没有担保。这句话的杀伤力在于，它同时否定了人类这边的特权和机器这边的劣势。你没有办法证明自己永远正确，机器也不能，这一点上双方扯平了。任何试图用"人类能看出系统一致性"来立论的论证，都得先解释人类凭什么能看出。 第四句是关于概率的表达方式。阿伦森说他押 P ≠ NP 的赔率是 97% 到 98%，然后立刻解释这个数字该怎么读：如果你拿一堆同级别的开放问题让我逐个押注，我希望 50 个里对 49 个。这个自我校准的习惯很少见。多数人在表达信念强度时随口报个数字，报完就不管了。他把数字和可检验的校准记录绑在一起，这是一种职业素养。 还有一处细节值得注意。Lex 问他有没有参与 2014 年那场 Eugene Goostman 的展览评审，阿伦森纠正说没有，他只是被记者打电话问了，然后上网试了试。这个纠正很小，但符合他一贯的态度：把事实边界划清楚，哪怕这个边界对自己有利与否无关紧要。 ## 一个计算机科学家能给的最好答案 整场对话里最让人印象深刻的，其实是阿伦森说"我不知道"的次数。 意识是不是计算？他说这是令人眩晕的问题，他自己感觉意识不能被还原为计算，但紧接着问：那你凭什么信我？如果你对我说同样的话，我又凭什么信你？ GPT-3 的天花板在哪？他说没人知道，他隐约觉得不可能这么简单，可这个直觉没什么依据。 取消文化的出路在哪？他说不知道，某种程度上这问题比 P vs NP 还难。 副本能不能替代本人？他停在"别人凭什么信你"这个问题上，没有硬给答案。 这跟人们想象中的顶尖理论计算机科学家形象有出入。他的工作恰恰是把模糊的东西变精确，把直觉变成定理，把"感觉如此"变成"可证明如此"。在复杂度理论里，"我不知道 P 是否等于 NP"背后有一套精确的语言：我们知道什么，我们知道怎么证明什么，我们知道哪些证明技术在哪一步失效。这种"精确的无知"跟"含糊的无知"完全是两回事。 阿伦森在意识问题上的"我不知道"也属于这一类。他能精确说出托诺尼的理论在哪一步出问题，能精确列出彭罗斯叠了几层假设，能精确指出哥德尔论证的反驳在哪。说"我不知道"之前，他已经把周围能清理的地形都清理干净了。剩下的那块空白，是真正空白的部分。 这也解释了为什么他反复拿"空墙比人更有意识"当反例。这个反例的威力不在于它荒谬，而在于它精确。它不是一个模糊的直觉抗议，它是一个可以构造、可以算 phi 值、可以摆到台面上的具体系统。托诺尼只能承认它，或者修改理论。这就是理论计算机科学的做事方式用在哲学问题上的样子。 ## 可操作的几件事 - 遇到一个宣称颠覆常识的新理论，先找它在你已经知道答案的案例上的表现。如果它在"一堵空墙有没有意识"这类问题上算错，就不用急着接受它对未知领域的判断。 - 看到"第一个通过图灵测试的聊天机器人"这类新闻，先自己上去问几个常识问题。别问哲学问题，问"珠峰比鞋盒大吗"就够了。 - 用 GPT-3 这类工具时，把它当预测引擎，别当推理引擎。让它写诗、写初稿、做改写，这些是它的主场。算术、括号匹配、空间位置推理，你得自己核，或者干脆交给别的工具。 - 评估自己的直觉时，区分两件事：这个理论推翻了我的直觉，和这个理论在我确信的案例上都算错了。前者值得认真对待，后者是理论有问题。 - 在公开讨论里，别把定义权让出去。同意"种族主义是坏的"不等于同意某一方对"什么是种族主义"的全部界定，也不等于同意它列出的一整套附加立场。把这两件事分开讲，是把讨论拉回可辩论层面的第一步。 - 如果你也觉得某次围剿荒谬又不敢说话，至少别装作它不荒谬。沉默的支持会被当成不存在，发起方很清楚这一点。 - 表达信念强度时给出具体数字，然后回头检查自己准不准。报一个赔率比说"我相当确信"有用得多，也更容易被证伪。 - 面对解不开的问题，保留一个清醒的位置：承认工具在某个领域不好使，比硬把它用下去更有价值。真的不知道的时候，把周围能清理的都清理干净，然后说不知道。