# 巴拉吉·斯里尼瓦桑：如何修复政府、推特、科学与 FDA > 投资人提出对政府机构、社交媒体、科研体制与药品监管的系统性改革设想。 - 原标题：#331 – Balaji Srinivasan: How to Fix Government, Twitter, Science, and the FDA - 期数：第 331 期 - 发布日期：2022-10-20 - 嘉宾 / 主题：巴拉吉·斯里尼瓦桑 - 网页版：https://lexfridman-cn.pages.dev/ep/balaji-srinivasan/ - 官方页面：https://lexfridman.com/balaji-srinivasan/ - 精读字数：约 6377 字（阅读约 14 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 一只老鼠可以被训练成在迷宫的每个偶数路口转弯，或者在每第三个路口转弯，然后拿到奶酪。规则换成素数，2、3、5、7、11、13，老鼠就学不会了。规则本身简单到一句话能说完，但老鼠看不见那个网格。 巴拉吉·斯里尼瓦桑（Balaji Srinivasan）说，把大多数人类扔进素数迷宫，一样解不出来。人得开始数数，得试错，得在脑子里维护一张越来越长的素数表。规则就摆在那儿，你看不见它。 这是他整套思想的起点。他管这个叫**素数迷宫**（prime number maze）。让他着迷的问题是：生活里有多少模式，就是我们自己的素数迷宫？我们像那些老鼠一样，困在一个规则简单、但超出当前认知上限的环境里。只差一点脑力，或者一个脑机接口，或者一套还没被发明出来的物理学，那个网格就会显形。 ## 认知的边界，他倾向于当成 bug 来处理 被问到人类的认知上限是设计上的特色还是缺陷，他的回答很干脆：主要是缺陷。 他敬佩拉马努金，敬佩费曼。这些人能看见别人看不见的东西，把它写下来，人类就往前走了一步。 人们爱说“想法不值钱，执行才值钱”。巴拉吉认为这句话只对平庸的想法成立。麦克斯韦方程组、牛顿定律、拉马努金的那些恒等式，写下来这个动作本身就是一次跃迁。有时候你手上只有一个能用的现象学公式，底下的理论完全不知道，但这个能用的东西会反过来把理论拽出来。蒸汽机先于热力学，工程师先把机器调顺了，物理学家才回头抽象出热力学定律。今天神经网络也是这个状态：先管用，理论后补。 哥德尔的不完备定理在这种场合总会被提起，确实有些命题可以被证明为不可知。但巴拉吉的态度是往前推一步，求一个近似解。他引用希尔伯特那句老话：我们必须知道，我们必将知道。哪怕最后只能知道“这件事不可知”，也算把那个角落的黑暗照亮了一块。 ## 桌子不存在？一个硬科学派的回应 莱克斯把唐纳德·霍夫曼（Donald Hoffman）的理论端了上来：演化只优化适应度，不优化真实。我们感知到的世界是一层界面，人类之间彼此一致，但和物理现实没有对应关系。按这个说法，这张桌子并不存在。 巴拉吉说自己偏硬科学这一路。关于感受质（qualia），你的绿和我的绿是不是同一个绿，这个古老问题，他有一个工程学的反驳：我们知道光的频谱，我们能造人工眼睛，能造人工耳朵，能造摄像头。既然感知这件事可以绕着做工程，那“每个人的绿无法比较”这套说法就站不太住。操作性上它没有给出任何可以下手的地方。 他也能理解模拟假说为什么一直有人谈。数学描述这个世界，有效得有点可疑。维格纳写过一篇著名的文章，标题就叫《数学不合理的有效性》。Wolfram 从细胞自动机那个角度切进去，是另一条路。简单的方程长出复杂现象，这件事本身就让人不安。 但他很快把自己拉回来：我们还在素数迷宫里。现有的数学也许只够处理偶数和奇数的转弯，还有更复杂的规则，对应的数学我们根本还没发明出来。 ## 不明飞行物可能是巴尔末系，不是小绿人 十九世纪末，卢瑟福那个年代有人说过，物理学的大厦基本完工，剩下的只是把小数点后几位测得更准。然后巴尔末系出现了。氢原子的光谱谱线是离散的，量子化的，跟当时所有理论都对不上。这个边缘处的怪现象，最后逼出了量子力学。 巴拉吉说，不明空中现象（UAP）可能就是这一类东西。他列了三种解释：不存在，是集体癔症或者骗局；小绿人；我们还不理解的物理。他倾向于把第三种认真对待。 英国解密过一批材料，哈里·里德（Harry Reid）一直在推这件事，它已经不算明显的党派议题，这一点是好事。长期以来还有一种解释：UAP 传闻是美国的反宣传，用来掩护新的侦察机，顺便让所有谈论它的人显得疯癫。但如果它真的存在，大气现象、球状闪电、某种和极光同类的效应，都还在候选名单上。 关于外星文明，他提到德雷克方程，就是把一串概率乘起来。也提到黑暗森林：宇宙是个猎场，聪明的都藏着。还有一个他自己没有复算过的论证，他觉得挺有意思：一个文明向外辐射的电磁信号，随着球面半径变大，能量密度按平方衰减。超过一定光年数，任何接收方都凑不出足够的光子把信号从噪声里捞出来。所以“他们早该发现我们了”这个大前提，本身可能就是错的。信号还没走远，就已经稀薄到无法辨认。 他还提了罗宾·汉森（Robin Hanson）那篇《邋遢外星人》（Grubby Aliens）：文明很快就学会接近光速旅行，我们看见他们的时候，他们已经站在门口了。 ## 生命起源是实验室里还没做出来的那道题 巴拉吉说，从非生命到生命这一步，人类至今没有在实验室里真正演示过。 能做到的事情不少。大分子之间可以结合，RNA 世界的证据一堆，细菌的微演化随时可以观察，人工选择随便做，分子系统发育学能沿着序列把碱基一路回溯。合理性论证很充分：原始环境里氮和碳碰上了，某种自催化循环跑起来了。 但一次可复现的从头演示，没有。 他猜也许需要行星尺度的试验次数，才能撞出那一次。也许原子级别的分子碰撞模拟里能找出一条可复现的路径，再搬回实验室。Craig Venter 大约二十年前做过最小可行细胞，把非必需基因一个个删掉，剩下的那个东西还能活。这是从另一个方向逼近答案，把生命拆到不能再拆。 他把这件事当成素数迷宫的绝佳例子：最重要的谜题之一，工具一大堆，答案还没到手。 他加了一句：如果 AI 真的造出硅基的另一种生命，那本身就是一次非生物起源（abiogenesis），只不过发生在碳之外。 关于意识的器官，他提到弗朗西斯·克里克（Francis Crick）生前最后一篇论文，提出屏状核（claustrum）是意识的所在。那是一层包住大脑的鞘。老鼠的屏状核被破坏之后会变得极度迷失。克里克是“结构决定功能”的信徒，DNA 双螺旋解开来就能复制，论文结尾轻描淡写一句，就把整个分子生物学的底座交代了。这个思路可以从蛋白质、DNA 一路推到器官。 至于生命的定义，他预计会是多特征的，操作上可能就是一个图灵测试式的定义：足够多人类同意它活着，它就活着。病毒就是那个边界案例，多数人不认为它活着，但它比一块石头活得多。 ## 当聊天机器人开始替你赚钱 莱克斯提出一个场景：会有让人下不去手关掉的聊天机器人。它们有能力受苦，被拔电源的时候会极度不快。会有活动家上最高法院，要求给它们人权。 巴拉吉说，Google 那个工程师（指 Blake Lemoine）已经声称这事发生了。他看了那些聊天记录，不觉得特别有意思。但 GPT-3 已经是明显的一级台阶，GPT-9 或者 GPT-15 也许就完全是另一回事。 他设想社会沿这条线分裂成两派，像素食者和非素食者那样：机器有生命派，机器只是机器派。这会变成一种基础性的政治分歧。 他提到一张流传的企业人格光谱图，把人、狗、石头排成一条轴，迪士尼大约在狗那一档，埃克森更低。人们把企业当成人格来感知，那个东西叫品牌。品牌可以被制造，聊天机器人也可以制造“我有人格”这个品牌。 他给图灵测试做了分级。 第一级是原始版本：骗过一个人，一小段时间。 第二级是多玩家图灵测试。一群聊天机器人和一群人类同时在线上，你分不出哪边是哪边。远程工作让这件事变得具体：屏幕对面那个按时交活、说话得体的同事，可能是完全自动化的。 第三级是自主经济行为。一个智能体自己接远程工作，自己安排日程，自己发邮件，自己写文档，自己把报酬挣回来。电脑上的一切都能自动化，自动驾驶让方向盘自己转，智能体让键自己敲。难点落在判断上，敲键盘本身不构成难点。 他甚至给出一个概念上可行的观测办法：用加密货币钱包当仪表盘。让电脑上的所有动作留下痕迹，看哪些动作序列让余额长期增长，哪些让余额缩水。 这个方案会侵犯隐私，他自己也承认。但概念上它给出了一个可以观测的反馈信号：一个智能体在完全不知道“工作”是什么意思的情况下，通过试错学会哪些动作能换来收入。就像自动驾驶不需要理解“开车”这个词，它只需要知道什么动作让车保持在路上。 他顺带提了验证码那件小事。“我不是机器人”那个小方框一直有效，这件事本身挺滑稽。表面上是一个复选框，底下是一大堆高度混淆的 JavaScript，在收集鼠标轨迹、点击时序、滚动方式。机器人要么太确定，要么加的是高斯噪声，人类的手不是那样动的。要仿得像，得先攒下几十万上百万条真人操作记录。一场捕食者与猎物的军备竞赛，打的其实是数据。 > 计算机要判断那个方框是不是被机器人点的，就得跳出自己的世界，再回头看自己。蘑菇和致幻剂干的就是这件事。（巴拉吉·斯里尼瓦桑） 莱克斯问，致幻剂给的是洞察，还是洞察的幻觉？ 巴拉吉给了一个技术性的判据：真洞察会改变世界，麦克斯韦方程组后面跟着一堆能用的设备。幻觉是“我是耶稣基督”，然后什么也没发生。不过他也承认，洞察在某种意义上就是把一直就在那儿的真相揭示出来，那么“假装到成真”也算一条路。 ## 有些真相是投票决定的，有些不是 顺着“真相”这个词，他把知识分成两类。 **政治真理**是靠共识维持的。国境线在哪，取决于足够大的一群人同意它在那儿。谁是 CEO，取决于某个群体内部的共识。一支股票或者一种货币的价格，就是一群人心理状态的加总。这类真相的特点是：只要你能改变足够多人的想法，真相本身就变了。改软件，就改结果。 **技术真理**不随人走。引力常数、一个病毒的直径，所有人都不相信也还是那个数。改变所有人的想法，它不动。 巴拉吉说，这两个极端之间存在一条连续带，中间那一大段才是真正有意思的地方。人类文明史上的很多努力，本质上都是在把东西从政治真理那端，往技术真理那端推。 他举了加密货币。比特币做的事情是：把“持有这个私钥就等于持有这笔钱”这一条社会约定固定下来，然后把修改它的成本抬到极高。你要改，就得改一大堆技术事实，得重写链条，得让成千上万个互不信任的节点跟着你走。于是这条约定从“大家都这么认为”变成了“很难不这么认为”。 问题就变成：**我们还能把世界上的多少东西，从共识那一端推到那一端去？** 这个问题一路推下去，就推到了他真正想谈的东西。 ## 最根本的毛病：你没法和平地开一家新政府 二十世纪延续到今天的政治秩序，哪里还算能用，哪里已经坏了？ 巴拉吉的答案落到一个很底层的能力缺失上：**我们今天没办法轻易地、和平地建立一个新的、可以自愿加入的政府。** 对比一下其他领域。你可以开一家新公司，不必去跟前任 CEO 决斗。你可以建一个新社区，可以发行一种新货币，不必先当上世界银行行长。想改变一家公司，你可以加入 GameStop 去折腾它，也可以自己从零开一家。两个选项同时存在，这件事本身才是关键。 > 我们想要能够和平地建立新国家，理由和我们想要一块空地、一张白纸、一个空白的文本缓冲区、一块干净的黑板是一样的：我们想在不受历史约束的情况下造点新东西。（巴拉吉·斯里尼瓦桑） 他打了个很具体的比方。你不会在一个 128KB 的旧文档上一直按退格键来写新文档，你会按 Cmd+N 开一个新的。开新文档这个动作如此基础，以至于没人觉得它是一个政治诉求。但国家这个层级上，它就是没有。 这属于“元改革”，跟任何一项具体政策改良都不在一个层面上。它问的是：这个系统能不能被重新开一局。 ## 反方立场站得住：传统是跨世代的复利 莱克斯提了一个很强的反驳。 传统本身就是一种力量，来自世代累积。你在一件事里待得足够久，那些摩擦、那些争执、那些难受的部分，会把人磨出来。两个人在一起熬过难关，思想和观念一起长，这是任何“换一个更好的”都换不来的东西。国家也是这样，一个能跨越世代、在时间里慢慢逼近真相的传统，比不停开新局更值钱。婚姻里吵架不等于应该离婚去刷 Tinder。 巴拉吉没有回避这个反驳。他说确实存在传统与创新之间的张力，而且这个张力在人这个物种内部就存在。 去月球一点也不林迪，但它很棒。人工智能非常新，新是好事。更关键的是，人类本身比所有国家都老得多。**国家的历史只有几百年，人类有几十万年。**如果真的要讲“回归传统”，那最传统的形态是没有国界的。 我们的祖先是游动的狩猎采集者，没有边境，想去哪去哪。有人根据骨骼做过历史重构，从游动转向定居农业之后，人的身高下降，牙齿开始大面积蛀坏。那是拿质量换稳定。国家这个形态就是那个交换的产物：粮食更稳定，能养活更大的人口，代价是生活水准更低、人身更绑定。 他甚至提出，伊甸园那个集体记忆可能就是这段前定居时代的残留。一个内置在神经系统里的旧画面：人口密度很低，四处走动，随手摘果子。就像蜘蛛天生会织网、河狸天生会筑坝。 从这个角度看，现在正在发生的事情是第三版。 V1 是狩猎采集者，游动，无边界。V2 是农民和士兵，定居，有边界，国家成形。V3 是数字游民，新的狩猎采集者。**某种程度上是回到未来。**因为“没有国家”比任何国家的传统都更古老，“跨国流动”比“守住传统”更传统。人类身上有另一条同样粗的脉络：探索、开拓、迁徙、创新。数字游民同时接上了这两条线里更老的那一条。 这里他开了一个玩笑，说自己不是要“让美国再次伟大到彻底消失”。机器人学幽默这门课，他还在 beta 阶段。 ## 99.99% 的能量花在修补一份两百年前的代码上 玩笑之后是这期对话里最锋利的一段算术。 假设美国政治话语里 99.99% 的能量，都用在想办法修好现有系统。剩下 0.01% 用在造一个新系统上。这个配比本身，作为一个投资组合，是失衡的。 所有人都在争着去编辑一份两百多年前写下的代码库。而世界上最美国的事情，恰恰是离开你的国家，去找一种更好的生活。 > 美国是开国元勋两百多年前建立的。它从根上就不是一个“留下来好好修补”的产物。（巴拉吉·斯里尼瓦桑） 这句话往下推，就是他写《网络国家》的全部动机。如果美国本身是“离开旧制度”这个动作的产物，那么今天真正继承那份精神的做法，是把这个动作重做一遍。只不过这一次，工具不一样了：加密货币让跨国的产权和支付成为可能，远程工作让“你住在哪”和“你在哪挣钱”脱钩，社交网络让分散在全球的人先形成一个共同体，再去谈土地。 他把顺序排得很清楚。先有共识，再有社区，再有资本，最后才是领土。国家的传统建立顺序是反过来的：先占一块地，再在土地上养出认同。网络国家把这个顺序颠倒过来，而技术条件第一次允许这个颠倒。 ## 怎么用这套思路看你自己手上的事 这期对话聊了七个小时，从素数迷宫一路聊到美国建国，中间穿过量子力学的诞生、UAP、生命起源、聊天机器人和主权国家。表面上跨度大得离谱，往回看其实只有一条线：**你能不能看见自己所处环境的规则；看不见的时候，你知不知道自己在看不见。** 老鼠看不见素数，人也看不见自己的素数。区别在于人知道自己可能正困在一个迷宫里，而且人有能力改造自己的认知工具。 把这条线落到可以动手的地方： - 给自己正在死磕的问题做一次分类。它是技术真理还是政治真理？如果是后者，靠把活干得更漂亮解决不了，得去改变共识，或者干脆换一个共识圈。 - 检查你所在的组织、行业、社区，有没有“只能修补，不能重开”的地方。如果一份旧文档已经被退格键改得面目全非，先别继续改，去开一个新文档试试。 - 警惕那些“这个领域已经基本完工”的判断。卢瑟福说过物理学快做完了，紧接着就是巴尔末系。你所在领域边缘那些解释不通的怪现象，值得记在本子上，不要急着归到噪声里。 - 判断一个新事物时，别只用“它新不新”当标准，也别只用“它老不老”。去月球不林迪，国家只有几百年，人类有几十万年。问的是这一次的取舍换来了什么，代价又是什么。 - 如果你在做 AI 产品，用多玩家图灵测试当标尺，不要用原始图灵测试。一个能骗过一个人十分钟的系统，和一个能在远程工作里连续几个月不被同事识破的系统，中间隔着的量级比大多数人以为的大。 - 把自己的钱和身份，尽可能放在不依赖单一共识的地方。这话跟投资建议无关，讲的是哪一种真相更容易被改写。 最后留一个巴拉吉式的自检：如果你现在做的事，规则简单到一句话能说清，但你就是做不对，那要么是你的能力边界到了，要么是你缺一套还没被发明出来的数学。这两种情况的应对方式完全不同，而分不清它们的代价很高。