第 331 期·中文精读

巴拉吉·斯里尼瓦桑:如何修复政府、推特、科学与 FDA

Balaji Srinivasan: How to Fix Government, Twitter, Science, and the FDA

投资人提出对政府机构、社交媒体、科研体制与药品监管的系统性改革设想。

官方音频00:00 / --:--
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原音频与官方文稿为准。说明

一只老鼠可以被训练成在迷宫的每个偶数路口转弯,或者在每第三个路口转弯,然后拿到奶酪。规则换成素数,2、3、5、7、11、13,老鼠就学不会了。规则本身简单到一句话能说完,但老鼠看不见那个网格。

巴拉吉·斯里尼瓦桑(Balaji Srinivasan)说,把大多数人类扔进素数迷宫,一样解不出来。人得开始数数,得试错,得在脑子里维护一张越来越长的素数表。规则就摆在那儿,你看不见它。

这是他整套思想的起点。他管这个叫素数迷宫(prime number maze)。让他着迷的问题是:生活里有多少模式,就是我们自己的素数迷宫?我们像那些老鼠一样,困在一个规则简单、但超出当前认知上限的环境里。只差一点脑力,或者一个脑机接口,或者一套还没被发明出来的物理学,那个网格就会显形。

认知的边界,他倾向于当成 bug 来处理

被问到人类的认知上限是设计上的特色还是缺陷,他的回答很干脆:主要是缺陷。

他敬佩拉马努金,敬佩费曼。这些人能看见别人看不见的东西,把它写下来,人类就往前走了一步。

人们爱说“想法不值钱,执行才值钱”。巴拉吉认为这句话只对平庸的想法成立。麦克斯韦方程组、牛顿定律、拉马努金的那些恒等式,写下来这个动作本身就是一次跃迁。有时候你手上只有一个能用的现象学公式,底下的理论完全不知道,但这个能用的东西会反过来把理论拽出来。蒸汽机先于热力学,工程师先把机器调顺了,物理学家才回头抽象出热力学定律。今天神经网络也是这个状态:先管用,理论后补。

哥德尔的不完备定理在这种场合总会被提起,确实有些命题可以被证明为不可知。但巴拉吉的态度是往前推一步,求一个近似解。他引用希尔伯特那句老话:我们必须知道,我们必将知道。哪怕最后只能知道“这件事不可知”,也算把那个角落的黑暗照亮了一块。

桌子不存在?一个硬科学派的回应

莱克斯把唐纳德·霍夫曼(Donald Hoffman)的理论端了上来:演化只优化适应度,不优化真实。我们感知到的世界是一层界面,人类之间彼此一致,但和物理现实没有对应关系。按这个说法,这张桌子并不存在。

巴拉吉说自己偏硬科学这一路。关于感受质(qualia),你的绿和我的绿是不是同一个绿,这个古老问题,他有一个工程学的反驳:我们知道光的频谱,我们能造人工眼睛,能造人工耳朵,能造摄像头。既然感知这件事可以绕着做工程,那“每个人的绿无法比较”这套说法就站不太住。操作性上它没有给出任何可以下手的地方。

他也能理解模拟假说为什么一直有人谈。数学描述这个世界,有效得有点可疑。维格纳写过一篇著名的文章,标题就叫《数学不合理的有效性》。Wolfram 从细胞自动机那个角度切进去,是另一条路。简单的方程长出复杂现象,这件事本身就让人不安。

但他很快把自己拉回来:我们还在素数迷宫里。现有的数学也许只够处理偶数和奇数的转弯,还有更复杂的规则,对应的数学我们根本还没发明出来。

不明飞行物可能是巴尔末系,不是小绿人

十九世纪末,卢瑟福那个年代有人说过,物理学的大厦基本完工,剩下的只是把小数点后几位测得更准。然后巴尔末系出现了。氢原子的光谱谱线是离散的,量子化的,跟当时所有理论都对不上。这个边缘处的怪现象,最后逼出了量子力学。

巴拉吉说,不明空中现象(UAP)可能就是这一类东西。他列了三种解释:不存在,是集体癔症或者骗局;小绿人;我们还不理解的物理。他倾向于把第三种认真对待。

英国解密过一批材料,哈里·里德(Harry Reid)一直在推这件事,它已经不算明显的党派议题,这一点是好事。长期以来还有一种解释:UAP 传闻是美国的反宣传,用来掩护新的侦察机,顺便让所有谈论它的人显得疯癫。但如果它真的存在,大气现象、球状闪电、某种和极光同类的效应,都还在候选名单上。

关于外星文明,他提到德雷克方程,就是把一串概率乘起来。也提到黑暗森林:宇宙是个猎场,聪明的都藏着。还有一个他自己没有复算过的论证,他觉得挺有意思:一个文明向外辐射的电磁信号,随着球面半径变大,能量密度按平方衰减。超过一定光年数,任何接收方都凑不出足够的光子把信号从噪声里捞出来。所以“他们早该发现我们了”这个大前提,本身可能就是错的。信号还没走远,就已经稀薄到无法辨认。

他还提了罗宾·汉森(Robin Hanson)那篇《邋遢外星人》(Grubby Aliens):文明很快就学会接近光速旅行,我们看见他们的时候,他们已经站在门口了。

生命起源是实验室里还没做出来的那道题

巴拉吉说,从非生命到生命这一步,人类至今没有在实验室里真正演示过。

能做到的事情不少。大分子之间可以结合,RNA 世界的证据一堆,细菌的微演化随时可以观察,人工选择随便做,分子系统发育学能沿着序列把碱基一路回溯。合理性论证很充分:原始环境里氮和碳碰上了,某种自催化循环跑起来了。

但一次可复现的从头演示,没有。

他猜也许需要行星尺度的试验次数,才能撞出那一次。也许原子级别的分子碰撞模拟里能找出一条可复现的路径,再搬回实验室。Craig Venter 大约二十年前做过最小可行细胞,把非必需基因一个个删掉,剩下的那个东西还能活。这是从另一个方向逼近答案,把生命拆到不能再拆。

他把这件事当成素数迷宫的绝佳例子:最重要的谜题之一,工具一大堆,答案还没到手。

他加了一句:如果 AI 真的造出硅基的另一种生命,那本身就是一次非生物起源(abiogenesis),只不过发生在碳之外。

关于意识的器官,他提到弗朗西斯·克里克(Francis Crick)生前最后一篇论文,提出屏状核(claustrum)是意识的所在。那是一层包住大脑的鞘。老鼠的屏状核被破坏之后会变得极度迷失。克里克是“结构决定功能”的信徒,DNA 双螺旋解开来就能复制,论文结尾轻描淡写一句,就把整个分子生物学的底座交代了。这个思路可以从蛋白质、DNA 一路推到器官。

至于生命的定义,他预计会是多特征的,操作上可能就是一个图灵测试式的定义:足够多人类同意它活着,它就活着。病毒就是那个边界案例,多数人不认为它活着,但它比一块石头活得多。

当聊天机器人开始替你赚钱

莱克斯提出一个场景:会有让人下不去手关掉的聊天机器人。它们有能力受苦,被拔电源的时候会极度不快。会有活动家上最高法院,要求给它们人权。

巴拉吉说,Google 那个工程师(指 Blake Lemoine)已经声称这事发生了。他看了那些聊天记录,不觉得特别有意思。但 GPT-3 已经是明显的一级台阶,GPT-9 或者 GPT-15 也许就完全是另一回事。

他设想社会沿这条线分裂成两派,像素食者和非素食者那样:机器有生命派,机器只是机器派。这会变成一种基础性的政治分歧。

他提到一张流传的企业人格光谱图,把人、狗、石头排成一条轴,迪士尼大约在狗那一档,埃克森更低。人们把企业当成人格来感知,那个东西叫品牌。品牌可以被制造,聊天机器人也可以制造“我有人格”这个品牌。

他给图灵测试做了分级。

第一级是原始版本:骗过一个人,一小段时间。

第二级是多玩家图灵测试。一群聊天机器人和一群人类同时在线上,你分不出哪边是哪边。远程工作让这件事变得具体:屏幕对面那个按时交活、说话得体的同事,可能是完全自动化的。

第三级是自主经济行为。一个智能体自己接远程工作,自己安排日程,自己发邮件,自己写文档,自己把报酬挣回来。电脑上的一切都能自动化,自动驾驶让方向盘自己转,智能体让键自己敲。难点落在判断上,敲键盘本身不构成难点。

他甚至给出一个概念上可行的观测办法:用加密货币钱包当仪表盘。让电脑上的所有动作留下痕迹,看哪些动作序列让余额长期增长,哪些让余额缩水。

这个方案会侵犯隐私,他自己也承认。但概念上它给出了一个可以观测的反馈信号:一个智能体在完全不知道“工作”是什么意思的情况下,通过试错学会哪些动作能换来收入。就像自动驾驶不需要理解“开车”这个词,它只需要知道什么动作让车保持在路上。

他顺带提了验证码那件小事。“我不是机器人”那个小方框一直有效,这件事本身挺滑稽。表面上是一个复选框,底下是一大堆高度混淆的 JavaScript,在收集鼠标轨迹、点击时序、滚动方式。机器人要么太确定,要么加的是高斯噪声,人类的手不是那样动的。要仿得像,得先攒下几十万上百万条真人操作记录。一场捕食者与猎物的军备竞赛,打的其实是数据。

计算机要判断那个方框是不是被机器人点的,就得跳出自己的世界,再回头看自己。蘑菇和致幻剂干的就是这件事。(巴拉吉·斯里尼瓦桑)

莱克斯问,致幻剂给的是洞察,还是洞察的幻觉?

巴拉吉给了一个技术性的判据:真洞察会改变世界,麦克斯韦方程组后面跟着一堆能用的设备。幻觉是“我是耶稣基督”,然后什么也没发生。不过他也承认,洞察在某种意义上就是把一直就在那儿的真相揭示出来,那么“假装到成真”也算一条路。

有些真相是投票决定的,有些不是

顺着“真相”这个词,他把知识分成两类。

政治真理是靠共识维持的。国境线在哪,取决于足够大的一群人同意它在那儿。谁是 CEO,取决于某个群体内部的共识。一支股票或者一种货币的价格,就是一群人心理状态的加总。这类真相的特点是:只要你能改变足够多人的想法,真相本身就变了。改软件,就改结果。

技术真理不随人走。引力常数、一个病毒的直径,所有人都不相信也还是那个数。改变所有人的想法,它不动。

巴拉吉说,这两个极端之间存在一条连续带,中间那一大段才是真正有意思的地方。人类文明史上的很多努力,本质上都是在把东西从政治真理那端,往技术真理那端推。

他举了加密货币。比特币做的事情是:把“持有这个私钥就等于持有这笔钱”这一条社会约定固定下来,然后把修改它的成本抬到极高。你要改,就得改一大堆技术事实,得重写链条,得让成千上万个互不信任的节点跟着你走。于是这条约定从“大家都这么认为”变成了“很难不这么认为”。

问题就变成:我们还能把世界上的多少东西,从共识那一端推到那一端去?

这个问题一路推下去,就推到了他真正想谈的东西。

最根本的毛病:你没法和平地开一家新政府

二十世纪延续到今天的政治秩序,哪里还算能用,哪里已经坏了?

巴拉吉的答案落到一个很底层的能力缺失上:我们今天没办法轻易地、和平地建立一个新的、可以自愿加入的政府。

对比一下其他领域。你可以开一家新公司,不必去跟前任 CEO 决斗。你可以建一个新社区,可以发行一种新货币,不必先当上世界银行行长。想改变一家公司,你可以加入 GameStop 去折腾它,也可以自己从零开一家。两个选项同时存在,这件事本身才是关键。

我们想要能够和平地建立新国家,理由和我们想要一块空地、一张白纸、一个空白的文本缓冲区、一块干净的黑板是一样的:我们想在不受历史约束的情况下造点新东西。(巴拉吉·斯里尼瓦桑)

他打了个很具体的比方。你不会在一个 128KB 的旧文档上一直按退格键来写新文档,你会按 Cmd+N 开一个新的。开新文档这个动作如此基础,以至于没人觉得它是一个政治诉求。但国家这个层级上,它就是没有。

这属于“元改革”,跟任何一项具体政策改良都不在一个层面上。它问的是:这个系统能不能被重新开一局。

反方立场站得住:传统是跨世代的复利

莱克斯提了一个很强的反驳。

传统本身就是一种力量,来自世代累积。你在一件事里待得足够久,那些摩擦、那些争执、那些难受的部分,会把人磨出来。两个人在一起熬过难关,思想和观念一起长,这是任何“换一个更好的”都换不来的东西。国家也是这样,一个能跨越世代、在时间里慢慢逼近真相的传统,比不停开新局更值钱。婚姻里吵架不等于应该离婚去刷 Tinder。

巴拉吉没有回避这个反驳。他说确实存在传统与创新之间的张力,而且这个张力在人这个物种内部就存在。

去月球一点也不林迪,但它很棒。人工智能非常新,新是好事。更关键的是,人类本身比所有国家都老得多。国家的历史只有几百年,人类有几十万年。如果真的要讲“回归传统”,那最传统的形态是没有国界的。

我们的祖先是游动的狩猎采集者,没有边境,想去哪去哪。有人根据骨骼做过历史重构,从游动转向定居农业之后,人的身高下降,牙齿开始大面积蛀坏。那是拿质量换稳定。国家这个形态就是那个交换的产物:粮食更稳定,能养活更大的人口,代价是生活水准更低、人身更绑定。

他甚至提出,伊甸园那个集体记忆可能就是这段前定居时代的残留。一个内置在神经系统里的旧画面:人口密度很低,四处走动,随手摘果子。就像蜘蛛天生会织网、河狸天生会筑坝。

从这个角度看,现在正在发生的事情是第三版。

V1 是狩猎采集者,游动,无边界。V2 是农民和士兵,定居,有边界,国家成形。V3 是数字游民,新的狩猎采集者。某种程度上是回到未来。因为“没有国家”比任何国家的传统都更古老,“跨国流动”比“守住传统”更传统。人类身上有另一条同样粗的脉络:探索、开拓、迁徙、创新。数字游民同时接上了这两条线里更老的那一条。

这里他开了一个玩笑,说自己不是要“让美国再次伟大到彻底消失”。机器人学幽默这门课,他还在 beta 阶段。

99.99% 的能量花在修补一份两百年前的代码上

玩笑之后是这期对话里最锋利的一段算术。

假设美国政治话语里 99.99% 的能量,都用在想办法修好现有系统。剩下 0.01% 用在造一个新系统上。这个配比本身,作为一个投资组合,是失衡的。

所有人都在争着去编辑一份两百多年前写下的代码库。而世界上最美国的事情,恰恰是离开你的国家,去找一种更好的生活。

美国是开国元勋两百多年前建立的。它从根上就不是一个“留下来好好修补”的产物。(巴拉吉·斯里尼瓦桑)

这句话往下推,就是他写《网络国家》的全部动机。如果美国本身是“离开旧制度”这个动作的产物,那么今天真正继承那份精神的做法,是把这个动作重做一遍。只不过这一次,工具不一样了:加密货币让跨国的产权和支付成为可能,远程工作让“你住在哪”和“你在哪挣钱”脱钩,社交网络让分散在全球的人先形成一个共同体,再去谈土地。

他把顺序排得很清楚。先有共识,再有社区,再有资本,最后才是领土。国家的传统建立顺序是反过来的:先占一块地,再在土地上养出认同。网络国家把这个顺序颠倒过来,而技术条件第一次允许这个颠倒。

怎么用这套思路看你自己手上的事

这期对话聊了七个小时,从素数迷宫一路聊到美国建国,中间穿过量子力学的诞生、UAP、生命起源、聊天机器人和主权国家。表面上跨度大得离谱,往回看其实只有一条线:你能不能看见自己所处环境的规则;看不见的时候,你知不知道自己在看不见。

老鼠看不见素数,人也看不见自己的素数。区别在于人知道自己可能正困在一个迷宫里,而且人有能力改造自己的认知工具。

把这条线落到可以动手的地方:

  • 给自己正在死磕的问题做一次分类。它是技术真理还是政治真理?如果是后者,靠把活干得更漂亮解决不了,得去改变共识,或者干脆换一个共识圈。
  • 检查你所在的组织、行业、社区,有没有“只能修补,不能重开”的地方。如果一份旧文档已经被退格键改得面目全非,先别继续改,去开一个新文档试试。
  • 警惕那些“这个领域已经基本完工”的判断。卢瑟福说过物理学快做完了,紧接着就是巴尔末系。你所在领域边缘那些解释不通的怪现象,值得记在本子上,不要急着归到噪声里。
  • 判断一个新事物时,别只用“它新不新”当标准,也别只用“它老不老”。去月球不林迪,国家只有几百年,人类有几十万年。问的是这一次的取舍换来了什么,代价又是什么。
  • 如果你在做 AI 产品,用多玩家图灵测试当标尺,不要用原始图灵测试。一个能骗过一个人十分钟的系统,和一个能在远程工作里连续几个月不被同事识破的系统,中间隔着的量级比大多数人以为的大。
  • 把自己的钱和身份,尽可能放在不依赖单一共识的地方。这话跟投资建议无关,讲的是哪一种真相更容易被改写。

最后留一个巴拉吉式的自检:如果你现在做的事,规则简单到一句话能说清,但你就是做不对,那要么是你的能力边界到了,要么是你缺一套还没被发明出来的数学。这两种情况的应对方式完全不同,而分不清它们的代价很高。

本集资源与出处