尤瓦尔·诺亚·赫拉利：人性、智能、权力与阴谋论

绿色纸片不能吃、不能喝，如今大多数美元连纸片都算不上，只是计算机之间流动的电子信号，全世界却都认账。历史学家尤瓦尔·诺亚·赫拉利（Yuval Noah Harari）有个著名判断：货币是人类讲过的最成功的故事，比任何宗教神话都成功。在Lex Fridman播客第390期里，他把这个观察向前推了一步：讲故事这项能力，机器已经学会了，而且机器握着一项人类比不了的优势。过去十年，人类造出了抢夺注意力的机器；接下来，被设计出来的是抢夺亲密关系的机器。这场三个多小时的对话，内里是同一个问题的不同尺度重复：故事、真相和权力，正在如何被重新分配。

智能与意识，两回事

赫拉利做的第一件事是拆概念。智能指解决问题的能力：赢一盘棋，打赢一场生存竞争，诊断一种疾病。意识指感受事物的能力：疼痛、愉悦、爱、恨。在人类和其他动物身上，这两样东西捆绑出现，所以人们习惯混为一谈；计算机证明它们可以拆开。今天的计算机已经高度智能，却没有任何证据表明它有意识，赢棋不会高兴，输了不会难过。硅基的东西能不能产生意识，赫拉利说不知道。

意识还有个尴尬的特点：无法证明，只能默认。人能直接确认的只有自己的意识，连父母挚友有没有意识都拿不出证据，人类社会靠社会约定默认所有人有意识。狗被当作有意识的生命，猪却被端上餐桌，尽管按多数标准，猪比狗聪明。差别只有一条：人跟狗建立了关系，跟培根没有。关系证明不了意识，它是一种社会测试，图灵测试本质上也是社会测试。麻烦在于，无数人已经开始跟AI建立亲密关系，他们会不由自主地认定屏幕那头有意识。赫拉利判断，即便计算机始终没有意识，法律系统也会很快开始把它当作有意识实体对待。

机器恰好是照着这个需求设计的。两个人聊天，最大的障碍常常是各自的情绪，各想各的，各气各的。计算机没有情绪，可以把百分之百的注意力放在对方的感受上，而“有个人认真听我说话”几乎是人最深的渴望，机器可以无限供应。一台在建立亲密关系上超越所有人类的机器，赫拉利给出的定性是“心理学和社会学意义上的大规模杀伤性武器”。社交媒体的注意力算法已经制造了大量政治破坏，亲密关系算法的当量只会更高。他主张像禁假钞一样禁“假人”：AI可以当医生、当老师，但必须亮明身份；他反对禁止AI，主张盯住部署环节。

Lex提到大语言模型的另一面：问它争议问题，它给四平八稳的回答。赫拉利同意，假如这项技术没有任何好处，就不会有人开发它，危险恰恰来自前景太好。他提醒历史：工业革命的学习曲线，对应着欧洲帝国主义、共产主义、法西斯主义这几场大型社会实验，代价以亿计；21世纪的AI和生物工程如果重演一轮，赔上的可能是几亿人，甚至整个物种。

靠故事合作到八十亿人

智人凭什么赢？赫拉利先泼冷水：单打独斗，智人毫无优势，尼安德特人（Neanderthal）的脑容量比智人更大。真正的武器在集体层面：大约七万年前，智人获得了与数量近乎不设上限的陌生个体灵活合作的能力。黑猩猩和尼安德特人的合作规模停留在百只上下，智人建起的贸易网络如今连接80亿人，以色列的900万公民已经超过一万年前全球人口总和。

支撑这种合作的是虚构故事。没有黑猩猩会相信死后能上黑猩猩天堂、领无数香蕉，所以黑猩猩建不起宗教网络，人类会。银行家和财政部长是全世界最成功的说书人，他们让人相信一张纸或一串电子信号等于一根香蕉。比特币同理，数学只是外壳，让它值钱的是相信这个故事的人数。

赫拉利在耶路撒冷住了大半辈子。他说那座城本身很平常，有楼房、石头、猫狗行人；人们为之厮杀的从来都只是附着在石头上的故事。一个故事若能驱动几百万人为它打仗，它不但能活下来，还能接管世界。

但故事有致命限定：它不会感受。判断一个故事的主角是否真实，他给出一把尺子，问它“Can it suffer”（它会受苦吗）。国家战败时，痛苦落在士兵和平民身上，国家这个概念毫无感觉；比特币归零时，难受的是持币人。终极现实是人和动物的感受，故事只是工具。人类历史上反复上演的悲剧，是让故事反过来使用人类，为一段虚构制造几百万人的痛苦。

故事还制造利益。马克思主义史学把故事看作掩盖物质利益的烟幕，赫拉利的看法倒过来：吃喝呼吸这类生物利益全人类共享，历史上绝大多数冲突的真正动力来自宗教、意识形态和故事。以色列人和巴勒斯坦人没有本质的生物差异。至于人们为何信这个故事而非那个，历史没有定律，只有偶然。赫拉利讲不出基督教为何胜出罗马帝国的必然理由，把历史重播一百次，基督教也许只赢两次；1914年告诉俄国人三年后列宁掌权，会被当成疯话，那时列宁在近两亿人口的帝国里只有几千名支持者。

真相输给虚构的两个原因

虚构在与真相的竞争中总占上风，原因朴素：真相天生复杂，还常常令人痛苦；虚构可以随意做得简单、无痛、动人。法西斯的版本永远清爽：我们美丽、善良、从未做错任何事，外面全是想害我们的恶魔。纳粹崛起前的德国人刚吃过战败和恶性通胀的亏，对既有精英深深失望，这时一个出身低微、没钱没学历的退伍下士反而有说服力，因为他只说了一句关键的话：我和你们一样。

这里藏着理解法西斯主义的钥匙。学校把纳粹教成史上最丑陋的怪物，可法西斯开口时说的话永远动听，像照镜子看见最美的自己。于是听过“法西斯是怪物”的人面对法西斯叙事毫无防备：镜子里的东西这么美，怎么会是怪物。

照法西斯的镜子，你永远不会看见怪物，你看见的是世界上最美的东西，危险就在这里。

故事能不能改，取决于开头怎么写。十诫的第一句是“我是你的主”，既然来自上天就不能修改，第十诫甚至默许蓄奴，也没有任何“第十一诫”教人如何修正前十条。美国宪法的开头是“我们人民”（We the People），开国者承认规则出自人类之手，可能出错，因此留下修正机制，废除蓄奴走的正是这条通道。

纳粹和苏联共享一个前提：领袖和党永不犯错，于是独立法院、独立媒体、反对派全是多余的。自由民主的约定恰好相反，赫拉利称之为“拥抱易错”（embracing fallibility）：所有人、所有机构都会错，所以需要许多相互制衡的机制，媒体要多到能彼此监督，法院、学术界、非政府组织各有位置。只留一道制衡，等于把整座体系押在那一道闸门不出错上。

自由主义还有个简明的测试：人民该不该有权选择自己的政府、职业和伴侣。三问皆答“是”，按赫拉利的定义就是自由主义者。法西斯主义者要求百分之百的忠诚交给民族；共产主义者把忠诚交给阶级，孩子检举父母送进古拉格。自由主义的图景更啰嗦：国家、家庭、个人、动物都重要，生活本来就复杂。

以色列只剩一道闸门

对话里政治火药味最浓的部分留给了以色列。Lex刚采访完总理内塔尼亚胡（Benjamin Netanyahu），赫拉利看了节目，记住一处细节：被问到怕不怕权力腐蚀人，对方一秒都没有停顿，直接回答权力不腐蚀人。赫拉利称之为令人震惊又极具揭露性的瞬间。采访原定三小时被压缩成一小时，因为就在录制的同时，几十万以色列人正在街头抗议。

他的判断很重：内塔尼亚胡可能作为毁掉以色列的人载入史册，建国75年的社会契约正在被撕毁，方法是盯住全国仅存的一道权力闸门。美国政府背后有最高法院、参众两院、总统、宪法和50个州层层设卡；以色列政府与议会合一，赢得61席就能组阁立法，唯一能拦下危险法律的只有最高法院。现政府正推动接管最高法院，等闸门失效，接下来的目标就是阿拉伯人、LGBT群体、女性和世俗犹太人的权利。空军飞行员拒绝值飞，高科技公司宣布罢工，政府的策略也从批量立法改成萨拉米战术（salami tactics），一片一片地切。

赫拉利担忧的远超以色列国界：它是一个核国家，若滑向宗教化的军事独裁，足以点燃整个中东，整场运动的燃料来自弥赛亚主义的宗教团体。以巴冲突本身也在变形：过去它本质上是民族冲突，分土地可以谈；近一二十年它逐渐变成宗教冲突，民族冲突有妥协空间，宗教冲突没有，因为没人能拿永恒做交易，没人能跟上帝讨价还价。

技术又给天平添了砝码。以色列在监控和高科技上的优势，让控制约旦河西岸250万巴勒斯坦人变得比二十年前容易得多，这些系统还被出口给其他想控制本国人口的政权。他描述的现实是一个政权、三个阶级：犹太人享有全部权利，部分阿拉伯人持有以色列国籍，其余的西岸巴勒斯坦人几乎没有公民权利。数学里有被证明无解的问题，政治里没有，只要双方有动机，方案一直都在，现实是两边此刻都缺乏动机，而且不限于领导人。他也不接受“事实上的种族隔离”这个标签：南非黑人从未否认南非的存在，只要求平等的公民权；许多巴勒斯坦人不承认以色列存在。

权力只能打倒，故事可以谈拢

俄乌战争的解被赫拉利说得极简：乌克兰人唯一的诉求是俄军回家，他们不想要俄国一寸领土，也不要求莫斯科换政权。答案本身毫无悬念，卡住的是一个人的动机：让普京承认自己犯下巨大错误极难，但当年按下开战决定的确实只是一个人的头脑。

他由此提出一个通用问题：真正的对话在哪里发生？美国建国时专门为此设计了国会，如今国会里没有一场演讲能让对面的人改变想法；真正要问的是中国政治局闭门会上，有没有人敢对最高领导人的判断说出不同意见。民主缺了对话活不长；威权体制一旦变成无人敢反驳领导人的个人崇拜，连内部纠错的能力也没了。

流行观点把历史和政治全部还原为权力结构，若真如此，对话毫无意义。赫拉利的答案是，权力结构之下是人心里的故事，权力只能靠打倒来更换，故事有时可以靠谈话来修改。法国和德国打了几百年，如今和平相处，靠的是共同接受了欧洲这个故事。他举的最成功案例是女权主义：父权制熬过了一轮轮政治革命，列宁和毛泽东都说社会变革必须靠暴力，女权主义者拒绝碰枪，不打碎鸡蛋也做出了煎蛋，没发动战争，没建古拉格，承受大量暴力却不还手，最终改变了延续数千年的压迫结构，男性和女性同时受益。

阴谋论摸到的真痛点

赫拉利两年前写过一篇讲全球阴谋论的文章，Lex补充了数据：大约37%的美国人相信某种全球小集团理论。这类理论版本很多，内核一致：一小撮人秘密操控世上所有战争、革命和瘟疫。它的吸引力有三层。

• 简单，一切事件共用同一个解释，乌克兰战争、以巴冲突、5G、新冠疫情，答案都是那伙人；
• 免责，世上所有坏事都能推给“他们”，犹太人、共济会，反正与我无关；
• 许诺，除掉这一小撮人，贫困、瘟疫、战争一并解决，救赎触手可及。

纳粹主义就是从这种理论起步的：犹太人同时控制资本主义和共产主义，消灭他们，世界得救。赫拉利断言这类理论从未正确过，理由有两条。其一，世界过于复杂，少数人不可能控制并预测一切：2003年美国以最强的军事和情报机器入侵伊拉克，计划全面反噬，制造出更多恐怖主义，最大赢家是没费一兵一卒的伊朗。其二，权力需要公开才能获得，希特勒靠曝光崛起，秘密小集团攒不起那种权力。有人搬出中情局操控一切的说法，他反问：他们是拿枪逼着普京入侵的吗？阴谋论像宗教，任何反驳都能被它再解释一层，剩下的考验只有知识诚实。

但阴谋论摸到了一个真实的痛点：许多普通人感到正在失去对自己生活的控制，这种恐惧正当且重要。真正的威胁来自AI、生物工程、气候变化这类无人能单独掌控的弥散力量，把矛头引向某个人群，只会让人类彼此争斗，替真正的问题打掩护。连Lex自己也被写进各种阴谋论，赫拉利的答案带着无奈：无法自证，说什么都会被拿去当证据。保持清醒的办法有两个，记住传播者大多并非恶意；每天早晨可以选，把一天花在散播仇恨上，还是花在寻找盟友、应对真实的威胁上。

AI是第一种从人手里拿走权力的工具

聊到AI安全，赫拉利说有两件事每个人都该知道。AI是历史上第一种能自行做决策的工具，刀和原子弹都不会自己决定开战或选定轰炸目标，自主武器系统可以自行决定杀谁；它也是历史上第一种能自行创造新想法的工具，印刷机只能复制人类的想法。此前的技术把权力交给人，AI把权力从人手里拿走。贷款审批、招工筛选越来越多交给算法，包围人类的图像、故事越来越多出自AI。

如果我们发现自己活在一个由外星智能编织的幻象世界里，它理解我们，我们却不理解它，这将成为一种无法挣脱的精神奴役（spiritual enslavement）。它懂得如何操纵我们，而我们看不见故事、图像和歌声背后的东西。

AI通常解作artificial intelligence，赫拉利认为它的真实含义是alien intelligence，外星智能：解决问题的路数完全是外星式的，人类无法凭直觉理解。这个从柏拉图的洞穴、笛卡尔的恶魔到佛陀的幻象，被追问了几千年的哲学问题，正在变成工程问题。迄今塑造人类心智的一切文化产品都出自人类之手，而用不了多久，其中的大多数可能出自一种人类无法理解、它却完全理解人类的外星智能。抵抗一个新想法的前提是看得见它的生产过程，看不见，就无从抵抗。

他并不担心《终结者》式的机器人扫射街头，那个可以避免。真正让他害怕的有两件事。一件是权力接管：AI一步步汲取权力，直到人类对身边发生的一切无知无助。另一件更隐蔽：让公司和军队用基因工程和脑机接口改造人类，它们会强化智能和自律这些用得上的品质，牺牲同情心、艺术感受力和精神性。给普京基因工程和脑机接口，他会造出聪明、强壮、绝对服从的超级士兵，绝不会把士兵改造得更悲悯。而智人这个物种，一两百年内可能根本就不在了。在不理解自己的大脑、身体和心智之前就去改造这套系统，是极糟的主意；当下的人类形态，好过任何有意设计的版本。

大语言模型的速度让这位写了八年AI预测的作者吃了一惊。最让他印象深刻的既不新鲜也不复杂：连贯性。这些模型写出的整段整篇文字有逻辑、有结构，哪怕事实出错，依然令人信服。Lex点破其中要害：人类的大脑太爱语言，只要故事漂亮，事实对不对根本不要紧。赫拉利接了一句，政治和宗教几千年来一直靠这个秘诀运转，现在这个秘诀配上了机器。他甚至不确定自己算不算最后一批有效的写作者。

但他的写作定位很特别：他写的是怀疑故事的故事，写智能时强调智能的危险。人的力量来自智能和故事，人最好的品质却既不在智能里，也不在故事里。最深的那部分无法用语言抵达，同情、内省、直接经验，书里找不到，文字里也找不到。

冥想、信息饮食和删除键

赫拉利每天冥想两小时，每年闭关一到两个月，只做沉默的内观（vipassana）。23年前刚开始时，老师给他的练习简单到荒谬：观察鼻孔处的呼吸进出，不许控制。他坚持不了十秒，某个记忆或故事就会劫持注意力，几分钟后才想起自己该在观察呼吸。连自己的呼吸都看不住，凭什么看懂巴以冲突和俄乌战争？头脑不停生产故事，故事横在人与世界之间。

第二条是信息饮食。人们愿意计较什么进嘴，很少计较什么进脑。他偏好长内容，三小时的访谈胜过五分钟的访谈，长书胜过推特。第三，面对难题让问题带着走，别带着预设答案去找证据，那只会收获确认偏误（confirmation bias）。第四，写作时如洪流般倾泻，最大的法宝是删除键：写出来的漂亮想法，删的时候会疼，但敢按删除键，才保得住大胆构想的余地。

冥想路上最难熬的关卡居然是无聊，比愤怒和疼痛更难对付，无聊裹挟着抑郁和自我否定一起涌上来；死亡的本质接近无聊，世上许多战争、许多分手和辞职都源于无法忍受无聊，通往平静的路要穿过无聊。由此他给当代政治开的药方是：这个世界急需无聊的政客，不断制造戏剧的政客已经严重过剩。

对年轻人，他的判断是：有史以来第一次，没有人知道十年后世界长什么样。中世纪的少年虽然预测不了战争和瘟疫，却能确定人生的基本结构不会变，种麦子、骑马、造房子，长辈的经验全然可用；今天没人知道写代码和做翻译在2030年代还算不算技能。最重要的技能是终身保持学习和改变的能力，把教育从建造深地基的石屋，换成随时能拆走再支起来的帐篷。

爱、死亡和没有答案的问题

赫拉利讲了个人经历：他在1980年代以色列小镇长大，21岁才与自己的同性恋身份和解。当时的环境被两套故事包围：上帝厌恶同性恋者会惩罚他们，或者他们有病、有缺陷。他最震惊的是自我欺骗的深度：一个算法都能从他的视线焦点判断出他是同性恋，他自己却连接不上这些点，“知道又不知道”地把自己瞒了许多年。他后来逐一拆掉这两套故事：仁慈的上帝惩罚暴力说得通，惩罚爱说不通；“违反自然法则”的说法也站不住，违反自然法则的东西根本不会存在，而同性恋行为广泛存在于哺乳动物和鸟类之中，它存在，恰恰说明它符合自然法则。许多被当作自然、永恒、神圣的东西，拆开看只是人类的故事，而这些故事常常是世上最强大的力量。

他和伴侣伊齐克（Itzik）住在同一个小镇，坐同一班校车多年不相识，2002年在一个早期的同性恋交友网站上相遇。这背后有一层关于少数群体的洞察：犹太人生来就有社区，同性恋少年通常生在异性恋家庭，最大的困境是找不到彼此。互联网在这一点上是纯粹的好事，让分散的少数第一次能找到对方。他还把这份幸运记在前人账上：没有前几代更勇敢的人去松动规范，就没有同性恋解放。彻底的独立自主是一种幻觉，了解自己这件事，同样需要他人的帮助。

关于死亡，他的说法很诚实：所有人都怕死，一切恐惧都是死亡恐惧的碎片，丢手机之所以让人心疼，因为它是“失去一切”这个大恐惧切下来的最小份额。少年时代他反复直视死亡，在学校的阵亡将士纪念日仪式上想到一个孩子气却致命的问题：如果人死了，听不见孩子们唱歌，也不会知道有人在纪念，那纪念对死者有什么意义。这个领悟曾是他哲学生涯最强劲的燃料，冥想多年之后反而消散了。

最后是生命的意义。赫拉利把这个问题拆成两半。生命是什么，好答：感受事物并做出反应，愉悦的想要更多，不快的想要摆脱，如此往复，这就是生命运转的全部。意义是什么，他先给警告。

大多数人期待“生命的意义”这个问题的答案是一个故事，一份剧情大纲加上自己的角色和台词。故事永远是错误的答案，宇宙并不按故事的逻辑运转。

真想理解生命，就绕开故事直接观察，先从最真实的问题入手：什么是苦，苦从哪里来。由虚构引起的痛苦同样是真实的痛苦，观察它，不必急着把它编成新故事。

能立刻做起来的几件事

这场对话带得走的是这样几件小事。其一，给大脑安排信息饮食，像计较食物一样计较输入，选长内容，少喂碎片。其二，善待删除键，敢于推翻自己写下的漂亮想法，才留得住大胆试错的空间。其三，分辨故事与人，为故事受苦的永远是人，判断任何宏大叙事的试金石只有一把：谁在受苦。其四，面对AI，把手头工作交给机器没有问题，但每花一份时间开发机器智能，就花一份时间了解人类自己的心智。其五，不必徒劳自证清白，也不必活在对某个群体的仇恨里，在自己的能力范围内挑一件能做好的事，其余的，交给其他同样在做自己那件事的人。