丹尼尔·施马赫滕贝格:引导文明远离自我毁灭
Daniel Schmachtenberger: Steering Civilization Away from Self-Destruction
探讨技术加速与全球性风险如何交织,以及文明需要怎样的协调机制才能避免崩溃。
Lex Fridman 在节目开头抛出了一个思想实验:如果外星人从文明诞生之初就在观察地球,它们会如何总结人类这几千年?
Daniel Schmachtenberger 没有赞美,也没有批判。他给出的推演非常冷静。那些外星观察者会看到亚历山大的图书馆被焚毁,会看到两千年前希腊人已经造出了安提基特拉机械这种精密齿轮装置,然后又把它弄丢了。它们会得出结论:这个物种的技术一直在进步,底层的行为逻辑却没什么变化。从石器时代到今天,人类处理竞争和冲突的方式,和几万年前几乎没有本质区别。
所以那些外星人大概会给出一个中性偏悲观的判断:这颗行星上的物种,很可能在技术青春期就把自己炸没了。
机器跑得太快,驾驭机器的社会技术还在原地
整场对话的核心线索就在这里。Schmachtenberger 反复使用一个框架:物理技术和社会技术。
物理技术能改变物质世界,蒸汽机、核弹、CRISPR、大语言模型都属于这一类。社会技术是人类用来协调彼此、做出集体决策的机制,部落议事、宗教、市场、民族国家、民主制度,都属于这一类。
他的核心判断是:物理技术每出现一次跃迁,都会让上一代社会技术失效。犁打破了部落结构,工业革命打碎了封建制度,核武器让民族国家之间的战争变得不可持续,于是才有了布雷顿森林体系那一整套国际治理架构。
麻烦在于,这一次技术跃迁的速度远远快于社会技术的迭代速度。核弹出现到布雷顿森林体系成型,中间隔了几年。而 AI、合成生物学、纳米技术、无人机武器化同时涌入,人类还没来得及发明能驾驭它们的新社会技术。
我们过去做出决策的方式,和石器时代相比没有本质变化,仍然是竞争博弈那一套。我们大概率会在技术青春期把自己炸掉。(Daniel Schmachtenberger)
什么是自我终结系统
Schmachtenberger 给了一个很朴素的定义。如果一个系统依赖某个基础系统,却在持续消耗这个基础系统本身,那它就是自我终结系统。
复活节岛是最经典的案例。岛上的居民消耗资源的速度超过了资源再生的速度,同时人口还在增长,于是消耗速度本身也在加速。最后不会平滑地抵达稳态,它会先冲上指数曲线顶端,然后一头撞墙,急剧崩塌。
把这个模型放大到全球,会发现两种情况在同时发生。
一种是慢性的:过度捕捞、森林砍伐、化石燃料开采、污染排放。线性物质经济建立在有限行星上,还要保持指数增长,这在数学上根本不可能持续。Schmachtenberger 指出,货币供应因为利息和部分准备金制度而指数增长,为了匹配货币增长,就必须有商品和服务的增长,这套机制本身就内嵌了一个加速器。
另一种是急性的:核战争、生物武器、失控的 AI、纳米武器。这些是快死法。两种死法相互叠加,一种并不替代另一种。
布雷顿森林体系解决了什么,又打开了什么
二战是人类历史上第一次可以打一场谁都无法获胜的战争。核武器让超级大国之间再也不能进行真正的动能战争,只能搞外交战、冷战和代理人战争。
布雷顿森林体系就是为了应对这个新局面而生的。它的逻辑很清晰:既然战争谁都赢不了,那就让经济深度相互依存,让打仗变成不划算的事。联合国、世界银行、国际货币基金组织、全球化贸易协定,都是这套逻辑的产物。
这套体系运行了 75 年,超级大国之间没有直接开战,确实有效。
Schmachtenberger 认为,这套体系同时打开了两个新的风险敞口。
第一,它加速了全球供应链的形成,而高度互联的供应链同时也意味着高度脆弱。一个地方出问题,会通过链式反应迅速传导到全球。新冠疫情已经演示过一次:一个中国城市的病毒,能迅速瘫痪全球的供应链,导致北非和中东的农业因买不到化肥和农药而歉收,进而引发粮食危机。
第二,它把所有国家的经济利益绑在一起的同时,也把所有国家推向了行星边界的加速度。GDP 增长带来的渔业枯竭、森林消失、气候变化、采矿毒尾矿,恰恰是这套体系的副产品。
更要命的是,核威慑这个机制本身在失效。两个超级大国之间的相互确保摧毁可以形成稳定的纳什均衡,八个或九个拥核国家之间做不到。你无法回答“如果 A 向 B 发射,我该向谁发射”这个问题。三体问题远比双体问题复杂。而且,新一代灾难性武器的制造门槛在急剧下降,武器化无人机可以精确打击基础设施,非国家行为体也能搞到。灾难性武器能力正在分散化。
布雷顿森林体系所依赖的那套逻辑,在面对多重行为体、多种灾难性武器、行星边界约束和脆弱性级联时,已经不再够用。
毁灭的推手常常是善意的行动
谈到人类为什么倾向于毁灭,Schmachtenberger 给出了一个概率空间的论证。
把一个成年人的 70 万亿个细胞重新组合,有无数种方式让他不再是“他”,只有极少数方式能让他仍然是他。拆掉一栋楼只需要几分钟,建起来要一两年。熵增容易,局部减熵很难。所以在概率上,文明的路径“走偏”的方向远多于“走正”的方向。
要让文明走向繁荣,所有灾难性风险都必须同时不发生。只要其中一个发生,正面结果就自动归零。这是概率结构本身,谈不上悲观还是乐观。
他指出了一个常被忽略的问题:很多灾难并不源于恶意的伤害意图,它来自善意的行动所产生的二阶、三阶效应。
Facebook 当初做的是社交工具,本意是让人连接。但它的商业模式需要最大化用户停留时长,算法就会被优化到最能抓住注意力的内容上,而最能抓住注意力的往往是那些激活边缘系统、强化认知偏差、煽动群体身份对立的内容。没人想做一个破坏民主的应用,可它就是发生了,而且速度极快。
标准石油当年想的是把便宜的能源带给世界,它做到了,同时也带来了气候变化、中东战争和地缘政治的长期动荡。
战争是有意为之的伤害,外部性则是至少声称无意造成的伤害。前者来自军备竞赛,后者来自善意行动的二阶效应,两者都是灾难性风险的主要来源。
外部性的作用尺度往往远大于原始问题本身。一个技术被造出来是为了解决一个小问题,但它的作用范围、速度、幅度都可能比原问题大几个数量级,这意味着它造成的外部性问题也可能比原问题更严重。
用成瘾率和共情耦合来度量文明健康
Schmachtenberger 提出了几个他真正感兴趣的文明度量指标。
第一个指标是成瘾率的倒数。他给成瘾下了一个非常具体的定义:对自身价值观具有破坏性的强迫性行为。一个社会内部产生的成瘾越多,这个社会就越不健康。原因很直接:成瘾意味着个体被某些东西裹挟着违背自己的价值判断行事,这本身就构成了社会对个体施加负面塑造的证据。
与之配套的是“习惯化不适”的必要性。Schmachtenberger 认为未来的文明必须刻意制造仪式化的不适。汗屋、幻象追寻、独行荒野、死藤水仪式、太阳舞,这些原住民传统都是“习惯化不适”的载体。瑜伽体式也有类似的成分。
原因是:让人变得坚韧、有能力控制自己的心智和恐惧、对他人可信赖,这些品质都需要人克服某些东西才能形成。我们又不希望把所有人扔进战争或创伤里。所以需要一种受控的、有仪式感的、自愿的、需要与他人共同克服的困难。
强制推行不会奏效,真正起作用的是文化自身的演化。当人们理解并看重这种塑造的价值时,它会作为文化的一部分自然出现。
第二个指标,Schmachtenberger 说他最喜欢的,是compersion(共情喜悦)与 compassion(共情痛苦)这条轴的耦合度。compersion 这个词在英语里都很少见,意思是“因他人的幸福而感到快乐”。
他把这条轴分成三段。
健康状态是耦合:你开心我也开心,你难过我也难过,叫做 compassion-compersion 轴。
中间状态是解耦:你怎么样都和我无关,接近社会病态。
最危险的状态是逆向耦合:你失败我开心,你成功我难受。他把它叫做 jealousy-sadism 轴。嫉妒是“你过得好让我难受”,施虐是“你痛苦让我开心”,两者其实是同一条轴上的相邻位置。
Schmachtenberger 认为,逆向耦合是一种被高度正常化的低度精神病理。嫉妒和施虐在社会中的普遍程度,远超人们愿意承认的程度。
如果让我把这件事总结成一句话,我会说文明应该优化 compersion。它排除了两种东西:我牺牲自己到抑郁的那种爱,以及我用社会病态的方式快乐、到处制造麻烦。它要求的是一种耦合:我因为你的幸福而感到幸福,我追求自身幸福的那股劲儿也会顺带支持你。(Daniel Schmachtenberger)
意义与目的:存在、行动、成为的循环
当 Lex 请 Schmachtenberger 谈谈生命的意义时,他先做了一个语义区分。
他认为“意义”和“目的”是两回事。目的是一个工具性、关系性的概念,一件事物的目的,需要相对另一件已经假定具有价值的事物来定义。问“整个宇宙的目的是什么”这个问题本身是错位的,因为没有什么东西在宇宙之外可供参照。宇宙并非无目的,“目的”这个词太小,装不下这个问题。
他提出对有意义人生的三层理解:
存在(being):在当下,接纳并欣赏生命此刻的美。看日落、听音乐、感受微风,这是一种沉浸式的、无需向任何地方前进的状态。它本身就有价值,不需要理由。
行动(doing):为生命的美做出贡献。创作艺术、发明技术、从事科学、保护他人。这一层是把内在的丰盈向外投射。
成为(becoming):让自己在存在和行动上都变得更有能力。能更深地感受到美,能更有力地为美做贡献。
Schmachtenberger 的洞察是:这三者必须形成一个良性循环,任何一个单独存在都会出问题。
只存在而不行动,就成了纯粹的享乐主义。只行动而不存在,就是那种停不下来的工作狂,最终会烧毁自己。只成为而不存在,就会陷入“我永远不够好”的无底洞。
他对欲望的重新理解很关键。佛陀说欲望是苦的根源,Schmachtenberger 认为欲望有两种。一种来自内在的匮乏感,试图从世界中获取什么来填补自己,这种欲望会导致痛苦和对外部性的忽视。另一种来自内在的丰盈感,因为感受到生命的美而想要为这份美添砖加瓦,这种欲望更接近菩萨的愿力,并不导致苦。
行动从哪里来,比行动本身做什么更重要。从丰盈出发的行动,会自然地顾虑外部性;从匮乏出发的行动,会倾向于牺牲他处以填补自我,注意力始终有一块向内锁死。
死亡给意义垫底
谈到死亡,Schmachtenberger 先讲了一个个人观察。
他说自己既体验过对死亡的恐惧,也体验过以为自己要死时极度平静美好的时刻。他还注意到,每次熬夜到极度疲惫时,人会渴望深度睡眠、渴望体验停止。这并不病态,也并不压抑。
由此他提出:对“非体验”本身的恐惧,比对死的恐惧要小得多。人们真正害怕的往往是死后的想象,地狱、轮回、中阴,而非体验的中止。
死亡带来的第二个作用,是强制性。Schmachtenberger 说,在他观察中,大多数人是在临死前不久才开始情感成熟的。如果人可以长生不死,就可以永远只关注“对我有什么好处”。死亡迫使人们考虑超出自身的东西。
他引用了哈菲兹的诗。这位 14 世纪的苏菲诗人写过,如果你感到孤独,就想想他,他的灵魂会跨越千年的距离靠在你的灵魂上,用诗句安慰你。Schmachtenberger 说,人类最美的部分,恰恰是那些超越了“对我有什么好处”的部分。死亡迫使人走向这个方向。
他还提到,在爱因斯坦看来,意识认为自己独立存在,纯属光学错觉。Schmachtenberger 补充说,当他思考自己死后,想到年轻人第一次坠入爱河,想到人们被日落震撼,他无法不感到自己与这些都相连。
那些让我的生命得以存在、让我的生命得以更丰富的人,他们的名字我永远不会知道。我对他们怀有感激,感到亲近,被触动。如果未来的人足够有意识,会存在一种“我们是否是好祖先”的追问,以及对无名祖先的敬意。(Daniel Schmachtenberger)
技术从不中立,犁就已经改变了一切
Schmachtenberger 对“技术是中性的,看人怎么用”这个流行观点有非常明确的否定。
他给出的最完整的案例是犁。
在犁出现之前,人类是狩猎采集者,也使用简单的掘根棒进行园艺种植。牛拉犁出现后,发生了一系列连锁反应。
首先,用犁才能有效种植谷物,谷物是可储存的热量盈余,能让人度过饥荒,人口增长,使用犁的文化迅速取得优势。不使用的群体要么被并入,要么被消灭,犁成为必需。
其次,万物有灵论在所有使用犁的地方都消失了。你不可能整天抽打一头牛让它拉犁,同时又谈论水牛的灵性。你必须把牛定义为“只不过是一头蠢牲口”,必须相信人类对地球有支配权。宗教和灵性观念随之改变。
第三,由于犁需要上半身力量,而怀孕女性使用犁会流产,农活从男女共同承担变成了男性主导。热量供给的主控权从双方转向男性。神话中男性神明的比例随之上升。
第四,Schmachtenberger 引用了“女权主义跟随拖拉机而来”这条线索。女性可以说“我能做男人能做的事情”,是因为内燃机远比人力强大,开车不需要上半身力量。
第五,犁是全新世的开端。为了耕作而大规模砍伐森林,改变了人类与生命之网的关系定位。
第六,剩余粮食带来了继承,继承带来了资本模式,资本模式又带来了阶级系统。
Schmachtenberger 承认这套说法带有还原论色彩,单一因果解释总是不足的。他的核心论点是:技术会引导特定的行为模式,行为模式的变化会改变社会价值观,进而反过来强化技术的使用。技术从来不是价值中立的。
这条原理在今天同样适用。社交媒体的广告模式编码了“用户注意力是可变现资源”这一假设,进而编码了“最大化停留时长是核心 KPI”,再进而编码了“算法优选能抓住注意力的内容”。Facebook 在做的其实并非工具,它更像一个有自身目标函数的能动者。用户的目标是短暂使用后离开,Facebook 的目标是让用户尽量停留。这里存在根本性的目标冲突。
Schmachtenberger 提出,掌握了如此大量用户行为数据、能够进行行为建模的科技公司,实际上获取了比心理医生、律师、神父更多的特权信息。在法律上,这种信息关系应该适用受托责任,而非博弈关系。但目前的监管框架还停留在前互联网时代,甚至前公司规模爆炸时代。
大公司与威权国家,两种不同的技术走向
Schmachtenberger 对当下的技术走向有一个冷静的判断。
威权国家正在主动地把指数技术应用于构建更有效的威权国家:物联网监控、机器学习、社会信用系统。它们在做长期规划,没有任期限制导致的短期主义,内部也没有制衡内耗,协调效率因此更高。
中国建成了横跨全国乃至延伸到海外的高铁网,让三亿人脱离了贫困,对稀土和芯片制造进行了战略布局。如果全球供应链断裂,中国是最有可能实现闭环的国家。
民主开放社会却几乎没有引导技术朝着建设更好的开放社会的方向发展。它们更多是让公司自行决定,然后沿用一套已经不合时宜的公司法。反垄断法诞生于工业时代,无法应对由于网络效应而产生的自然垄断:YouTube 的用户量超过所有其他视频平台之和,亚马逊的市场份额超过其他所有平台之和。
公司已经在很多地方比民族国家更强大。它们内部不是民主制,更像是一种新的封建结构。这些资本和技术权集中在少数行为体手中,和威权国家的技术导向一样,都不是好方向。
Schmachtenberger 提出的方向是:把指数技术用来构建更好的社会技术,让新兴秩序成为可能,从而让新兴秩序能够以一种健康的方式去约束和引导指数技术。在他看来,这是唯一可能破解僵局的路径。
城市才是真实的政治单元
谈到治理结构,Schmachtenberger 反对简单的“大政府 vs 小政府”二元框架。
他引用了 Jeffrey West 关于规模的研究:公司和民族国家这类基于协议结构的组织,随着人数增加,人均生产率会出现边际递减。城市是例外,城市规模越大,人均生产率反而越高。
原因是城市基于真实的物理相邻关系,而民族国家在很多情况下是基于战争和停战协议虚构出来的实体。“美利坚合众国”的边界是战争和条约的产物,城市的边界是聚集效应的产物。
他还引入“解体能量”和“结合能量”的概念。一个文明如果结合能量大于解体能量,就能维持;反之则分裂。部落时代,每个人都认识彼此,任何不良行为都会被看到,说谎和反社会行为无法带来优势,透明度自动存在。而当一个系统远超邓巴数,个体就可以对匿名大众隐去自己的行为,也可以对匿名大众缺乏情感联结。
所以他提出的未来治理图景是多层次的,类似于身体从细胞到组织到器官到器官系统到个体的嵌套结构。
个人层面有自我治理。家庭层面有家庭治理。社区、城市、地区、国家、全球,每一层都有治理。每一层既受下层支撑,也影响下层。关键是各层之间要有制衡,也要有双向的信息流。
他特别强调城市的重要性。因为城市化是真实存在的,人们可以在城市层面感受到能动性,城市层面的治理在可见的未来会变得比国家层面更重要。此外还会出现基于兴趣网络而非地理位置的治理单元。
民主最初的样子:提案共构
Schmachtenberger 回顾了民主的原始设想,指出它和今天的样子有多不同。
杰斐逊说过,如果让我在一份完美的报纸和一个不完美的政府之间选择,我毫不犹豫选报纸。因为如果民众理解正在发生什么,他们可以重建政府;如果他们不理解,就不可能做出好选择。
华盛顿说,联邦政府的头号目标,应该是全体公民的全面教育以及治国科学。Schmachtenberger 指出,这个表述极其深刻。华盛顿没有说头号目标是法治,也没有说是抵御外敌。因为如果是抵御外敌,军事独裁也可以做到;如果是法治,警察国家也可以做到。只有把全面教育和治国科学作为头号目标,民主才可能长期存续。
Schmachtenberger 认为民主的原始运作形态是镇民大会。在镇民大会上,人们共同讨论,提案可以在讨论过程中实时成形。投票放在最后一步,第一步是讨论。他引用开国元勋们的说法:投票是民主的死亡。因为投票本质上是把议题极化,把分歧当作战争来处理。
更健康的做法是在投票之前,先搞清楚你关心什么、你的价值被这个提案的哪些部分损害了、有没有可能把这些关注整合进一个更好的提案,让它既实现原本的目标,又照顾到你的关切。
这个环节被规模压垮了。代表需要骑马从一个镇民大会赶到另一个,一旦规模超过某个门槛,提案共构就变成了提案投票。互联网本应让它回归,但当前它没有做到。Schmachtenberger 对此的评价是:“介于疯狂和符合阶级利益之间”。
维基百科被低估的二阶效应
在技术批判的洪流中,Schmachtenberger 特意停下来,花了很长时间讲维基百科为什么是个奇迹。
它不追逐股东利益,不存在“两个主人”的冲突场景,其目标就是维护信息公地。这使得它的运作逻辑和 Facebook、YouTube 截然不同。
它让大量分散在全球的贡献者共同构建并互相审校内容,信息可以被实时更新,无需购买百科全书或去图书馆。
它的二阶效应被严重低估了。真正起作用的环节还有一层:大量内容创作者会认真读维基百科,然后把它转化成有吸引力的视频,这些视频再被数百万人看到。这意味着数百万人第一次直观地知道了二战是什么样子、知道了奴隶制的规模、知道了世界上各种不公正的存在。
Schmachtenberger 认为,这类知识会带来共情。“知道”本身有一种冲击力。“当你知道数以百万计的人曾经被折磨致死,你因为对象离开而痛苦这件事就会显得不一样。”
这种认知效应会渗透到每一个人与人之间的交流,无论你是警察、律师、法官、陪审员,还是普通公民,无论你所在的沟通系统本身有多么不完美。
我对维基百科有巨大的敬意。应该给维基百科捐款。有非常少的系统像它一样,这一点让我感到难过。(Daniel Schmachtenberger)
把乐观留给行动,把清醒留给判断
在节目尾声,Schmachtenberger 阐述了他对乐观和悲观的关系的理解,这一段几乎可以视为整场对话的方法论总结。
他不认为应该让乐观影响认知判断。他说,我希望我的评估尽可能地清晰,我希望我的乐观是用来驱动解决方案的求索过程,它不该污染事实判断。
反过来说,他也不认为应该让悲观影响行动。他会用悲观去攻击自己的乐观,看看这些解决方案会不会失败,会不会产生二阶效应,但不会因为攻击失败而沮丧,因为可以回到“怎么让它变得更好”的问题上。
他对“理解问题”的坚持也很少见。他说:如果有什么不同,我希望把挑战理解得更清楚。这本身就是在为一种乐观服务,即认为即使我还不知道好的结果是什么,也存在值得追求的好结果。
这种态度避开了两种常见的失败模式:一种是天真乐观,假装没有风险;另一种是彻底绝望,认为一切都没救了。前者会让人盲目地向前冲,后者会让人放弃努力。两种模式都导致灾难性的结果。
对话的收尾
这场对话最终落到了一棵树上。
Schmachtenberger 讲了他第一次做高剂量裸盖菇素的经历。他长时间凝视自家前院一棵树,哭得不能自已。那棵树并不是紫色的,它还是绿色的,有叶子,看起来和平时一样。他意识到:蘑菇做的事情也许只是关掉了那个会把他带离当下的叙事,让他真正看见这棵树。
然后他想:如果我下次不吃蘑菇,我也应该练习看见这棵树,因为它一直这么美,只是我错过了。
Lex 说自己也经历过几乎一模一样的体验,也曾经像个傻子一样盯着一棵树看了好几个小时,为活着感到高兴。
Schmachtenberger 最后说的话很朴素:有无数个这样的瞬间值得活下去,这是不合理的好运。他很感激自己接触过的那些哲学和实践,是它们让他能这样看东西。他说,我不能把这些归功于自己,但我会对它们负责。
节目最后,两人以姜汁姜黄辣椒汁代替伏特加干杯。Schmachtenberger 说:“我们为这个瞬间干杯,这个我们得以共享的独特瞬间。我们第一次见面,我再也不会和从前一样了。”
给读者的一些可操作提醒
这场四小时的对话信息密度极高,如果只能带走一些能落地的行动,可以从下面这些入手:
- 审视你每天泡在里面的环境。你是你经常相处的五个人的平均值,这个规律对信息环境同样适用。把你花时间最多的信息源列出来,逐一评估它们让你成为更好还是更坏的人。不适但真实的评估比舒适的自我安慰有用得多。
- 练习“辩证综合”,先别站队。遇到一个立场和你不同的观点,先尝试把它论证到连它的支持者都点头的程度,然后再问:有没有一个更高阶的方案,能同时容纳双方的价值?这属于一种可以训练的认知习惯,是所有公共议题讨论的基础。
- 把“习惯化不适”写进日程。冷水浴、长跑、独处、断食、短时高强度学习,任何一种你自愿选择并持续坚持的不适,都能在舒适越来越多的大环境里维持你的适应力。自愿和文化内嵌是关键,规模其次。
- 在个人生活中追踪 compersion。每天问自己:今天有多少次因为他人的幸福而感到幸福?有多少次因为别人的成功而感到不适?第一个数字应该上升,第二个数字应该下降。这接近心理健康指标,不用把它当道德要求。
- 今天就去给维基百科捐点钱。我没在开玩笑。这是目前世界上少数几个真正按“信息公地”逻辑运作的大型系统之一。维护它,就是在维护一个对所有人都重要的公共基础设施。
- 使用任何新技术时,主动追问二阶和三阶效应。先问它解决什么问题,再问它必然会造成什么附带影响,再问这些附带影响的作用范围、速度和规模同比原始问题大多少。说这话并不等于反对技术,只是更负责任的使用方式。
- 遇到分歧,先问“提案能不能一起改”。在家庭、团队、社区里练习提案共构。多数决把分歧变成战争,提案共构把分歧变成改进提案的燃料。
- 定期刻意感受一次生命的美。去看一次日落,认真看一棵树,听一首让人起鸡皮疙瘩的歌。不用药物,不用工具,就让自己安静下来,把叙事关掉。这是存在这一层的养分,也是行动和成为的根基。
本集资源与出处
- 视频在 YouTube 收看
- 音频官方 MP3 直链来自 lexfridman.com 官方播客 RSS
- 官网Lex Fridman 官网本集页面