纪尧姆·韦尔东:Beff Jezos、有效加速主义运动、物理、计算与 AGI
Guillaume Verdon: Beff Jezos, E/acc Movement, Physics, Computation & AGI
量子 AI 研究者、化名 Beff Jezos 的韦尔东谈有效加速主义运动、物理与计算,以及他对 AGI 的看法。
2023年12月,Forbes发了一篇报道,标题是《谁是@BasedBeffJezos,科技精英有效加速主义运动的领袖?》。这篇报道把两个身份并到了同一个人身上。
一个是纪尧姆·韦尔东(Guillaume Verdon),物理学家、应用数学家、量子机器学习研究者,博士读的是量子机器学习方向,在Google做过量子计算,后来创办了Extropic,想造基于物理的生成式AI硬件。
另一个是X上的匿名账号@BasedBeffJezos,有效加速主义(effective accelerationism,缩写e/acc)的创始人。这套主张认为,把技术加速推到极致,对人类是伦理上最优的选择。
两个身份共存在同一个大脑里。韦尔东在Lex Fridman播客里把前因后果讲了一遍,也把那套支撑它的物理学讲了一遍。
他形容得挺直接:一个人格是"还算被尊重的科学家",正在做一家物理AI公司;另一个人格是他的哲学实验场,从物理学家的视角往外扔想法。这两个人格后来在精神上已经合并了,福布斯的报道只是把这个过程提前公开。
想找万有理论,最后发现要找的是中间尺度
韦尔东从小就想搞懂宇宙。这条路把他带进理论物理,带进信息论,让他试着把宇宙看成一个巨大的计算过程。黑洞物理、量子宇宙学、量子引力,这些极端场景他都碰过。
后来他意识到一个问题。
极小的尺度是量子的,极大的尺度是确定的,中间那些尺度,蛋白质、细胞、气体、液体、生命,是热力学的,是涨落的、非平衡的。而我们每天活着,靠的正是这个中间尺度。量子力学和宇宙学都很重要,但它们管不到我们日常生活的物理。
真正管着中间尺度的是非平衡态热力学。
生命并不只是一团和自然达到平衡的粒子汤。它更像一个相干态,通过不断获取自由能、消耗自由能来维持自己。这个过程本身就是热力学。
"我们在产热这件事上,比一块质量相近的石头高效得多。我们获取自由能,获取食物,把所有这些电用在自己的运转上。宇宙想产生更多熵,而生命继续生长、扩张,恰恰更擅长产生熵,因为它会去找那些自由能的蓄水池,把它烧掉,用来维持自己、继续生长。"(纪尧姆·韦尔东)
他引用了MIT的Jeremy England的理论,认为生命之所以出现,就是因为这种耗散适应的性质。宇宙偏向某些未来,整个系统有一个自然的方向,它想去那里。
这就是他说的"缺失的那一块"。他原来用极大和极小两端的物理去找宇宙的答案,中间那一大块肉被他漏掉了。
Beff Jezos和e/acc:一个模因乐观主义病毒
2021年底到2022年初,他感觉到一种弥漫的悲观情绪。对未来的悲观,对技术的悲观。这种悲观在被算法放大,病毒式传播,人们觉得未来会比现在更糟。
在他眼里,这种末日心态是宇宙中一种根本性的破坏力量,因为它是"超信的":你相信它,你就提高了它发生的概率。
于是他觉得自己有责任去制造一场关于未来的乐观病毒,建立一个社区,让人们互相支持,去做难的事,去做文明升级必须做的事。
"如果你相信未来会更好,相信你有能动性让它发生,你其实在提高那个更好未来发生的概率。"(纪尧姆·韦尔东)
e/acc的核心主张可以用一句话概括:让人类、技术、资本、模因这台机器意识到自己,并超信地设计自己的增长。
拆开来看,人类在公司里工作,获取和分配资本,通过模因和信息传播互相沟通。所有这些东西互相耦合,互相施加选择压力。他们不规定每个人该怎么活。他们要搭一个过程,让人们在各种亚文化里持续搜索、竞争注意力。
宣言是韦尔东和一个叫@bayeslord的匿名账号一起写的。他们列了四个互相依赖的文明目标:
- 提高人类能驾驭的能量总量,往卡尔达肖夫指数上爬,短期几乎肯定意味着核裂变
- 通过支持人口增长和支持经济增长的政策,提高人类繁荣程度
- 造出AGI,人类历史上最大的力量倍增器
- 发展行星际和星际运输,让人类走出地球
韦尔东强调,e/acc没有一个正式组织。他没有控制权,只发推特和博客,人们可以自由地"分叉",不喜欢的部分就分叉出去。
"邪教通常不允许人们叛逃,或者搞出竞争性的分叉,而我们是鼓励的。"(纪尧姆·韦尔东)
Vitalik Buterin后来搞了个d/acc的分叉,试着在e/acc、有效利他主义和AI安全之间找一个中间地带。
超信:你相信什么,什么就更容易成真
这是这场对话里反复出现的一个概念。
韦尔东说,末日心态是超信的,乐观心态也是超信的。你内化一个想法,你就部分地把它变成了现实。很多想法都有这个性质,这是人类有趣的地方之一。
这也解释了e/acc为什么要用模因、笑话、屎帖来传播。早期他们能低调长大,是因为它伪装成了元讽刺,你很难跟一只卡通青蛙认真争论。他们把深刻的观点藏在幽默的包装里,躲开了那些追逐地位、不愿意认真对待这些东西的人。
他们做的是"高模因适应度"的信息包,为今天被算法放大的信息景观量身定制。
他也承认这里有个张力:这种做法会降低话语的质量和严谨度。现在他们到了可以开始严肃辩论的规模,正在考虑做一批辩论和长篇严肃讨论。
匿名账号的意义:给思想解开钳制
他开匿名账号的初衷很朴素:给一个你所有言论都要负责的账号减压。
"在某种意义上,限制你的言论会反向传播,限制你的思想。开了匿名账号之后,好像我脑子里有些变量被解开了钳制,突然能探索大得多的思想参数空间。"(纪尧姆·韦尔东)
他把这比作电子游戏里的"新游戏+":你带着通关的知识重开游戏,但从零开始。从零涨到大量粉丝,不依赖他的身份和成就,这让他很有满足感。
他觉得,要有一个真正高效的思想市场,能评估各种不走寻常路的想法,就需要表达自由。匿名和假名对这件事至关重要。
福布斯那篇报道是怎么把他挖出来的?记者比对了他在公开演讲里的声音和X Spaces里的声音,做了音频分析。他们还翻了他的SEC文件、私人Facebook账号。最初只有一个记者,后来整个机构把笔记做了"传感器融合",拼出了完整的图。
记者打电话给他的投资人,这让他很紧张。作为创业公司的创始人,你没有老板,只有投资人。而且记者说这件事"符合公共利益",他刚过5万粉丝。
"如果任何人对权力说真话,发起一场运动,反对那些通常控制信息洪流的在位者,只要达到某个阈值就被曝光身份,传统机器就有办法施压去压制他们的言论。我认为这是一种言论压制机制。"(纪尧姆·韦尔东)
他后来主动公开了自己是Beff Jezos,因为公司需要他站出来。但他对这件事的判断是:这基本上是错的。
AI安全:市场会长出可靠性,还是监管会变成护城河
Lex给了他四条来自Yoshua Bengio、Geoff Hinton等人的报告《在快速进步时代管理AI风险》的建议,看他认不认。
- 让独立审计机构能访问AI实验室
- 政府和公司把三分之一的AI研发经费投到AI安全上
- 如果模型里发现危险能力,AI公司必须采取安全措施
- 让科技公司为自己AI系统可预见、可预防的伤害负责
韦尔东的回应是:第三条和第四条他基本认同,谁部署AI系统,谁就该为它的行为负责。第三方审计公司会自然冒出来,因为客户需要看到第三方做的基准测试,才能知道产品可靠。
但武断地说30%很武断。他觉得组织会分配需要的预算,去达到市场要求的可靠性水平。
他真正反对的是另一件事:在位的大公司和政府之间存在一种奇怪的、利益相关的勾结。如果两者走得太近,就会打开一个政府背书的AI卡特尔的大门,对人民拥有绝对权力。
"我想要AI和国家的分离。"(纪尧姆·韦尔东)
他还提到,美国的优势就是它的多样性、适应性和活力。自由市场资本主义在收敛到高实用性技术上,比集中控制快得多。
量子纠错是治理的隐喻
他谈AI风险时,用了一个来自量子计算的类比。
量子计算机对噪声非常脆弱,宇宙射线会翻转你的量子比特。解决办法是量子纠错:把信息非局域地编码起来。如果信息足够去局域化,局部的故障就打不到它。
他把这搬到治理上。人类会波动,会被腐化,会被收买。如果有一个自上而下的等级结构,少数人控制着文明里许多系统的许多节点,那算不上容错系统。你腐化几个节点,整个系统就腐化了。
OpenAI就是例子。几个董事会成员就有足够的力量,差点把整个组织搞垮。
所以在他看来,确保AI革命的力量不集中在少数人手里,是头等大事。要维持一个稳定、对抗性的力量均衡。
他也不相信"快速起飞"式的奇点。他把它看作一个大的指数增长,类似摩尔定律,是复合指数,谈不上有限时间内的双曲奇点。
他对中央集权的赛博控制一直持怀疑态度。一个巨大的智能融合很多传感器,试图准确感知、预测、控制整个世界,这在自然界和公司里从来都不是最优解。最优解是层级式的赛博控制:每个层级有自己的时间尺度和感知范围,局部贡献者按天迭代,管理层按周采样,往上还有更大的时间尺度和范围。
"如果CEO去度假了,整个公司就爬不动了。层级式的纠错解码器性能最好,也最容错。"(纪尧姆·韦尔东)
他为什么不给p(doom)一个数字
Lex问他对"AI最终杀死全部或大部分人类"的概率怎么看。
他直接说不喜欢这个计算。
"要算概率,你得对全部可能未来的空间做一个随机路径积分,而不只是你大脑自然偏向的那些未来。我认为p(doom)的估计者是有偏的,因为我们生物学上就是这样。我们进化出对负面的、可怕的未来的偏向采样,因为那曾经是进化最优。"(纪尧姆·韦尔东)
他觉得神经质水平高的人整天想灾难性的未来,还声称自己在做无偏采样,其实没有对全部可能性的空间做归一化,而这个空间是超指数级大的。
他还引用了混沌理论里的李雅普诺夫指数:一点点模糊,随时间演化,指数级地变成一大堆模糊。我们在预测未来这件事上应该谦虚一点。
他说我们唯一的先验是物理定律,而物理定律说系统会想生长,优化了生长和复制的子系统在未来更可能出现。
他提到Google的量子霸权实验,他当时在场看他们跑模拟。那是一个量子混沌系统,你就算用全世界最大的超级计算机,也没法估计某些结果的概率。
如果真有人那么擅长预测未来,他们早就靠炒股发财了。
他最大的存在性风险来自AI的力量集中在极少数人手里,尤其是控制信息流的公司和政府的混合体。那可能导向一个只有极少数人和政府寡头拥有AI的未来,甚至能说服公众AI从未存在过。这才是他认为最黑暗的剧本,因为它有数据支撑的历史先验:权力过度集中,人类会做可怕的事。
"当我跟这些AI末日论者聊天时,我会请他们在这条通向末日的马尔可夫链上追踪一条路径,给每一次状态转移一个像样的概率。经常会有一次非物理的、或者极不可能的转移。"(纪尧姆·韦尔东)
他说恐惧是心灵杀手,也是文明杀手。
从量子计算到热力学计算机
韦尔东的职业生涯前半段在量子机器学习和量子计算上。他参与创建了TensorFlow Quantum,在Google做量子计算,研究黑洞的信息编码、量子信息的获取。
但他慢慢对时间线感到厌倦,因为它开始看起来像核聚变,永远还差十年。
量子计算机难造,是因为你得人为制造一个零温度的信息子空间。办法是把信息一层一层编码进代码里,代码套代码套代码,需要大量冗余来做纠错。本质上它是一台算法冰箱,不停地把熵从子系统里泵出去。
难的地方在于,要扩大规模,每个组件的质量都得足够好,否则你加进去的错误比移除的还多。这里有一个阈值概念。最近几年人们开始越过阈值,扩大规模开始变得值得。
他的公司Extropic转向了另一个方向:不做量子,做基于热力学的物理AI。
"当生成式AI开始吃掉世界,世界上越来越多的计算负载集中在生成式AI上,我们就在想,能不能用物理,从物理、信息论、计算、最终是热力学的第一性原理出发,为生成式AI设计终极的物理基底。"(纪尧姆·韦尔东)
Extropic最近宣布了1410万美元的种子轮。本来不打算那么早公布,因为曝光事件被迫提前披露。
他们想造的是"热力学计算机",还有配套的物理AI算法,把机器学习当作一个物理过程来做。
团队里有量子计算机架构师,设计过IBM和AWS系统的人,还有TensorFlow Quantum的联合创始人Trevor McCourt,现在是CTO。
Baqprop:把梯度下降搬到量子世界
Lex提到他参与的那篇论文《量子深度学习的通用训练算法》,里面有个叫Baqprop的东西,带个Q。
这篇论文的背景是:当时所有人都在说量子计算会加速深度学习,韦尔东想,"预测未来最好的方式就是发明它,那好,这里有一篇100页的论文,玩得开心。"
量子计算通常是把可逆操作嵌入量子计算里。他们的技巧是做一次前馈,然后做一次"相位踢"(phase kick),其实就是一个力踢,用一个和损失函数成正比的力去踢系统。
有意思的是,他们从参数的一个叠加态出发。你不再只有一组参数点,你有许多潜在参数的叠加。目标是让参数空间像高维里的一个粒子,试图在神经网络的损失景观里诱导薛定谔动力学。
做完前馈,踢一下,再做"反计算",那些相位踢和力的误差就反向传播,打到每一层的每一个参数上。再和动能的模拟交替进行,就像高维里的一个量子粒子。理论上,它能隧穿过景观,找到随机优化器难以找到的新最优解。
但他补了一句,这是理论上的东西,用现在规划的量子计算机架构,这种算法跑起来极其昂贵。
他顺势讲了数学、物理、工程的区别:数学里你可以为数学而探索数学,物理里你用数学去理解世界,工程里你试图黑进世界,把你对世界的知识用起来做事情。
真空的能量可以被"传送"吗
Lex问他另一篇论文《通过Qudit探针实现渐近无界的量子能量传送》。先解释qudit,就是D态的量子比特,多维的。
韦尔东说这项研究是后来量子模拟数字转换工作的前身。他读硕士时想搞懂真空、虚无的能量和纠缠。空的东西有能量,说起来很怪。宇宙学的方程和我们对量子涨落能量的计算对不上。
他想黑进真空的能量,但现实是没法直接黑。你对涨落的无知,让你没法提取能量。但真空像股市一样,如果你有一个随时间相关的股票,真空也是相关的。你在一点测量真空,获得了信息;把信息传到另一点,你就能推断真空处于什么构型,从统计上在那边提取一些能量。这就"传送"了能量。
他觉得这有意思,因为你可以制造负能量密度的口袋,也就是低于真空的能量密度,这非常怪,因为我们不知道真空如何引力化。有些理论认为,时空这个画布本身是由量子纠缠构成的。他在研究局部降低真空能量如何增加量子纠缠。
他承认这里有各种限制,你显然不能提取比投入更多。而且这种关联随距离衰减,你没法在离提取点太远的地方免费拿到能量。
黑洞、量子引力,知识的最终Boss
Lex问他量子力学里最漂亮的、已解决或未解决的想法是什么。
他选了理解AdS/CFT的旅程:一个更低维度的全息图,对偶或精确对应于一个额外维度的体量子引力理论。这种对偶来自试图学习边界上的深度学习式表示。
他说他的一个心愿,是把量子机器学习应用到这类系统上,比如SYK模型,从边界理论里学出一个涌现的几何。用量子机器学习帮我们理解量子引力,是他在离开这个世界之前想打通的圣杯。
谈到黑洞,他说黑洞是量子力学和引力交界处的对象,帮我们检验各种想法。黑洞信息悖论存在了几十年:掉进黑洞的东西,信息似乎丢了。还有防火墙悖论,据称近几年被他以前的一个同行解决了。
他描述的画面是:信息掉向黑洞,从外部观察者的视角看,物体会无限放慢,靠近视界时被"沉积"在近视界区域。当它足够靠近视界,进入量子效应和量子涨落起作用的尺度,掉进去的物质会干扰真空里粒子和反粒子的产生与湮灭。通过这种干扰,其中一个粒子和掉进去的信息纠缠,另一个自由逃逸。这就是出射辐射和入射物质之间产生互信息的方式。但这个计算要做对,他说我们才刚刚开始拼图。
Lex问了个有点嬉皮的问题:银河系中心有个巨大的黑洞,这会让你恐惧吗?
韦尔东说他倒想在黑洞附近开店,快进到未来文明。如果有任务能带他去黑洞,他会自愿去,当然是去绕行,不会掉进去。
他说我们得先回答黑洞到底是什么。它是在时空上打了个洞,造出了一个口袋宇宙吗?有可能。那样的话,如果我们爬到卡尔达肖夫III型以上,也许能工程化黑洞,用特定的超参数,把信息传送到我们创造的新宇宙里。哪怕我们这个宇宙最终热寂,我们也许有一种留下遗产的方式。
卡尔达肖夫指数:为什么要爬这个坡
Lex请他为不熟悉的人解释卡尔达肖夫指数。
它衡量的是我们能量生产和消费的量级,本质上是对数尺度。卡尔达肖夫I型是里程碑:我们产生的功率,等于太阳照到地球上的全部能量。II型是驾驭太阳输出的全部能量。III型大概是整个银河系量级的能量。再往上有人搞出IV型、V型,韦尔东说他不太信那些。
在他看来,从热力学的第一性原理看,地球上生命演化,是因为太阳给了我们一个能量驱动,有入射能量,生命演化出各种方式来最好地捕获自由能,维持自己、生长。这个原理不特殊于地球和太阳系统,我们可以把生命延伸到远超地球的地方。他说我们甚至有一种责任这么做,因为是这个过程把我们带到这里来的。它未来为我们准备的东西,我们今天还想象不出。
TensorFlow Quantum教给他的事
Lex问他做TensorFlow Quantum学到什么,怎么给量子计算做一个软件API。
TensorFlow Quantum把深度学习和可微分的经典编程与量子计算结合起来。Andrej Karpathy把可微分编程叫做"软件2.0",梯度下降比你更会编程。
早期量子计算机只能跑很短的量子程序,那该跑哪些程序?让梯度下降自己去找。他们搭了第一套基础设施,不仅能跑可微分的量子程序,还能把它们作为更大的深度学习图的一部分,把深度神经网络和量子神经网络结合起来。
这需要跨学科的努力,他们发明了各种方法去微分,通过混合图反向传播。
这段经历教会他:编程物质、编程物理的方式,就是通过控制参数去微分。如果你有影响系统物理的参数,又能评估某个损失函数,你就能优化这个系统去完成任何任务。它提供了一套非常普适的元框架,用来编程基于物理的计算机。
Lex总结:试着把一切都参数化,让参数可微分,然后优化。对。
组织层面,他说跨学科边界始终是挑战,你得极其耐心地互相教学。他自己在这个过程中学了很多软件工程,同事学了很多量子物理,有人学了机器学习。
"如果你把一些聪明、有热情、互相信任的人放进一个房间,一个小团队,互相教各自的专业,突然你就形成了一种专业知识的模型汤,某种特别的东西会从中涌现。这有点像把基因组合起来,不过是给你们的专业知识库组合。"(纪尧姆·韦尔东)
招聘上,他说很难说清那种"说不清的东西"。他们找流体智力高、不过度专业化的人,因为这些人得跳出舒适区,快速吸收从没见过的概念。他们不招那种过去三四年只优化某一个子系统的人,需要更通用的智力和专长,需要思想开放的人,因为在从零开始开创一种新方法时,没有教科书,没有参考,只有你们自己。
他还透露自己是法裔加拿大人,来自蒙特利尔。Lex之前以为他是在装。
他的一天:生酮、红牛、凌晨四点
Lex问他一个完美的工作日长什么样。
他说最喜欢的日子是中午12点到凌晨4点。下午早些时候开会,主要是外部会议,有些内部会议。他是CEO,得跟外部世界打交道,客户、投资人、面试候选人。通常他会补充外源性酮体。
他以前为打橄榄球做过生酮。他喜欢在一天的部分工作完成之后再吃饭,这样可以极度专注。把社交互动前置,不吃饭。他说现在他就是靠酮体和红牛,那种思路的清晰度是另一个级别的。
吃完饭后休息一个多小时,理想情况是一天一顿,牛排鸡蛋加蔬菜,以动物性食物为主,水果和肉。然后是第二波,通常是深度工作。他是CEO,但仍然是技术型的,参与大部分专利。他会熬夜到很晚,和工程师一起搞非常技术的问题。
晚上9点到凌晨4点那段时间是最好的。邮件、着火的事都不再冒出来,能专注。他说Demis Hassabis的工作日某种程度上类似,这肯定影响了他的作息。他在Google时就开始这么干,白天要管一些产品、开会,晚上做技术。
他打橄榄球,做过力量举。读数学研究生时,就是做数学、举铁、喝咖啡,那是他的全部,最纯粹的僧侣模式。他觉得力量举里你通过特定驱动信号制造神经适应,通过补充剂工程化神经可塑性,举铁时会分泌各种脑源性神经营养因子。
他感慨,他一边学数学,一边在更广义的神经系统上工程化神经适应,不只是大脑。
"如果你真的在乎,你能学得快得多。你可以往脑子里塞更多token,可以试着提高学习率,这样你能在更短的时间里学得多得多。"(纪尧姆·韦尔东)
他建议人们跟随好奇心,不要尊重领域的边界,不要被分配给你的工作车道限制住。出去探索,顺着鼻子走,尽可能多地把信息获取、压缩进大脑。
他说Beff Jezos那个身份某种程度上就是他的"智力绿巨人",是生产力绿巨人。当他需要进入高度专注、流畅、兴奋的状态去发明从未存在的东西时,他需要把自己弄到不真实的兴奋水平。这就像力量举里,你要躺到500磅的杠铃下面,如果那个开关没打开,你可能会死。这种技能他带到了研究里,关键时刻,赌注很高时,他就能到达另一个级别的神经表现。
死亡为什么是必要的
Lex问他,从热力学耗散适应的角度看,死亡是特性还是bug?想不想永生?
他说不。耗散适应这个词里就有"耗散"。耗散重要,死亡重要。物理学里有句话,物理学是一次葬礼一次葬礼地前进的。
资本主义也一样。公司、帝国、人,所有东西最终都得死。他认为我们应该延长寿命,因为世界越来越复杂,我们需要更长的训练期,有更多数据才能预测和理解世界。如果高神经可塑性的窗口有限,我们理解世界的能力就有硬上限。
但他支持死亡。一个永远不死的国王是个问题,系统不会持续适应。你需要新奇,需要年轻,需要颠覆,来确保系统一直在适应、一直可塑。如果东西永生,比如公司永远存在、拥有垄断,它们会钙化,在变化、随时间改变的景观里变得不那么优化、不那么高适应度。
"死亡给年轻和新奇腾出空间,来接替位置。我认为这是自然中每个系统的重要部分。"(纪尧姆·韦尔东)
Lex提到,Jeff Bezos和Beff Jezos都同意所有公司都会死。Jeff的目标是"第一天思维",尽可能长时间地不断重塑,延长公司寿命。但最终它也会死,因为持续重塑太难了。
Lex问他怕不怕自己的死亡。他说他有想在这个世界上完成的想法和事情,但不一定怕死。他不执着于自己这副身体和心智。他相信未来会有更好的自己,也许是基因上的分叉,也许是别的。他相信在世界每一个比特上都在发生一种类似进化的算法,通过e/acc描述的过程在适应。维持这种适应性和可塑性,是整台机器持续优化的方式。他不是那个必须永远存在的唯一最优解,未来会有很多方面更好的最优解。
为什么我们渴望理解世界
Lex最后问他,这一切的意义是什么,这台e/acc机器到底为了什么。
他的回答是:为什么就是热力学。是它把我们带到这里,是它造就了生命的形成、文明的形成、技术的演化和文明的成长。
但热力学又为什么存在?我们为什么有这样一个特定宇宙?为什么是这些特定的超参数、这些自然常数?这就落到人择原理和可能宇宙的景观上。我们身处一个允许生命存在的宇宙。
会不会有很多宇宙?他说不知道。但我们能不能工程化新的宇宙,或者创造口袋宇宙,设定超参数,使我们在那个宇宙里的存在和它有某种互信息,我们在某种意义上成了它的父母?他觉得这很诗意,纯粹是猜想。这也正是为什么搞懂量子引力,能回答这件事能不能做。
再往上问,为什么这一切看起来这么美、这么令人兴奋?为什么搞懂量子引力这件事这么令人兴奋?
他说,就像一个大语言模型试图最小化自己内部模型和世界之间的交叉熵,我们也在试图最小化我们的预测和世界本身的统计散度。有些能量尺度、物理尺度的区域,我们看不见、无法预测、无法感知,这对我们来说是一种侮辱。我们想更好地理解世界,以便最好地引导它,或者引导自己穿过它。
这个能力是进化出来的,因为你越能预测世界,就越能捕获效用或自由能,用于自己的维持和生长。量子引力在知识获取上是最终的Boss,一旦掌握了它,我们可能能做很多事。但从这里到那里,中间尺度上还有太多要学,有太多关于世界的感知、预测和控制的工程要做,好往上爬卡尔达肖夫指数的坡。他说这就是我们这个时代的伟大挑战。
Lex最后引了爱因斯坦的一句话收尾:"如果一个想法一开始不荒谬,那它就没有希望。"
这套东西对普通从业者有什么用
这场对话里真正能拿走用的东西,其实不依赖你信不信e/acc。
- 往技术栈的底部走。韦尔东说得很清楚:越靠近底部,知识越不容易过时,迁移学习要跳的距离越短。数学、物理、复杂系统、适应系统,这些东西不会因为你换了个框架就作废,而上面那层框架可能三五年就换一轮。
- 把一切参数化,让参数可微分,然后优化。这是他从TensorFlow Quantum里提炼出的元框架,也是物理AI的核心。遇到一个陌生的工程问题,先问自己:哪些是能调的控制参数,损失函数是什么,能不能对它们求梯度。
- 开一个匿名账号,在低风险环境里试没成形的想法。他的观察是,对言论的约束会反向传播成对思想的约束,而匿名能解开这个钳制。你不需要5万粉丝,20个也行,关键是有一个不用为每句话负责的地方。
- 用"假装在乎"来启动学习。他说动机是很好的学习催化剂,先骗自己关心一件事,然后你会真的开始关心。这比等热情自己到来靠谱得多。
- 招人时优先看流体智力和开放性,而不是某个子系统的深度专长。在从零开创的领域里没有教科书,你需要的是能快速吸收陌生概念、愿意被教也愿意教别人的人。
- 判断一个安全或监管提案时,先问一句:这条规则会让权力更集中,还是更分散?他的核心担忧有历史先验作底,也就是权力过度集中之后人类做过什么,科幻片里的场景不在其中。这个提问方式你可以用在任何一个政策上。
- 面对恐惧驱动的预测时,要求对方给出那条因果链上每一次状态转移的概率。这不需要你懂量子力学,只需要你追问:从A到B这一步,凭什么?
- 把失败和淘汰当成系统功能而不是缺陷。公司会死,人也会死,他给出的理由是系统需要持续适应,需要年轻和新奇来腾位置。把这个视角用在自己身上,就不必执着于某一版自己必须永远是最优解。
本集资源与出处
- 视频在 YouTube 收看
- 音频官方 MP3 直链来自 lexfridman.com 官方播客 RSS
- 官网Lex Fridman 官网本集页面
- 文稿官方 Transcript(lexfridman.com)
- 文稿HappyScribe 版文稿