# 马克斯·泰格马克：人工智能与物理学 > 物理学家谈 AI 与物理学的交叉、用数学理解智能，以及通用人工智能可能带来的风险。 - 原标题：#155 – Max Tegmark: AI and Physics - 期数：第 155 期 - 发布日期：2021-01-18 - 嘉宾 / 主题：马克斯·泰格马克 - 网页版：https://lexfridman-cn.pages.dev/ep/max-tegmark-2/ - 官方页面：https://lexfridman.com/max-tegmark-2/ - 精读字数：约 11082 字（阅读约 25 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 1962 年古巴导弹危机最紧张的时刻，一艘苏联核潜艇在加勒比海被美军舰艇围堵。美军投下深水炸弹，试图逼它浮出水面。潜艇里，电池快耗尽，氧气越来越少，舱内温度超过 40 摄氏度，有水兵当场昏倒。艇长断定第三次世界大战已经爆发，下令发射艇上携带的核鱼雷。按程序，需要三名军官一致同意才能发射。艇长说“是”，政委说“是”。第三个人叫瓦西里·阿尔希波夫（Vasily Arkhipov），他说了“不”。 马克斯·泰格马克（Max Tegmark）在 Lex Fridman 播客里讲这个故事时，语气近乎动情。他说，阿尔希波夫可能是现代史上对全人类贡献最大的人。如果那枚核鱼雷发射出去，美国大概率会全面核反击，世界会变成另一个样子。 阿尔希波夫当时注意到一个细节：深水炸弹的爆炸声是左一下、右一下，有规律地交替。他判断，美军并非要击沉他们，而是在发信号让他们上浮。就是这个冷静的分析，加上一种说不清的直觉，阻止了可能毁灭世界的按钮被按下。 泰格马克讲这个故事，不是为了怀旧。他想说的是：**我们整个人类，不能靠“正确的人恰好在正确的时间出现在正确的位置”来活命。** ## 从物理到 AI：一个物理学家的跨界 泰格马克是 MIT 的物理学家。大约五年前，他把自己的研究方向从物理学转向了机器学习。当时很多同事看他的眼神都不太对劲，虽然没有明说，但那种“Max 是不是疯了”的意思写在脸上。 现在情况变了。他和同事一起推动，拿到了美国国家科学基金会（NSF）2000 万美元的资助，成立了 AI 与基础物理交互研究所（Institute for Artificial Intelligence and Fundamental Interactions），联合 MIT 和周边多所大学一起做研究。当年那些用奇怪眼神看他的同事，已经不再问“这有什么意义”了。 这个研究所的核心思路是双向的。AI 能帮物理学家做更好的物理，反过来，物理也能帮 AI 变得更可靠。 物理学家能给 AI 带来的，不只是硬件层面的帮助。泰格马克的同事 Marin Soljacic 在做光学芯片，用光子代替电子来做机器学习计算，能耗大幅降低，速度更快。更重要的是思维方式上的差异。 泰格马克举了 Elon Musk 发射火箭的例子。SpaceX 的火箭不是靠机器学习反复试错训练出来的。不是那种“往左一点、再往右一点、又偏了、再试试这里”的笨办法。他们用的是牛顿的万有引力定律，是对物理规律的深刻理解。正是这种理解，让火箭的可靠性有了根本保障。 > 我的愿景是，未来所有对人们生活有实际影响的机器学习系统，都会被以非常非常深的层次理解。我们信任它们，是因为它们赢得了我们的信任，销售代表怎么说无关紧要。（泰格马克） ## 黑箱不是力量的来源，可微分才是 2020 年出了不少让人惊叹的 AI 突破。波士顿动力的机器人会跳舞了。几年前 DARPA 挑战赛上，MIT 的机器人从车里出来直接脸朝下摔在地上，对比之下进步巨大。AlphaFold 2 在蛋白质折叠问题上取得重大突破，对医学研究的意义不可估量。GPT-3 能写出让人惊艳的英文段落。DeepMind 的 MuZero 不仅在国际象棋、将棋和围棋上碾压人类，还能玩各种 Atari 游戏，而且不需要提前教它规则。 这些系统有一个共同点：它们都很强大，但**我们并不完全理解它们是怎么工作的**。 如果只是跳舞机器人，这没什么。最坏的结果就是摔个脸朝下。如果只是下围棋，最坏的结果就是走一步臭棋输掉比赛。但当这些东西控制着你的自动驾驶汽车或者核电站时，情况就完全不同了。 泰格马克指出，好莱坞电影把我们的担忧引向了错误的方向。电影里的机器会“变坏”，会主动伤害人类。但现实中自动化系统造成的伤害，从来都不是因为机器变坏了。 波音 737 MAX 上的自动系统夺走了很多人的生命。那个系统本身并不邪恶。问题在于，我们对自己造出来的东西理解得不够透彻，却给了它过多的信任。**我们甚至不知道自己不理解。** 还有一家叫 Knight Capital 的公司，部署了一套看起来很漂亮的自动交易系统。结果这套系统以每分钟亏损 1000 万美元的速度，连续亏了 44 分钟，直到有人反应过来把它关掉。是系统邪恶吗？不是。是人们对它的理解不够，却过度信任了它。 泰格马克特别反感一种说法：有人认为神经网络的力量恰恰来自它的不可理解性，好像里面有什么神秘的东西在起作用。他觉得这完全是无稽之谈。 > 我认为神经网络的真正力量来自可微分性，和不可理解性没有关系。（泰格马克） 什么意思？简单说，就是你微调参数时，输出只会平滑地变化。正因为如此，你才能用科学中那些强大的优化方法，稍微调一下参数，看看结果是变好了还是变差了。这就是机器学习的根本原理：机器自己可以不断优化，直到表现更好。 如果你用 Python 写一个算法，然后参数的变化方式是随机改变代码里的字母，那会彻底失败。你把 print 改成了 synth，直接语法错误，你甚至不知道这一步是变好了还是变差了。神经网络之所以能工作，是因为每一个参数设置都是一个合法的程序，而且你能判断它是更好还是更差。 ## AI Feynman：让机器重新发现物理定律 泰格马克的团队做了一个叫 AI Feynman 的项目。他们从《费曼物理学讲义》里挑出 100 个最著名的公式，把公式的输入变量和输出结果做成类似 Excel 表格的数据。然后问：如果不告诉你公式是什么，你能不能从数据里把它找出来？ 这个问题在学术上叫“符号回归”。如果公式是线性的，就是输出等于各个输入的加权和，那很容易。但如果是包含对数、余弦等复杂函数的公式，就非常困难。因为随着符号数量增加，可能的公式数量呈指数级增长，就像密码的长度增加会让可能的密码数量爆炸一样。 他们的做法分两步。第一步，训练一个神经网络来近似这个公式，哪怕不理解它是怎么工作的。第二步，研究这个神经网络，输入各种不在原始训练数据里的新数据，用这些数据来发现公式的简化性质，然后像分而治之一样把复杂公式拆成更简单的部分。 结果是，他们成功自动发现了全部 100 个公式，还发现了不少其他的。这个代码现在任何人都可以用，在电脑上输入 pip install ai-feynman 就能运行。 泰格马克说，开普勒当年盯着火星的观测数据看了四年，才恍然大悟“这是椭圆”。而这个程序一个小时就能自动完成。普朗克当年研究黑体辐射，发现了著名的黑体辐射公式。这个程序也能自动发现。 他真正兴奋的是，未来这个程序可能发现人类从未见过的新公式。 这个思路之所以让他乐观，是因为这恰恰是人类科学家在做的事情。伽利略小时候接住父亲扔来的苹果，靠的是大脑里的神经网络在预测抛物线的轨迹。狗接网球也是同样的道理。但伽利略长大之后，回过头来分析这些经验，写出了 y 等于 x 平方这样的公式。他帮助开创了现代物理学。 所以，先有一个神经网络去捕捉直觉，再用另一个过程去分析这个神经网络，提取出符号化的规律。这不只是物理学的做法，也是人类交流的方式。我们每个人都在用大脑里的神经网络体验世界，然后我们把高层次的 knowledge 提取出来，用语言这种符号形式分享给彼此。 ## 对齐问题：从基因到公司再到 AI 泰格马克把 AI 对齐问题拆成三个子问题。 第一，让机器理解我们的目标。当 Andreas Lubitz 告诉自动驾驶仪飞向阿尔卑斯山时，问题在于电脑根本不理解他的目标。它太笨了，连“不要飞进山里”这种基本常识都没有。如果系统设计者当初花点功夫把这个目标写进去，悲剧就可以避免。 第二，让机器采纳我们的目标。对于直接编程的情况很容易，但对于自我学习的系统就像养孩子。任何父母都知道，让孩子理解你想要什么，和让孩子真正接受你的目标，是两回事。孩子先是不太懂，然后有一段既聪明又可视的窗口期，可以好好培养。再然后进入青春期就来不及了。机器的问题在于，智能可能增长太快，这个窗口期会很短。 第三，让机器保持我们的目标。很多科幻电影讲的就是这个：一开始对齐的系统，后来逐渐偏离。泰格马克的孩子小时候非常喜欢乐高，现在那些乐高在地下室积灰。如果我们造出真正愿意照顾人类的机器，我们可不希望它们像孩子对乐高那样对我们失去兴趣。 这个问题不只是技术层面的。泰格马克认为，对齐问题适用于所有强大的非人类实体。 基因就是一个例子。基因想要复制自己，于是它们在你身上建了一个大脑，并且让你的大脑觉得吃饭和性爱是愉快的。这是基因对你的价值对齐。它们创造了比自己更聪明的东西，但确保了价值观的对齐。 但后来出了点问题。人类发现，我们喜欢性爱的感觉，但不想马上要孩子，于是发明了避孕。我们想喝可乐，但不想长胖，于是喝零度可乐。我们比基因更聪明，能够看穿并颠覆它们的意图。 现在人类扮演了基因的角色。我们创造了公司这种强大的非人类实体。公司给我们带来了超市、医院、各种便利。但我们也要确保公司的行为对我们有利。于是我们建立了制度：如果超市卖有毒食品，老板要坐牢。这是我们对公司的对齐。 但公司会想办法绕过这些制度。就像人类看穿了基因的意图一样，强大的公司也有动机去腐蚀监管它们的机构。19 世纪末，马萨诸塞州的铁路公司预算比州政府还大，做了很多腐败的事。西奥多·罗斯福搞了反托拉斯运动，就是为了重新对齐这些公司，让它们更符合美国人民的利益。 泰格马克强调，不要用善恶来讨论这些问题。机器人不是善的也不是恶的，它是一个工具。可以用来做机器人手术这种好事，也可以用来做坏事。公司也是工具。如果激励机制对了，公司会开医院、开超市。如果激励机制错了，公司会向人们推销成瘾性药物，造成阿片类药物危机。 > 我们不应该犯这个错误，陷入关于公司或机器人的善恶童话。我们应该专注于把正确的激励机制放到合适的位置上。（泰格马克） ## 自主武器：2020 年的警钟 泰格马克对自主武器非常担忧。他喜欢看波士顿动力的跳舞机器人，但他说现在机器人领域增长最快的方向之一就是自主武器。 2020 年是自主武器有史以来最好的“营销年”。在利比亚内战和纳戈尔诺-卡拉巴赫冲突中，自主武器都发挥了决定性作用。全世界都在看：哦，我们也得造这个。 在利比亚，一边是阿联酋从中国买的自主武器在轰炸利比亚人。另一边是另一个盟友土耳其的无人机。这些国家都没有直接的人员伤亡，真正倒霉的是利比亚人。 在纳戈尔诺-卡拉巴赫，土耳其提供的无人机由一家公司制造，而这家公司的创始人毕业于 MIT 航空航天系。泰格马克说，MIT 对此负有直接责任。那场冲突中大量平民丧生。 因为自主武器在军事上太有效了，现在各国都在拼命往武器系统里加自主性。 泰格马克认为，那些沉迷于未来“终结者”场景的人，应该关注当下两个更紧迫的威胁。一个是我们讨论过的民主被破坏，信息流被机器学习操纵。另一个就是自主武器的军备竞赛，而 2020 年就是这个竞赛开始或者被阻止的关键年份。 他举了生物武器的例子。未来生命研究所（Future of Life Institute）曾给哈佛的 Matthew Meselson 颁奖，表彰他说服尼克松总统禁止生物武器。泰格马克问他怎么做到的。Meselson 说，他告诉尼克松：我们不希望存在一种所有敌人甚至非国家行为体都能买得起的、只要 500 美元的大规模杀伤性武器。尼克松觉得有道理。 美国的国家利益在于，强大的武器都非常昂贵，只有美国或者少数稳定的对手能买得起。核武器就是这样。生物武器不是这样，所以我们禁止了它们。这就是为什么现在你几乎听不到生物武器的消息，也是为什么我们热爱生物学。 有人会说，禁止容易，核查太难。但 Meselson 有一个巧妙的见解：你不需要 100% 的核查概率。1% 通常就够了。 假设中美签署条约，划了一条线：某种无人机可以，完全自主的不行。如果你是中国，你偷偷研发了违反条约的东西，你会怎么算？如果被发现的概率是 100%，当然不会做。但即使被发现的概率只有 5%，那也是巨大的外交尴尬。而且中国本来就有核武器，多几架自主无人机不会根本改变对美国的威慑格局。万一被发现，美国会全面加速自己的项目，说“中国人作弊了”，然后中国面对的就是更强大的对手。 单是这种污名效应就非常强大。看看生物武器，50 年过去了。你最后一次听说生物恐怖袭击是什么时候？真正因生物武器死亡的情况，要么是美国自己用炭疽搞死了自己人，要么是苏联斯维尔德洛夫斯克的实验室泄漏。50 年，只有超级大国自己的两次乌龙，然后什么都没有。这是相当成功的。 泰格马克希望未来人们谈到 AI 时，想到的是治愈疾病、开发新疫苗，而不是“AI 让我不敢出门”。 ## 信息茧房与民主 泰格马克在新冠疫情期间做的一个项目，叫 improvethenews.org。他称之为“小小的 COVID 项目”，利用晚上和周末的时间做出来的。 这个新闻聚合器看起来有点像 Google News，但有滑块可以帮你打破信息茧房。最明显的一个滑块是左和右，代表政治光谱。你滑到左边，看到一组文章。滑到右边，看到另一组，仿佛是另一个版本的真相。 关于移民问题，这种差异尤其明显。 泰格马克说，很多人以为主要问题是假新闻。其实不是。他带着 MIT 的学生做了一项学术研究，用机器学习检测夏季的主要偏见类型。确实有假新闻，比如“希拉里·克林顿刚刚离婚了”这种。但更常见的是**遗漏**。 有些新闻左派或右派根本不提，因为不符合他们的议程。有些新闻他们又反复提。比如特朗普家族的财务问题，以及拜登家族、亨特·拜登的财务问题。不出所料，两边报道的量完全不对等。一边热衷于报道拜登家族的，一边热衷于报道特朗普家族的。 但如果你是一个普通的美国公民，反对一切形式的腐败，把滑块左右滑动一下，就能看到两边的所有政治腐败报道。 泰格马克引用 MIT 前同事乔姆斯基的话：**宣传之于民主，就像暴力之于极权主义**。意思是，在极权国家，你不需要宣传，人们因为恐惧就会服从。在民主国家，你才需要宣传。而且民主国家的宣传质量更高，更可信。 泰格马克说，他认识的俄罗斯和中国的科学界同事，对自己国家媒体宣传的警觉程度，比很多美国同事对西方媒体宣传的警觉程度还要高。这本身就说明问题。 这个新闻聚合器还有一个“尊重度”滑块，往右拉，会更容易看到更学术风格、更尊重对方的观点呈现。因为如果你是一个民主党人，想去看看另一边，打开 Breitbart 网站，可能 10 秒钟就被某句话激怒了。如果你是共和党人，去看左翼媒体，也可能很快因为首页上特朗普的丑化照片而愤怒。这样根本没法交流。 还有一个“建制派”滑块，泰格马克觉得特别有意思。如果一个社会中几乎所有强大的实体都希望你相信某件事，那么无论左右的主流媒体都会这么说。烟草公司当年就极力打压关于吸烟危害的报道。从地缘政治角度看，任何国家的媒体都会大量报道“我们是好人，别的国家是坏人”。 泰格马克举了伊拉克战争的例子。事后看新闻研究，CNN 和 Fox 都强烈支持入侵伊拉克，说萨达姆有大杀器。但当时也有一些小媒体在质疑：等等，这些证据看起来不太靠谱。但这些声音太难被找到了，大多数人根本不知道它们存在。 > 如果那些声音当时也能被听到，对美国国家安全其实会更好。我认为入侵伊拉克实际上损害了美国的国家安全。（泰格马克） 这个项目的想法是，机器学习算法基本上是免费的。没有理由它们只能帮强者操纵弱者。它们同样可以帮弱者看穿强者的操纵。 泰格马克说，互联网诞生时，很多人希望它能促进民主，让人们更容易了解真相。现在，机器学习也许能再次帮上忙。他认为这比以往任何时候都重要，因为这与人类的未来息息相关。 从一两代人、三代人的时间尺度看，地缘政治上只有两种结局：要么对全人类都好，要么对所有人都很糟。没有中间地带。因为技术没有国界，武器越来越强大，一直打下去，运气总会用完。 泰格马克说他爱美国，但美国的长期利益和其他国家的长期利益并不对立。过去，一个国家获得更多资源的唯一方式是抢别人的土地，所以是无休止的战争。但 1945 年以后，西欧再也没有发生过战争，所有国家都变得更富有，因为技术进步了。这个世纪的赢家可以是美国、中国、俄罗斯和所有其他国家，因为技术让所有人更健康、更富有。前提是我们要想办法在这个星球上维持和平。 ## 意识、爱与死亡 泰格马克对意识的看法是，意识是一种信息处理。某些类型的信息处理。从物理学家的角度看，信息是由碳原子在神经元中处理，还是由硅原子在技术设备中处理，本质上没有区别。 他把意识描述为“信息在被处理时的那种感觉”。我们不知道具体是哪些复杂的信息处理方式产生了意识。很明显，大脑中大部分信息处理并不产生意识体验。比如你不会意识到心跳的调节，跑步时脚步的复杂运动也大多是自动完成的。 他认为这属于科学问题，希望有一天我们能有一个方程或者工具，来检测意识。比如在急诊室，判断一个病人是闭锁综合征有意识，还是真的没有意识。或者未来如果你有一个非常智能的机器人照顾你，你想知道关掉它时该不该感到内疚。 如果我们要创造有正面体验而不是痛苦的机器，我们可能会选择制造一些故意没有意识的机器，让它们做极其无聊的重复性工作。也可能会制造有意识的机器人来陪伴老人，因为人们不想觉得机器人只是在假装开心或悲伤。 泰格马克说，他肯定不想和一个机器人建立真正的情感联系，如果他知道那只是骗局的话。就像今天你可以给小孩买一个会说话的玩偶，小孩可能会以为它有意识，还会对它说秘密，然后这些秘密可能被传到网上。他不想被这样欺骗。 关于爱与死亡，泰格马克有一段很动人的论述。 有人可能会说，爱不过是基因为了让你繁殖而设下的骗局。泰格马克说，这个结论是错的。他知道自己享受食物是因为基因在“黑”他，不让他饿死。但这并不意味着他不应该享受开心果冰淇淋。 > 我享受开心果冰淇淋的程度，并不会因为我从科学上完全理解这是基因的骗局而减少一丝一毫。（泰格马克） 他引用了费曼的一段话。费曼的朋友是个艺术家，说科学家会把美丽的花朵解构成一堆夸克和电子，破坏美感。费曼反驳说，作为科学家，他不仅能看到艺术家看到的美，还能看到更多。 费曼说，这棵树是由空气构成的。它从空气中吸收碳，在太阳的炽热中把它们结合成树。当你在壁炉里烧木头时，这个过程的逆转非常美丽。木头变回空气，火焰中舞动的是曾经被束缚的太阳之光。 泰格马克说，他对爱和开心果冰淇淋的感觉也是这样。他既能有最本能的爱的体验，同时还能欣赏到其中更深的、从冷酷宇宙中演化出爱的美感。 从一团炽热的等离子体，到夸克结合成原子核，到电子被束缚成原子，到引力让它们聚集成行星和恒星，到自然选择让基因开始自我复制，到越来越复杂的目标导向行为，最终出现了爱。 泰格马克把进化比作 MuZero 的自我对弈。MuZero 通过和自己下棋来学会围棋和象棋。而地球上所有的夸克 blob 在生存竞争中的自我对弈，最终创造出了长颈鹿、大象和人类，创造出了爱。 关于死亡，泰格马克说他当然觉得死亡很糟糕。他年轻时父亲说“生命本质上是悲剧”，他当时不理解。多年后他完全明白了。我们小时候觉得一切都无限，然后突然发现生命是一场有终点的游戏。 他说他不害怕。他相信那真的是游戏结束，而不是死后会发生什么可怕的事。但这种有限性让他更清楚地意识到活着的珍贵，提醒他充分地活，尽情地享受。 他提到对死亡的看法其实基于一种过时的物理学观点。什么才是真正的你？不是你的皮肤细胞，它们每周都在死掉又长出新的。不是你的原子或夸克，它们也在不断被替换。从现代物理学的角度看，真正的你是信息处理的过程，是你的记忆、价值观、梦想、热情和爱。 而且这些不会全部随身体死去。费曼的身体因癌症去世了，但他的很多思想活了下来。泰格马克说他试图在自己身上保留一点费曼，甚至在这次对话中就引用了费曼。 当他作为老师，如果能把一些东西传递给学生，让学生觉得值得采纳，那他就活在了他们身上。教师这个职业让他稍微不那么凡人。 他说我们应该停止那种把自我等同于夸克和电子的旧唯物主义。这没有科学依据，而且很令人沮丧。 ## 宇宙中只有我们吗？ 泰格马克有一个观点：**我们可能是可观测宇宙中唯一发展出望远镜的文明**。 这个观点有两个可以出错的地方。第一，他可能错在认为大多数文明在从简单生命到太空殖民文明的演化过程中，只花费非常非常小一部分时间处于我们现在这个阶段。第二，他可能错在认为我们真的是唯一。 关于第一个，地球上的数据点是这样的：45 亿年的生命演化，大部分时间是非常“笨”的细菌和恐龙。恐龙在地球上踩踏了一亿多年，也没发明智能手机。而从牛顿到我们现在，只有 400 年。泰格马克小时候还没有互联网。所以很可能，地球要么在这个世纪真正振作起来开始向太空扩散生命，要么就会灭绝。 如果大多数文明确实只在一小段时间内处于这个阶段，那么我们在宇宙中随机找到一个文明，恰好抓到它这个阶段的可能性极小。更可能的是找到一颗充满细菌的星球，或者一个已经后生物化、在星系里搞大型工程的文明。 泰格马克说，如果银河系里有几百万甚至几十亿个文明，只要有一个决定扩张，我们就会注意到。很难想象所有文明都决定成为“佛教徒”，向内探索，不打扰周围。考虑到银河系里可能有十亿个以上类地行星，其中很多比地球早形成十亿年，有巨大的先发优势，假设所有文明都选择不扩张，这太牵强了。 关于费米悖论，泰格马克的论证很简单。我们对随机行星上出现生命的概率一无所知，可能是 10 的负 1 次方，也可能是 10 的负 40 次方。每个数量级大约同样可能。然后问：我们最近的邻居有多远？同样，可能是 10 的 10 次方米，也可能是 10 的 40 次方米。 现在来看数据。10 的 26 次方米是可观测宇宙的边缘，再远光就来不及到达我们这里。10 的 16 次方米是太阳的距离，这个范围内的东西我们肯定能排除。所以，最近邻居恰好落在“我们本该已经看到”和“我们永远看不到”之间这个小区域里的概率，其实是明显小于 1 的。 这个论证的寓意是：我们要好好守护这个星球，珍惜这次机会。认为“就算我们毁了地球，外面还有星际舰队来接管”是非常危险的自我安慰。 如果真的是我们、而且只有我们，掌握着可观测宇宙中智能生命的未来，那责任就太大了。这令人振奋，有点吓人，但更赋予人力量。因为今天最大的问题是很多人觉得自己的行为无关紧要。如果我们的行为可能决定宇宙中生命的整个未来，那就再也不是无关紧要了。 泰格马克也提到，如果宇宙中的生命很稀有，这其实是我们应该希望的事。因为这意味着大过滤器可能在我们身后。我们已经在火星上找了那么多次生命，每次都空手而归。如果发现火星上有简单生命，那反而是坏消息，因为那意味着从无生命到有生命这一步很容易，大过滤器更可能在前面等着我们。 ## AI 会解开物理学的终极谜题吗？ 泰格马克认为 AI 会给科学带来巨大推动。除非我们因为愚蠢的行为灭绝，否则我们对物理学的理解很可能会变得如此之好，以至于我们的技术将受物理定律的限制，而不再受人类智能的限制。今天的技术受限于我们能发明什么。随着 AI 进步，技术将只受光速等物理极限的约束，那将远超我们现在的位置。 机器学习已经在帮助科学了。MIT 用它寻找其他恒星周围的行星，探测新粒子物理的迹象，探测引力波。这些都是实验科学。 在计算物理领域，机器学习也带来了巨大加速。泰格马克举了三个最耗超算时间的领域： **格点量子色动力学（Lattice QCD）**。这个理论可以从第一性原理计算整个元素周期表，哪些原子稳定、有多重、光谱什么样。但数学太难了，我们一直算不出来。MIT 的同事 Fiala Shanahan 用了一种叫 normalizing flows 的机器学习技术，大幅加速了计算。 **黑洞碰撞**。两个黑洞互相绕转，辐射引力波，最终合并。你想知道输出什么样的波，作为两个黑洞质量和自旋的函数。这非常难算，可能需要数月超算时间。机器学习可以大幅加速这个过程。 **宇宙学模拟**。研究的尺度从亚原子粒子扩展到整个宇宙中星系的形成。 最后是更理论的方向：从数据中发现方程，获得深刻的基础洞见。这就是 AI Feynman 项目做的事。 泰格马克说，数学证明本质上是一个搜索问题。一个证明就是一长串符号步骤。验证一个证明是否正确很容易，但找到这个证明很难。因为可能的证明数量太多。如果一个证明包含 10000 个符号，每个符号只有 10 种可能，那就是 10 的 1000 次方种可能，比宇宙中的原子还多。 所以证明定理就是一个在海量空间中找针的搜索问题。机器学习里有一个专门领域叫搜索。当有明确的“好”的度量时，搜索会更容易。这就是神经网络为什么工作得那么好。 泰格马克提到，AlphaZero 教会我们，我们曾经以为“直觉”是人类独有的，不是信息处理。但 AlphaZero 有一个价值函数模块，看棋盘就能给出一个评估数字。不同之处在于，没有人告诉它这个位置好不好，它是自己学出来的。MuZero 更厉害，同一套系统可以学会下各种棋和玩各种游戏，不需要告诉它规则，它自己就能形成对“好”的直觉。 这对科学是很有希望的。如果它能在棋类游戏中形成对好位置的直觉，也许也能在证明数学定理时形成对好方向的直觉。 泰格马克说，他科学生涯中最有趣的时刻之一，就是证明某个定理的时候。当然，这个过程很大程度上靠直觉引导。他不会随机尝试各种符号串，而是有预感：这个让我想起以前见过的另一个证明，也许我先试试这个。不行，但这个失败的方式让我想起了那个。把直觉和暴力搜索能力结合起来，AI 应该也能帮助物理学。 关于 AI 是否会获得诺贝尔奖，泰格马克认为更可能发生的是界限的模糊。今天如果有人用计算机做了计算获得诺贝尔奖，没人会想把奖给计算机。人们会把计算机看作工具。但随着机器学习无处不在，有一天，一个完全不懂机器学习的物理学家，就像今天一个不懂计算机或不用数学的物理学家一样荒谬。 不过 Lex 提出了一个有趣的区分：当 AI 系统带来真正让所有人惊讶的洞见，让最顶尖的人类都从中学习，那种感觉就更像另一个实体，超出了工具的范畴。就像 Magnus Carlsen 等棋手看 AlphaZero 的棋局时，它给人的感觉是另一个实体，而不是一件工具。 泰格马克同意，这种时刻总会到来，而且很可能与 AGI 到来的时间大致重合。到那时，我们有更大的事情要担心，而不是诺贝尔奖该给谁。 ## 结语：行动建议 泰格马克的思考贯穿了一个主题：人类不能靠运气活着。无论是核战争、生物武器、自主武器还是 AI 对齐，我们都不能指望“正确的人恰好在正确的时间出现”。需要的是制度、是理解、是主动的准备。 - **对 AI 系统追求“可理解性”。**不要满足于黑箱，要追求泰格马克所说的“可理解的智能”（intelligible intelligence）。对安全攸关的系统，要像物理学家对待火箭一样，有深刻的理解和验证。 - **支持 AI 安全和对齐研究。**目前投入到构建强大 AI 的数十亿美元中，只有极小一部分用于安全研究。这个比例需要大幅提高。你不需要成为 AI 研究者才能贡献，作为公众、投资人、政策制定者，都可以推动这件事。 - **主动打破信息茧房。**不要只看自己阵营的媒体。尝试看看另一边的报道，目的是看到其中的遗漏和偏见，接受与否另说。可以试试类似 improvethenews.org 这样的工具，左右滑动，对比两边的报道差异。 - **对自主武器保持关注。**这是当下正在发生的军备竞赛，需要公众关注和国际协议。支持对完全自主致命武器的限制，就像当年禁止生物武器一样，这在技术和政治上都可行。 - **不要用善恶来思考技术和制度问题。**机器人是工具，公司是工具。重点在于激励机制的设计。与其争论 AI 是好是坏，不如思考如何把正确的激励放在正确的位置。 - **对宇宙中的生命保持谦卑和好奇。**继续支持 SETI 这样的探索。同时，如果生命确实稀有，那更要好好守护我们的星球。不要指望“外星人来拯救我们”，把地球当作唯一的家园来对待。 - **理解死亡，珍惜有限。**死亡让生命珍贵。把有价值的东西传递下去，无论是给学生、给朋友，还是写下来。你的一部分会以信息的形式继续存在。