# 山姆·奥特曼：OpenAI、GPT-5、Sora、董事会风波、埃隆·马斯克、伊利亚、权力与 AGI > OpenAI 首席执行官山姆·奥特曼谈 GPT-5 与 Sora 的进展、董事会解雇风波、与马斯克和伊利亚的分歧及 AGI 与权力。 - 原标题：#419 – Sam Altman: OpenAI, GPT-5, Sora, Board Saga, Elon Musk, Ilya, Power & AGI - 期数：第 419 期 - 发布日期：2024-03-18 - 嘉宾 / 主题：山姆·奥特曼 - 网页版：https://lexfridman-cn.pages.dev/ep/sam-altman-2/ - 官方页面：https://lexfridman.com/sam-altman-2/ - 精读字数：约 8440 字（阅读约 19 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 2023年11月17日，星期五下午，山姆·奥特曼（Sam Altman）被自己公司的董事会解雇了。四天半之后，他回来了。他说那是他一生中最痛苦的职业经历：混乱、羞耻、令人不安。整个周末他几乎没睡、没吃，却保持着一种奇怪的充沛精力。他说那是战时肾上腺素教给他的东西。 几个月后，他在 Lex Fridman 的播客里复盘了整件事，中间说了一句很平静的话： > 通往 AGI 的道路应该是一场巨大的权力斗争。我预期它会是这样。（山姆·奥特曼） 他用的词是"预期"。这个词的分量比"担心"重得多。在奥特曼的框架里，权力斗争会在这条路上必然出现，他自己经历的那一场，只是提前预演。 ## 四天半里发生了什么 星期五下午董事会宣布解雇。他说自己拿不到什么解释，只能接受，然后很快走完了一段困惑和愤怒，开始想下一步做什么。他发现自己其实挺兴奋：他一直最喜欢的部分就是和研究团队一起工作，那就去做一个专注的 AGI 研究小组好了。 到星期五晚上，公司的执行团队找到他，说要打这场仗。他去睡觉，心情居然还不错。 星期六早上，两位董事会成员打电话来，说他们并不想制造这种动荡，问他愿不愿意回来。他第一反应是拒绝，想了一会儿又觉得，自己在乎这里的人、合伙人、股东，于是开始谈条件。 后面一段时间最难受。整个团队一边要稳住 OpenAI，一边被外面的人挖角，一边不断被告知"快好了，再等一会儿"。 星期天晚上，董事会任命了一位新的临时 CEO。他说那是整个事件的最低点。 但整个周末，主导他情绪的是爱，不是恨。他的手机被消息轰炸，有每天一起工作的同事，也有十年没联系过的人。他把这形容成提前参加自己的葬礼，听别人念悼词。 > 除了星期天晚上那一个瞬间，我不会把自己的情绪形容为愤怒或仇恨。那个周末让我感到痛苦，但主导情绪是爱。（山姆·奥特曼） 风波之后有一个多月，他形容自己处于一种游离状态，每天浑浑噩噩，情绪很低。有一天早上醒来，他想清楚了一件事：这件事太糟了，他可以选择永远把自己当成受害者，也可以选择说这是我这辈子能接触到的最重要的工作，然后回到里面去。 ## 被改变的信任 Lex 问他，这件事有没有让他变得更难信任别人。他答得很直接：有。 > 我一直是个极度信任别人的人。我的人生哲学是别去担心那些偏执的东西，别去操心边界情况，你会在小事上吃点亏，换来的是可以放下防备地活着。（山姆·奥特曼） 他说这次被完全打了个措手不及，改变了他对"默认信任"的看法，也改变了他为坏情况做预案的习惯。他特别强调，他不担心自己变得愤世嫉俗，那和他的性格差得太远，他担心的是自己不再默认信任别人。 这个变化值得多想一层。开发 AGI 的人，是应该更信任人，还是更不信任人？信任意味着容易被骗，不信任意味着容易把世界看成威胁的集合。两种模式都可能出大问题。 ## 董事会到底坏在哪 非营利组织的董事会有一个特点：除非你另外立规矩，它基本只对自己负责，不向任何人交代。奥特曼说，他们本来希望 OpenAI 的董事会能对全世界负责，但这在实际操作里很难。 旧董事会在一年里从九个人缩到六个人，然后卡在"加谁"这件事上谈不拢。成员普遍缺乏董事会经验。这两点加起来，就是一颗定时炸弹的配方。 新加入的成员里，拉里·萨默斯（Larry Summers）其实是旧董事会自己提的人选，布雷特·泰勒（Brett Taylor）则是奥特曼早先就推荐过的。选人的过程，按他的说法，是在战场上完成的，没有时间设计严谨流程。 > 那是你在战场上做的决定，你没有时间去设计一套严格的流程。（山姆·奥特曼） 后来他们定下了新的选人标准。泰勒提了一个说法，奥特曼很喜欢：董事会成员要成组招，不要一个一个招。 他还讲了一个关于"看什么"的判断。有些岗位他完全不管履历，只看斜率，也就是这个人的成长速度。董事会不一样。 > 对董事会成员，我更在意的是 Y 轴截距。履历和经验是很难被替代的东西。（山姆·奥特曼） 还有一段关于米拉·穆拉蒂（Mira Murati）的评价很值得抄下来。他说人们通常通过危机时刻认识一个领导者，但他真正看重的，是一个人在"某个无聊的星期二早上 9 点 46 分"是什么样子。 > 一个人怎么出现在一场会议里，他做的决定质量如何。这才是关键。（山姆·奥特曼） 危机中的表现是一次抽样，日常的几百次表现才是分布。 ## 伊利亚看到了什么 关于伊利亚·苏茨克维尔（Ilya Sutskever），网上有一个流传很广的说法：他在董事会风波里扮演了关键角色，是因为他"看到了某种东西"，某种让他极度担忧的东西。 Lex 用玩笑的方式问：他被关在秘密核设施里吗？奥特曼说没有，普通秘密设施也没有，非秘密核设施也没有。 正经的回答是：伊利亚没有看到 AGI，没有人看到过，他们还没有造出来。但他确实是过去几年里，奥特曼花时间最多去讨论"这意味着什么""怎么才能做对"的人之一。 > 伊利亚没有看到 AGI，但就他为确保我们做对这件事投入的思考和担忧而言，他对人类有贡献。（山姆·奥特曼） 奥特曼说伊利亚一直处在某种灵魂探索里，而且是很好的那种。他还讲了一个细节：最近一次晚宴上，伊利亚在跟一只小狗玩，整个人处在一种很傻的状态里，非常可爱。他说那不是世界最常见到的伊利亚那一面。 ## 马斯克为什么离开 关于埃隆·马斯克（Elon Musk）起诉 OpenAI，奥特曼说他不清楚对方真正的动机是什么。他能做的是回顾历史。 OpenAI 起步的时候，只是想做一个研究实验室，完全不知道这项技术会走向哪里。那是语言模型还不是大事的年代，没有 API，没有卖聊天机器人访问权的想法，也没有产品化的打算。 > 面对很多全新的东西，你只能在黑暗里摸索，做一些假设，而其中大部分后来被证明是错的。（山姆·奥特曼） 后来事情清楚了：他们需要做很多不一样的事，也需要多得多的钱。于是他们给结构打补丁，再打一次，再打一次，最后弄出一个"至少可以说看起来很扎眼"的东西。他说如果能带着今天的答案回到过去，他会做得完全不同，但当时没有那份答案。 至于马斯克离开的原因，奥特曼的说法是：马斯克认为 OpenAI 会失败，想要完全的控制权来扭转局面；他多次希望把 OpenAI 变成一个由他控制的营利公司，或者干脆并入特斯拉；而他们不想这么做。 > 埃隆选择离开，这没关系。（山姆·奥特曼） 他还回应了"Open"这个词。如果重来一次，他会换个名字。他认为 OpenAI 最重要的部分之一，是把强大的技术免费放到人们手里，作为公共品；免费版本不做广告，不做其他变现。至于开源与否，他的态度是"有些该开源，有些不该"，而这已经变成了一条宗教式的战线，中间地带很难存在。 马斯克说过一句"改名叫 CloseAI 我就撤诉"。奥特曼的评论是，这句话本身就说明了这场诉讼在他心里有多严肃，也是件令人吃惊的事。他还提到，Grok 在被人指出言行不一之前没有开源过任何东西，随后就宣布要开源。所以在他看来，这件事的核心并不是开源与否。 > 我觉得这整件事对一个建造者来说不太体面。我尊重埃隆是我们这个时代最伟大的建造者之一。（山姆·奥特曼） 他说自己想念过去的那个埃隆，而这句话引来了大量"这就是我的感受"的私信。他不希望双方陷入攻击，希望多年之后能有一种友好的关系。 对创业者，他给了一条很具体的建议：不要学他们的路径。任何想先做非营利、之后再挂一个营利实体的创业公司，他都会强烈劝阻。 ## Sora 到底懂不懂物理 Lex 问 Sora 的世界模型，和 GPT-4 相比谁更懂世界。奥特曼的切入点是遮挡。 他看 Sora 生成的视频，一个人走到某个东西前面，把它挡住几秒，再走过去，那个东西还在原地。这一幕让他觉得"这相当不错"。还有些例子，底层物理在序列里的很多步上都表现得很好。 但 Lex 说遮挡意味着模型掌握了三维物理，奥特曼退了一步： > 我会说它做了一些事情，把遮挡处理得很好。但要说它有一个很好的底层三维世界模型，这个说法就有点勉强了。（山姆·奥特曼） 训练数据这一块，Sora 用的是视觉 patch，跟语言模型的 token 对应。技术报告里写的是互联网规模的数据。Lex 追问里面有多少人类标注，奥特曼的回答是"我们用了很多人类数据"，然后被追问"很多是多少"，他说： > 给这些模型标注数据的人超过三个。（山姆·奥特曼） 这是个玩笑，但方向是对的：绝大部分是自监督，人工的部分存在，但不是主体。 目前公开的失败案例也很有意思，比如猫在视频里不同的地方随机多长出一条腿。奥特曼对这类问题的回答是"两边都对"：这套方法的某种根本局限确实存在，同时规模变大之后它也会变好。 关于版权，他的表态比较明确。真正的问题在于，创造有价值数据的人是否应该得到某种补偿方式，他认为答案是应该。 > 假设我是一个艺术家。第一，我希望能够选择退出"用我的风格生成艺术"这件事。第二，如果我的风格被用来生成艺术，我希望有一个与之关联的经济模型。（山姆·奥特曼） 摄影术出现的时候艺术家也很恐慌，后来摄影变成了新的艺术形式，很多人靠拍照赚了钱。他不认为这是最后一次这种变化。 关于 AI 会取代多少工作，他给了一个更好用的框架：不要问 AI 能取代多少岗位，要问 AI 在多长的时间尺度上能完成多少任务。五秒的任务、五分钟的任务、五小时的任务、五天的任务，分别有多少能被 AI 做掉。他认为这个问题比"取代多少岗位"重要得多，因为这是一把会在越来越长的时间尺度、越来越复杂的任务上起作用的工具，它让人在更高的抽象层次上工作。 ## GPT-4 已经"很差" Lex 说 GPT-4 是历史性的成就。奥特曼的回答是：我觉得它挺烂的。 他的逻辑是这样：GPT-3 出来的时候大家惊叹不已，现在回头看 GPT-3，会觉得它完全没法用。他预期 5 和 4 之间的差距，会和 4 和 3 之间的差距一样大。 > 我们的工作是活在未来几年，并且记住我们现在手里的工具，回头看时会显得挺糟糕。这才是让未来变好的方式。（山姆·奥特曼） 那 GPT-4 现在最好的地方是什么？他说是头脑风暴伙伴。给一个东西命名，换个角度看一个问题，不确定该怎么办的时候找人聊，这个场景里能看到一点了不起的东西的微光。 另一个微光是长周期任务。把一个多步骤的问题拆开，执行其中一些步骤，联网搜索，写代码，再把结果拼起来。他说这件事成功的频率不高，但成功的时候非常神奇。 他特别强调，ChatGPT 那个转折点，很大程度上来自界面、后训练和产品，而不只是基础模型本身。RLHF 这类后训练工作在算力上只是一小层，但极其重要。 关于发布策略，他讲了一段很实在的话。他们选择"迭代式发布"，从 GPT-1 一路讲到 GPT-4，而不是关起门来一路做到 GPT-5。理由有两个：AI 和意外不该放在一起；世界、人们、机构需要时间去适应和思考。 > 我们的目标不是给世界投放震撼性的更新，恰恰相反。（山姆·奥特曼） 但既然外界仍然感觉像是跳跃式的，那说明他们可能还是没做够。他甚至说，也许应该考虑用不同的方式发布 GPT-5。 关于 GPT-5 什么时候来，他给的答案是"我不知道"，然后补了一句：今年会发布一个很棒的新模型，只是不确定叫什么名字。在谈到一个可能叫 GPT-5 的东西之前，还有很多重要的事情要先发。 ## 上下文、记忆，和一条比尔·盖茨的旧事 从 8K 到 128K 上下文，多数人多数时候用不满。奥特曼说，如果往遥远的未来想，上下文会到几十亿，你会把所有信息、所有历史都喂进去，它越来越了解你，那会很棒。 他讲了一段比尔·盖茨谈早期计算机内存的往事，具体数字他记不准，可能是 64K，可能是 640K，其中大部分还要用来做屏幕缓冲。盖茨当时无法想象世界有一天需要千兆字节，甚至万亿字节的内存。技术的指数曲线就是这样，你总会用得上，用上之后就不想回去了。 记忆力功能目前还在早期探索。他想要的是一个越来越了解他、对他越来越有用的系统。Lex 拿去年十一月的事开玩笑，说 GPT 应该记住他那段时间经历的一切。奥特曼的回答其实挺认真： > 我不只是希望它记住那件事。我希望它把那件事的教训整合进去，在我未来遇到类似情况时提醒我该注意什么。（山姆·奥特曼） 隐私那一块，他给的答案很简单：用户选择权。任何他想从自己的 AI 记忆里抹掉的东西，都应该能抹掉。想什么都不记也行。 ## 算力是未来的货币 网上流传他说要募 7 万亿美元。他说自己从没发过这种推文，只是后来有人造了这个传言，他跟着玩了一下梗。 但底下的判断是认真的。 > 我认为算力会成为未来的货币，也许会成为世界上最珍贵的大宗商品。（山姆·奥特曼） 他用手机芯片市场来对比。全球 80 亿人，假设 60 亿到 70 亿人有手机，每两年换一次，那么每年大概有 30 亿颗手机 SoC 的需求。你造 300 亿颗，也卖不出十倍的手机数量，因为大多数人只有一部手机。 算力不遵守这个逻辑。智能更像能源：唯一有意义的说法是"在价格 X 上，世界会使用这么多算力；在价格 Y 上，世界会使用这么多算力"。便宜的时候，他会让它整天读自己的邮件、给出建议、顺便试着攻克癌症；贵的时候，可能只用它来攻克癌症。 难的地方在哪？能源最难，建数据中心难，供应链难，造出足够多的芯片也难。他押注的能源方向是核聚变，认为 Helion 做得最好，同时也很高兴看到现在有核聚变的竞赛。核裂变他也支持，认为这个行业停滞下来很可惜，而停滞的原因，按他的说法，是大众的集体恐慌。 他对 AI 的担忧里有一部分和这个同源。 > 有些事会在 AI 上戏剧性地出错。我不知道我最终被枪击的概率是多少，但它不是零。（山姆·奥特曼） 他说的"戏剧性风险"，是指那些适合做电影高潮的风险。空气污染杀死的人比核反应堆多得多，但人们更害怕住在核反应堆旁边，而不是燃煤电厂旁边。我们被这类风险牵动的程度，远远超过那些长期缓慢累积的风险。 ## 做一个更好的搜索引擎，这件事他觉得无聊 Google 靠搜索统治了信息入口二十年。OpenAI 会不会去接这件事？他的回答是：如果问题只是"我们能不能做一个比 Google 更好的搜索引擎"，那这件事我觉得无聊。 Google 给你十条蓝色链接，前面还有十三条广告，这是一种找信息的方式。真正让他兴奋的，是可能有某种更好的方式帮人找到、处理、综合信息。"我们怎么比 Google 更好地给你十条排名网页"，这个问题本身没什么意思。 他承认 LLM 加搜索这个交叉点目前还没有人做对，他很想去做。至于广告： > 从审美上我就不太喜欢广告。广告在互联网上必须存在过，为了把它启动起来，但它是一个阶段性的行业。（山姆·奥特曼） 他喜欢人们为 ChatGPT 付费，并且知道答案不会被广告主影响。他去用 Twitter、Facebook、Google 这些靠广告支撑的优质产品时，自己并不享受那种关系，而且他觉得在有 AI 的世界里这件事会变得更糟，不会更好。 ## 把模型该有什么行为写清楚 Google 的 Gemini 1.5 出过一轮争议，生成了黑人纳粹、黑人开国元勋之类的图像。Lex 问，如果公司内部有一层人手在调整模型的安全性和危害性，那这层人手就会把某种意识形态倾向带进产品里，怎么处理？ 奥特曼的回答里有一个他觉得是好主意的做法：把模型期望的行为写出来，公开，接受外界意见。说明这个模型应该怎么表现，也解释边界情况。这样一来，当模型的表现不符合预期时，至少能清楚区分两件事：这是公司该修的 bug，还是它就是按意图这么做的，那你就该去争论那条政策。 他强调，写成像"广告原则"那种高层的、模糊的表述不管用。要写得具体到"当你要求它做 X 时，它应该用 Y 方式回答"。 > 我接受模型可以有多种行为方式，但你应该能说出"这是原则，这是它在那种情况下的表现"。（山姆·奥特曼） 关于旧金山的意识形态氛围，他说 OpenAI 遇到的麻烦比其他公司少很多。他的解释是每家都有自己的意识形态，OpenAI 的那一套是关于 AGI 的信仰，这套东西把别的挤出去了。 至于国家行为体对 OpenAI 的渗透尝试，他只说了一句"他们在试"，然后拒绝透露更多。 ## 你自己值得被信任吗 Lex 问了一个很尖的问题：第一个造出 AGI 的人会得到极大的权力，你信任自己拥有这么大的权力吗？ 奥特曼的回答值得完整读一遍。他说他仍然相信，任何一个人都不应该对 OpenAI 或对 AGI 拥有完全的控制权，需要一套健壮的治理体系。他承认，从去年那场风波可以看出一种治理失灵：董事会在法律上有权解雇他，但在实践中这件事没真正实现。 他没有回避这个矛盾。他说自己最初没有抵抗，"这是董事会的意志，即使我认为这是个很糟的决定"；后来他确实抵抗了，也能解释为什么那时抵抗是合理的。但这让他没法直视着你说"董事会可以随时解雇我"。 > 我继续不希望对 OpenAI 拥有超级投票权。我从来没有过，也从来没想要过。经历这一切之后，我仍然不想要。（山姆·奥特曼） 他说他知道会有人（比如马克·安德森）指控他是在推动监管俘获，但他愿意被误解，因为让政府制定道路规则这件事本身很重要。 关于"AI 本身失控"这个存在性风险，他的表态是： > 就我目前的看法，那不是我最担心的事。曾经有些时候我更担心它，未来也许还会再有。但现在它不是我的头号担忧。（山姆·奥特曼） 他补充说，这并不意味着不需要做这件事，这件事很难，公司里有很棒的人在研究。但有一群非常聪明、动机良好的 AI 安全研究者，长期卡在"模型逃出沙盒"这一个问题上，他认为进展有限，而这个问题把其他同样重大的 AI 风险挤出了讨论空间。 ## AGI 这个词本身有问题 Lex 问他什么时候会造出 AGI。他说他以前很喜欢猜，后来意识到这个问题本身很差，因为每个人用的定义差得太远。讨论"什么时候能造出能做 X 的系统"会比讨论"什么时候跨过这个模糊的里程碑"更有意义。 > 在本十年结束之前，我们会有相当有能力的系统，我们会看着它说，"哇，这真的很了不起"。也可能比这更早一些。（山姆·奥特曼） 有一个判断标准他反复提到：会不会让全球经济感觉不一样。GPT-4 发布之后，全球经济对他来说没有任何实质变化，所以那还不算。他个人认可的一个标志是，系统能显著提高世界上科学发现的速度，因为他相信大部分真实的经济增长来自科学和技术进步。 Lex 设想了一个场景：你独自在一个房间里，面前是第一个 AGI，你会问它什么？奥特曼说他真的认真想过这个问题，答案出乎意料地难。他不认为第一个 AGI 能回答"给我讲讲物理学的万有理论"。但如果它可以回答是或否，那他会先问：这样的理论存在吗？还有，宇宙里有没有其他外星文明？ 更好的一种可能是，系统会说：你想知道这个物理问题的答案，我需要你造出这台机器，做这五次测量，然后把数据给我。 关于模拟假说，Sora 的出现让他的信念提高了一些，但幅度不大，这件事排不进他的前五位证据。他觉得更有意思的是"平方根"那个类比：平方根这个函数简单到可以讲给小孩听，当你问"负一的平方根是什么"，你就掉进了另一个现实。存在很多这样的小操作符，能把人推进一个完全不同的知识领域。 他还有一个我很喜欢的观察。你和你曾祖父母的基因差别很小，但你能做的事差别极大。这种差距来自所有人一起搭起来的这层脚手架，跟生物演化关系不大。没有一个人能独自造出 iPhone，没有一个人能独自发现全部科学，但你可以使用它。 > 那是我们共同创造的，这件事让我对未来充满希望。（山姆·奥特曼） ## 最后一个八卦 Lex 花了不小篇幅问他的推文为什么不写大写字母，还认真怀疑是不是 Shift 键坏了。奥特曼说他从小就是个很"在线"的孩子，那时候在即时通讯上聊天就从不打大写，很多互联网小孩都这样。写公司的战略备忘录、写正式的长消息，他都会老老实实大写。他说他不理解为什么有人在意这件事，并补了一句：我真的不觉得我是唯一一个不在推文里用大写字母的人。 Lex 的回答是：你是唯一一个不在推文里用大写字母的公司 CEO。 ## 可以带走的几条 这场访谈表面上是在聊一家公司的八卦，底下给出的是一套关于权力、结构、和时间尺度的判断。下面几条可以直接拿来用： - 评估一个人之前，先想清楚你要的是斜率还是 Y 轴截距。需要快速成长的岗位看斜率，管治理的人看履历。混用标准，两边都会选错。 - 招董事会成员按"一组人"来配，不要按"一个人"来挑。治理需要的是能力组合，不是单个强人。 - 设计任何组织时问一句：这个位置上的人，实际上对谁负责。答案是"只对自己负责"的时候，再好的善意也挡不住压力下的错误决定。 - 判断 AI 对工作的影响，把问题从"取代多少岗位"换成"在多长的时间尺度上能完成多少任务"。五秒、五分钟、五小时、五天，分别是多少。拿这个框架去数一遍自己岗位的任务清单，风险敞口就出来了。 - 用 GPT 这类模型时，把"它现在做不好的事"记下来，不只记它做得好的事。这些失败案例是你判断下一代能力、也是你决定要不要下注的依据。 - 做产品的人提前想清楚：用户数据被用来训练时，你给的选择权到底是什么。奥特曼给的答案是极简的用户控制，不是隐私政策里的模糊表述。 - 面对技术风险，主动区分"适合当电影高潮的风险"和"缓慢累积的风险"。前者会占掉全部注意力，后者才更可能真的杀死更多人。 - 不要先做非营利组织再挂营利实体。奥特曼的原话是，他会强烈劝阻任何这么想的创业者。 访谈里最朴素的一句其实是：AI 和意外不应该放在一起。他把它当作发布策略的理由，但这句话的适用范围远远不止一家公司。