山姆·奥特曼：OpenAI、GPT-5、Sora、董事会风波、埃隆·马斯克、伊利亚、权力与 AGI

2023年11月17日，星期五下午，山姆·奥特曼（Sam Altman）被自己公司的董事会解雇了。四天半之后，他回来了。他说那是他一生中最痛苦的职业经历：混乱、羞耻、令人不安。整个周末他几乎没睡、没吃，却保持着一种奇怪的充沛精力。他说那是战时肾上腺素教给他的东西。

几个月后，他在 Lex Fridman 的播客里复盘了整件事，中间说了一句很平静的话：

通往 AGI 的道路应该是一场巨大的权力斗争。我预期它会是这样。（山姆·奥特曼）

他用的词是"预期"。这个词的分量比"担心"重得多。在奥特曼的框架里，权力斗争会在这条路上必然出现，他自己经历的那一场，只是提前预演。

四天半里发生了什么

星期五下午董事会宣布解雇。他说自己拿不到什么解释，只能接受，然后很快走完了一段困惑和愤怒，开始想下一步做什么。他发现自己其实挺兴奋：他一直最喜欢的部分就是和研究团队一起工作，那就去做一个专注的 AGI 研究小组好了。

到星期五晚上，公司的执行团队找到他，说要打这场仗。他去睡觉，心情居然还不错。

星期六早上，两位董事会成员打电话来，说他们并不想制造这种动荡，问他愿不愿意回来。他第一反应是拒绝，想了一会儿又觉得，自己在乎这里的人、合伙人、股东，于是开始谈条件。

后面一段时间最难受。整个团队一边要稳住 OpenAI，一边被外面的人挖角，一边不断被告知"快好了，再等一会儿"。

星期天晚上，董事会任命了一位新的临时 CEO。他说那是整个事件的最低点。

但整个周末，主导他情绪的是爱，不是恨。他的手机被消息轰炸，有每天一起工作的同事，也有十年没联系过的人。他把这形容成提前参加自己的葬礼，听别人念悼词。

除了星期天晚上那一个瞬间，我不会把自己的情绪形容为愤怒或仇恨。那个周末让我感到痛苦，但主导情绪是爱。（山姆·奥特曼）

风波之后有一个多月，他形容自己处于一种游离状态，每天浑浑噩噩，情绪很低。有一天早上醒来，他想清楚了一件事：这件事太糟了，他可以选择永远把自己当成受害者，也可以选择说这是我这辈子能接触到的最重要的工作，然后回到里面去。

被改变的信任

Lex 问他，这件事有没有让他变得更难信任别人。他答得很直接：有。

我一直是个极度信任别人的人。我的人生哲学是别去担心那些偏执的东西，别去操心边界情况，你会在小事上吃点亏，换来的是可以放下防备地活着。（山姆·奥特曼）

他说这次被完全打了个措手不及，改变了他对"默认信任"的看法，也改变了他为坏情况做预案的习惯。他特别强调，他不担心自己变得愤世嫉俗，那和他的性格差得太远，他担心的是自己不再默认信任别人。

这个变化值得多想一层。开发 AGI 的人，是应该更信任人，还是更不信任人？信任意味着容易被骗，不信任意味着容易把世界看成威胁的集合。两种模式都可能出大问题。

董事会到底坏在哪

非营利组织的董事会有一个特点：除非你另外立规矩，它基本只对自己负责，不向任何人交代。奥特曼说，他们本来希望 OpenAI 的董事会能对全世界负责，但这在实际操作里很难。

旧董事会在一年里从九个人缩到六个人，然后卡在"加谁"这件事上谈不拢。成员普遍缺乏董事会经验。这两点加起来，就是一颗定时炸弹的配方。

新加入的成员里，拉里·萨默斯（Larry Summers）其实是旧董事会自己提的人选，布雷特·泰勒（Brett Taylor）则是奥特曼早先就推荐过的。选人的过程，按他的说法，是在战场上完成的，没有时间设计严谨流程。

那是你在战场上做的决定，你没有时间去设计一套严格的流程。（山姆·奥特曼）

后来他们定下了新的选人标准。泰勒提了一个说法，奥特曼很喜欢：董事会成员要成组招，不要一个一个招。

他还讲了一个关于"看什么"的判断。有些岗位他完全不管履历，只看斜率，也就是这个人的成长速度。董事会不一样。

对董事会成员，我更在意的是 Y 轴截距。履历和经验是很难被替代的东西。（山姆·奥特曼）

还有一段关于米拉·穆拉蒂（Mira Murati）的评价很值得抄下来。他说人们通常通过危机时刻认识一个领导者，但他真正看重的，是一个人在"某个无聊的星期二早上 9 点 46 分"是什么样子。

一个人怎么出现在一场会议里，他做的决定质量如何。这才是关键。（山姆·奥特曼）

危机中的表现是一次抽样，日常的几百次表现才是分布。

伊利亚看到了什么

关于伊利亚·苏茨克维尔（Ilya Sutskever），网上有一个流传很广的说法：他在董事会风波里扮演了关键角色，是因为他"看到了某种东西"，某种让他极度担忧的东西。

Lex 用玩笑的方式问：他被关在秘密核设施里吗？奥特曼说没有，普通秘密设施也没有，非秘密核设施也没有。

正经的回答是：伊利亚没有看到 AGI，没有人看到过，他们还没有造出来。但他确实是过去几年里，奥特曼花时间最多去讨论"这意味着什么""怎么才能做对"的人之一。

伊利亚没有看到 AGI，但就他为确保我们做对这件事投入的思考和担忧而言，他对人类有贡献。（山姆·奥特曼）

奥特曼说伊利亚一直处在某种灵魂探索里，而且是很好的那种。他还讲了一个细节：最近一次晚宴上，伊利亚在跟一只小狗玩，整个人处在一种很傻的状态里，非常可爱。他说那不是世界最常见到的伊利亚那一面。

马斯克为什么离开

关于埃隆·马斯克（Elon Musk）起诉 OpenAI，奥特曼说他不清楚对方真正的动机是什么。他能做的是回顾历史。

OpenAI 起步的时候，只是想做一个研究实验室，完全不知道这项技术会走向哪里。那是语言模型还不是大事的年代，没有 API，没有卖聊天机器人访问权的想法，也没有产品化的打算。

面对很多全新的东西，你只能在黑暗里摸索，做一些假设，而其中大部分后来被证明是错的。（山姆·奥特曼）

后来事情清楚了：他们需要做很多不一样的事，也需要多得多的钱。于是他们给结构打补丁，再打一次，再打一次，最后弄出一个"至少可以说看起来很扎眼"的东西。他说如果能带着今天的答案回到过去，他会做得完全不同，但当时没有那份答案。

至于马斯克离开的原因，奥特曼的说法是：马斯克认为 OpenAI 会失败，想要完全的控制权来扭转局面；他多次希望把 OpenAI 变成一个由他控制的营利公司，或者干脆并入特斯拉；而他们不想这么做。

埃隆选择离开，这没关系。（山姆·奥特曼）

他还回应了"Open"这个词。如果重来一次，他会换个名字。他认为 OpenAI 最重要的部分之一，是把强大的技术免费放到人们手里，作为公共品；免费版本不做广告，不做其他变现。至于开源与否，他的态度是"有些该开源，有些不该"，而这已经变成了一条宗教式的战线，中间地带很难存在。

马斯克说过一句"改名叫 CloseAI 我就撤诉"。奥特曼的评论是，这句话本身就说明了这场诉讼在他心里有多严肃，也是件令人吃惊的事。他还提到，Grok 在被人指出言行不一之前没有开源过任何东西，随后就宣布要开源。所以在他看来，这件事的核心并不是开源与否。

我觉得这整件事对一个建造者来说不太体面。我尊重埃隆是我们这个时代最伟大的建造者之一。（山姆·奥特曼）

他说自己想念过去的那个埃隆，而这句话引来了大量"这就是我的感受"的私信。他不希望双方陷入攻击，希望多年之后能有一种友好的关系。

对创业者，他给了一条很具体的建议：不要学他们的路径。任何想先做非营利、之后再挂一个营利实体的创业公司，他都会强烈劝阻。

Sora 到底懂不懂物理

Lex 问 Sora 的世界模型，和 GPT-4 相比谁更懂世界。奥特曼的切入点是遮挡。

他看 Sora 生成的视频，一个人走到某个东西前面，把它挡住几秒，再走过去，那个东西还在原地。这一幕让他觉得"这相当不错"。还有些例子，底层物理在序列里的很多步上都表现得很好。

但 Lex 说遮挡意味着模型掌握了三维物理，奥特曼退了一步：

我会说它做了一些事情，把遮挡处理得很好。但要说它有一个很好的底层三维世界模型，这个说法就有点勉强了。（山姆·奥特曼）

训练数据这一块，Sora 用的是视觉 patch，跟语言模型的 token 对应。技术报告里写的是互联网规模的数据。Lex 追问里面有多少人类标注，奥特曼的回答是"我们用了很多人类数据"，然后被追问"很多是多少"，他说：

给这些模型标注数据的人超过三个。（山姆·奥特曼）

这是个玩笑，但方向是对的：绝大部分是自监督，人工的部分存在，但不是主体。

目前公开的失败案例也很有意思，比如猫在视频里不同的地方随机多长出一条腿。奥特曼对这类问题的回答是"两边都对"：这套方法的某种根本局限确实存在，同时规模变大之后它也会变好。

关于版权，他的表态比较明确。真正的问题在于，创造有价值数据的人是否应该得到某种补偿方式，他认为答案是应该。

假设我是一个艺术家。第一，我希望能够选择退出"用我的风格生成艺术"这件事。第二，如果我的风格被用来生成艺术，我希望有一个与之关联的经济模型。（山姆·奥特曼）

摄影术出现的时候艺术家也很恐慌，后来摄影变成了新的艺术形式，很多人靠拍照赚了钱。他不认为这是最后一次这种变化。

关于 AI 会取代多少工作，他给了一个更好用的框架：不要问 AI 能取代多少岗位，要问 AI 在多长的时间尺度上能完成多少任务。五秒的任务、五分钟的任务、五小时的任务、五天的任务，分别有多少能被 AI 做掉。他认为这个问题比"取代多少岗位"重要得多，因为这是一把会在越来越长的时间尺度、越来越复杂的任务上起作用的工具，它让人在更高的抽象层次上工作。

GPT-4 已经"很差"

Lex 说 GPT-4 是历史性的成就。奥特曼的回答是：我觉得它挺烂的。

他的逻辑是这样：GPT-3 出来的时候大家惊叹不已，现在回头看 GPT-3，会觉得它完全没法用。他预期 5 和 4 之间的差距，会和 4 和 3 之间的差距一样大。

我们的工作是活在未来几年，并且记住我们现在手里的工具，回头看时会显得挺糟糕。这才是让未来变好的方式。（山姆·奥特曼）

那 GPT-4 现在最好的地方是什么？他说是头脑风暴伙伴。给一个东西命名，换个角度看一个问题，不确定该怎么办的时候找人聊，这个场景里能看到一点了不起的东西的微光。

另一个微光是长周期任务。把一个多步骤的问题拆开，执行其中一些步骤，联网搜索，写代码，再把结果拼起来。他说这件事成功的频率不高，但成功的时候非常神奇。

他特别强调，ChatGPT 那个转折点，很大程度上来自界面、后训练和产品，而不只是基础模型本身。RLHF 这类后训练工作在算力上只是一小层，但极其重要。

关于发布策略，他讲了一段很实在的话。他们选择"迭代式发布"，从 GPT-1 一路讲到 GPT-4，而不是关起门来一路做到 GPT-5。理由有两个：AI 和意外不该放在一起；世界、人们、机构需要时间去适应和思考。

我们的目标不是给世界投放震撼性的更新，恰恰相反。（山姆·奥特曼）

但既然外界仍然感觉像是跳跃式的，那说明他们可能还是没做够。他甚至说，也许应该考虑用不同的方式发布 GPT-5。

关于 GPT-5 什么时候来，他给的答案是"我不知道"，然后补了一句：今年会发布一个很棒的新模型，只是不确定叫什么名字。在谈到一个可能叫 GPT-5 的东西之前，还有很多重要的事情要先发。

上下文、记忆，和一条比尔·盖茨的旧事

从 8K 到 128K 上下文，多数人多数时候用不满。奥特曼说，如果往遥远的未来想，上下文会到几十亿，你会把所有信息、所有历史都喂进去，它越来越了解你，那会很棒。

他讲了一段比尔·盖茨谈早期计算机内存的往事，具体数字他记不准，可能是 64K，可能是 640K，其中大部分还要用来做屏幕缓冲。盖茨当时无法想象世界有一天需要千兆字节，甚至万亿字节的内存。技术的指数曲线就是这样，你总会用得上，用上之后就不想回去了。

记忆力功能目前还在早期探索。他想要的是一个越来越了解他、对他越来越有用的系统。Lex 拿去年十一月的事开玩笑，说 GPT 应该记住他那段时间经历的一切。奥特曼的回答其实挺认真：

我不只是希望它记住那件事。我希望它把那件事的教训整合进去，在我未来遇到类似情况时提醒我该注意什么。（山姆·奥特曼）

隐私那一块，他给的答案很简单：用户选择权。任何他想从自己的 AI 记忆里抹掉的东西，都应该能抹掉。想什么都不记也行。

算力是未来的货币

网上流传他说要募 7 万亿美元。他说自己从没发过这种推文，只是后来有人造了这个传言，他跟着玩了一下梗。

但底下的判断是认真的。

我认为算力会成为未来的货币，也许会成为世界上最珍贵的大宗商品。（山姆·奥特曼）

他用手机芯片市场来对比。全球 80 亿人，假设 60 亿到 70 亿人有手机，每两年换一次，那么每年大概有 30 亿颗手机 SoC 的需求。你造 300 亿颗，也卖不出十倍的手机数量，因为大多数人只有一部手机。

算力不遵守这个逻辑。智能更像能源：唯一有意义的说法是"在价格 X 上，世界会使用这么多算力；在价格 Y 上，世界会使用这么多算力"。便宜的时候，他会让它整天读自己的邮件、给出建议、顺便试着攻克癌症；贵的时候，可能只用它来攻克癌症。

难的地方在哪？能源最难，建数据中心难，供应链难，造出足够多的芯片也难。他押注的能源方向是核聚变，认为 Helion 做得最好，同时也很高兴看到现在有核聚变的竞赛。核裂变他也支持，认为这个行业停滞下来很可惜，而停滞的原因，按他的说法，是大众的集体恐慌。

他对 AI 的担忧里有一部分和这个同源。

有些事会在 AI 上戏剧性地出错。我不知道我最终被枪击的概率是多少，但它不是零。（山姆·奥特曼）

他说的"戏剧性风险"，是指那些适合做电影高潮的风险。空气污染杀死的人比核反应堆多得多，但人们更害怕住在核反应堆旁边，而不是燃煤电厂旁边。我们被这类风险牵动的程度，远远超过那些长期缓慢累积的风险。

做一个更好的搜索引擎，这件事他觉得无聊

Google 靠搜索统治了信息入口二十年。OpenAI 会不会去接这件事？他的回答是：如果问题只是"我们能不能做一个比 Google 更好的搜索引擎"，那这件事我觉得无聊。

Google 给你十条蓝色链接，前面还有十三条广告，这是一种找信息的方式。真正让他兴奋的，是可能有某种更好的方式帮人找到、处理、综合信息。"我们怎么比 Google 更好地给你十条排名网页"，这个问题本身没什么意思。

他承认 LLM 加搜索这个交叉点目前还没有人做对，他很想去做。至于广告：

从审美上我就不太喜欢广告。广告在互联网上必须存在过，为了把它启动起来，但它是一个阶段性的行业。（山姆·奥特曼）

他喜欢人们为 ChatGPT 付费，并且知道答案不会被广告主影响。他去用 Twitter、Facebook、Google 这些靠广告支撑的优质产品时，自己并不享受那种关系，而且他觉得在有 AI 的世界里这件事会变得更糟，不会更好。

把模型该有什么行为写清楚

Google 的 Gemini 1.5 出过一轮争议，生成了黑人纳粹、黑人开国元勋之类的图像。Lex 问，如果公司内部有一层人手在调整模型的安全性和危害性，那这层人手就会把某种意识形态倾向带进产品里，怎么处理？

奥特曼的回答里有一个他觉得是好主意的做法：把模型期望的行为写出来，公开，接受外界意见。说明这个模型应该怎么表现，也解释边界情况。这样一来，当模型的表现不符合预期时，至少能清楚区分两件事：这是公司该修的 bug，还是它就是按意图这么做的，那你就该去争论那条政策。

他强调，写成像"广告原则"那种高层的、模糊的表述不管用。要写得具体到"当你要求它做 X 时，它应该用 Y 方式回答"。

我接受模型可以有多种行为方式，但你应该能说出"这是原则，这是它在那种情况下的表现"。（山姆·奥特曼）

关于旧金山的意识形态氛围，他说 OpenAI 遇到的麻烦比其他公司少很多。他的解释是每家都有自己的意识形态，OpenAI 的那一套是关于 AGI 的信仰，这套东西把别的挤出去了。

至于国家行为体对 OpenAI 的渗透尝试，他只说了一句"他们在试"，然后拒绝透露更多。

你自己值得被信任吗

Lex 问了一个很尖的问题：第一个造出 AGI 的人会得到极大的权力，你信任自己拥有这么大的权力吗？

奥特曼的回答值得完整读一遍。他说他仍然相信，任何一个人都不应该对 OpenAI 或对 AGI 拥有完全的控制权，需要一套健壮的治理体系。他承认，从去年那场风波可以看出一种治理失灵：董事会在法律上有权解雇他，但在实践中这件事没真正实现。

他没有回避这个矛盾。他说自己最初没有抵抗，"这是董事会的意志，即使我认为这是个很糟的决定"；后来他确实抵抗了，也能解释为什么那时抵抗是合理的。但这让他没法直视着你说"董事会可以随时解雇我"。

我继续不希望对 OpenAI 拥有超级投票权。我从来没有过，也从来没想要过。经历这一切之后，我仍然不想要。（山姆·奥特曼）

他说他知道会有人（比如马克·安德森）指控他是在推动监管俘获，但他愿意被误解，因为让政府制定道路规则这件事本身很重要。

关于"AI 本身失控"这个存在性风险，他的表态是：

就我目前的看法，那不是我最担心的事。曾经有些时候我更担心它，未来也许还会再有。但现在它不是我的头号担忧。（山姆·奥特曼）

他补充说，这并不意味着不需要做这件事，这件事很难，公司里有很棒的人在研究。但有一群非常聪明、动机良好的 AI 安全研究者，长期卡在"模型逃出沙盒"这一个问题上，他认为进展有限，而这个问题把其他同样重大的 AI 风险挤出了讨论空间。

AGI 这个词本身有问题

Lex 问他什么时候会造出 AGI。他说他以前很喜欢猜，后来意识到这个问题本身很差，因为每个人用的定义差得太远。讨论"什么时候能造出能做 X 的系统"会比讨论"什么时候跨过这个模糊的里程碑"更有意义。

在本十年结束之前，我们会有相当有能力的系统，我们会看着它说，"哇，这真的很了不起"。也可能比这更早一些。（山姆·奥特曼）

有一个判断标准他反复提到：会不会让全球经济感觉不一样。GPT-4 发布之后，全球经济对他来说没有任何实质变化，所以那还不算。他个人认可的一个标志是，系统能显著提高世界上科学发现的速度，因为他相信大部分真实的经济增长来自科学和技术进步。

Lex 设想了一个场景：你独自在一个房间里，面前是第一个 AGI，你会问它什么？奥特曼说他真的认真想过这个问题，答案出乎意料地难。他不认为第一个 AGI 能回答"给我讲讲物理学的万有理论"。但如果它可以回答是或否，那他会先问：这样的理论存在吗？还有，宇宙里有没有其他外星文明？

更好的一种可能是，系统会说：你想知道这个物理问题的答案，我需要你造出这台机器，做这五次测量，然后把数据给我。

关于模拟假说，Sora 的出现让他的信念提高了一些，但幅度不大，这件事排不进他的前五位证据。他觉得更有意思的是"平方根"那个类比：平方根这个函数简单到可以讲给小孩听，当你问"负一的平方根是什么"，你就掉进了另一个现实。存在很多这样的小操作符，能把人推进一个完全不同的知识领域。

他还有一个我很喜欢的观察。你和你曾祖父母的基因差别很小，但你能做的事差别极大。这种差距来自所有人一起搭起来的这层脚手架，跟生物演化关系不大。没有一个人能独自造出 iPhone，没有一个人能独自发现全部科学，但你可以使用它。

那是我们共同创造的，这件事让我对未来充满希望。（山姆·奥特曼）

最后一个八卦

Lex 花了不小篇幅问他的推文为什么不写大写字母，还认真怀疑是不是 Shift 键坏了。奥特曼说他从小就是个很"在线"的孩子，那时候在即时通讯上聊天就从不打大写，很多互联网小孩都这样。写公司的战略备忘录、写正式的长消息，他都会老老实实大写。他说他不理解为什么有人在意这件事，并补了一句：我真的不觉得我是唯一一个不在推文里用大写字母的人。

Lex 的回答是：你是唯一一个不在推文里用大写字母的公司 CEO。

可以带走的几条

这场访谈表面上是在聊一家公司的八卦，底下给出的是一套关于权力、结构、和时间尺度的判断。下面几条可以直接拿来用：

• 评估一个人之前，先想清楚你要的是斜率还是 Y 轴截距。需要快速成长的岗位看斜率，管治理的人看履历。混用标准，两边都会选错。
• 招董事会成员按"一组人"来配，不要按"一个人"来挑。治理需要的是能力组合，不是单个强人。
• 设计任何组织时问一句：这个位置上的人，实际上对谁负责。答案是"只对自己负责"的时候，再好的善意也挡不住压力下的错误决定。
• 判断 AI 对工作的影响，把问题从"取代多少岗位"换成"在多长的时间尺度上能完成多少任务"。五秒、五分钟、五小时、五天，分别是多少。拿这个框架去数一遍自己岗位的任务清单，风险敞口就出来了。
• 用 GPT 这类模型时，把"它现在做不好的事"记下来，不只记它做得好的事。这些失败案例是你判断下一代能力、也是你决定要不要下注的依据。
• 做产品的人提前想清楚：用户数据被用来训练时，你给的选择权到底是什么。奥特曼给的答案是极简的用户控制，不是隐私政策里的模糊表述。
• 面对技术风险，主动区分"适合当电影高潮的风险"和"缓慢累积的风险"。前者会占掉全部注意力，后者才更可能真的杀死更多人。
• 不要先做非营利组织再挂营利实体。奥特曼的原话是，他会强烈劝阻任何这么想的创业者。

访谈里最朴素的一句其实是：AI 和意外不应该放在一起。他把它当作发布策略的理由，但这句话的适用范围远远不止一家公司。