# 伊利亚·苏茨克维：深度学习

> OpenAI 首席科学家谈深度学习的进展与局限，神经网络为何奏效，以及通向通用智能的可能路径。

- 原标题：#94 – Ilya Sutskever: Deep Learning
- 期数：第 94 期
- 发布日期：2020-05-08
- 嘉宾 / 主题：伊利亚·苏茨克维
- 网页版：https://lexfridman-cn.pages.dev/ep/ilya-sutskever/
- 官方页面：https://lexfridman.com/ilya-sutskever/
- 精读字数：约 8185 字（阅读约 18 分钟）

> 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。

2012年ImageNet大赛，一个叫AlexNet的神经网络把第二名甩开十多个百分点。这件事后来被引用过无数次，当成深度学习革命爆发的标志性起点。

伊利亚·苏茨克维（Ilya Sutskever）在这期访谈里给出的时间点更早，也更安静。

> 2010年，James Martens 发明了Hessian-free优化器。他用它端到端训练了一个神经网络，从头开始，没有任何预训练。那一刻我心想，就是它了。（苏茨克维）

他当时的推理链条朴素得近乎天真：如果十层网络能表示复杂函数，那就训练一个足够大的网络，喂足够多的监督数据，它必然成功。这个信念在当年听上去像外行话，因为机器学习社区的主流判断是，深层网络根本训不动。

十年后回看，他赢了。访谈有意思的地方，在于他反复咀嚼一个更让人不安的问题：**我们到现在依然在严重低估深度学习。**

## 大脑提供灵感，灵感只是起点

苏茨克维承认，神经网络的整个思想谱系直接来自大脑。60年代罗森布拉特（Rosenblatt）的感知机，麦克洛克（McCulloch）和皮茨（Pitts）琢磨着借计算机自动机的思路，设计一个像神经元那样的计算对象，再到福岛邦彦（Fukushima）的卷积网络，以及后来勒昆（LeCun）把感受野限制引入图像处理。这条线索清晰得像教科书刻意安排的。

他自己的态度也很直接：

> 我当时的想法是，人工神经元如果造得足够对，大概和大脑差不了太多。那就先假设它成立，然后干起来。（苏茨克维）

这种先假设、再验证的做法贯穿了他的研究哲学。他同时提醒，类比必须用得精确。大脑靠脉冲传递信号，人工网络用的是连续激活值。有人想用脉冲神经网络复现大脑，他对这条路线的置信度不高。理由很有意思：脉冲网络研究者最后发现，得先在脉冲网络里模拟非脉冲网络的训练方法，才能让它跑起来。

> 问题在于，它凭什么该工作？这个问题本身并不自明。（苏茨克维）

他更在意大脑的另一个特性：时序。神经元放电的时刻本身携带信息，而前馈网络和标准循环网络把时间压扁成了离散步。他提到脉冲时序依赖可塑性（spike-timing-dependent plasticity，STDP）：突触的输入信号如果在神经元放电前不久到达，这个突触被加强；信号如果在放电之后才到，突触被削弱。

“我说对了九成，”他补了一句，“如果哪里说错了，别太生气。”

这种坦诚贯穿整场对话。一个被引用超过十六万次的人，解释自己领域最基础的概念时，仍然会说“我不确定”“我不想说得太绝对”。

## 成本函数很好用，但它未必是唯一答案

有一段值得反复读。苏茨克维说，深度学习能工作，一个关键的概念贡献是成本函数。你定义一个衡量系统表现的标量，梯度下降帮你去最小化它。

他随即松了口：

> 我不确定生物演化有没有成本函数。你也许可以说它朝某些区域靠拢，但我不认为成本函数这个类比是最有用的。（苏茨克维）

如果演化没有成本函数，经济也没有，那深度学习死守成本函数这套框架，会不会成为某种瓶颈？

他的回答保持了一贯的务实：

> 我是成本函数的忠实粉丝。它能用，而且用得非常好。也许有一天会出现某种更深刻的视角，让成本函数退居次要位置，但我不知道。我不会押注在成本函数消失上。（苏茨克维）

这种分寸感很典型。一个在最前沿干了十几年的人，对“现有框架会被推翻”的态度，既没有狂热拥抱，也没有死守。他承认自博弈、探索机制、好奇心驱动的内在奖励，都在成本函数的边缘试探。这些手段目前仍然被成本函数这套语言吸收着。

## 为什么偏偏是2012年

深度学习为什么成功，他给了三个成分，缺一不可：大量标注数据、大量算力，以及一个经常被忽略的东西，信念。

> 想法早就在那儿了。缺的是数据、算力，还有把这两者混合起来会奏效的那种信念。（苏茨克维）

他专门替当年不相信神经网络的人做了一次辩护。后人容易带着优越感回看，觉得那帮人怎么会看不出来。苏茨克维说，实际情况是那时的神经网络确实什么都做不好，在很多任务上都不是最优方法。**不相信它，当时是理性的。**

打破僵局的，是足够难、足够硬、无法争辩的基准测试。ImageNet 扮演了这个角色。Jitendra Malik、Alexei Efros 这些计算机视觉领域的权威最初持怀疑态度，Geoffrey Hinton 坚定看好，最后 AlexNet 用一份无法忽视的成绩单把争论终结掉。

> 这个领域今天能进步，靠的就是这些真正硬的基准，它们代表真实的进步。这也是为什么我们能避免无休止的争论。（苏茨克维）

他讲的其实是一种更普适的认知机制。一个领域缺乏硬指标的时候，会陷入立场之争，谁声音大谁赢。一旦有了能产生不可否认证据的测试，讨论就从立场转向工程。

## 视觉、语言、强化学习，底层是同一台机器

被问到机器学习内部的统一性，他的回答很干脆：**统一性极高。**

> 整个领域只有一到三个非常简单的原理，然后它们以几乎相同的方式，作用在不同的模态、不同的问题上。（苏茨克维）

他举了个具体例子：发一篇改进视觉任务优化的论文，这个改进大概率也会在强化学习任务上生效。底层是同一台机器。

他甚至预测视觉和语言会进一步合流。回看几年前的自然语言处理，每个小问题都有自己的架构，一派碎片化景象。今天一个Transformer包打天下。再往更早看，每个AI小问题都有自己的子领域、自己的特征工程专家。

“现在全都被深度学习吞并了。”

强化学习是不是例外？他的措辞很讲究：

> 强化学习既不是视觉也不是语言，但它天然地和这两者对接、整合。（苏茨克维）

真正让强化学习不同的是它的非平稳性。你一旦开始行动，你看到的世界就变了。静态任务里，数据分布是给定的，你只是在上面拟合一个模型。一个学习行动的智能体，它的行为会改变它接下来接收到的数据。

## 被低估的深度学习

整场对话里，这个判断出现了三次。

> 过去十年，大部分时间我们的预期都是：好吧，深度学习大概就走到这儿了。然后第二年发现，不，它走得更远。年年如此。（苏茨克维）

让他真正觉得不可思议的，是这件事本身：

> 深度学习居然真的能工作。你有点想法，有个小网络，有反向传播，然后你有些理论说这有点像大脑，那就把它做大试试。做大，喂更多数据，它真的能逼近大脑的功能。这是真的。这太疯狂了。（苏茨克维）

他把深度学习比作生物学和物理学的几何平均。物理学的理论精确得可怕，预测力惊人；生物学的系统复杂到几乎无法建立好的预测理论。**深度学习卡在中间。**它有类似物理学的可预测规律，又保留着类似生物学的复杂性。

这个类比听起来像玩笑，它其实在解释一件事：为什么这个领域既让人兴奋，又让人抓不住。

## 双下降：更大的模型反而更糟

2020年初，他参与的论文《Deep Double Descent》给社区抛出了一个刺眼的现象。他解释得清楚：固定数据集，逐渐增大模型。模型很小的时候，变大一点，性能快速上升。继续变大，到了某个点，性能开始变差，而且恰好落在训练损失降到接近零的那个位置上。再继续变大，性能重新变好。

这条曲线是U形加一个尾巴，所以叫双下降。

背后的直觉是：当模型的自由度和数据的自由度恰好对齐时，两者之间是一一对应的关系。数据里任何一点随机的、无关紧要的扰动，都会直接传递到模型参数里，模型没法拒绝它。

> 过拟合的本质，是模型对数据里那些微小的、随机的、不重要的东西过度敏感。（苏茨克维）

参数量远大于数据量时，存在一个巨大的零误差子空间，SGD会找到其中范数最小的那个点。这个解被证明对数据的微小扰动不敏感。信息被压缩了，噪声被丢掉了。

有个细节容易被忽略：**提前停止（early stopping）几乎能让整个双下降现象消失。**性能最差的那个点，往往出现在验证集表现开始变差的时候，那时候训练还没走到“变好”的那一段。只要在验证表现下滑时收手，就永远看不到后面那个回升。很多团队早就在做提前停止，所以双下降在日常工程里一直被掩盖着。

## 反向传播：别急着抛弃它

Hinton 曾半开玩笑地说过，既然在大脑里找不到反向传播，不如推倒重来。苏茨克维的回应很稳：

> 他原话是，如果在大脑里找不到反向传播，那从大脑的学习机制里也许能学到点什么。同时，反向传播很有用，我们该继续用。（苏茨克维）

他本人是反向传播的坚定支持者，理由不抽象：

> 它解决了一个极其基本的问题，就是在一定约束下找到一个神经回路。我不认为这个问题会消失。（苏茨克维）

“在约束下找到最合适的电路”这个优化问题本身不可回避。反向传播是这个问题目前最好的解法。除非有人给出一个本质上不同、且同样有效的解法，这个支柱不会挪。

## 神经网络能推理吗

2020年这个提问已经很尖锐，今天更尖锐。他给了一个漂亮的存在的证明：AlphaZero 下围棋的神经网络，不靠搜索，单看那个网络本身，棋力超过99.9%的人类。

> 我们都同意围棋需要推理。那这个网络本身不就证明了神经网络能推理吗？（苏茨克维）

Lex 试图反驳：推理像是一种逐步搜索的过程，围棋是特例。苏茨克维顺着这个方向给出了更精确的表述：

> 神经网络有能力推理。但如果你训练它做一个不需要推理的任务，它就不会去推理。众所周知，神经网络会用最省力的方式，解决你摆在它面前的那个问题。（苏茨克维）

这句话里藏着一个重要判断。神经网络的能力高度依赖任务本身对能力的需求。你给它一个可以靠表面统计规律糊弄过去的任务，它就只学表面规律。你给它一个必须靠多步推演才能解决的任务，它就有可能被逼出推理。

## 小电路与小程序的隐喻

苏茨克维早年说过一句被反复引用的话：神经网络是对小电路的搜索，而通用智能是对小程序的搜索。

他在这期访谈里做了修正。

> 现在我会把它改写成：一个大的电路，但它的权重里只包含少量信息。（苏茨克维）

这个修正来自过参数化的发现。过去他以为好模型就是参数少的、简洁的模型。现在他意识到，模型可以很大，但训练过程本质上是在把数据里的熵一点点传输到参数里，最后权重承载的信息量并不大。这正是它泛化得起来的原因。

那为什么不能直接去找最短的程序？因为理论上可以证明：

> 找到生成某段数据的最短程序，是不可计算的。没有任何有限的计算能做到这件事。（苏茨克维）

这是柯尔莫哥洛夫复杂性的经典结论。神经网络因此成了唯一可行的路径。最短程序找不到，你只能找一个大致拟合数据的电路。

他还给这条原则加了一个更硬的前提：**可训练性。**

> 我们有一根叫“可训练性”的支柱，然后围绕这根支柱去扭曲神经网络的形状。这是不能违反的不变量。（苏茨克维）

这句话的分量比表面看上去重。即使存在某个理论上更优雅、更强大的架构，只要它训不起来，就不会被真正采纳。整个深度学习的发展史，某种程度上就是不断在“更强大”和“更可训”之间找平衡的历史。

## GPT-2：Transformer到底赢在哪

谈到语言模型的历史，他追溯得很远：80年代就有小型循环网络被用于语言。真正扭转轨迹的，还是数据和算力这两个老变量。

语言模型有个特别清晰的解释，说明为什么必须做大。它要预测下一个词。规模很小的时候，它只能注意到表面模式：有时候有字符，中间有空格；有时候有逗号，后面跟大写字母。再大一点，它注意到某些词经常共现，注意到拼写，注意到语法。再大，它才开始注意到语义和事实。

他举了自己早年的实验做证据。在亚马逊评论上训练字符级模型，当隐藏层从500扩到4000时，其中一个神经元开始表示评论的情感倾向。

> 情感是非常语义化的属性，语法层面抓不到它。小网络抓不到，大网络抓到了。（苏茨克维）

他们当时的解释是：语法这个层面的东西很快就被学完了，学完之后，模型只能把注意力转向更深的语义。

Transformer 为什么成功？他的回答避开了单一的英雄叙事：

> Transformer是多个想法同时组合的结果。注意力是其中之一，但它不是唯一的关键。去掉任何一个，它都会逊色很多。（苏茨克维）

他点出两个真正的要素：一是它能极其高效地在GPU上跑；二是它**没有循环结构，因此层数更浅、更容易优化。**

循环网络给人一种能表达任意长时间依赖的强大感，但在优化层面，深度本身就是负担。Transformer 牺牲了理论上的序列表达力，换来了可训练性。可训练性这根支柱又一次压过了理论优雅。

他承认，当年看到Transformer的效果，确实惊讶了。“我刚想收回前面说的话，那真的很惊人。”他原本预测到训练大语言模型应该会有好结果，亲眼看到又是另一回事。

> 我们适应得太快了。现在已经有认知科学家写文章说GPT-2并不真正理解语言。我们对“它能这么好地建模语言”这件事，居然这么快就习以为常了。（苏茨克维）

## 模型该不该发布

OpenAI 在GPT-2上的分阶段发布，在2020年是个有争议的决策。他的解释很朴素：AI领域正在从童年走向成熟。它的影响不只是大，还在增长。所以在发布之前先想想影响，宁可早一点，不要晚一点。

他承认当时的不确定性：

> GPT-2有可能被用来降低制造虚假信息的成本。这是可能的，并非确定。（苏茨克维）

分阶段发布于是成了逻辑上的选择：先放小模型，观察社区怎么用。结果是有很多很酷的应用，没有已知的负面应用。后来大模型也放出来了，其他人也复现了类似的模型。

他也承认这里有条没法回避的边界：“以我们所知”。

访谈里有个更尖锐的问题：一个公司，要不要、能不能和竞争对手讨论这些风险？他的回答倾向于乐观，也带着前提：

> 重要的是逐步在公司之间建立信任。因为最终大家都只是在做越来越强的技术。归根结底，我们只能一起。（苏茨克维）

## 通用智能还缺什么

他对AGI的公式给得很克制：深度学习，加上也许一两个小想法。

他愿意押注的“小想法”之一，是自博弈。理由很具体：

> 自博弈有一种了不起的性质，它能用真正新颖的方式带来惊讶。（苏茨克维）

他提到OpenAI做的捉迷藏实验，两个小智能体互相博弈，演化出了人类没有预设的行为。AlphaZero 也是。这些系统给出的不只是随机的新奇，它们给出的是**针对一个问题、有用且出人意料的解法。**

当前模型的强，是拟合出来的强；自博弈的强，是探索出来的强。这正是当前系统不常展现的东西。

那仿真环境够不够？他的回答拒绝二元对立：

> 仿真是一种工具，有它的强项也有弱项，该用就用。（苏茨克维）

他举了OpenAI的机械手例子。那只手100%在仿真里训练，然后零样本迁移到真实世界，还能适应视频里那些它从没见过的新奇扰动，比如一只长颈鹿玩偶。这个案例证明了一件事：**仿真到现实的迁移已经发生了。**

他还预测，深度学习的迁移能力会持续增强。迁移能力越强，仿真就越有价值，因为你在仿真里学到的东西，能带得走。

## 身体、意识与自我认知

关于“智能体是否需要身体”，他的态度是：有用，但不必要。

> 有身体肯定有用，有些东西没有身体就学不到。但如果你没有身体，你也可以补偿，仍然能成功。（苏茨克维）

他举了海伦·凯勒的例子。先天失聪失明的人，靠剩下的感官也能达到极高的认知水平。

关于意识，他的论证方式很特别：

> 人类是有意识的。如果你相信人工神经网络和大脑足够相似，那么至少存在一些人工神经网络，也应该是有意识的。（苏茨克维）

逻辑很朴素：从一个存在性事实出发，通过相似性推到一个可能性。他没有声称现在的网络有意识，只是说，如果大脑里没有某种非物质的魔法，那么原则上应该有网络可以达到同样的状态。

Lex 追问：如果大脑比我们以为的复杂得多、有趣得多呢？

> 如果是那样，那它迟早会显现出来。总有一天我们会发现，你没法继续推进了。但我觉得这不太可能。（苏茨克维）

## 什么算好的智能测试

被问到“什么能让你印象深刻”，他避开了图灵测试那类框架，给了一个非常具体的标准：

> 如果一个深度学习系统能解决一个很平常的任务，比如机器翻译或计算机视觉，而且它犯的错误，人在任何情况下都不会犯，那我会觉得很了不起。（苏茨克维）

这个标准切中了一个长期存在的批评。现在很多模型在准确率上已经超过人类，它们错的方式不一样。人类看到模型犯的某些错会说：“如果你真的理解了这个概念，你不会犯这个错。”

这句话是很多怀疑论的根源。他承认这一点，并认为弥合这道鸿沟才算真正的进步。

他也点出了人类评判AI时的一种心理惯性：

> 21世纪分析AI进步的方式，变成了去找一个系统大错特错、而人类不会错的案例，然后很多人写文章，公众就被说服这个系统不智能。我们靠一个轶事来安慰自己。（苏茨克维）

什么时候公众才会真正被说服？他给了一个经济学的答案：

> 当AI真正开始推动GDP的时候。（苏茨克维）

## 权力、对齐与放手

访谈最后一段进入了更沉重的话题。如果有一天你真的造出了AGI，你会怎么和它相处？

他说，第一件事是问各种问题，试图让它犯错，然后惊讶于它不犯错。

那权力呢？如果你掌控着一个能改变世界的系统，你能放手吗？

> 放手这种权力，我轻而易举就能做到。你描述的那种场景，我只会觉得恐怖。我绝对不想处在那个位置上。（苏茨克维）

他描述了一个理想图景：不同的城市、不同的国家，人们投票决定代表他们的AGI应该追求什么目标。本质上，是把民主进程推进到下一个层级。董事会永远可以解雇CEO，也就是说，**永远保留按下重置键的能力。**

重置键真的能一直按得下去吗？

> 完全可以造出想要被人类控制的AI系统。这可以是它存在目标的一部分。就像人类父母普遍想帮助自己的孩子，希望孩子成功。这对父母不是负担，他们乐在其中。（苏茨克维）

他认为，可以把“帮助人类繁荣”设计成AGI深层的、乐于履行的驱动力。

那怎么把人类价值装进去？他给了一个技术性的方向：训练一个独立的价值函数，让它去识别并内化人类在各种情境下的判断，然后把这个价值函数作为更强大系统的基础目标。

> 人类就是这样。人类的奖励函数在内部，不在外部。（苏茨克维）

这个类比很有分量。人类不被一个外部程序打分，人类自己产生欲望，欲望本身构成目标函数。对齐问题在某种意义上就是：能不能让AI也长出这样的内部目标。

## 生命的意义与幸福

聊到人生意义，他说这个问题本身有点问题。

> 这个问题预设了一个外部的答案：你生命的意义是X。但我觉得实际发生的是，我们存在，这本身就很奇妙。那就尽量把它过好，在有限的时间里，尽量多享受、少受苦。（苏茨克维）

关于幸福，他的观察更朴素：

> 幸福在很大程度上取决于我们看事情的方式。一顿简单的饭可以让你很满足，也可以让你失望，取决于你怎么看它。（苏茨克维）

他补了一句：“但我不太确定，我不想说得太自信。”

一个在深度学习领域被引用十六万次的人，谈到幸福时的语气，和谈论技术时一模一样：给出判断，然后留出余地。谈到遗憾，他说自己当然做过很多事后看来不会做的选择，也会有些懊悔，但他试着从“当时我尽力了”这件事里找安慰。

## 这期访谈里真正值得带走的东西

回看整场对话，他反复给出的东西很难被归纳成结论。他对深度学习的信心，来自十年里一次次被现实推翻预期、又一次次发现现实走得更远。

“我们依然在严重低估深度学习”，这句话在2020年说成立，在2012年说也成立，在任何一年说大概都成立。这既是这个领域的迷人之处，也是它让人焦虑的地方：你没法靠现有框架预测它的边界，因为边界一直在往外推。

而他自己在这条推边界的过程里，坚持的东西很朴素：**能训起来，优先于理论上优雅；能产生不可争辩的证据，优先于无休止的辩论；能被控制，优先于能控制一切。**

下面是这期访谈里可以直接拿走的几条判断，给正在做技术决策的人：

- 评估架构或方法时，把可训练性当作硬约束放在第一位。理论上更强的方案，只要训不起来、调不动，就不值得投入工程资源。Transformer击败循环网络，靠的是更契合GPU、层数更浅、更好优化，表达力本身并没有赢。
- 做模型规模决策时，别只看单点实验。性能随规模的曲线不单调，验证集表现下滑时先别急着下结论，检查是不是恰好卡在插值阈附近。提前停止能大幅削弱这种波动。
- 判断系统是否真的理解，别只看准确率。问它错在哪，看它犯的错人类会不会犯。如果错误类型和人类系统性不同，说明它学到的是表面规律，泛化边界会比数字显示的窄得多。
- 做能力研究时，先找到那个必须用到该能力的问题。苏茨克维谈主动学习的判断可以直接迁移：没有硬任务支撑，你只能在人造任务上刷分，无法说服任何人，也无法推进真实能力。
- 如果要做仿真训练，优先投资迁移能力。仿真本身的价值不由它多逼真决定，而由学到的东西能不能带到现实决定。OpenAI机械手的案例说明，把策略训练得足够自适应，比把物理引擎调得足够精确更划算。
- 发布强能力模型时，分阶段是被验证过有效的路径。先放小模型，观察真实使用中的正负外部性，同时主动和同行建立沟通渠道。他的原话是，最终我们都只能一起。