第 73 期·中文精读

吴恩达:深度学习、教育与真实世界的 AI

Andrew Ng: Deep Learning, Education, and Real-World AI

AI 学者谈深度学习的实践方法、在线教育如何普及 AI 知识,以及技术落地中的现实挑战。

官方音频00:00 / --:--
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原音频与官方文稿为准。说明

凌晨两点,吴恩达一个人待在他的小录音棚里,调整罗技摄像头的角度,挪一下 Wacom 手写板的位置,确认领夹麦克风开着。录到三点收工。

那时候 Coursera 的前身课程已经放出去了,十万人在线等着看后面的内容,而视频其实还没拍完。他白天见朋友吃晚饭,脑子里会冒出一个选项:现在回家睡觉,还是去办公室录课?让他拐进办公室的,是那十万张想象里的脸。

这件事他后来在 Lex Fridman 的播客里讲了,语气很平淡,像在说一件很久以前的家务活。正是这种平淡泄露了一件事:这个人做教育的驱动力,和绝大多数讲课的人不在一个坐标上。

他最初的职业理想,是消灭复印机旁边那个岗位

吴恩达在香港和新加坡长大,五六岁开始写代码,学的是 BASIC。方法是把书上的程序一行行敲进电脑,敲完就能玩一个极简陋的射击游戏。他的第一反应与"我好厉害"无关,他想的是敲代码这件事能换来好玩的游戏。

真正让他把技术当成一辈子事情的那个瞬间,发生在高中。他在新加坡一家公司实习,每天大量复印、做行政杂事,整个实习的高光时刻是可以操作碎纸机。十几岁的他在心里想:这么多复印,如果能写个软件让机器自己干,我是不是就可以去干点别的了。

我后来很多工作都围绕自动化这个主题。包括我今天理解机器学习的方式,我们擅长写学习算法,去自动化人能做的工作。(吴恩达)

这个动机非常朴素,也解释了他后来一系列看似跳跃的选择。在斯坦福教书时,他每年给四百名学生讲同一门机器学习课,每年改进同样的视频,在同一个教室讲同样的笑话。到第三年他受不了了,把课程录下来,这样他就有时间去和学生建立更深的关系。

录课谈不上慈善,它更像自动化思维的一次延伸。一门课一份劳动,覆盖四百人。变成视频之后,一份劳动覆盖一百万人。

一百万人在等的内容,其实还没有拍

在线课程上线的时候,注册人数很快突破十万,录像进度远远落后。团队只能一边上线一边往后补录。吴恩达说他给整个团队定下的第一原则只有一句话:做对学习者最有利的事。

听起来像贴在墙上的标语,但它真的挡掉了很多诱惑。老师录课的时候,很容易想讲讲自己的研究,让学生多引用几篇论文。这条原则把这个念头摁死了。他自己也承认,每次走进录音棚想的问题只有一个:这句话怎么设计,才能把概念讲得最清楚。

同样的原则也让他们敢删掉一些"看起来很棒"的功能。他曾经做过一个多人同时登录的产品:两个人可以同时看着屏幕上的同一段视频,各自输入账号密码,系统知道你们是一组,给你俩都记学习进度。他觉得这简直是天才设计,电脑终于能知道你俩在一起学习。

他们把这个功能推给了旧金山一所学校,二十几个用户。结果是零人使用。

原来在线学习的人就是想自己一个人看视频,能暂停、能回退、能按自己的速度播放,而不是组队。(吴恩达)

这个失败后来被反复引用,价值在于它揭示的成本结构:一个纸面上完美、实现上也不难、但违背真实使用习惯的功能,做出来的净效果等于零。你的工程能力没有浪费在难的事情上,反而浪费在正确的事情上。

他为什么相信编程会变成识字率

采访里吴恩达抛出了一个类比,值得单独拿出来看。历史上只有一小部分人类识字,也很容易论证"没必要人人会读写",你找几个人读给你听不就行了,写畅销书的那几个作者写就行了。真正发生的事是,当识字率普及之后,人与人之间的沟通带宽被整体拉高了。你可以为一个人写作,比如发一封邮件。

在他看来,今天的编程还处在只有少数人识字的阶段。会写代码的人,主要在服务一个规模远远大于他们的受众。如果大部分人都能用某种方式写点程序,人和计算机之间的沟通也会被整体拉高。

他甚至举了一个特别具体的例子:街边小店老板这周搞促销,想改一下店里的电视展示,现在他做不到,将来他应该能做到。

顺着这个逻辑,他说了一个更有意思的判断。过去普通职业的人学编程缺少一个硬理由,因为写软件和他的日常没关系。数据科学和机器学习的出现改变了这一点。日常工作里有具体数据分析需求的人,数量可能比有具体软件开发需求的人还多。

一个小店的销售数据、客户数据,如果老板自己能分析,价值立刻就出来了。一个招聘专员、一个会计、一个在工厂车间里的人,只要能掌握一点数据分析能力,当天就能改进工作。所以他认为,不少非技术职业的人,数据科学比软件工程更适合作为第一段入门路。

为什么他站在台上还是拿白板笔

Lex 问了一个很轻但很有意思的问题:全世界都在用 PPT,你为什么还用白板和马克笔。

答案分两层。从技术上说,讲数学的时候,白板允许你把一个公式一点一点搭起来,边讲边写,理解度更高。缺点也明显,写字慢,写长句子会要命。

第二层是缺点反转成的优点。正因为慢,它强迫你把所有东西压缩到最基础的那几条。白板的低带宽,本身就是一种极简主义的筛选机制。

一场好演讲靠的是把几个简单的想法讲得足够清楚,内容多反而是负担。(吴恩达)

这一点很难做到。信息密度高是本能,做减法需要判断力。

这里有一种做事态度的呼应。他在编辑课程视频时经常对团队说,每一句话都要为自己的生命而战,如果这一分钟不能带来更好的学习体验,就删掉它。考虑到这些视频会被几百万人看到,一分钟的改进会被放大成几十万分钟的收益。

那个飞直升机的学生,和一年没有结果的定位难题

Pieter Abbeel 是吴恩达的第一个博士生,后来成了世界上最重要的机器人和强化学习研究者之一。吴恩达提起他时的态度是明确的感激:自己长期的职业成就,建立在早期一些工作的基础上,而 Abbeel 在这些工作里至关重要。

很多人看过斯坦福那台倒飞直升机的视频。它出现在 2008 年前后,是强化学习极少数真正跑在物理世界里的应用之一,演示效果惊人。吴恩达想说的是绝大多数人没看到的部分。

最难的环节落在定位上,和强化学习算法关系不大。直升机要倒飞,你怎么知道自己在哪?

一开始用 GPS。问题来了:飞机倒过来的时候,GPS 天线朝下,看不到卫星。他们试过装两个 GPS,一个朝上一个朝下,翻转时切换。不行,因为快速翻转时朝下的那个来不及同步。

Morgan Quigley 又去搞了一套非常复杂的专用硬件,想用特殊配置来解读 GPS 信号。整整搞了一年,没成。

我记得 Peter 和我坐在办公室里,看着最新一轮失败的记录,两个人只能说,见鬼,现在怎么办。(吴恩达)

最后的方案来自 Adam Coates 的关键贡献:把摄像头放在地面上,用地面视角来解算直升机的位置。定位问题交给外部系统之后,团队才终于能专心做强化学习和控制,让飞机真的飞起来。

这段故事的价值和励志无关。它说明了一个工程上的常识:当你卡住很久的时候,真正卡住你的往往是你以为在研究之外的那个环节。如果定位不解决,再好的强化学习算法也没有施展空间。一年时间砸在 GPS 硬件上,换来的教训是"这条路走不通",而这个教训本身也是必要成本。

Lex 追问:那时候强化学习的理论论文很多,实际应用极少,是什么驱动你去啃这种又脏又难的活。

吴恩达的回答透出一种很清晰的自我认知。他讲了一个故事:很多年前他和一位数学教授聊天,问对方为什么做现在做的事。那位教授眼里有光,说自己是在为宇宙发现真理和美。

我觉得他做的事很了不起,我也非常尊重这样的人。但我自己更有动力的时候,是能看见一条线,把我和团队做的工作连到"它真的帮到了人"。(吴恩达)

他说世界需要各种类型的人,自己只是其中一种。这句话背后的取舍是真的:他愿意为了物理世界里一个能跑起来的系统,去付出一年的失败。

餐巾纸上的那场推演,和一条画到右上角的曲线

Google Brain 之前的那段历史,吴恩达把它分成"我们搞错的"和"我们搞对的"。

搞错的是无监督学习的重要性。2005 年前后,NIPS 会议结束后,他和 Geoff Hinton 在会场外的餐厅吃饭,Hinton 拿起一张餐巾纸开始画论证。

论证大致是这样:人脑有大约 10 的 14 次方个突触连接。人的寿命是 10 的 9 次方秒量级。如果每个突触权重只是一个比特的参数,那么你这辈子需要学习的信息量是 10 的 14 次方位。除以 10 的 9 次方秒,你每秒要学 10 的 5 次方位。而吴恩达当时有个一岁的女儿。

我自认是个很有爱的父亲,但我是不可能每秒给她 25 个标签的。(吴恩达)

因此绝大部分知识只能来自没有标签的海量数据,监督学习撑不起这个信息量。这个论证在当年极有说服力,一大批人押注无监督学习,包括 Google Brain 早期的大量投入。

搞对的是规模。Adam Coates 在斯坦福做了一组实验,画出一张图,横轴是模型和数据的规模,纵轴是性能。曲线一直往右上角走,规模越大,效果越好。吴恩达说,就是这一张图给了他信心,让他和 Sebastian Thrun 一起向 Google 提案,后来成了 Google Brain。

当时这个想法是有争议的。一些资深的朋友专程来劝他:这不像新架构,你就这么一路把规模堆上去,这是很糟糕的职业选择。

如果你想做出突破,有时你必须有信念,在它变得流行之前就去做。(吴恩达)

规模这条曲线,今天还准吗

Lex 把这场老争论接到了今天。现在有一派人说,模型和数据已经够大了,重心应该转向提升学习效率、设计更好的学习机制。

吴恩达的回答是"两者都重要",然后加了一个关键限定词:取决于问题。

有些数据集上,我们已经接近贝叶斯误差,或者已经超过人类水平,那里存在理论天花板,堆数据不会有用。但还有大量问题,离人类水平很远,也离可达的最低误差很远。在这些地方,更大的数据加现有的神经网络,不需要新架构,就足以继续往前走。

他也点了一个常被忽略的事实。GPT-2 和 BERT 这类突破里,规模是故事的一大部分,但人们很少谈数据的来源和质量。那些训练数据本身就带某种弱监督,是从互联网上精心筛选和利用的,这部分工程贡献在论文里往往一行带过。

一百个缺陷样本里,有十个标错了

这可能是整场对话里最接地气的一段。吴恩达说,我们今天的工具链里,代码版本控制这类东西已经成熟,数据管理却极其不成熟。他回忆起早年用邮件互传 C++ 文件的年代,那时候还没什么版本控制。

然后他讲了制造业客户的真实情况。

做视觉检测时,他们把塑料件拿给一个检查员看。检查员很有主见:"这明显是缺陷,绝对不能放行。"同一个零件拿给另一个检查员,对方也一样笃定:"这是很小的瑕疵,不用管。"更麻烦的是,同一个零件早上给同一个人看,他说没问题,下午再给他看,他同样自信地说这明显是缺陷。

如果一个人隔几个小时都不能和自己保持一致,那这个样本应该怎么标?(吴恩达)

互联网大公司的处理方式是取平均,十亿用户产生的数据,噪声会被稀释。制造业没有这个条件。你可能总共只有一百个缺陷样本,其中十个标错了,误差就是 10%。

这类问题的解法不在算法里,在流程里:谁来标、多个标注者怎么仲裁、一个人前后不一致怎么处理、需要投入多少人力去清洗。这些工作在学术论文里几乎看不到。

他也把这个道理用在了教学上。在斯坦福,他越来越鼓励学生自己做期末项目,自己去找问题、自己去弄数据,而不是下载别人整理好的干净数据集。后者容易出结果,前者难得多,但你会在过程中撞上真实世界的全部麻烦。

三块拼图:教人、帮企业、造公司

吴恩达当时同时在做三件事。

DeepLearning.AI 负责教育,让人进入这个领域并做得更好。Landing AI 帮传统企业把 AI 真正做进业务里。AI Fund 是一个创业工作室,自己搭团队、自己配创始人,从零开始把公司造出来。拿钱去投别人的项目属于另一种生意,这里不做。

关于教育这一块,他讲了深度学习专项课程的设计。官方时长十六周,但可以自己掌握节奏,有人一个月就学完了。先修要求低得有点出人意料:需要基础编程能力(作业用 Python),数学只需要高中数学水平,会矩阵乘法就够。他刻意让课程不依赖微积分,会微积分当然更好,直觉会更强。

课程内容从最基础的单元开始,一个 logistic 单元怎么堆成多层网络,不同的激活函数,怎么训练。他特别自豪的是课里教了大量实践性的 know-how:过拟合了怎么办,什么情况下值得去收集更多数据,什么情况下完全没必要。

到今天还有一些工程师,会花六个月去收集更多数据,因为他觉得数据总是有价值的。其实他本来可以早点做几个测试,发现对这个具体问题,多收数据根本解决不了问题。(吴恩达)

这六个月本该用来改架构、换思路。

调试机器学习程序,和调试普通程序完全是两回事

吴恩达打了个他很喜欢的比方。学编程要学语法,但更重要的能力是把这些代码行组织成连贯的东西:什么该封装成函数,什么不该,怎么设计抽象。这些框架性的判断比语法更能决定一个程序员的效率。

他回忆在卡内基梅隆读本科时,有朋友调试 C++ 代码的方式是一行一行删,直到语法错误消失。这种行为在普通编程里很笨,但如果换成机器学习,情况就变了。你没法用二分查找,没法打断点单步跟踪。你面对的问题是"它为什么还不 work",以及"我能不能预期它最终会 work"。

能回答这类问题的人,和回答不了的人,做同一件事的速度差距是十倍甚至一百倍。这个差距和数学水平关系不大,取决于一套系统性的思考框架:现在该改架构,还是该加数据,还是该加正则化,还是该换优化算法,还是该换数据类型。

他把深度学习的难点也归到类似的结构上。数学之所以难,很难指出具体难在哪一位,是加法、进位还是乘法?难在很多概念是叠起来的,你漏掉一个,后面所有依赖它的东西你都接不住。所以专项课程的设计思路是尽量把每个概念拆到能被理解的最小单元,让你爬到高阶内容时,脚下的台阶是实的。

强化学习最能点燃人,但它不是今天最能干活的东西

Lex 问了一个教学上的观察:很多人对深度学习的"啊哈时刻",是被强化学习点燃的。一个网络什么都不知道,从零开始探索世界,然后学会东西,这个画面极具感染力。

吴恩达同意,而且说自己也在用。他在斯坦福的课里还教强化学习,那是他深爱的领域。但紧接着他讲了一个很坦诚的取舍:如果要教学生今天最有用的技术,他会压缩强化学习占用的课时。

因为它对今天的实际产出贡献有限。

他描述了一个场景:一群资深机器学习研究者坐在一起,有人问,谁能举出第一个真正部署在生产环境里的强化学习应用?在场的人凑不出几个好例子。除了打游戏和少数几个场景,真实跑起来的案例非常少。

如果你考虑它在我们做的所有事情里占多大比重,至少到今天,除了玩游戏之外,能说得出口的例子并不多。(吴恩达)

这里有一个教学上的张力:最能激发热情的工具,未必是最该花时间掌握的工具。他给出的解法是把强化学习当成讲清楚"神经网络能从零学起"这个道理的载体,但主课时的重心仍然放在监督学习的基础和真实数据集上。

他还补了一层更普适的提醒。就算在深度学习内部,也不该只有深度学习。他自己团队解决制造业问题时,会坐下来看 PCA 的残差,会用到概率图模型。这些方法在产业里的实际影响巨大,学术圈的讨论热度却低得多。

有些日子我们用神经网络,有些日子我们用 PCA。工具是一个组合,这话说出来不够性感。(吴恩达)

如果所有人都只学一样东西,那是件悲哀的事。多样性才能让你为手上的问题找到对的工具。

把图片转 90 度,然后让网络猜你转了多少

谈到深度学习里最美妙的想法,吴恩达没有选规模,选了无监督学习,具体说是自监督学习这一支。

他举了个例子。从互联网上抓一大堆没有标签的图片,把每张图随机旋转 0 度、90 度、180 度或 270 度,然后训练一个监督网络去预测它被转了多少度。旋转是你自己做的,标签免费,可以无限生成。用造出来的标签训练网络,再把学到的表征迁移到别的任务上,效果出奇地好。

同样的思路有很多变体。Jigsaw 是把图片切成九宫格打乱,让网络预测原始排列,九张牌的全排列有三十六万多种。word2vec 是给一句话挖掉一个词,让网络预测缺失的词。OpenAI、Facebook、Google Brain、DeepMind 都在这个方向上做工作。

吴恩达对这个方向的判断相当克制。他认为自监督只是一块拼图,而且这块拼图正在开始产生实际效果,可能在计算机视觉和视频领域先跑出来。他提到自己十年前就兴奋过的稀疏编码、独立成分分析,都属于同一个思想谱系,只是后来被监督学习的效果吸引走了注意力。

如果我的工作只是做学术研究,有无限预算,不用考虑短期影响,只看长期,我会把所有时间都花在无监督学习上。(吴恩达)

刷牙不需要做决定,学习也不该需要

Lex 问了一个具体到日常的问题:如果给学习深度学习的人排一个每日计划,你会怎么建议。

吴恩达的答案是习惯和规律性,而且他用了一个很生活化的机制来解释为什么习惯有效。

他团队每周三发《The Batch》newsletter,读者知道周三有这回事,就会在周三花点时间看看本周的进展。他自己则固定每个周六和周日拿出一段时间读书或学习。

我不会在周六早上醒来的第一件事是决定"我今天想不想读书"。这就是我要做的事,没有那个决策环节。(吴恩达)

他用刷牙打比方。刷牙两分钟本身挺烦的,但因为它是习惯,不占认知负荷。如果每天早上都要决定刷不刷,那才是真的累。他甚至每天吃一样的东西,理由也是少做一个决定。

Lex 补充了自己弹吉他的经验:每天五分钟,少得可笑,但坚持一两年之后,你在某些地方的水平会好到不像话。

吴恩达把这个逻辑推到了读论文上。读论文的力量不在读一篇,在于每周读几篇、读一年。一年下来一百篇,你确实会懂很多。反过来,靠几次通宵冲刺,你最多能撑几次,撑不出复利。

手写笔记为什么比打字记住得多

他还讲了一个自己一直在用的学习技巧:手写笔记。

他最近在 Coursera 上修了一门临床试验的课,方法是拿出 Moleskine 小本子,坐在桌前,边听边记。

背后的机制他解释得很清楚。手写慢,这是缺点,也是关键。因为你写不了那么快,所以你没法逐字记录,必须把听到的内容压缩成更少的词。这个压缩过程强迫你对含义做更深一层的加工,而深度加工带来的是长期记忆。打字快,人就会倾向于逐字转录,看起来记全了,留存反而更差。

打字总比什么都不做强,上课完全不记笔记当然最差。但手写和打字的对比里,手写通常记得更牢。(吴恩达)

这个道理和他对白板的偏爱出自同一处:带宽限制不总是敌人,它经常是帮你做减法的朋友。

职业生涯里,公司门口的 Logo 是最不重要的一件事

关于要不要读博、去大厂还是去创业,吴恩达给的框架是"多条路都行"。

如果被前五十的项目录取,那是很好的经历。如果在顶级团队拿到一份工作,那也是很好的经历。但假如目标是成为顶级大学的教授,博士学位就是必须的。假如目标是创业做技术,直接去做公司也是好选择。

真正有价值的是他后面这段。他说,影响你体验的因素,公司选哪家、学界还是业界,权重其实不高。权重最高的是你每天互动的那十个人、那三十个人是谁。

我们都是有社会性的动物,会越来越像身边的人。如果你和很棒的人一起工作,你会学得更快。(吴恩达)

所以他给求职者的建议非常具体:拿到 offer 之后,问清楚你的经理是谁、同事是谁、你每天要和谁说话。如果一家公司拒绝告诉你,说"我们有轮岗制度,进来再定",这是个令人担忧的回答。因为他可能被塞进一个做着不 exciting 的工作的团队,而每天走进哪栋大楼,一点都不重要。

他也承认这是个很难的搜索问题,和找对的朋友、找结婚对象是同一种难。但正因为难,才更该在关键节点上多问几句。

顺带一提,他在斯坦福的 CS230 课上专门做过一期一小时长的职业建议讲座,包括求职过程中的具体方法,视频是公开的。

创业工作室在赌什么:把"从零到一"拆成可复制的流程

AI Fund 做的是 startup studio,创业工作室,从零开始造公司:有时带着已有的想法去找创始人,有时和创始人一起把想法做出来。

这个模式要回答的核心问题是:能不能把创建公司这件事流程化,提高成功率。

吴恩达举了几个他们反复打磨的环节。要打多少个客户电话才算完成客户验证?技术能不能做出来?后面这条尤其麻烦,因为他们做的很多业务需要一到两年前的机器学习算法。一个算法在论文里 work,和它在生产环境里 work,中间隔着巨大的鸿沟,而这条鸿沟在学术文献里几乎没被描述过。还有领域知识:教育、医疗、制造,每个行业的门道都要现学。

更根本的价值在于对抗孤独。创业对绝大多数人而言是一件极其孤独的事。什么时候该做 B2B 销售、除了买广告还有什么更便宜的营销方式、招第一个工程 VP 的筛选标准是什么,这些决策单拎出来都能改变公司的命运。有一个生态系统在旁边,至少在关键节点上有人能一起过一遍。

他也讲了他们拒绝掉的东西。曾经有一个想法,商业模型没问题,收入预测也没问题,如果做成,结果是让很多人看更多某一类窄众视频。他看了之后说,我不想做这个。

不管是建公司、做企业里的项目,还是做个人项目,每个人都该想清楚自己想在世界上留下什么样的不同。(吴恩达)

工厂里的 AI

Lex 问,一家公司要迈出第一步,从人眼检查变成摄像头加算法,早期那段路通常怎么走。

吴恩达说第一个动作永远是做小。他见过的失败案例里,起步太大导致的,比起步太小导致的多得多。

他讲了一个具体场景。工厂车间里的光照条件会变,灯开了、灯关了,模型的表现就跟着变。还有一次,一家工厂着火烧掉了一部分,重建之后,原来训练集里的环境全变了。他自己补充了一个更好笑的例子:工厂外面有棵树挡住了窗户,后来树被砍了,窗户的光照进来,模型就懵了。

这类问题在学术数据集里根本不会出现。你在一个干净的测试集上跑出很高的准确率,部署到车间,环境一变,性能就掉下去。训练分布和测试分布出现显著差异时该怎么处理,整个领域都还很不擅长。学术界有域适应、迁移学习这些方向,但离"能用"还有距离。

他还提醒了一个容易被忽略的比例问题。在一个完整的软件系统里,机器学习模型的代码行数可能只占 5%,甚至更少。剩下 95% 是软件工程:怎么让它稳定、怎么让它可维护、怎么和现有系统对接。这部分工作不性感,但它是从 notebook 走到产线的必经之路。

我听过太多次完全一样的对话。搞机器学习的人说,我的算法在测试集上表现很好。业务方说,谢谢你,但你的模型很烂,它不 work。(吴恩达)

然后双方就卡住了。一边说我在测试集上很好,一边说生产上不行,谁也说服不了谁,因为两个人说的根本不是同一件事。

自动化一个岗位,可能要重新设计十个岗位

吴恩达把机器学习称作"打了激素的自动化"。这个说法背后有一层常被低估的连带效应。

工厂里有很多道工序,视觉检测只是其中一道。假设你把这一道自动化了,模型判断这个零件是缺陷品,然后呢?接下来该由谁做什么?送去返修,还是报废,还是让人再复核一遍?

自动化一道工序,往往需要重新设计它周围的很多道工序。原来检查员看完之后直接进入下一环,现在中间多了一个算法输出,整个流程要重新编排。

这里还有组织和人的问题。算法上线之后,原来做检查的那些人的工作变了,你得花时间去解释、去培训、去处理抵触。这些事不在任何一篇论文里,但它们决定项目能不能真正跑起来。

他还点出一个更隐蔽的差异。在百度带语音团队的时候,如果语音识别系统挂了,会发生什么?会响警报,然后像他这样的负责人可以指着二十个工程师说,你们去把它修好。工厂里不会有二十个机器学习工程师待命。系统挂了,你指望车间里的人现场 debug 吗?

所以维护、审计、故障响应,这些大厂视为基础设施的东西,在传统行业里全都要重新设计。他说这个领域连术语都还没统一,因为大家都在边做边发明。

第一个内部客户是语音团队,不是广告团队

关于大公司怎么把 AI 装进去,他给的方法论只有一句话:从小处开始。

Google Brain 成立的时候争议很大。很多人的判断是,深度学习之前被研究过,没 work,你为什么还要做。在这种氛围下,吴恩达找的第一个内部客户是 Google 的语音团队。那不是一个最赚钱的项目,比不上网页搜索和广告,但它是一个可以被验证的场景。团队帮语音团队做出了更准的识别系统。

第二个客户是 Google 地图。他们用计算机视觉从街景图片里识别门牌号,让地图上的房屋定位更准。这直接提升了数据质量。

这两个成功之后,他才去找广告团队做那场最严肃的对话。

早期的这些小项目,一方面帮团队赢得了信任,另一方面也帮团队真正学会了这些技术能做什么。(吴恩达)

他甚至记得第一批 GPU 服务器的样子:一台塞在某个同事工位底下的服务器。就是这台机器教会了他们一个重要问题:多个用户怎么共享一组 GPU。这在当时完全不是显然的答案。这些从脏活里长出来的经验,后来支撑了更大规模的部署。

他把这套方法写成了公开的《AI Transformation Playbook》,也在 Coursera 上讲过企业转型的长期路径。核心还是那句:第一步永远是做小,做出一个能证明价值的案例,让涟漪自己扩散出去。

13 万亿美元,大部分落在软件业之外

吴恩达把 AI 定义为通用技术,会改造每一个行业。目前已经被改造得比较彻底的是软件和互联网。头部几家大公司之外的软件公司,机器学习能力基本都有了,或者正在补齐。

但把视线移出软件业,制造业、农业、医疗、物流、交通,机会多到几乎没人做。

他引用麦肯锡的估算:AI 可能带来 13 万亿美元的全球经济增长。作为参照,美国 GDP 是 19 万亿美元。也有机构估算 16 万亿。具体数字是哪个不重要,重要的是结构:这里面很大一部分影响会落在软件业之外。

这也解释了他为什么把大量精力放在 Landing AI。制造业的视觉检测是一个典型例子:今天还有大量工人站在产线旁边,用肉眼检查手机零件上有没有划痕、凹痕、瑕疵。换成摄像头拍照、深度学习判断,良率、质量、吞吐可以同时提升。

而他反复强调的一点是,这些场景里的实际麻烦,和你在论文里读到的完全不是一回事。数据量小,环境一直在变,鲁棒性要求高。能站在这个位置上工作,意味着你在一堆人还没意识到问题存在的时候,就已经在处理它了。

人类级别的智能,他愿意赌,但不敢估时间

访谈的后半段,Lex 把话题拉到了更远的地方。他说,你做的大部分工作是应用型的 AI,目标是把某个具体流程自动化。但 AI 还有另一条脉络,从图灵开始,做的是人类级别甚至超人类的智能。你自己有没有这样的梦想?

吴恩达的回答很干脆:他希望人类能造出 AGI。至于是一百年、五百年还是五千年,他说自己估不出来。

关于存在性风险,他给了一个很有意思的回应。他说自己确实担心人类的长期命运,也会想这些问题。然后他讲了一件旧事:有一次演讲,他说自己担心火星上的人口过剩。后来有人剪了个视频,质问他说,Andrew,你怎么能这么冷血,火星上那么多孩子在死去。他在播客里对着未来的观众道了个歉,说自己当然在乎那些孩子,只是今天不知道该怎么有效地为这件事工作。

我确实担心这些问题,只是要等到某一天它才变得可以行动。今天我还不知道能做什么。(吴恩达)

这个态度看起来像回避,背后其实是一套很清晰的工作哲学:把注意力放在今天能被推动的地方。他并不否认远期风险的存在,只是认为在还没有可行手段的时候,把大量精力投进去,产出的主要是讨论,进展很少。

接着他把话说得更直接了一些。他认为围绕 AI 对齐、回形针问题的那些讨论,很大程度上分散了对当下更难的问题的注意力。

他举了自动驾驶的例子。很多人以为自动驾驶最大的伦理难题是电车难题,要在撞谁之间做选择。他说,你自己开车的时候,一辈子遇到过几次这种道德困境?自动驾驶汽车碰到这个问题的频率,大概和你开车时差不多。真正的难题是:前面路上横着一辆白色大卡车,正确做法是刹车,而系统没刹住,撞了上去。把这个解决掉,比讨论极端伦理场景有价值得多。

他列了自己真正担心的问题。

偏见是其中之一。他也担心财富不平等。互联网有一个天然的效应,是加速权力的集中,因为数据可以被集中,算力可以被集中。这个行业有强烈的赢者通吃特征。他拿 Uber 和 Lyft 对出租车行业的冲击举例,说这种模式正在一个接一个地复制到其他行业。

结果是巨大的财富被创造出来,但怎么保证它被公平地分享?被替代的岗位怎么办?教育是解决方案的一部分,但可能还不够,我们需要比教育更多的东西。

他还提到 AI 被用于各种不正当目的的可能性。

我担心有些团队,也许是无意地,在遥远的未来问题上制造大量噪音,反而忽略了那些实质上更难的问题。(吴恩达)

他甚至还原了一个场景:监管者找上门说,你的产品正在搞砸一些事情,请修一下,而修这些事情会影响收入。这时候跟监管者聊"我们承诺不会通过这个接口毁灭人类",显然轻松得多。可真正难的,是那些具体、无聊、影响巨大的问题。

那些被白板笔挡住的,和那些被摄像头拍到的

回头看这场对话,会发现吴恩达的所有选择都指向同一个方向:把抽象的智能,落到一个能被验证的具体场景里。

直升机飞不起来,关键障碍落在定位上。解法不在算法里,在地上放几个摄像头。工厂的模型不准,原因也简单:外面的树被砍了、灯被关了、一个零件被两个人标成了两个答案。深度学习的课能不能教会人,取决于有没有把梯度下降这种基础讲到不需要微积分也能懂。

连他判断一个人的职业选择,用的都是同一个标准。名气无用,学界和业界之分也无用,真正要紧的是你每天一起吃饭、一起开会、一起扯皮的那十个人是谁。

Lex 最后问了两个问题:有没有遗憾,有没有特别骄傲或幸福的时刻。

关于遗憾,他说自己犯过太多错,几乎每次搞明白一件事,都会想,为什么五年前、十年前没想到。有时候读到一本书,会想如果十年前读到,人生会完全不同。有一次他去查,发现那本书在当年根本还没写出来。

我们总在发现那些事后看起来特别显然的东西,但发现它需要的时间,永远比我期望的长。(吴恩达)

关于幸福,他给了两个答案。第一个是他的女儿 Nelva,他说永远觉得陪她的时间不够。第二个是帮别人。

我觉得生命的意义是帮别人实现他们的梦想,同时让整个人类变得更有能力,推动世界往前走。我最幸福的时刻,是别人给了我一点好运气,让我能在他们通往梦想的路上帮上一点忙。(吴恩达)

这句话从一个凌晨两点还在录音棚里反复重录同一段讲解的人嘴里说出来,不太像客套。

他在节目最后留给听众的那句是这样的:问问你自己,如果你手上正在做的事,成功到超乎你最疯狂的想象,你是否显著地帮助了其他人?如果不是,那就继续找别的事做。否则你没有活出自己的全部潜力。

  • 把学习变成不需要决策的固定动作。选一个不会被打断的时段,比如每周日上午,固定下来。关键在时长之外的机制:不给自己"今天要不要学"这个选项。每天五分钟,一年后会有你想象不到的积累。
  • 入门深度学习别死磕数学。会矩阵乘法、会一点 Python 就能开始,深度学习专项课程刻意不要求微积分。真正拉开人与人差距的,是判断"现在该加数据还是该改架构"的能力,这个能力只能从小项目里长出来。
  • 挑项目时优先选自己找数据的那种。下载干净数据集能让你快速出结果,代价是你会错过真实世界的全部麻烦:标注冲突、环境漂移、样本只有一百个。这些麻烦才是工业界真正付钱买的能力。
  • 笔记用手写。写不快是优点,它逼你把听到的内容压缩成自己的话,压缩过程本身产生长期记忆。打字容易变成逐字转录,看起来记全了,留存更差。同理,讲东西时能用白板就别用满屏的 PPT。
  • 选工作时先问人,再问公司。拿到 offer 后明确问:我的经理是谁,同事是谁,每天和谁协作。如果对方说"轮岗,进来再定",把这当成一个负面信号。公司门口的 logo 对你的成长影响很小,身边那十个人的影响很大。
  • 在公司里推 AI,第一个项目一定要小。找一个人家真正疼、又能验证的具体场景,做成一个案例,让结果自己去说服下一个团队。起步太大是失败的主要原因,起步太小从来不是。
  • 评估一项新技术的落地价值,别只按热度判断。问一句:除了打游戏和演示,你见过几个真正跑在生产里的例子?如果当场凑不出三个,那它对今天的你可能还不是最该投入时间的方向。
  • 把注意力放在今天能推动的问题上。在还没有可行手段的时候,投入产出比最高的往往是很近的事:训练数据里的标注冲突、部署环境的稳定性、被自动化影响的那批人接下来做什么。远期的宏大风险可以记着,但别让它挤掉眼前的活。

本集资源与出处