# 迈克尔·乔丹：机器学习、推荐系统与 AI 的未来 > 机器学习学者谈统计学习与推荐系统的原理、AI 应用落地，以及学科发展的方向。 - 原标题：#74 – Michael I. Jordan: Machine Learning, Recommender Systems, and the Future of AI - 期数：第 74 期 - 发布日期：2020-02-24 - 嘉宾 / 主题：迈克尔·乔丹 - 网页版：https://lexfridman-cn.pages.dev/ep/michael-i-jordan/ - 官方页面：https://lexfridman.com/michael-i-jordan/ - 精读字数：约 8879 字（阅读约 20 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 Michael I. Jordan 是伯克利的教授，论文被引用超过十七万次，带出来的学生里有吴恩达（Andrew Ng）、Zoubin Ghahramani、Ben Taskar 这些人。Yann LeCun 给他起了个外号，叫"机器学习界的迈尔斯·戴维斯"，意思是这个人每隔几年就换一次方向，换完之后老读者也会摸不着头脑。 在这期不到两小时的对话里，Jordan 把两件事说得毫不含糊。我们今天叫 AI 的东西，跟麦卡锡（John McCarthy）当年想造的那个东西，基本没什么关系。真正的难点也不在模型能不能更准，而在于千千万万个决策怎么在真实世界里被安全地做出来。 ## "人工智能"这个词，从取名那天起就选错了 Jordan 给了他自己的一套历史分期。他说，现在正在发生的事，跟当年化学工程从化学里长出来、电气工程从电磁学里长出来，是同一个过程。 三四十年代，化学、流体力学、力学都已经很成熟了，但世界上还没有"化学工程"这门学科。有人想建工厂，把化学品稳定、安全、有利润地大规模生产出来。有的工厂跑通了，有的爆炸了，有的根本不赚钱。与此同时，一门叫做化学工程的学问长了出来。它有自己的理论，也有自己的实践，它不是"工程"这两个字随便贴上去的那种工程。 电气工程也一样。麦克斯韦方程在某种意义上已经把电磁学讲完了，但你还需要有人去搞清楚怎么造电路、怎么造模块、怎么把电从一处安全地送到另一处。 Jordan 认为机器学习就站在这个位置上：把上一代的统计学和计算机科学当作原材料，去搭真正给人创造价值的系统。这些系统要用人的数据，还要把人的决策搅进去。而目前这一层的工程实践，基本全是临时的、拼凑的。 > "如果你硬要把机器学习称作一门学科，那它就是一门基于统计和计算思想的工程学的雏形。"（Michael I. Jordan） 至于麦卡锡当年为什么发明"人工智能"这个词，Jordan 的说法很直接：控制论（cybernetics）已经存在了，维纳（Norbert Wiener）把控制理论、信号处理、闭环反馈、数据这些东西全都装了进去，而且装得相当完整。麦卡锡需要一个新词来表明"我不属于你们那摊事"，于是就造了一个。 如果是在为好莱坞电影起名，这是个绝妙的选择。如果是要建立一门严肃的学术学科，这是个灾难性的选择。因为它承诺了一件我们做不到的事：我们懂智能。 > "我们理解'人工'，但我们不理解'智能'。"（Michael I. Jordan） ## 我们连一个突触都还没搞明白 Jordan 在这个话题上说得比大多数人都狠。他强调自己不是唯一持这种看法的人，但他愿意说得重一些，因为很多年轻人以为我们正站在突破的门槛上。 他举的例子是突触。去看一张单个突触的电子显微图，那不是一根线，那是一座城市。里面有离子、有蛋白质、有电化学的波、有电压尖峰在跑来跑去，蛋白质还在把这些信号一路带到 DNA 那边去。而这一切，只是树突上一个小小的节点。 我们关于大脑的所有说法，用他的话说，都是隐喻。大脑像经济系统，像免疫系统，像一堆算术运算。这些隐喻很好玩，但它们不是科学。拿卫星去拍一座城市的排放，然后试图推断这座城市的微观经济，而你连宏观经济学的基本概念都还没建立起来，大概就是现在这个状态。 所以他对 Neuralink 这类脑机接口的态度可以概括成两句话。读出几个信号来控制光标，能，而且可能做出医疗应用和生意。从那里走到真正理解大脑的计算方式，这件事不属于我们这代人，也不属于这个世纪。 > "我不同意马斯克，这甚至不是我们这个世纪的课题。"（Michael I. Jordan） 他还点了一个不太好听的现象：有些做计算神经科学的人为了实验室经费，会把进展吹得比实际大。这种事发生得太多了。 ## 演示不是科学，Google 和 Amazon 才是真正的突破 主持人问他，会不会有什么突破能让他在五到十年后回头惊叹一声。 Jordan 说一定会有，但那些东西不会是打动他的演示。他对 Google Duplex 那种"电脑打电话到餐厅订位、假装是人"的做法评价很低。他不否认背后的工程很硬，也不否认它最终可能对人有价值，但那不是科学理解，甚至带着一点公关表演的成分。 他也不喜欢"理论突破"这个提法，不愿意把理论上的突破看得比实践上的突破更高。他不愿意去指认这个时代的牛顿，更愿意去指认这个时代的爱迪生。 那什么是真正的突破？他的答案是 Google 和 Amazon。这些公司以前所未有的方式，在行星尺度上，基于数据流为人创造价值。它们也是新的组织形式。 它们的毛病在于，世界上还没有一门工程学科，能把经济价值、数据、隐私、外部性放在同一个框架里考虑。我们没把这些事想透。但 Jordan 相信这门学科正在长出来。一百年后回头看，这个时代最像突破的东西，就是它。 ## 预测不等于决策 Jordan 和 LeCun 是多年朋友，两人都会法语，做研究的路子也很像，都是"先做出来再说"的风格。所以他不认为两个人有什么根本分歧，分歧只在侧重点。 LeCun 强调的是模式识别和预测。Jordan 认为这条路的价值巨大，但上限太低。 原因很少人愿意正视：我们永远不会有足够的数据。他没法预测主持人下一句会问什么，这辈子都不可能。更麻烦的是，人每天都会撞上大量自己完全没有预期的情境，那些情境是全新的。 在这种情境里，你要做的是想清楚自己到底想要什么、这条路封了要走哪条、这一步比那一步贵多少、风险有多大、周围人的决策会怎么变。而目前大多数预测系统根本不做风险评估，它们不给你误差棒。 > "假如判断我会不会心脏病发作，靠的是某个神经网络输出的数字超过了 0.7，我不会信这个结果。我要的是一堆 what if，是做反事实的推演，是跟医生谈那些我们一开始没想到、所以根本没去采的数据。"（Michael I. Jordan） 所以他的公式是：预测加决策，两者同样重要。预测只回答"会发生什么"，决策才回答"该做什么"。真实世界里下注的是后者，人的生命和风险都在后者那里。 他提到一个有意思的观察：去 Amazon 看看，一半人在做模式识别，另一半人在做决策。学术界的话语权在预测那边，产业界的实际人力和决策那边一样多。 ## 一个不存在的音乐市场 这是整期对话里最有画面感的一段。 Jordan 说，今天这个世界上，严格来说并不存在音乐市场。存在的是唱片公司。它们挑出少数几个音乐人，把他们变成巨星，大家一起赚大钱。但还有一条极长的尾巴：大量做出非常好音乐的人，被听到的次数比那些明星还多，可他们不构成市场，他们没法靠这个吃饭，只能在周末用笔记本电脑做歌，上传到 SoundCloud，平时另有一份工作。 你走在大城市里看，满街都是戴耳机的年轻人，他们听的绝大多数都不是老歌。而做出那些歌的人，可能是某个十六岁的孩子，这辈子都不会因此赚到一分钱。 真正的市场应该长什么样？如果一个人做的音乐真的有人愿意听，他就应该拿到数据。一个仪表盘，一张地图，告诉他上周他的歌在哪些地方被播了多少次，而且这个数据要透明、可验证。 于是链条就转起来了：普罗维登斯有人发现你的歌在那里被听了一万次，他们会请你来演出，会通知那一万名听众你要来。你去一趟赚两万美元，一年去三趟，职业生涯就起来了。 > "这件事里，AI 在创造工作，没有在消灭工作。市场一旦被造出来，生产者和消费者就接上了。"（Michael I. Jordan） 再往后，收入涨到十万美金一年这个量级，音乐真正的价值才浮出来：那是人和人之间的连接。粉丝想穿印着偶像签名的 T 恤，那就在播放页放一个按钮，点一下第二天到货。不需要广告，买 T 恤的人开心，做音乐的人拿到钱，中间的平台抽 5% 就能活得很健康。 Jordan 说得很清楚，这看起来很轻，做起来不轻。会有人滥用数据，会有坏人，会有一部分价值送不到，就像当年做 Uber 会遇到的那些麻烦。要做的是行星规模的双向市场，从来没人在这个尺度上做过，需要新的原则。 他自己就在一家叫 United Masters 的公司当董事，思路从一开始就是这样设计的，现在有十万多艺术家签在平台上，NBA 集锦的背景音乐用的就是他们的曲子。一个在家里做歌的人，某天发现自己的歌出现在 NBA 的网站上。这是实实在在的经济价值。 ## 广告的问题不在算法，在商业模型 Jordan 把 Google 和 Facebook 的商业模式追溯到电视时代的老剧本：没有人愿意为信号付钱，那就卖广告。 他说，假新闻其实只是骑在这套模式最上层的一个症状。因为你的收入来自点击率，你就会不断优化点击率。你想用聪明的 AI 算法去分辨哪些是坏点击，这件事他觉得很绝望。真正该动的是商业模型本身。 但访谈里有一段很关键的反转：Jordan 主动为广告辩护。 设想一个 MIT 出来的年轻人做了一台极好的吸尘器。推荐系统不会发现它，算法找不到它。那怎么让这台吸尘器出现在人面前？广告。广告的本质是一个信号：这个人对自己的产品有足够的信心，愿意为它付出真金白银。作为消费者，看到一个人真的花了钱，你可能会多看一眼。 问题在于这个信号已经失效了。今天的广告便宜到以美分计，规模大到淹没一切。当信号消失，广告能提供的就只剩下打扰。 > "社会不会长期忍受自己烦的东西。广告现在烦人的程度，已经超过它提供信息的程度。"（Michael I. Jordan） 他的预期是行业会慢慢把广告降下来，同时把生产者到消费者的真实交易升上去。5% 的抽成会一点点长大，最后盖过丢掉的那部分广告收入。 至于 Facebook，他的批评比 Google 更重。Google 至少在某处悬在中间，而 Facebook 从始至终没有认真想过要不要在自己和用户之间建立真实的交易关系，也没有想过人和人之间能不能有一条经济纽带。他说自己不信任 Facebook，理由很个人：他不觉得那家公司关心他。他不需要一家公司当大哥来关心自己，那本来也不是公司的角色。 ## 隐私没有一个开关可以关掉 谈到隐私，Jordan 拒绝把它简化成"哪些数据能用、哪些不能用"。 他讲了一个几百年前的对照。那时候大多数人住在村庄里，村里所有人知道你的所有事，你几乎没有隐私。但那不是纯粹的坏事，因为知道你的所有事，也就意味着有人知道你在出事，会来帮你。今天你住在大城市，没有人知道，也没有人帮你。 所以答案取决于你处在哪一端。他要的是代理权：我自己来决定，谁知道我的什么，为什么知道，能用来做什么，而且这套决定要能被审计。 他给的类比是电。插头插进墙里就能用，这不是自然而然的事。背后有 Underwriters Laboratories 这样的认证机构，有持证的安装工，有检查安装工的人，有一层又一层像洋葱一样叠起来的结构。隐私就是这一代的"电"，它需要几十年才能把这些结构搭起来，而现在这些结构还不存在。 > "隐私这件事，光靠法律学者和技术专家坐在一起谈是不够的，它需要很多现在还看不到的中间层。"（Michael I. Jordan） ## 好的推荐系统不该猜你，它该给你造一个场 Jordan 说，他最喜欢的推荐系统还是 Amazon 的图书推荐。他早年不喜欢 Amazon，因为实体书店因此倒闭了。后来他买了第一本书，系统给他推了几本他根本想不到的书，他全买了。到今天他还在用那个服务闲逛。 他喜欢那个系统的原因是：他在间接地向同类学习，算法只是把数据里本来就有的东西翻出来，没有强加给他什么。 反例是浏览历史。访谈当天早上他有点困，点了一条关于英国女王的新闻，纯粹是标题党。他一点都不关心英国女王。而这条记录进了他的浏览历史，任何还算合理的系统都会以为他对这个话题感兴趣。 从个人推到一个更大的问题：把所有人的数字尾气收集起来，能不能把五亿人都摸清楚？他的判断是不能。人太丰富、太复杂了。有些会深深吸引你的东西，你过去的生活里一点痕迹都没有。你走在街上听到一段智利音乐，才发现自己原来喜欢智利音乐。 > "不要用你的 AI 来猜我，然后把我放进一个已经被你猜透的世界里。给人造一些场，人的创造力和风格会在里面被激发出来。"（Michael I. Jordan） 顺着这个逻辑，主持人问他，有没有一种可能，让推荐系统变成会跟你对话的助手，而不是躲在阴影里偷看你每一步的那个人。 他说可以，但方向要对。他举了 Alexa 的例子：如果他跟 Alexa 说"我花园里的水还开着"，而 Alexa 能推理出这件事应该在他太太回家时告诉她，那一点点的推理就能把日子弄顺一点。这不是什么惊叹时刻，但整体上抬高了人的幸福。 但有条线不能越：他不希望那个系统知道他孤独。 ## 梯度、鞍点与随机性 谈到优化，Jordan 先讲了深度学习的那张损失曲面。曲面相当光滑，参数又多得离谱，所以有很多条路通到一个还不错的解。从优化角度看，下山这件事比人们预想的容易。真正需要解释的是另一半：为什么有些解明显比另一些好，而你常常能找到好的那些。 他也提醒，这些曲面属于这一代神经网络。十年后大概率不是同一批曲面。层叠的算术运算加上一点非线性，这个东西并没有从神经科学里长出来，它在计算机科学和控制论里都出现过。 关于梯度本身，他给了一个几乎所有人第一反应都会答错的例子。假设你在 X 轴上走一步能上升 3 个单位，在 Y 轴上走一步能上升 7 个单位，而你只允许走一个单位的总距离。直觉会告诉你把所有步长都压在 Y 轴上，回报最大。这个推理是错的。梯度方向里要留一部分给 X 轴，想明白这件事需要一点数学。 为什么随机性有用？因为曲面上总有一些讨厌的地方，比如绝对值函数那个不可导的尖点，如果你沿着确定方向一路冲过去，正好撞上就是灾难。加了随机性，撞上的概率变得很小。在高维空间里，随机梯度的这种性质非常有吸引力。 他提到的另一个深结果是内斯特罗夫加速（Nesterov acceleration）。设定是这样的：只允许你用梯度，而且只允许你沿这些梯度的线性组合方向移动，不能乱走。在这个复杂度模型下，光滑凸函数的理论下界是 1 除以步数的平方，而普通梯度下降只有 1 除以步数，差得很远。 内斯特罗夫找到了一个算法能达到那个下界。它同时用两个梯度，以某种不太直观的方式组合起来，而且这个算法有时候还会往上坡走。用动量来类比能抓住一点直觉，但直觉不足以解释它为什么成立。Jordan 说这个结果至今还有不少人在写论文试图搞懂它。 他还区分了优化和采样。优化是找一个最优点，采样是把同一个曲面看作一个分布，去找高密度区域。要把两者统一，得上升到概率测度那样的抽象层级，但抽象过头，你就再也证不出好玩的定理了。 多智能体的世界里，游戏论的部分就冒出来了。纳什均衡在数学上是一种特殊的鞍点，所以算法博弈论里那些"求纳什均衡"的工作，字面上就是在找鞍点。但任何经济学家都知道纳什均衡的解释力有限。还有斯塔克尔伯格均衡（Stackelberg equilibrium），你先动，我看着你的动作再动，而你预判了我的反应，于是又反推回来。这些博弈的拓扑形状是什么样的，动态上怎么靠近、怎么远离，有些问题有答案，更多的问题还没有。尤其是当系统变成随机的、去中心化的、大规模的时候，全都是开放问题。 ## 统计学是给国家做数据研究 主持人问了一个很基础的问题：统计是什么。 Jordan 说，它卡在数学、科学和技术之间。它是一组原则，帮你做出有理由被相信的推断，也帮你在做决策时有理由相信自己不会犯错。而"错误"是什么意思、"概率"是什么意思，都得先立假设。 这个学科最早的名字叫"逆概率"。那个年代概率论主要是为了解释赌局：给定轮盘有某种机制，长期看会出现什么样的结果。有人把它反过来问：我看到了这些结果，能推出背后的机制是什么吗？这是逆问题。 而"统计学"这个词里有"国家"。拉普拉斯（Laplace）在拿破仑政府里做事，需要给法国做人口普查，需要收集数据、分析数据，然后据此制定政策。这门学问从此就叫统计学了。 > "统计学就是为国家研究数据。"（Michael I. Jordan） 到三四十年代，这门学科真正被形式化的时候，旁边同时长出了博弈论和决策论。冯·诺依曼在做博弈论，也在想决策论；沃尔德和计量经济学家们把决策论做出来，再把它变成统计学。到今天，大多数高级统计课程还是从决策论讲起，然后才分成贝叶斯和频率派两支。 用一个损失函数来理解这个分裂：它是数据 X 和参数 θ 的函数，而这两个东西你事先都不知道。频率派的做法是对 X 取期望，把 θ 固定住，得到的量叫风险，它回答的是"这个程序在各种你没想过的数据集上跑，有多大比例是对的"。你把一个软件包发出去给全世界用，你要的正是这种保证。贝叶斯派的做法是对 θ 取平均，只看手上这一份数据，然后说关于这份数据我能说什么。 他把这两者比作量子力学里的波粒二象性。它们有时在实践中变得一样，有时给出完全不同的答案，而你得习惯它们同时存在。 中间地带叫经验贝叶斯。从贝叶斯框架出发，写下数学，然后发现有些量在真实世界里你不知道，那就找一个能在世界中被观察到的自然估计填进去，再用数学论证这个做法差不多是靠谱的。 他举了两个他特别喜欢的例子。一个是 James-Stein 估计，芝加哥大学的 Stephen Stigler 为它写过一篇很漂亮的论文，说这个结果几乎是在挫败心智理解它的努力。另一个是错误发现率（FDR）。 FDR 处理的是多重检验的情形：你手里有一大袋子假设检验，几十个、几百个一起做。做完之后，你宣布了一批"发现"，你希望这些发现里假的比例很小。注意，这跟准确率、召回率、敏感度、特异度是不同的量。后面这些几乎都是频率派口味的，它们的逻辑是从真相走向数据：假设零假设为真，我会得到什么。而 FDR 问的是反方向的问题：既然你已经做出了这个发现，那么假设为真的概率是多少。这需要先验，是贝叶斯的方向。 这条线索从 Robbins 在 1960 年代的工作开始，Brad Efron 写了很多漂亮的东西，Benjamini 和 Hochberg 在以色列提出了 FDR，John Storey 给出了它的贝叶斯解释。Jordan 说他这些年一直在吸收这些东西，觉得这是一条非常健康的思考路径。 ## 市场本身就是一种智能 回到他写的那篇《人工智能革命尚未发生》。Jordan 说，如果你把视野拉开，看看任何一种智能系统，那就不只是人和动物。每天把食物运进城市、送到餐馆的那个市场，就是一个系统。它由千千万万个去中心化的决策组成。从足够远的地方看，它和一堆神经元没有太大区别，每个神经元都在做自己那点小决定，谁也不知道整体的目标是什么。 而这个系统是稳健的，从村庄到超级城市都能跑；是自适应的，风调雨顺和天灾人祸都能撑；是自愈的，不用人一直调它；而且它已经跑了几千年。 所以他的推论是：如果你花几千年研究人，成为世界上最好的心理学家，写出人类智能的完整理论，你可能永远也发现不了市场的原理。供需曲线、匹配、拍卖，那是真实存在的原则，它通向一种智能，但那不是人类智能。也许还有第三、第四种智能，我们连想都还没认真想过。 > "如果你想要通用智能，那它一定不只是人类智能，它必须是这个更宽泛的东西。"（Michael I. Jordan） 注意，我们人类并没有进化成市场，我们只是参与其中。这个区别很重要。 ## 给本科生的话 主持人问他，对今天在读书的年轻人有什么建议。 Jordan 先说，门是开着的。然后他强调"旅程"这个词。这个领域不靠天生聪明和灵光一闪。它是学徒制：你在一件很难的事情上花很多时间，同时不断往后退，尽量看得更清楚，跟很多人聊天，就像进入任何一个创作社群。 他拿做音乐和做艺术作比。没有人第一天就是天才，然后直接开始创作。你先在基本功上练得非常非常狠，同时对自己的水平保持诚实。你不可能成为所有领域的专家，所以你得挑。运气会决定你走哪一根树枝，但你总会走上一根。 他认为研究生院依然是这个世界上最好的东西之一。四五年时间，从几乎零开始，长到有专长，然后你自己的创造力开始开花，有时候连你自己都会惊讶。这是一件高度合作的事。很多人把它想象成残酷竞争，实际情况相反。人们互相教东西，也乐于承认自己不懂。他自己就经常在一个桌子上暴露自己的无知，让别人来教他。 因为合作，这个领域天然是国际化的。当前这种民族主义的情绪，跟这个领域里绝大多数人的实际做事方式是冲突的。他们做的是人类共同的事业。 访谈最后聊到了语言。他在堪萨斯长大，那地方没什么事可做，家里书架上有几本法语书，他无聊之下翻开了，读着读着就会了。第一次听到有人说法语的时候，他一句也听不懂，却有一种前世学过的错觉。后来他跑了很多地方，在法国的火车上跟坐在旁边的老人聊天，那些人有完整的一生可以讲。 意大利语是在 MIT 学的，因为周围有一堆意大利教授，他半懂不懂地听，索性学了。他娶了一位意大利人，家里说意大利语。他觉得意大利语其实比法语和英语都美。 他的建议是：数学要学，数学对每个人都有用，但也要读诗、读历史、学语言，一辈子都做一点。你要成为一个会思考的人。 至于他自己真正想做但没做的方向，是自然语言。深度的语言理解，在他看来是 AI 最核心的科学挑战，而人类离它非常远。他年轻时在这个方向上起步太晚，就没走。他说自己学外语，也算是给那块大脑做了点训练。 ## 如果只带走几件事 - 把你的工作切成两块：一块做预测，一块做决策。预测回答"会发生什么"，决策回答"该做什么、风险多大、错了怎么办、还缺哪些数据"。后者的难度和前者一样大，只做前者会让你在真实世界里寸步难行。 - 给任何数据产品留一个可审计的场。用户应该能看见关于自己的数据是什么、为什么被收集、被用来做了什么，并且能改主意。这一点做不到，其他优化都是浪费。 - 做推荐的时候，别把浏览历史当成人格。一次困倦时的点击和一次深思熟虑的选择是两种东西，把它们混在一起，你就只能推出一堆你自己都不相信的结果。 - 先想清楚收入从哪里来。如果钱来自点击率，你的算法迟早会为点击率服务，再多聪明的 AI 也拉不回来。这个决定最好在产品成形之前做。 - 试着建市场，别只建管道。生产者和消费者直接发生交易，平台从真实价值里抽 5%，比把所有人的注意力打包卖给广告主更能活到下一个十年。音乐行业是个可以立刻动手的实验场。 - 用学徒的心态进入这个领域。花四五年，不花四五个月。学数学，也学一门语言、读点诗和历史。你不需要成为所有领域的专家，但你需要成为一个能跟别的领域对话的人。