# 弗朗索瓦·肖莱：Keras、深度学习与人工智能的进展 > Keras 作者谈深度学习工具的演进、智能的本质，以及衡量 AI 进展的方法与常见误区。 - 原标题：François Chollet: Keras, Deep Learning, and the Progress of AI - 期数：特别节目 - 发布日期：2019-09-14 - 嘉宾 / 主题：弗朗索瓦·肖莱 - 网页版：https://lexfridman-cn.pages.dev/ep/francois-chollet/ - 官方页面：https://lexfridman.com/francois-chollet/ - 精读字数：约 9795 字（阅读约 22 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 爱因斯坦在伯尔尼专利局做了七年三级审查员。1905 年，他连发四篇论文，把物理学翻了个面。弗朗索瓦·肖莱（François Chollet）在播客里聊起这段历史，落点很冷：如果那几年没有出现一个恰好需要他的问题，爱因斯坦大概率会以专利局职员的身份退休，历史书里不会有这个名字。 他的推论更冷一层。今天的世界上，大概存在着数量相当可观的天才级头脑，我们永远不会知道他们存在，因为他们没碰上那个能让自己显形的题目。 这段话出自 Lex Fridman 的播客，录制于 2019 年 9 月。肖莱是 Keras 的作者，Google 的 AI 研究员，也是 Twitter 上最不客气的那批人之一。他因为质疑"智能爆炸"（intelligence explosion）这个说法，收到过大量围攻。 ## 大脑不是智能的容器 智能爆炸的逻辑大致是这样：如果造出一个通用的问题解决 AI，那么"造 AI"本身也是一个问题，可以被这个 AI 自己解决，而且解决得比人更好。于是它开始改写自己的算法，做出更强的版本，一层层递归下去，智能指数级膨胀。 肖莱反对的是这条推理链的第一环。它预设智能是大脑的孤立属性，像楼的高度一样可以被单独测量。缺了身体、缺了环境，这个概念本身就塌了。 > 智能产生于大脑、身体和环境的互动之中。缺了其中任何一块，你就没办法再定义智能了。（弗朗索瓦·肖莱） 在这个框架里，智能是"强问题解决能力"与"一个好问题"的相遇。问题不存在，智能就无从表达，剩下的只有潜在智能，比如你脑子跑得多快、IQ 测出来多少。那只是一个数字，什么也没说明。 所以他说，系统里任何一块被优化，其他块立刻变成新瓶颈。各部分是高度互相依赖的，你拧紧了这颗螺丝，压力就转移到别处。指望拧一颗螺丝得到指数级收益，等于把系统当成了零件。 ## 所有智能都是专用智能 "通用人工智能"这个词让他很为难。人们说 AGI 的时候，可能指"比人聪明得多的 AI"，也可能指"像人一样的 AI"，两件完全不同的事被同一个缩写压扁了。 他的立场是：所有智能都是专用智能，包括人的。人类智能专精于人类经验。这个专精体现在好几层，一层是出生时就带着的先验知识，关于施动者、关于目标驱动行为、关于什么算一个物体、关于时间；另一层体现在学习方式上，我们学语言毫不费力，因为大脑被硬编码成要学它。 同样的专精也意味着大量无能。人对长期问题几乎没有直觉，五年、十年的跨度就已经很难想象，工作记忆的容量小得可怜。 那人类怎么解决大问题？靠的不是单个大脑。肖莱的说法是，我们有一个叫"文明"的东西，它本身就是一套问题解决系统，一套运行在大量基础设施上的智能体：书、计算机、互联网、制度。计算机科学作为一门学科，能解决的问题规模远超任何一个个人。科学本身，作为一套建制，是一个超级人类的问题解决算法。 ## 科学是递归自我改进的，但产出是线性的 整场对话里信息密度最高的一段，落在科学这个话题上。 肖莱说，我们不需要空想递归自我改进系统会怎样，现实里就有现成的例子：科学。科学产出知识，知识变成技术，技术变成更好的仪器、更好的计算机、更好的通信，反过来加速科学。它形成了一条闭环，货真价实的递归自我改进系统，而且已经超级人类了。 那就看看它实际跑出了什么曲线。 科学家和工程师的数量在指数增长，投入科学的计算资源在指数增长，发表的论文数、申请的专利数在指数增长。这些全是资源消耗的指标，被误当成了产出的指标。真正该看的是知识本身的增量，是我们解决的问题在范围和重要性上的变化。 迈克尔·尼尔森（Michael Nielsen）在 2018 年前后做过一次测量：把过去一百到一百五十年间的重大科学发现列出来，请专家组给每一项的重要性打分，然后画"重要性随时间的密度曲线"。如果科学的产出是指数的，这条曲线应该指数上扬。实际画出来，是一条几乎水平的线，横跨物理、生物、医学所有学科。 直觉上也能对上。一百一十年前物理学正在天翻地覆，一百七十年前马车被汽车替换、电力进入生活，那也是剧变的年代。今天变化也很快，但说今天比五十年前快出一个数量级，站不住脚。 > 随着你在某个领域取得进展，进一步取得进展会变得指数级地困难。第一批进入信息理论的人，满地都是低垂的果实。（弗朗索瓦·肖莱） 下一代研究者要挖得更深，才能拿到更小的发现，要获得同样的影响力，需要的人数多得多。 ## 指数进步会触发指数摩擦 他给了一个物理类比。假设你造出一个装置，它能测量自己的加速度，然后按比例输出更大的加速度。把它扔到空中，它不会飞到无限快，空气阻力会把它锁在某个终端速度。 就算你把空气这个瓶颈也拿掉，还有别的，摩擦换个形式继续出现。 科学也一样。研究者越多，跨研究者的沟通开销越大。今天想在量子力学里做出有意义的贡献，需要先吞下的前置知识量大得惊人，光是进入门槛就够劝退。想做的实验越来越贵，因为便宜的那些早就被人做完了。 所以他才会认为，用科学来推演超级智能 AI 的命运，比用"大脑加速"来推演靠谱得多。他没有说这是证明，只说这个起点更站得住。 ## 一万篇论文在往架构里硬编码答案 话题转到深度学习本身。肖莱在 Twitter 上说过一句大实话：大约有一万篇深度学习论文，做的其实是同一件事，把某个特定任务的先验知识硬编码进网络结构里，然后报告性能提升。 机器学习的本意是研究泛化，是提炼出能跨数据集、跨任务复用的知识。如果你盯着一个数据集，把关于这个任务的答案写进架构，那和训练完之后说"我找到了一组表现很好的权重"没有本质区别。两者都把答案抄进了模型。 David Ha 有一篇讲"权重无关神经网络"（weight-agnostic neural networks）的论文，把这件事讲得很透：一套架构，即使权重全是随机的，它本身已经编码了关于任务的知识。 他举了 bAbI 数据集作例子。那是一批用算法生成的自然语言问答对，背后的生成器遵循固定模板。如果你手工设计一个网络，把这个模板原样编码进去，准确率能接近 100%。至于"如何解决一般性的问答"，这个结果一个字都没回答。 ## 《苦涩的教训》有保质期 理查德·萨顿（Rich Sutton）写过一篇《苦涩的教训》（The Bitter Lesson）：七十年 AI 研究给出的最大教训是，能利用算力的通用方法最终总是赢。 肖莱同意这个判断，但只同意它对过去七十年的描述。他认为结论的有效性依赖当时的研究环境，而环境在变。 七十年里，算力按照摩尔定律指数增长，任何能吃掉算力的算法都会自动变强。这个红利正在见顶。当你把算力这个维度榨干，瓶颈就转移到下一个维度，也就是数据。 他的判断是，研究重心会从"扩大算力规模"转向"提升数据效率"。 他对无监督学习和强化学习的态度同样源于这个判断。这两个是学习框架，不是具体技术。今天的深度强化学习依然在用巨大的参数模型、逐点梯度下降，它降低的是标注密度，不是数据需求量。潜空间加稀疏标注是个好主意，能带来标注效率上的渐进改善，但也就到这里。 ## 深度学习的本质是点对点插值 他把深度模型的工作方式讲得很直白：一个巨大的、可微的、连续的参数模型，把输入空间几何地变形到输出空间，靠梯度下降训练，逐点进行。 逐点意味着，网络只能理解那些离训练数据很近的点，最好也就是在点之间做插值。想要训练出来，你需要对输入输出空间做稠密采样。这在高维复杂问题上贵得离谱，自动驾驶、机器人都是例子。 对比一下符号规则。一段几十行的排序算法能处理任意长度的列表，因为它抽象，它不是靠逐点映射学出来的。用神经网络去学排序，你学到的是"这个特定列表排好序长什么样"。 真实世界里成功的 AI 系统基本都长成了混血。自动驾驶的主体是手写的软件，是基于显式 3D 环境模型的规划系统，深度学习负责把原始感官信号翻译成符号系统能用的东西。端到端在车道上跟车这类子问题上可行，放大到整个驾驶就要求对经验空间做稠密采样，不现实。 那深度学习的天花板在哪？他的回答是，理论上没有硬上限，只要搜索空间足够丰富、采样足够稠密。麻烦在于"足够稠密"可能是几万个样本，也可能是几万亿个，差别巨大。 感知类问题，深度学习是天作之合。物理规律、三维结构、物体间关系这类东西，一个显式的抽象模型是远比学习出来的映射更压缩的表示。你当然还是可以用网络去学，只是效率极低。 ## 程序合成还处在反向传播之前的冬天 如果要自动生成那些规则，靠的是程序合成（program synthesis）。 他给这个领域的定位很狠：如果说深度学习现在是 2019 年，那程序合成大概在 1990 年代。甚至这个比喻都算乐观，因为 90 年代人们已经搞懂了反向传播这个引擎，只是没看到它的潜力。程序合成连自己的引擎都还没找到。 整个领域目前唯一拿得出手的真实应用，是 Excel 里的 Flash Fill：给几个例子，自动学会一个格式化单元格的小程序。就这样。 他自己的直觉是遗传算法、遗传编程这条路有希望。目前的做法基本是树搜索、图搜索，被现有搜索算法的能力卡住。 ## 真正的危险不在终结者 被问到 AI 威胁时，他给出的清单和科幻片没什么关系。 第一层是监控。人脸识别、行为追踪、把海量个人数据汇总起来做识别和预测，这些能力正在被一些国家大规模推进。 第二层更值得警惕，也更少被讨论。人的生活正在变成数字生活，阅读、表达、社交都在网上留下痕迹。谁控制了信息的分发入口，谁就掌握了一条闭环：观察你此刻的心智状态，预测你对不同内容的反应，然后推送那条能把你推向特定方向的内容。这个过程可以实时进行，也可以扩展到整个人群。 > 把人的心智看作一段程序的话，它有一个非常大的可利用面。（弗朗索瓦·肖莱） 他具体拆解了操纵是怎么发生的。政治信念和身份认同绑得很紧，如果你看的新闻由我筛选，我可以只给你看某一类新闻。更高明的一招是利用社交反馈：你想让我鼓励某种表达，我就把它推给会赞同你的人，点赞会强化这个信念；你想让我压制某种表达，我就把它推给反对者，你被攻击之后，下次发之前会犹豫，甚至可能因为这个反弹而开始怀疑自己。 这种操纵已经在跑了，只不过今天的目标函数是"参与度"（engagement），背后没有政治意图。他觉得这恰恰是最麻烦的地方：参与度最大化看起来人畜无害，实际会系统性地筛选出情绪化、能激起反应的内容。假新闻比真新闻更容易被点击，原因很简单，它不受事实约束，可以要多耸动有多耸动。 即便没有任何恶意，这套系统已经在产生有害的社会动力学。 ## 目标函数应该由用户来定 他的方案带着很强的工程师气质：界面设计问题。 用户应该能配置算法在优化什么。想看 YouTube 是为了学东西，那就把目标设成"学得又快又多"，顺带把信息准确性作为约束。想看 Twitter 是为了了解某个领域，那就别按全站最热来推。他吐槽过 Twitter 的话题推荐，永远是覆盖面最广、最平庸的那一版，因为它在最大化点击率。 他不喜欢平台替用户做价值判断这件事，哪怕判断是善意的。那是极权的心态。他想要的技术形态是导师、教练、助手，核心在于你在指挥它，它在执行你的意图，老板这个位置不该给它。 对 Spotify 那种逐条点赞点踩的反馈机制，他也不太买账。算法会拿你的选择去和所有人的选择做关联，你的口味越主流，效果越好；越偏门，效率越低。这套机制依然没有回答最根本的问题：算法到底在为什么优化。 他承认这事很难，也承认自己给不出完整答案，但认为公开讨论本身就是进展。算法偏见在两三年前几乎没人提，现在国会都在谈，起点就是有人把它说出来。 ## 损失函数工程会成为一个职业 顺着这个逻辑，他预测"损失函数工程"（loss function engineering）会变成一种岗位。 今天大家用的损失函数都很朴素，因为难点不在"你想最小化什么"，而在其他所有工程细节。当这些细节被工具自动化掉之后，人的注意力会集中到更高层：到底是什么在驱动整个学习系统。 他给 Keras 的定位正是这个：数据和你业务目标之间的接口。工程师的工作，是把自己的业务理解表达成一组损失函数和约束。 ## 怎么定义和测量智能 他给了一个定义，短得像一句口号，但撑得住展开。 > 智能是把经验转化为可泛化程序的效率。（弗朗索瓦·肖莱） 展开就是：从经验空间里采样一部分，转化为处理更大一块经验空间的能力，转化的效率越高，越智能。 这个定义顺手解释了为什么智能必然专用。你谈的是经验空间，是经验空间里的某一段，是先验，是经验量，这些词本身就框定了智能涌现的上下文。没人能站在经验空间的总体上看问题。 不过他也留了余地：如果那个经验空间足够大，它看起来就像通用的。人类的智能经常被称作通用，实际上相当专用。 用技能当智能的代理指标是可以的，但要控制两个变量：先验，和经验量。给两个智能体同样的先验、同样多的经验，谁学出来的程序在更大范围的经验空间上表现好，谁就更聪明。 他为此做了一件工具，断断续续做了两年多。设计上有个巧妙的约束：任何数量的练习都不能提高分数。 做法是，把人类婴儿出生时自带的那套先验显式地写出来，然后基于这套先验生成任务。任务对被测智能体必须是全新的，同时人类也能做，这样人和机器的分数才有可比性。先验从哪来？哈佛的伊丽莎白·斯佩尔克（Elisabeth Spelke）研究了几十年的"核心知识"（core knowledge）：物体性、施动者、目标导向行为、时间、数量。 他形容那是个好玩的小项目，算不上什么突破。ImageNet 当年也只是个数据集。 ## DNA 是一条带宽极低的线 为什么人类的先天知识这么少？他给了一个很有说服力的推演。 任何先天知识都必须由进化写进 DNA。DNA 是一种带宽极低的介质，写入极慢极贵。你需要进化压力来引导写入，写得越高级耗时越长，而被编码的那个环境特征必须在这段时间里保持稳定。结论是：能进 DNA 的，只有那些在数百万年尺度上稳定、且构成生存优势的极小子集。 所以我们有一些关于蛇的轮廓、关于什么构成一张脸的先天知识。但我们不可能有"男性和女性的脸有何视觉差异"的先天知识，因为这种差异出现得太晚，DNA 来不及写。 还有一个推论更狠：正因为写入这么慢，绝大部分先天知识是和类人猿共享的。把人类变得特殊的，不是这套出厂预装。 ## Keras 的起点是 LSTM 2014 年底，肖莱在折腾循环神经网络（RNN），当时这是个冷门方向，热度要到 2016 年才起来。他找了一圈工具，发现没有能用的：Caffe 是主流，但主要做计算机视觉，用 C++；Theano 他在 Kaggle 比赛里用得多；Torch 7 也试过。唯独 RNN 这块，连一个可复用的开源 LSTM 实现都找不到。 于是他决定自己写一个。最初的定位就是 LSTM 工具箱，用 Python 写。有个当时并不显然的决定：模型用 Python 代码定义，这跟主流相反。Caffe、Pylearn2 这些大库都走 YAML 配置文件路线，写一堆配置来声明模型结构。 他借鉴的对象是 scikit-learn，喜欢它的易用性，想把这套感觉搬到神经网络上：把复杂的训练循环压成一次 fit 调用。有人说这会隐藏细节，他的回答是，隐藏细节正是目的。 2015 年 2 月开始写，3 月发布。当时整个深度学习圈子不到一万人，而想试 LSTM 的人正在变多，时间点踩得很准。 六个月后他加入 Google，跟 Keras 无关，去的是一个做图像分类的研究团队。入职没多久就接触到了 TensorFlow 的内部早期版本，第一反应是"这是改良版 Theano"，于是知道自己得把 Keras 迁过去。TensorFlow 在 2015 年 11 月开源，他 12 月动手，做的是重构：把所有后端相关的东西抽到一个模块里，同一套代码能跑在多个后端上。之后整整一年，Theano 还是默认选项，更好用、bug 更少、音频任务上快得多，直到 TensorFlow 反超。 2016 年 10 月，TensorFlow 的负责人拉贾特·蒙加（Rajat Monga）找上门，说看到了 Keras，也看到作者在 Google，邀请他过来干一个季度。Keras 先是以 TensorFlow 专用版本进了 contrib，后来进了 core。他再没回原来的研究团队。 ## API 应该长得像专家的脑子 聊到 TensorFlow 2.0 的设计过程，他讲的其实是软件工程的一般原理。 他在 Google 的大量时间花在设计讨论、写设计文档、参加设计评审上。设计决策的本质是满足一组约束，同时用尽可能简单的方式满足，因为只有简单的东西能被维护、被扩展。 好的 API 是模块化的、分层的，表面积尽可能小，并且反映领域专家思考问题的方式。专家读文档的时候，脑子里已经有一套概念，他要做的是尽快把自己脑中的概念映射到 API 的概念上。API 越贴近这套心智模型，认知负荷越低。 反过来，API 不该自指，不该泄露实现细节，只该谈领域概念。 TensorFlow 2.0 让他兴奋的地方是工作流的连续性：想从零写训练循环，可以用 eager execution 加子类化模型，调试直观；想用经典 Keras 那套 fit，一应俱全。同一套框架覆盖从研究者到数据科学家的整个谱系，再往下还能接 TensorFlow Lite、云端服务。 再往后的方向是 AutoML。他打了个比方：未来的形态不会是丢给你一盒乐高，而像一个很会玩乐高的孩子，加上一盒乐高。 ## AI 冬天不会全面到来，但信任会透支 他对 AI 冬天的判断是有层次的。 全面寒冬不会来，因为深度学习在实打实地创造价值，能解决的问题范围极广，而且应用才刚开始。 麻烦在另一头：炒作。有太多人在过度推销这些系统的能力，把它们说得像大脑，说成带着神秘色彩的东西，同时把进展速度也吹大了。论文数量的指数增长看起来像加速，实际上只是涌入这个领域的人变多了。 他给了一个精确的比喻。假设你在为创业公司或实验室融资，需要讲一个宏大的故事：深度学习就像大脑，能解决自动驾驶、机器人这些了不起的问题，通用人工智能十年、十五年内就会到来。这些话没有一句是真的。每当一个投资人相信了，**你就等于在拿信任透支信用卡**。 钱是拿到了，债留下了。这笔债最后会以整个领域信誉崩塌的形式偿还。 ## 2021 年，几乎每家都承诺过 自动驾驶是他举的现成例子。 2015 年前后，一大批融资中的公司让公众和决策者相信，L5 级自动驾驶会在 2016 年、2017 年、2018 年到来。现在是 2019 年，大家还在等。几乎每一家公司都承诺过 2021 或 2022 年量产全自动驾驶。 他描述的崩盘场景很具体：这些公司烧掉几十亿美元之后，某天开会问两个问题。第一个，"我们真的有自动驾驶车吗？"答案是不会。第二个，"等等，我们投了十亿、二十亿、三十亿，一分钱利润都没有？" 接下来的反应可能非常剧烈，会波及自动驾驶之外的行业。 AI 冬天的机制就在这里：技术本身没崩，崩掉的是承诺和现实之间的那道缝。第一批人被证明是在撒谎，第二批人连真话也不信了。 通用人工智能那一侧的叙事更直接。有些创业公司在卖一个梦：只要 AI 系统跨过某个 IQ 阈值，价值就是无限的，像一顿免费午餐。他判断会有投资人买账，等上十年、十五年，什么也没发生。人类记忆很短，下一代投资人会重新入场。 ## 不必去分辨哪篇是民科论文 Lex 提到一件事：因为他偶尔诗意地谈 AGI，收到过大量长篇宣言，作者都声称自己已经造出或知道怎么造 AGI。肖莱说他收到的更多，那些文本读起来像是 AI 生成的，还是 Transformer 写的民科论文。 那怎么判断这些人里有没有真货？ 他的回答绕开了这个问题的前提。**智能不存在于抽象之中，智能必须被应用。**没有问题，就解决不了问题。一个人声称自己有通用智能系统，那它应该附带一套基准，应该展示某种能力，哪怕是很人工的能力。 所以其实不必去分辨哪篇论文藏着潜力、哪篇是空话。新技术如果真的产生价值，很快就会被看见，因为它在起作用。有用的东西会自己浮出来。 这条标准不只适用于 AI。科学史上出现过无数"万物理论"，作者可能真的很有洞见，但这些理论完全没用，于是消失了。你不需要去区分有趣的理论和没用的理论，你只需要看一件事：它有没有对别的东西产生影响。 > 要紧的是有效，不在于正确。（弗朗索瓦·肖莱） 深度学习自己就是个例子。在它开始奏效之前，做神经网络的人被当成怪人，这个方向几乎没人碰了。它变得有价值，是因为它真的跑通了。 不过他也补了一句：这套机制里，个体往往要承受被当成怪人的那段时间。Yoshua Bengio、Yann LeCun 熬过来了。如果你相信自己手里有东西，那就坚持下去，把它做完。 ## 图灵测试是一种偷懒 谈到怎么衡量智能，他把两个问题拆开了。一个是有多聪明，一个是多像人。量值和方向，两条独立的轴。 他不喜欢图灵测试，理由很直接：**它偷懒**。它完全绕过了"定义和测量智能"这个难题，把判断权外包给人类评审团。一种彻底的逃避。 想测像人的程度，应该让它去和其他人互动，然后观察它的行为，跟一个真人处在同样情境下会做什么做对比。而不是找人当裁判打分。 那怎么测智能的量值？他认为现有的基准全跑偏了，都在测某项具体技能的熟练度：下棋、下围棋、打 Dota。这类比较没有意义，因为你在单项技能上总能赢过人类。 人类在围棋上的技能之所以让人印象深刻，是因为我们是在一组约束下表现出来的：只有一辈子时间、只有这一具身体、只有这个带宽。把约束去掉，给无限的数据和无限的硬件，达到任意高的技能水平说明不了任何智能问题。 他的方案还是那个定义：固定先验，固定经验量，看谁学出来的程序更泛化。 ## 意识不会自己长出来 话题转到类人智能。他的判断是，**要像人，就得有情绪和意识**。 这两个东西通常不被认为是一个智能系统的必需品。前面说过的科学，作为超级人类的问题解决系统，它没有意识，没有情绪，照样在运转。 在他看来，意识和情绪处于同一个光谱上，都是主观体验的组成部分，功能是引导行为生成。人类和动物的智能是为生成行为而进化的，包括在社会情境中生成行为。这才需要情绪，才需要意识。 一个在不同语境下发展出来的人工系统，完全可能永远不需要它们，永远不会有意识。 所以他认为意识不会从足够强的信息处理能力中自发涌现。它属于心智的一个部件，你不显式实现它，它就不在。 身体呢？他认为必须有，但不必是物理的，一个足够真实的仿真也行。关键是那个语境：类人智能只能在类人的语境中产生，它需要其他人存在，才能展示出自己像人。 ## 2013 年那阵惊讶 被问到什么时候被 AI 的能力真正震到过，他给的时间是 2013 到 2014 年。 那时候我们还没摸清深度学习的边界，感觉潜力是无限的。后来边界一点点收窄。 但他说自己从没相信过深度学习没有极限。真正让他震惊的是它能跑通，能做计算机视觉做得那么好。这跟接近人类水平智能之间隔着一大段距离，他从没混淆过这两件事。 他也不认为我们接近人类水平智能，但认为没有理由最终达不到。 他顺带批评了"人类水平"这个说法。它预设了一条智能的一维标尺，上面有不同刻度。实际不是这样，智能是多维的。能力和像人是两个独立的轴，你可以造出非常先进但完全不像人的智能体，也可以造出很像人但能力有限的系统。 至于通用人工智能让他兴奋、恐惧还是无聊，他的回答很书生：兴奋，但兴奋点不在它能干什么，而在于如果真的造出类人智能，那就意味着我们真正理解了人类智能。这件事本身足够迷人。 ## 这套想法对读者意味着什么 整场对话里，他反复在做同一件事：把一个被当成物理定律的叙事，还原成一个特定语境下的经验观察。智能爆炸是叙事，《苦涩的教训》是特定七十年的经验总结，AI 威胁是十年前后完全不同的具体问题。他要求的从来不是"你该相信什么"，他要的是"你说这话的时候，能不能给出一个可验证的场景"。 下面几条是能直接拿去用的。 - 看到任何关于 AI 能力的声明，先找它对应的基准和可复现演示。找不到就先放进"尚未产生效用"那一堆，不用急着判断对方是骗子还是有远见，让时间来做筛选。 - 听到"跨过某个阈值就能带来无限价值"这类论证时，把它当成融资话术而非技术判断。价值来自具体问题的具体解决，不来自某个抽象的能力刻度。 - 评估一个 AI 项目的时间表时，看它的承诺历史上有没有兑现过。2015 年承诺 L5 的那批公司，是理解当下这波叙事最好的参照物。 - 作为用户，主动去找平台有没有开放推荐目标的设置。没有的话，至少要意识到你看到的不是世界，是某个目标函数筛选后的世界。 - 做技术选型时，区分"能硬编码进架构的领域知识"和"真正需要从数据里学的规律"。前者能刷高分数，但换一个数据集就归零。 - 如果你在研究一个暂时没人看好的方向，记住深度学习自己也曾被当成民科。坚持的前提是你手里有一件最终能被证明有用的东西，不是一个漂亮的故事。