特别节目·中文精读

弗朗索瓦·肖莱:Keras、深度学习与人工智能的进展

François Chollet: Keras, Deep Learning, and the Progress of AI

Keras 作者谈深度学习工具的演进、智能的本质,以及衡量 AI 进展的方法与常见误区。

官方音频00:00 / --:--
中文精读由 AI 基于原始访谈改写,非官方翻译,可能存在偏差或错误;表述以原音频与官方文稿为准。说明

爱因斯坦在伯尔尼专利局做了七年三级审查员。1905 年,他连发四篇论文,把物理学翻了个面。弗朗索瓦·肖莱(François Chollet)在播客里聊起这段历史,落点很冷:如果那几年没有出现一个恰好需要他的问题,爱因斯坦大概率会以专利局职员的身份退休,历史书里不会有这个名字。

他的推论更冷一层。今天的世界上,大概存在着数量相当可观的天才级头脑,我们永远不会知道他们存在,因为他们没碰上那个能让自己显形的题目。

这段话出自 Lex Fridman 的播客,录制于 2019 年 9 月。肖莱是 Keras 的作者,Google 的 AI 研究员,也是 Twitter 上最不客气的那批人之一。他因为质疑"智能爆炸"(intelligence explosion)这个说法,收到过大量围攻。

大脑不是智能的容器

智能爆炸的逻辑大致是这样:如果造出一个通用的问题解决 AI,那么"造 AI"本身也是一个问题,可以被这个 AI 自己解决,而且解决得比人更好。于是它开始改写自己的算法,做出更强的版本,一层层递归下去,智能指数级膨胀。

肖莱反对的是这条推理链的第一环。它预设智能是大脑的孤立属性,像楼的高度一样可以被单独测量。缺了身体、缺了环境,这个概念本身就塌了。

智能产生于大脑、身体和环境的互动之中。缺了其中任何一块,你就没办法再定义智能了。(弗朗索瓦·肖莱)

在这个框架里,智能是"强问题解决能力"与"一个好问题"的相遇。问题不存在,智能就无从表达,剩下的只有潜在智能,比如你脑子跑得多快、IQ 测出来多少。那只是一个数字,什么也没说明。

所以他说,系统里任何一块被优化,其他块立刻变成新瓶颈。各部分是高度互相依赖的,你拧紧了这颗螺丝,压力就转移到别处。指望拧一颗螺丝得到指数级收益,等于把系统当成了零件。

所有智能都是专用智能

"通用人工智能"这个词让他很为难。人们说 AGI 的时候,可能指"比人聪明得多的 AI",也可能指"像人一样的 AI",两件完全不同的事被同一个缩写压扁了。

他的立场是:所有智能都是专用智能,包括人的。人类智能专精于人类经验。这个专精体现在好几层,一层是出生时就带着的先验知识,关于施动者、关于目标驱动行为、关于什么算一个物体、关于时间;另一层体现在学习方式上,我们学语言毫不费力,因为大脑被硬编码成要学它。

同样的专精也意味着大量无能。人对长期问题几乎没有直觉,五年、十年的跨度就已经很难想象,工作记忆的容量小得可怜。

那人类怎么解决大问题?靠的不是单个大脑。肖莱的说法是,我们有一个叫"文明"的东西,它本身就是一套问题解决系统,一套运行在大量基础设施上的智能体:书、计算机、互联网、制度。计算机科学作为一门学科,能解决的问题规模远超任何一个个人。科学本身,作为一套建制,是一个超级人类的问题解决算法。

科学是递归自我改进的,但产出是线性的

整场对话里信息密度最高的一段,落在科学这个话题上。

肖莱说,我们不需要空想递归自我改进系统会怎样,现实里就有现成的例子:科学。科学产出知识,知识变成技术,技术变成更好的仪器、更好的计算机、更好的通信,反过来加速科学。它形成了一条闭环,货真价实的递归自我改进系统,而且已经超级人类了。

那就看看它实际跑出了什么曲线。

科学家和工程师的数量在指数增长,投入科学的计算资源在指数增长,发表的论文数、申请的专利数在指数增长。这些全是资源消耗的指标,被误当成了产出的指标。真正该看的是知识本身的增量,是我们解决的问题在范围和重要性上的变化。

迈克尔·尼尔森(Michael Nielsen)在 2018 年前后做过一次测量:把过去一百到一百五十年间的重大科学发现列出来,请专家组给每一项的重要性打分,然后画"重要性随时间的密度曲线"。如果科学的产出是指数的,这条曲线应该指数上扬。实际画出来,是一条几乎水平的线,横跨物理、生物、医学所有学科。

直觉上也能对上。一百一十年前物理学正在天翻地覆,一百七十年前马车被汽车替换、电力进入生活,那也是剧变的年代。今天变化也很快,但说今天比五十年前快出一个数量级,站不住脚。

随着你在某个领域取得进展,进一步取得进展会变得指数级地困难。第一批进入信息理论的人,满地都是低垂的果实。(弗朗索瓦·肖莱)

下一代研究者要挖得更深,才能拿到更小的发现,要获得同样的影响力,需要的人数多得多。

指数进步会触发指数摩擦

他给了一个物理类比。假设你造出一个装置,它能测量自己的加速度,然后按比例输出更大的加速度。把它扔到空中,它不会飞到无限快,空气阻力会把它锁在某个终端速度。

就算你把空气这个瓶颈也拿掉,还有别的,摩擦换个形式继续出现。

科学也一样。研究者越多,跨研究者的沟通开销越大。今天想在量子力学里做出有意义的贡献,需要先吞下的前置知识量大得惊人,光是进入门槛就够劝退。想做的实验越来越贵,因为便宜的那些早就被人做完了。

所以他才会认为,用科学来推演超级智能 AI 的命运,比用"大脑加速"来推演靠谱得多。他没有说这是证明,只说这个起点更站得住。

一万篇论文在往架构里硬编码答案

话题转到深度学习本身。肖莱在 Twitter 上说过一句大实话:大约有一万篇深度学习论文,做的其实是同一件事,把某个特定任务的先验知识硬编码进网络结构里,然后报告性能提升。

机器学习的本意是研究泛化,是提炼出能跨数据集、跨任务复用的知识。如果你盯着一个数据集,把关于这个任务的答案写进架构,那和训练完之后说"我找到了一组表现很好的权重"没有本质区别。两者都把答案抄进了模型。

David Ha 有一篇讲"权重无关神经网络"(weight-agnostic neural networks)的论文,把这件事讲得很透:一套架构,即使权重全是随机的,它本身已经编码了关于任务的知识。

他举了 bAbI 数据集作例子。那是一批用算法生成的自然语言问答对,背后的生成器遵循固定模板。如果你手工设计一个网络,把这个模板原样编码进去,准确率能接近 100%。至于"如何解决一般性的问答",这个结果一个字都没回答。

《苦涩的教训》有保质期

理查德·萨顿(Rich Sutton)写过一篇《苦涩的教训》(The Bitter Lesson):七十年 AI 研究给出的最大教训是,能利用算力的通用方法最终总是赢。

肖莱同意这个判断,但只同意它对过去七十年的描述。他认为结论的有效性依赖当时的研究环境,而环境在变。

七十年里,算力按照摩尔定律指数增长,任何能吃掉算力的算法都会自动变强。这个红利正在见顶。当你把算力这个维度榨干,瓶颈就转移到下一个维度,也就是数据。

他的判断是,研究重心会从"扩大算力规模"转向"提升数据效率"。

他对无监督学习和强化学习的态度同样源于这个判断。这两个是学习框架,不是具体技术。今天的深度强化学习依然在用巨大的参数模型、逐点梯度下降,它降低的是标注密度,不是数据需求量。潜空间加稀疏标注是个好主意,能带来标注效率上的渐进改善,但也就到这里。

深度学习的本质是点对点插值

他把深度模型的工作方式讲得很直白:一个巨大的、可微的、连续的参数模型,把输入空间几何地变形到输出空间,靠梯度下降训练,逐点进行。

逐点意味着,网络只能理解那些离训练数据很近的点,最好也就是在点之间做插值。想要训练出来,你需要对输入输出空间做稠密采样。这在高维复杂问题上贵得离谱,自动驾驶、机器人都是例子。

对比一下符号规则。一段几十行的排序算法能处理任意长度的列表,因为它抽象,它不是靠逐点映射学出来的。用神经网络去学排序,你学到的是"这个特定列表排好序长什么样"。

真实世界里成功的 AI 系统基本都长成了混血。自动驾驶的主体是手写的软件,是基于显式 3D 环境模型的规划系统,深度学习负责把原始感官信号翻译成符号系统能用的东西。端到端在车道上跟车这类子问题上可行,放大到整个驾驶就要求对经验空间做稠密采样,不现实。

那深度学习的天花板在哪?他的回答是,理论上没有硬上限,只要搜索空间足够丰富、采样足够稠密。麻烦在于"足够稠密"可能是几万个样本,也可能是几万亿个,差别巨大。

感知类问题,深度学习是天作之合。物理规律、三维结构、物体间关系这类东西,一个显式的抽象模型是远比学习出来的映射更压缩的表示。你当然还是可以用网络去学,只是效率极低。

程序合成还处在反向传播之前的冬天

如果要自动生成那些规则,靠的是程序合成(program synthesis)。

他给这个领域的定位很狠:如果说深度学习现在是 2019 年,那程序合成大概在 1990 年代。甚至这个比喻都算乐观,因为 90 年代人们已经搞懂了反向传播这个引擎,只是没看到它的潜力。程序合成连自己的引擎都还没找到。

整个领域目前唯一拿得出手的真实应用,是 Excel 里的 Flash Fill:给几个例子,自动学会一个格式化单元格的小程序。就这样。

他自己的直觉是遗传算法、遗传编程这条路有希望。目前的做法基本是树搜索、图搜索,被现有搜索算法的能力卡住。

真正的危险不在终结者

被问到 AI 威胁时,他给出的清单和科幻片没什么关系。

第一层是监控。人脸识别、行为追踪、把海量个人数据汇总起来做识别和预测,这些能力正在被一些国家大规模推进。

第二层更值得警惕,也更少被讨论。人的生活正在变成数字生活,阅读、表达、社交都在网上留下痕迹。谁控制了信息的分发入口,谁就掌握了一条闭环:观察你此刻的心智状态,预测你对不同内容的反应,然后推送那条能把你推向特定方向的内容。这个过程可以实时进行,也可以扩展到整个人群。

把人的心智看作一段程序的话,它有一个非常大的可利用面。(弗朗索瓦·肖莱)

他具体拆解了操纵是怎么发生的。政治信念和身份认同绑得很紧,如果你看的新闻由我筛选,我可以只给你看某一类新闻。更高明的一招是利用社交反馈:你想让我鼓励某种表达,我就把它推给会赞同你的人,点赞会强化这个信念;你想让我压制某种表达,我就把它推给反对者,你被攻击之后,下次发之前会犹豫,甚至可能因为这个反弹而开始怀疑自己。

这种操纵已经在跑了,只不过今天的目标函数是"参与度"(engagement),背后没有政治意图。他觉得这恰恰是最麻烦的地方:参与度最大化看起来人畜无害,实际会系统性地筛选出情绪化、能激起反应的内容。假新闻比真新闻更容易被点击,原因很简单,它不受事实约束,可以要多耸动有多耸动。

即便没有任何恶意,这套系统已经在产生有害的社会动力学。

目标函数应该由用户来定

他的方案带着很强的工程师气质:界面设计问题。

用户应该能配置算法在优化什么。想看 YouTube 是为了学东西,那就把目标设成"学得又快又多",顺带把信息准确性作为约束。想看 Twitter 是为了了解某个领域,那就别按全站最热来推。他吐槽过 Twitter 的话题推荐,永远是覆盖面最广、最平庸的那一版,因为它在最大化点击率。

他不喜欢平台替用户做价值判断这件事,哪怕判断是善意的。那是极权的心态。他想要的技术形态是导师、教练、助手,核心在于你在指挥它,它在执行你的意图,老板这个位置不该给它。

对 Spotify 那种逐条点赞点踩的反馈机制,他也不太买账。算法会拿你的选择去和所有人的选择做关联,你的口味越主流,效果越好;越偏门,效率越低。这套机制依然没有回答最根本的问题:算法到底在为什么优化。

他承认这事很难,也承认自己给不出完整答案,但认为公开讨论本身就是进展。算法偏见在两三年前几乎没人提,现在国会都在谈,起点就是有人把它说出来。

损失函数工程会成为一个职业

顺着这个逻辑,他预测"损失函数工程"(loss function engineering)会变成一种岗位。

今天大家用的损失函数都很朴素,因为难点不在"你想最小化什么",而在其他所有工程细节。当这些细节被工具自动化掉之后,人的注意力会集中到更高层:到底是什么在驱动整个学习系统。

他给 Keras 的定位正是这个:数据和你业务目标之间的接口。工程师的工作,是把自己的业务理解表达成一组损失函数和约束。

怎么定义和测量智能

他给了一个定义,短得像一句口号,但撑得住展开。

智能是把经验转化为可泛化程序的效率。(弗朗索瓦·肖莱)

展开就是:从经验空间里采样一部分,转化为处理更大一块经验空间的能力,转化的效率越高,越智能。

这个定义顺手解释了为什么智能必然专用。你谈的是经验空间,是经验空间里的某一段,是先验,是经验量,这些词本身就框定了智能涌现的上下文。没人能站在经验空间的总体上看问题。

不过他也留了余地:如果那个经验空间足够大,它看起来就像通用的。人类的智能经常被称作通用,实际上相当专用。

用技能当智能的代理指标是可以的,但要控制两个变量:先验,和经验量。给两个智能体同样的先验、同样多的经验,谁学出来的程序在更大范围的经验空间上表现好,谁就更聪明。

他为此做了一件工具,断断续续做了两年多。设计上有个巧妙的约束:任何数量的练习都不能提高分数。

做法是,把人类婴儿出生时自带的那套先验显式地写出来,然后基于这套先验生成任务。任务对被测智能体必须是全新的,同时人类也能做,这样人和机器的分数才有可比性。先验从哪来?哈佛的伊丽莎白·斯佩尔克(Elisabeth Spelke)研究了几十年的"核心知识"(core knowledge):物体性、施动者、目标导向行为、时间、数量。

他形容那是个好玩的小项目,算不上什么突破。ImageNet 当年也只是个数据集。

DNA 是一条带宽极低的线

为什么人类的先天知识这么少?他给了一个很有说服力的推演。

任何先天知识都必须由进化写进 DNA。DNA 是一种带宽极低的介质,写入极慢极贵。你需要进化压力来引导写入,写得越高级耗时越长,而被编码的那个环境特征必须在这段时间里保持稳定。结论是:能进 DNA 的,只有那些在数百万年尺度上稳定、且构成生存优势的极小子集。

所以我们有一些关于蛇的轮廓、关于什么构成一张脸的先天知识。但我们不可能有"男性和女性的脸有何视觉差异"的先天知识,因为这种差异出现得太晚,DNA 来不及写。

还有一个推论更狠:正因为写入这么慢,绝大部分先天知识是和类人猿共享的。把人类变得特殊的,不是这套出厂预装。

Keras 的起点是 LSTM

2014 年底,肖莱在折腾循环神经网络(RNN),当时这是个冷门方向,热度要到 2016 年才起来。他找了一圈工具,发现没有能用的:Caffe 是主流,但主要做计算机视觉,用 C++;Theano 他在 Kaggle 比赛里用得多;Torch 7 也试过。唯独 RNN 这块,连一个可复用的开源 LSTM 实现都找不到。

于是他决定自己写一个。最初的定位就是 LSTM 工具箱,用 Python 写。有个当时并不显然的决定:模型用 Python 代码定义,这跟主流相反。Caffe、Pylearn2 这些大库都走 YAML 配置文件路线,写一堆配置来声明模型结构。

他借鉴的对象是 scikit-learn,喜欢它的易用性,想把这套感觉搬到神经网络上:把复杂的训练循环压成一次 fit 调用。有人说这会隐藏细节,他的回答是,隐藏细节正是目的。

2015 年 2 月开始写,3 月发布。当时整个深度学习圈子不到一万人,而想试 LSTM 的人正在变多,时间点踩得很准。

六个月后他加入 Google,跟 Keras 无关,去的是一个做图像分类的研究团队。入职没多久就接触到了 TensorFlow 的内部早期版本,第一反应是"这是改良版 Theano",于是知道自己得把 Keras 迁过去。TensorFlow 在 2015 年 11 月开源,他 12 月动手,做的是重构:把所有后端相关的东西抽到一个模块里,同一套代码能跑在多个后端上。之后整整一年,Theano 还是默认选项,更好用、bug 更少、音频任务上快得多,直到 TensorFlow 反超。

2016 年 10 月,TensorFlow 的负责人拉贾特·蒙加(Rajat Monga)找上门,说看到了 Keras,也看到作者在 Google,邀请他过来干一个季度。Keras 先是以 TensorFlow 专用版本进了 contrib,后来进了 core。他再没回原来的研究团队。

API 应该长得像专家的脑子

聊到 TensorFlow 2.0 的设计过程,他讲的其实是软件工程的一般原理。

他在 Google 的大量时间花在设计讨论、写设计文档、参加设计评审上。设计决策的本质是满足一组约束,同时用尽可能简单的方式满足,因为只有简单的东西能被维护、被扩展。

好的 API 是模块化的、分层的,表面积尽可能小,并且反映领域专家思考问题的方式。专家读文档的时候,脑子里已经有一套概念,他要做的是尽快把自己脑中的概念映射到 API 的概念上。API 越贴近这套心智模型,认知负荷越低。

反过来,API 不该自指,不该泄露实现细节,只该谈领域概念。

TensorFlow 2.0 让他兴奋的地方是工作流的连续性:想从零写训练循环,可以用 eager execution 加子类化模型,调试直观;想用经典 Keras 那套 fit,一应俱全。同一套框架覆盖从研究者到数据科学家的整个谱系,再往下还能接 TensorFlow Lite、云端服务。

再往后的方向是 AutoML。他打了个比方:未来的形态不会是丢给你一盒乐高,而像一个很会玩乐高的孩子,加上一盒乐高。

AI 冬天不会全面到来,但信任会透支

他对 AI 冬天的判断是有层次的。

全面寒冬不会来,因为深度学习在实打实地创造价值,能解决的问题范围极广,而且应用才刚开始。

麻烦在另一头:炒作。有太多人在过度推销这些系统的能力,把它们说得像大脑,说成带着神秘色彩的东西,同时把进展速度也吹大了。论文数量的指数增长看起来像加速,实际上只是涌入这个领域的人变多了。

他给了一个精确的比喻。假设你在为创业公司或实验室融资,需要讲一个宏大的故事:深度学习就像大脑,能解决自动驾驶、机器人这些了不起的问题,通用人工智能十年、十五年内就会到来。这些话没有一句是真的。每当一个投资人相信了,你就等于在拿信任透支信用卡。

钱是拿到了,债留下了。这笔债最后会以整个领域信誉崩塌的形式偿还。

2021 年,几乎每家都承诺过

自动驾驶是他举的现成例子。

2015 年前后,一大批融资中的公司让公众和决策者相信,L5 级自动驾驶会在 2016 年、2017 年、2018 年到来。现在是 2019 年,大家还在等。几乎每一家公司都承诺过 2021 或 2022 年量产全自动驾驶。

他描述的崩盘场景很具体:这些公司烧掉几十亿美元之后,某天开会问两个问题。第一个,"我们真的有自动驾驶车吗?"答案是不会。第二个,"等等,我们投了十亿、二十亿、三十亿,一分钱利润都没有?"

接下来的反应可能非常剧烈,会波及自动驾驶之外的行业。

AI 冬天的机制就在这里:技术本身没崩,崩掉的是承诺和现实之间的那道缝。第一批人被证明是在撒谎,第二批人连真话也不信了。

通用人工智能那一侧的叙事更直接。有些创业公司在卖一个梦:只要 AI 系统跨过某个 IQ 阈值,价值就是无限的,像一顿免费午餐。他判断会有投资人买账,等上十年、十五年,什么也没发生。人类记忆很短,下一代投资人会重新入场。

不必去分辨哪篇是民科论文

Lex 提到一件事:因为他偶尔诗意地谈 AGI,收到过大量长篇宣言,作者都声称自己已经造出或知道怎么造 AGI。肖莱说他收到的更多,那些文本读起来像是 AI 生成的,还是 Transformer 写的民科论文。

那怎么判断这些人里有没有真货?

他的回答绕开了这个问题的前提。智能不存在于抽象之中,智能必须被应用。没有问题,就解决不了问题。一个人声称自己有通用智能系统,那它应该附带一套基准,应该展示某种能力,哪怕是很人工的能力。

所以其实不必去分辨哪篇论文藏着潜力、哪篇是空话。新技术如果真的产生价值,很快就会被看见,因为它在起作用。有用的东西会自己浮出来。

这条标准不只适用于 AI。科学史上出现过无数"万物理论",作者可能真的很有洞见,但这些理论完全没用,于是消失了。你不需要去区分有趣的理论和没用的理论,你只需要看一件事:它有没有对别的东西产生影响。

要紧的是有效,不在于正确。(弗朗索瓦·肖莱)

深度学习自己就是个例子。在它开始奏效之前,做神经网络的人被当成怪人,这个方向几乎没人碰了。它变得有价值,是因为它真的跑通了。

不过他也补了一句:这套机制里,个体往往要承受被当成怪人的那段时间。Yoshua Bengio、Yann LeCun 熬过来了。如果你相信自己手里有东西,那就坚持下去,把它做完。

图灵测试是一种偷懒

谈到怎么衡量智能,他把两个问题拆开了。一个是有多聪明,一个是多像人。量值和方向,两条独立的轴。

他不喜欢图灵测试,理由很直接:它偷懒。它完全绕过了"定义和测量智能"这个难题,把判断权外包给人类评审团。一种彻底的逃避。

想测像人的程度,应该让它去和其他人互动,然后观察它的行为,跟一个真人处在同样情境下会做什么做对比。而不是找人当裁判打分。

那怎么测智能的量值?他认为现有的基准全跑偏了,都在测某项具体技能的熟练度:下棋、下围棋、打 Dota。这类比较没有意义,因为你在单项技能上总能赢过人类。

人类在围棋上的技能之所以让人印象深刻,是因为我们是在一组约束下表现出来的:只有一辈子时间、只有这一具身体、只有这个带宽。把约束去掉,给无限的数据和无限的硬件,达到任意高的技能水平说明不了任何智能问题。

他的方案还是那个定义:固定先验,固定经验量,看谁学出来的程序更泛化。

意识不会自己长出来

话题转到类人智能。他的判断是,要像人,就得有情绪和意识。

这两个东西通常不被认为是一个智能系统的必需品。前面说过的科学,作为超级人类的问题解决系统,它没有意识,没有情绪,照样在运转。

在他看来,意识和情绪处于同一个光谱上,都是主观体验的组成部分,功能是引导行为生成。人类和动物的智能是为生成行为而进化的,包括在社会情境中生成行为。这才需要情绪,才需要意识。

一个在不同语境下发展出来的人工系统,完全可能永远不需要它们,永远不会有意识。

所以他认为意识不会从足够强的信息处理能力中自发涌现。它属于心智的一个部件,你不显式实现它,它就不在。

身体呢?他认为必须有,但不必是物理的,一个足够真实的仿真也行。关键是那个语境:类人智能只能在类人的语境中产生,它需要其他人存在,才能展示出自己像人。

2013 年那阵惊讶

被问到什么时候被 AI 的能力真正震到过,他给的时间是 2013 到 2014 年。

那时候我们还没摸清深度学习的边界,感觉潜力是无限的。后来边界一点点收窄。

但他说自己从没相信过深度学习没有极限。真正让他震惊的是它能跑通,能做计算机视觉做得那么好。这跟接近人类水平智能之间隔着一大段距离,他从没混淆过这两件事。

他也不认为我们接近人类水平智能,但认为没有理由最终达不到。

他顺带批评了"人类水平"这个说法。它预设了一条智能的一维标尺,上面有不同刻度。实际不是这样,智能是多维的。能力和像人是两个独立的轴,你可以造出非常先进但完全不像人的智能体,也可以造出很像人但能力有限的系统。

至于通用人工智能让他兴奋、恐惧还是无聊,他的回答很书生:兴奋,但兴奋点不在它能干什么,而在于如果真的造出类人智能,那就意味着我们真正理解了人类智能。这件事本身足够迷人。

这套想法对读者意味着什么

整场对话里,他反复在做同一件事:把一个被当成物理定律的叙事,还原成一个特定语境下的经验观察。智能爆炸是叙事,《苦涩的教训》是特定七十年的经验总结,AI 威胁是十年前后完全不同的具体问题。他要求的从来不是"你该相信什么",他要的是"你说这话的时候,能不能给出一个可验证的场景"。

下面几条是能直接拿去用的。

  • 看到任何关于 AI 能力的声明,先找它对应的基准和可复现演示。找不到就先放进"尚未产生效用"那一堆,不用急着判断对方是骗子还是有远见,让时间来做筛选。
  • 听到"跨过某个阈值就能带来无限价值"这类论证时,把它当成融资话术而非技术判断。价值来自具体问题的具体解决,不来自某个抽象的能力刻度。
  • 评估一个 AI 项目的时间表时,看它的承诺历史上有没有兑现过。2015 年承诺 L5 的那批公司,是理解当下这波叙事最好的参照物。
  • 作为用户,主动去找平台有没有开放推荐目标的设置。没有的话,至少要意识到你看到的不是世界,是某个目标函数筛选后的世界。
  • 做技术选型时,区分"能硬编码进架构的领域知识"和"真正需要从数据里学的规律"。前者能刷高分数,但换一个数据集就归零。
  • 如果你在研究一个暂时没人看好的方向,记住深度学习自己也曾被当成民科。坚持的前提是你手里有一件最终能被证明有用的东西,不是一个漂亮的故事。

本集资源与出处