# 莱斯莉·凯尔布林：强化学习、规划与机器人 > 强化学习研究者谈机器人如何在不确定环境中规划行动，以及学习与推理的结合。 - 原标题：Leslie Kaelbling: Reinforcement Learning, Planning, and Robotics - 期数：特别节目 - 发布日期：2019-03-12 - 嘉宾 / 主题：莱斯莉·凯尔布林 - 网页版：https://lexfridman-cn.pages.dev/ep/leslie-kaelbling/ - 官方页面：https://lexfridman.com/leslie-kaelbling/ - 精读字数：约 9872 字（阅读约 22 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 ## 你没法提前规划怎么穿过机场 设想你刚下飞机，落在吉隆坡机场。有人问你：描述一下你接下来穿过机场的完整计划。你答不上来。 你不知道飞机停在哪个登机口，不知道入境通道排多长，不知道前面会不会有人拖着行李箱突然停下。详细规划无从谈起。但你还是买了这张机票。你对“穿过一个大型机场有多难”有一个粗糙但够用的估计，并且相信到了那儿自然能应付。 MIT 教授莱斯莉·凯尔布林（Leslie Kaelbling）把这个现象当成机器人研究的核心难题之一。她的说法是你必须做一个“信仰之跃”，相信到了当地能现场解决。敢跳的前提，是你一辈子积累了一堆关于“某个目标有多难达成”的抽象模型。没有这些模型，你连机票都不会买。 她在访谈里说，自己现在最感兴趣的问题之一，就是这种极端的泛化能力从哪来。给我一个估计：穿过吉隆坡机场要多久。这个估计不能离谱。你必须先有它，才谈得上做计划。 ## 高中时被一本书击中 凯尔布林进入 AI 的入口是一本书。高中时她读了《哥德尔、艾舍尔、巴赫》（Gödel, Escher, Bach），这本书对她影响极大。它展示的东西很具体：原始元素如何组合出复杂结构，简单零件如何拼出复杂事物，什么样的程序可能产生智能行为。 她在斯坦福读的本科是哲学。当时斯坦福没有计算机科学的本科专业，但哲学系里有个方向叫“符号系统”（Symbolic Systems），内容是逻辑、模型论、自然语言的形式语义学。她形容这个组合是“为做 AI 和计算机科学做的完美准备”。 这个细节可以多想一层。今天很多人把哲学和工程对立起来，觉得前者务虚、后者务实。凯尔布林的路径恰好相反：她最常用的那批概念，信念、知识、指称、不确定性，本来就是哲学系的日常词汇，形式化程度很高，离计算机科学的日常工作只有一步之遥。 她提到毕业班的去向：不到一半继续做计算机科学，不到一半去读法学院，剩下一两个留在哲学。这条路在当时并不稀奇，也没人觉得一个想做智能的人该去哪个系报到。 ## Shakey：一台漏液压油的机器人 硕士快读完时，她被 SRI（斯坦福研究院）的 AI 实验室招进去，任务是让一台机器人干点事。那台机器人是 Shakey 的后续机型。她到的时候，Shakey 本尊正躺在某个办公室角落里，往盆里滴液压油。 她强烈建议所有人去读 Shakey 的技术报告。理由很硬：里面塞满了后来被反复重新发明的东西。A* 搜索、符号规划、宏操作符的学习、基于构型空间的底层规划、视觉、对意外物体的检测、根据所见重新规划，甚至推理“要不要转头拍照以获取信息”。一台 1960 年代的移动机器人，已经把今天大量研究议题的骨架搭好了。 它在空间表示上用了多个抽象层级：底层大概是某种占据栅格，高层是符号化的房间与连通关系。基地踢脚线被刷成黑色，用来辅助视觉定位。 这里有个容易被忽略的点。今天人们讨论端到端学习和手工建模的取舍时，往往以为多层抽象是深度学习之后才有的思路。Shakey 在半个世纪前就同时挂着栅格和房间图这两层表示，并且知道什么时候该用哪一层。抽象层级这件事，跟神经网络的兴起没有因果关系。 ## 逻辑留给工程师，不塞进机器人脑袋 她在 SRI 的导师是斯坦·罗森沙因（Stan Rosenschein），后来也成了她的博士导师。他推动的一个想法叫“情境自动机”（situated automata）：逻辑推理这套工具很重要，它的使用者是设计系统的工程师，用来分析系统行为，未必要放进系统内部让机器人自己推。 这个区分很关键。你可以用逻辑证明关于机器人行为的一个定理，而机器人脑子里跑的根本不是逻辑。 她当时的处境是零基础。没学过控制，不了解传感器，一行人边做边把很多轮子重新发明了一遍。 问她这是优势还是障碍，她的回答干脆：她是“重新发明轮子”的坚定支持者。自己摸索一遍，才真正懂得好方案好在哪。她也补了一句，最后还是得拿到指路标，看清到底发生了什么。先自己撞出一个烂方案，再看别人的好方案，理解深度完全不同。 顺带一个细节：她那时重新发明了强化学习，把“奖励”叫作“pleasure”（愉悦）。她自己也觉得这名字更好玩。 ## AI 史的一条暗线：方法失效时，换的是问题 她讲 AI 历史时用的是“摆荡”这个词。某个东西变时髦，过一阵凉了，另一个东西起来，再凉。 早期是控制论，是稳态调节，是那些会自己找插座充电、充完再滚出去干活的机器人。后来人们觉得这不够像“真正的智能”，转向专家系统。专家的做法是把领域知识写进逻辑规则：我懂炼钢厂怎么运转，我讲给你听，你写成规则，计算机就能干这活。 然后这条路没走通。 凯尔布林指出的现象比“没走通”更微妙：一个方向失效的时候，社区改的不只是方法，还有问题本身。我们并没有找到更好的办法去做专家系统原来想做的事，我们基本放弃了那个问题，转去做另一个问题，做上一阵子，把它做宽。 也有人会反驳说问题没被放弃，只是做的人少了，暂时搁在架子上，二十年后再说。她认为这两种说法都对，还有第三种可能：人们判定这个问题本身提得不对。比如“让一个只会表层符号推理的东西表现得像医生”这件事，在你有过当医生的具身经验之前根本做不成，那么问题的形式就有毛病。 这段观察对个人同样适用。你以为自己在优化方法，其实经常在无声地换掉问题，换成一个更好做的版本，然后告诉自己进展不错。 ## 专家系统的死穴：人说不清自己怎么决策 她把 80、90 年代专家系统撞墙的原因归到一点上：那批研究假设人类能有效地把自己的知识表述成逻辑语句。 这是能力问题，跟成本和工作量无关。 她举的例子很有说服力。所有人都是视觉专家，但没人能内省出自己是怎么认出物体的。这一点当时的研究者其实都懂，没人会要求你写出“识别水瓶的规则”。所以他们退一步：那你就写写怎么决定今天穿什么、怎么架麦克风，这类事总说得清吧。 结果发现，专家给出的解释大多是事后的合理化，质量并不高，底下还压着一堆他们自己也描述不清的知觉判断。 > 专家能给你解释，那些解释是事后的合理化，未必反映他们真的怎么做的。（莱斯莉·凯尔布林） 访谈里采访者追问：所以问题出在把知识编码成机器能理解的形式这一步？她连着说了几个“不不不”。难的地方在于从你脑子里把它取出来。你能给我讲一个你为什么这么做的故事，但我不确定那个故事就是实际发生的机制。 人类对自身决策过程的访问权限，比我们愿意承认的低得多。这一条对今天做提示工程、做对齐、要求模型解释自己的人同样成立，只是换了个方向：我们要求机器给出解释，而人类自己的解释本来就不太靠得住。 ## 抽象的用途：你不会用毫秒和像素去规划读博 否定专家系统不等于否定符号推理。她把这两件事分得很清。 她甚至不喜欢“符号”这个词，觉得它在技术上和形式上都没有清晰定义。她真正相信的是**抽象**。 论证很朴素：你不可能对生活里每件事都做完全细粒度的推理。你没法用图像和毫秒为单位去规划怎么读完博士。要推理“读博”或者“买菜做晚饭”这种量级的事，你必须缩小状态空间，缩短推理视野。手段就是抽象：空间上的抽象，时间上的抽象。 所以你会说“我下午要做某件事”，不会说“我在两点四十五分要做某件事”。你会说“我家的某个房间”，不会说“我这个姿势下的肘部坐标”。 这么做有两重原因。**一是让推理问题变小，二是你本来就没有足够信息去做高保真推理。**下午两点三十五分你的肘部在哪，这件事你无从知晓，也没必要知晓。 但在某些时刻，比如你正伸手去拿东西，你就得在连续的关节空间里算一算肘部的位置。两套表示，切换使用。 她反复强调的立场是：教条不是重点。不该是“我支持符号推理、你支持神经网络”这种站队。计算机科学本身会告诉我们这些问题的正确答案，前提是我们足够聪明能找到它。 ## MDP 是你选择的一个立场 访谈转向马尔可夫决策过程（MDP）。她的第一个回答是区分“立场”（stance）。 立场是研究者对问题采取的一个姿态。我可以决定用某套术语给身边这个混乱的世界建模，把它当作某个形式化的问题来处理，然后套用相应的求解概念和算法。 所以世界本身不是任何东西。它不是 MDP，也不是一个规划问题，它到底是什么她也说不清。但她可以把世界的某些侧面建模成某种形式，而这个建模选择决定了哪一批算法可用。 MDP 这套模型说的是：我完全知道系统当前状态，而“知道状态”的含义是，此刻我掌握的信息足以让我对未来做出尽可能好的预测，再记住更多历史也不会让预测更准。同时我可以采取行动改变世界，改变的方式带有概率性，并非确定性的。 她紧接着说，这个模型对大多数问题都不合适，因为大多数问题里你根本不知道状态，是部分可观测的。 ## 信念空间：把“我以为什么”当成控制对象 POMDP（部分可观测马尔可夫决策过程）的做法是：仍然假定存在某个状态，知道了它就能做好预测，但我不掌握它。我拿到的是观测，可能是局部的、带噪声的，不能告诉我全貌。于是我得根据自己采取过的动作序列和收到的观测序列，推断世界上大概在发生什么，再在这个不确定判断的基础上决定动作。 接下来出现了一个概念上的转身，我认为是整场访谈最值得琢磨的部分。 **与其思考世界的状态并试图控制它，不如思考“关于世界的信念”构成的空间。**把信念看作世界可能形态上的一个概率分布，那么机器人的控制问题就变成了控制自己的信念。 这样一来，评估一个动作时不只看它对外部世界的影响，还要看它对自己认知状态的影响。有些动作不改变世界，只改变你的判断，比如问一个问题、往某个方向看一眼。有了信念空间，智能体才会主动去收集信息。 她举的例子很日常。**你开车时偶尔回头看后面的车道，这个动作的价值在于它带来的信息，成本在于那段时间你看不见前方。要不要现在回头，是一道权衡题。要能做这道题，就必须在信念空间里推理。** 还有一层：对自己的不确定性本身的推理。如果我相当清楚自己相对门框站在哪，穿过去没有问题。如果我完全不确定门在哪，那还是别动比较安全。 不确定性在这里的身份变了。它不再只是等待被消除的噪声，它本身就是优化目标的一部分。 ## “我这套方法不可解”，这话听着奇怪 访谈里提到一个常见说法：我不用 POMDP，因为它不可解。 她的反应是觉得这话很好笑。你要解决的问题就是你要解决的问题。如果它不可解，那才是做 AI 的人存在的理由。 > 问题求解本身在根本上不可解，我们永远不可能最终解决它。这一点我们早就知道，它也吓不到我们。（莱斯莉·凯尔布林） 应对方式是层层近似：建模上近似，求解算法上近似，一步一步降到在合理时间内算得出来的东西。 她提到一个更大的隐忧：目前缺少好的近似解概念。人们做了一堆经验性的折腾，训练这个、调那个、报出一堆数字，好不好、为什么好，说不清。她希望有一种形式化的解概念，能让你在跑算法之前就说：这个算法大概会给我什么。 她自嘲说，自己感兴趣的是把很大的问题做得很糟。这话背后是个真实的缺口：工程的进展远远跑在科学前面，我们能造出东西，但不完全知道它为什么成立。桥可以靠试错造，现在却能事先预测；学习系统和机器人还做不到这一点。 ## 从终点往回推的那个直觉 赫伯·西蒙（Herb Simon）早年大谈手段-目的分析，从目标往回推理。这个直觉人人都有：从当前状态往前推，可做的动作太多，分支爆炸；从目标往回推，好像分支会少一些。 凯尔布林承认这也是她的直觉。她诚实地补了一句：在规划社区常做的那些问题类别和常用方法下，**倒推并没有被证明更好。她拿不出证明。** 这种表达值得留意。一个做了几十年规划研究的教授，讲到自己偏好的方法时会直说“我证明不了”。这比任何确定性断言都更可信。 ## 人生不能整体建模成规划问题 访谈里有个转弯。问到能不能把人的一生形式化成规划问题，她的回答是：那会是个错误。 理由跟难度无关，问题出在方向。人生不能整体建模成一个规划问题，你需要把不同风格的推理、表示、学习拼在一起。大脑有部件、有子结构，不是单一机制。 所以没有理由相信存在某个唯一的、真正的算法能把所有事都办了。**只会有一堆零件，每个零件解决某一类特定问题。** 她顺手拆了一个常见的对立：基于模型和无模型。学一个策略是直接学行为；学一个价值函数是某种中间物；学一个转移模型，再配一个规划器，把这两者框在一起，输出仍然是一个策略，只是换了一种存储方式。 她把这解读成**计算上的时空权衡**。显式的策略表示占空间，但取动作快；紧凑的世界模型加规划器，取动作慢。这场架没必要吵，问题只是哪类子问题适合哪种计算形式。 她举的对照很妙：学做代数变形，和骑独轮车，需要的表示自然不一样。至于谈恋爱，她笑着说完全不知道怎么建模，还是先去解决代数和物体操作吧。 ## 感知比规划难，难在一个说不清的地方 问感知和规划哪个更难，她一秒回答：感知。 难在哪？她认为最大的问题在表示层面。**我们不清楚感知应该输出什么。** 感知近年进展很大，图像分类、某些游戏、方向盘角度预测，都能做。问题在于，如果目标是造一个整合的智能体，感知的输出该长什么样，它怎么接上后面那套东西，我们不知道。 任务目标明确时，比如输出就是转向角，感知该输出什么很清楚。可当你只是想造一个完整的智能体，输出的定义就模糊了。这是她判断的关键：感知的下一步突破不在感知本身，在于搞清楚它该产出什么。 她也顺手拆了端到端这条路线。纯端到端的巨型神经网络，所有结构都靠学，从样本复杂度上很难站住脚：需要海量数据，还要弄坏很多台机器人。机器学习理论告诉我们，降低样本复杂度的唯一办法是压缩假设空间。**压缩假设空间的手段就是先验偏置。** 卷积就是一个偏置。一个很强的、很关键的偏置，对某类空间推理极其有效。她的主张是去找更多像卷积这样的东西，去覆盖别的推理维度。 她点名了几个候选：一定分量的递归、抽象的概念，以及“物体是存在的”这个先验。最后这条尤其重要，因为很多模型一开始就不给你这个。图卷积和关系表示是同一个方向上的尝试。 ## 自我意识是个光谱，计数器也算一端 问她机器人要不要有自我意识、意识、对死亡的恐惧，她的回答很省事：她不太想意识这回事。大多数在意这个问题的哲学家也会承认，你完全可以造出行为与人无异的“僵尸”机器人，而它没有意识。在当下，她对这种状态已经足够满意。 但技术层面上的“自我意识”她认为必不可少：系统里得有某个部分去观察其他部分，判断它们工作是否正常。 采访者追问这算不算自我意识。她把问题拆开：看你怎么定义。一段统计某个过程被调用多少次的代码，也算一种自我意识。这是个很大的光谱，你必须有其中一部分，离人类那一端还很远，中间隔着很多维度。 问到还要多少年能造出人类水平的机器人，她直接拒绝参与这个对话。理由跟谦虚无关，是判断：我们缺的是一些想法，而找到这些想法要多久，无从估计。 > 我们缺的是一些想法，找到它们要多久，我无从估计，所以这个话题我不参与。（莱斯莉·凯尔布林） 她也不喜欢花时间争论“什么才算智能”这类问题，觉得那些时间不如直接去把机器人做得好一点。图灵测试、各种 benchmark、DARPA 挑战赛，她不认为对自己有激励作用，但也不反对别人去做。竞赛会让一群聪明人拼命 hack，大多数产出是 hack，但偶尔会冒出真正好的想法，供之后的人咀嚼。 ## 一年只花几百美元的顶级期刊 访谈后半段转到一个看起来和机器人无关的话题，她的处理方式一脉相承。 她创办了《机器学习研究杂志》（Journal of Machine Learning Research，JMLR）并担任主编。起因很具体：当时有本叫《Machine Learning》的期刊，属于 Kluwer 出版社，她在编委会里，每年开会都向出版社抱怨两件事：图书馆订阅太贵，作者发表不易。出版社每次都表示同情，然后什么都不做。 于是编委会决定自己办一本。参照物是 JAIR（Journal of AI Research），已经按同样模式跑了五年左右，运转良好。**然后《Machine Learning》编委会大概 75% 的人辞职，去办了这本新刊。** 新刊完全开放获取：不收版面费，也没有访问限制。她的一位博士后想把它命名为“Free for All”。 有人觉得这不可能，甚至怀疑是骗局。事实是，很长一段时间里这本刊连银行账户都没有。她自掏腰包付了公司注册的律师费和一个 IP 地址的费用，一年的运营成本就几百美元。 为什么能做到？她给的理由很实在：**计算机科学家在基础设施这件事上足够能干和自主。**大家本来就自己排版论文，手下都有学生，一个下午能把网站搭起来。换成别的领域，这件事就难得多。 这本零成本、零订阅费的刊物，后来成了机器学习领域最有声望的期刊之一。声望可以不需要付费墙来支撑，这一点在别的学科并不总能成立。 ## 一个没实现的审稿设想：莱斯莉的朋友们 她本来想在 JMLR 上做点完全不一样的东西，最后没做，因为觉得领域需要一个传统的存档期刊。 她真正想做的模式是这样：找一群她信任其判断、表达能力又强的人，不去发表论文，也不接受投稿，而是主动去找论文，写评论，把评论公开。如果你的评论足够受重视，将来别人的简历上会写“莱斯莉的朋友们给了这篇论文五星”，这和“被某期刊接收”一样有用。 为什么需要这个？因为“发表”这个词正在失去意义，把东西放到 arXiv 上就算公开了，障碍已经不存在。**真正稀缺的是筛选和评价。**她没有时间读完整个 arXiv。 有人说靠社交投票就够了，让 upvote 决定一切。她认为这不够，因为看人们在 Twitter 和 Reddit 上投票、吵架时，你无法判断他们是否真的懂。**于是你面对一个二阶问题：我该重视谁的意见。** 她也点出现实约束：认真评审一篇论文是很大的投入，而论文的洪流已经失控。一年产出的机器学习论文数量，比一年产出的电影数量还多。电影有专业影评人，也有普通观众打分，两条线是分开的，这个结构本身有借鉴价值。 ## 研究者的时间视野被压短了 她自嘲说接下来这段是“老年人发言”，内容很扎实。 她担心研究者的时间视野变得极短。学生想多发论文，多发有奖励，会被摸头表扬，其中一部分是好事。代价是：**那些愿意花两年只琢磨一个问题的人，正在被这套机制挤出去。** 她回忆自己那代人的做法：读博期间不发论文，花好几年挑一个难问题，反复咀嚼，走弯路，浪费时间，等到做得差不多了才写论文。 她不认为所有人都得这么干。她坚持的一点是：有些问题难到必须配一个更长的研究周期，而目前的激励结构完全不奖励这种耐心。 ## 冬天会来，但每次爬得更高 经历过几轮 AI 寒冬，她认为周期不可避免，每一轮的制高点都在上升。她用的比喻是带噪声的优化器在某个地形上攀爬。 深度学习带来了深刻而重要的进步，水位线确实抬高了，这一点没有疑问。她也直说，现在有人在过度推销，投资人迟早会环顾四周问：你说的那些宏大承诺，好像没兑现。**她预期会有一轮回落，然后事情继续。她无法想象从这里到人类水平 AI 是一条单调上升的曲线。** ## 乐高 Mindstorms 式的误解 访谈里有一段特别好。她跟几位军事伦理学家聊自主武器，对方是聪明、受过良好教育的人，但对 AI 和机器学习了解不多。 他们问的第一个问题是：**你的机器人有没有做过你预料之外的事？** 她当场笑出来。任何碰过机器人的人都知道，机器人天天在干你预料之外的事。 笑完她意识到问题出在哪：对方脑子里那套“编程”的模型完全错了。他们以为编程就是乐高 Mindstorms 那样：前进一米，左转，拍张照，做这做那。如果编程真是这样，机器人干出意外的事确实很诡异。 实际情况是，**我们至少在比这高一层或很多层的抽象上工作。**我们给出一个假设空间，可能是一组计划，也可能是一组分类器，再给一个目标函数，然后跑一个优化方法，在那个空间里找解。**至于最后会找出什么解，我们并不知道。** 她把这件事当成自己的新教育使命。跟非专家解释 AI，第一课讲清楚一件事：我们不直接写行为。 ## 优化的人都懂：小心你许的愿 她由此谈到价值对齐。不必被机器人末日吓到，也能承认这件事重要。所有做过优化的人都明白一个道理：**有时候你真拿到了最优解，然后发现目标函数写错了。** 她预期行业会发生一个身份转变：从工程算法的人，变成工程目标函数的人。这会改变整个方法论。 而设计目标函数的人必须同时戴两顶帽子。一顶问：我到底想要什么。另一顶问：我知道我的优化器能干出什么事，所以得把这个考虑进去。做机器学习的人对此应该很熟悉，这是每天都在做的权衡。 至于机器人抢工作这件事，她承认重要，但很坦率地说这不在自己的能力范围里：不懂社会学，不懂经济学，希望有别人去想。 ## 中间路线：手工搭一半，剩下的交给学 问到最有希望的方向，她把选项摆成两个极端。 一端是内省：坐下来想清楚，把程序写出来。这条路已经证明效果很差。 另一端是一大坨神经网络软泥，丢进去训练，指望它自己长出一切。她认为这条路也走不通。 剩下的是中间地带，而这个中间地带不带任何神学色彩，是个工程问题：究竟怎么组合才最有效。**她的判断是，答案是学习与非学习的组合，而且组合方式有很多种。**哪些东西该手工搭进去，哪些该留给学，这才是最值得研究的问题。 最后问她最喜欢哪部科幻作品里的机器人。她说没有。她爱的是过程本身。 > 我做研究是因为好玩，不是因为我在意最终产出什么东西。（莱斯莉·凯尔布林） 这个回答跟前面那些判断是一条线。她关心的是怎么把问题想清楚，能不能端出一个成品是次要的。所以她会说“我们缺的是一些想法”，会说“我不知道要多久”。这两句话在她嘴里来自同一种态度：问题是真的难，而难的东西不因为你着急就变简单。 回头看，她这几十年的判断有一条很稳的线。逻辑要用来分析系统，未必塞进系统脑子里。世界不能直接等同于 MDP，它只是你选择的一个建模立场。感知的瓶颈不在感知本身，在于你说不清它该输出什么。人生没法整体形式化成规划问题，它是一堆不同风格零件的拼装。 每一条都在做同一件事：**把“我们该用什么方法”这个问题，换成“这个问题的形式选对了吗”。** 这个转向对今天的从业者有直接用处。大多数人卡住的时候，第一反应是换工具：这个模型不行换那个，这个库慢换另一个。凯尔布林的做法是先退一步问：我把问题摆成了什么形状，这个形状本身是不是已经错了。专家系统撞墙，根源在于“人能说清自己怎么决策”这个假设从一开始就不成立，规则写得再多也补不上。 她能坦然说“我证明不了”“我不知道”“那不在我的能力范围”，恰恰因为她对什么算真正解决了问题有很硬的标准。做得很糟的大问题，比做得很好的小问题更值得投入。这话听着像鸡汤，落到她身上很具体：她宁愿要一个能覆盖连续空间、连续观测、复杂到算不动的 POMDP 形式，也不要一个能跑出漂亮数字却说不清在解什么的模型。 访谈里最动人的细节反而最不起眼。她说自己重新发明强化学习的时候，把奖励叫“pleasure”。一个零基础闯进机器人领域、边做边把轮子重造一遍的人，给一个技术概念起了个带体温的名字。她后来说自己爱的是过程，不在意产出什么。 这两件事是一件事。 ## 可以立刻用起来的几条 - 卡住的时候先别换工具。写下你当前把问题摆成了什么形式，逐个检查那些默认前提：你假设了状态可知吗？假设了人能说清自己的判断依据吗？假设了感知的输出已经定义清楚吗？错的形式配上再好的算法也救不回来。 - 给自己正在做的系统找“像卷积一样的偏置”。卷积之所以有效，是因为它把一类正确的空间结构直接写进了模型。问自己：这个领域里有哪些结构是确定成立的，却还没有被固化成先验？物体是存在的、关系是有图的、动作是有时间层级的，都算候选。 - 把“不可解”当成起点，别当终点。问题本身极难的时候，正确做法是建模上近似、求解上近似，一层层降到能算的程度。换一个可解但已经变形的问题去做，看着有进展，实际是偷偷换了目标。 - 设计任何目标函数之前，先戴两顶帽子。第一顶问：我到底想要什么。第二顶问：我的优化器会怎样钻这个目标的空子。几乎所有对齐事故都发生在第二顶帽子没戴的时候。 - 刻意保留至少一个长周期问题。不需要所有工作都长，但要有一个你愿意两年不出论文、只为把它想明白的问题，否则你的研究方向会被短期指标悄悄改写，等你回头已经找不回当初想做的事了。 - 向外行解释 AI 时，第一句话别讲算法，先讲清楚我们不直接写行为。给他一个假设空间加一个目标函数，告诉他我们不知道最终会找出什么解。这个认知差是很多恐慌和很多过度承诺的共同来源，值得花十分钟讲透。 - 做感知模块之前，先把输出契约写下来。它交给下游的是什么，坐标、物体、关系、还是某种信念分布。定义不清就往下堆模型，后面一定要返工，而且返工的时候你会发现重构成本远高于当初多写一页文档。 - 建模的时候问一句：我是在描述世界，还是在给世界套一个我方便求解的形式。凯尔布林那句“世界不是 MDP，你只是选择了一个立场”，本质上是在提醒你，模型的边界是你的选择，不是世界的属性。搞清楚这一点，你会更早发现模型失配，也更敢在必要时换掉整个框架。