# 达芙妮·科勒：生物医学与机器学习 > 计算生物学家讲如何用机器学习理解基因与疾病，数据驱动的医学研究面临哪些机遇与难题。 - 原标题：#93 – Daphne Koller: Biomedicine and Machine Learning - 期数：第 93 期 - 发布日期：2020-05-05 - 嘉宾 / 主题：达芙妮·科勒 - 网页版：https://lexfridman-cn.pages.dev/ep/daphne-koller/ - 官方页面：https://lexfridman.com/daphne-koller/ - 精读字数：约 9499 字（阅读约 21 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 12 年前，达芙妮·科勒（Daphne Koller）的父亲得了一种自身免疫性疾病，病灶落在肺里。医生给出的方案只有一个：泼尼松。她问，能不能做个肺活检，搞清楚到底是哪一种自身免疫病。医生说，搞清楚了也没用，我们只有泼尼松。 她身边做风湿免疫科的朋友告诉她，泼尼松放到今天，FDA 根本不会批。副作用和收益的比例，撑不住。 科勒是斯坦福计算机系教授，和吴恩达一起创办了 Coursera，2018 年又创办了 insitro，一家把机器学习用在药物研发上的公司。她讲这个故事，是在解释 2016 年 8 月那篇宣布离开 Coursera 的博客背后发生了什么。当时她写：是时候转向另一个关键挑战了。答案很朴素，**她亲眼看到，在一个具体的病房里，人类可用的工具少得可怜。** 这期访谈录制于 COVID-19 爆发之前。疫情之后回看，她谈到的那些方法论问题，显得更要紧。 ## 人类真正治愈过的病，非常少 主持人一上来就问了两个很大的问题：会不会有一天治愈所有已知的重大疾病？会不会找到延长寿命甚至永生的办法？ 科勒的回答很谨慎。她说"有一天"是很长的时间，她不喜欢做"人类永远做不到某件事"这类预测，那种断言带着傲慢。 但她指出一个常被忽略的事实：**疾病被发现的时候，损伤往往已经造成了。**要在那个阶段实现治愈，等于要求人类能把身体的某些部分重新长回原初状态。这是极其困难的问题。 她还给了一个数量感：人类真正治愈过的病非常少。能提供治疗手段的病在不断增加，但够得上"治愈"这个定义的，数量并不多。 然后是关于长寿。她说自己未必想追求永生，但所有人大概都想要更长的健康跨度（health span），也就是健康、有活力、感觉像 20 岁的那段时间能更长一些。现实是，人的身体和精神会随时间衰退，这件事很令人难过。她认为值得追求的目标是：所有人都健康地活到《圣经》里说的 120 岁。 主持人追问，120 岁、100 岁还是 150 岁才是对的数字。她说这可以争论，健康跨度延长本身足够值得。她还补了一句：放到宇宙的尺度上看，这点时间怎么都算短。 关于衰老与疾病的关系，她的判断是两者高度重叠，但不完全等同。有一个众所周知的现象：除了儿童期疾病，绝大多数疾病的风险从 40 岁左右开始逐年指数上升。这条曲线说明了衰老和疾病之间的关联。同时，有些衰老过程并不对应任何特定疾病，也有些疾病机制与衰老无关。 细胞层面的"磨损"她已经能列出一串：细胞分裂过程中累积的 DNA 损伤，修复机制没能完全纠正；错误折叠的蛋白质堆积，形成聚集体；这些又会引发炎症。她相信还有大量机制没被发现。 主持人抛了一个哲学性的问题：事物会变老、会死亡，恰恰是新事物生长的机制，像一种学习机制，既悲伤又美丽。她回应得很克制：她不会把永生当作追求，健康跨度才是。 ## 大多数疾病，人类对机制的理解接近零分 科勒给了一个 0 到 100 的刻度，用来说明人类对重大疾病基本机制的理解到了哪一步。她的回答按病种分开。少数疾病，分数可能到了 70 到 80。生物学太复杂，总有新东西冒出来，所以很难给满分。大多数疾病，分数接近 0。 阿尔茨海默症更靠近 0。有假说，但假说至今没被充分验证。而且越来越多人开始怀疑，传统假说可能没解释清楚到底发生了什么。 精神分裂症，几乎肯定靠近 0。 2 型糖尿病是个混合体。胰岛素抵抗这条线清楚，也被验证过。但同样几乎可以肯定，有大量机制还没被搞明白。 接着她给了更根本的一层判断：**阿尔茨海默症、精神分裂症、2 型糖尿病，很可能都不是"一种病"。**它们几乎肯定是异质的机制集合，只是在临床上表现成相似的样子。 乳腺癌就是这样被重新理解的。过去大家说"你得了乳腺癌"，现在知道那是多种细胞机制，最终都通向失控增殖，但它们并不是同一种病。 这个区分很关键。如果一种病实际上是十种病，针对其中一种机制开发出来的药，在另外九种病人身上当然会失败。而临床试验按临床表型招募病人，不按分子机制招募。药未必无效，更可能的情况是，把对 A 有效的药喂给了 B、C、D 的病人，然后把结果平均掉，宣布失败。 她强调，这种"先搞清它其实是几种病"的理解，必须先于对具体机制的探索。顺序不能反。 ## 老鼠不会得阿尔茨海默症 药物研发里有一个长期做法，叫动物模型。让老鼠得上某种病，然后把它治好，再希望这个疗法在人身上也管用。 科勒指出这里的问题：**我们让老鼠得病的方式，往往和人真正得病的方式毫无关系。**那只是复制了表型，复制了临床结果，机制完全不同。老鼠不会自然得阿尔茨海默症，不会得糖尿病，不会得动脉粥样硬化，不会得自闭症或精神分裂症。所以在老鼠身上治好的病，到了人身上就不灵。大部分药物失败就失败在这一步。 她要做的另一种东西叫"培养皿里的疾病模型"（disease in a dish）。这套方法依赖的技术，出现还不到五到十年。 具体做法是：从任何一个人身上取一个细胞，比如皮肤细胞，把它倒回干细胞状态，也就是诱导多能干细胞（iPS 细胞）。这个细胞带着你的基因组，然后可以被分化成你需要的细胞类型。你的神经元，你的心肌细胞，你的肝细胞。细胞类型对了，遗传背景也对了。 如果某种遗传性的疾病负担会在那种细胞里表现出来，你就能直接观察。这是生病细胞的样子，那是健康细胞的样子。然后去试各种干预，看能不能把病态的细胞拉回健康状态。 把细胞倒回干细胞这步，靠的是山中因子（Yamanaka factors）。科勒说，在这个发现被做出来之前，几乎没有人会预测到它可行。现在这件事已经工业化了，有专门的合同研究组织，你给他们一个人体样本，他们帮你逆转成干细胞，成功率很高。 争议当然有。有人问，这真的是干细胞吗，还是它记得自己原来是什么细胞，记得曾经接触过什么环境因素？科勒承认，这些细胞并非总是完美，有时候会残留一点记忆，但总体质量相当不错。 她也留了一个诚实的边界：治好细胞，不等于治好病人。可转化性（translatability）的鸿沟依然存在。但对那些由人类遗传驱动、遗传驱动细胞表型的疾病，存在一种希望：如果你把疾病起始的那个细胞、那个由遗传驱动的细胞拉回健康状态，也许更宏观的临床表型也会跟着好转。 ## 全世界只有五千到一万个 iPS 细胞 科勒说，据她当时看到的统计，全世界 iPS 细胞的总数大概在 5000 到 10000 之间。算上各学术中心零散的存量可能再多一些，但量级就是这个量级。 这个数字对做机器学习的人是个冲击。深度学习的经验是数据规模决定一切。而这里，最基础原材料的全球总存量是万级。你没法从一百万人身上生成 iPS 细胞。 科勒认为未必需要。有了 iPS 细胞这个起点之后，还可以用别的工具去扰动它。比如 CRISPR。取一个健康人的细胞，用基因编辑引入一个已知致病的突变，然后把健康细胞和带突变的细胞一对一对比。其他条件全部固定，只差这一个变量，你就能精确知道这个突变在细胞层面做了什么。 于是她把策略重点放在更聪明的扰动方式上，而没有去一味堆高病人样本的数量。**在一个固定背景上做精确扰动，比在无数个不同背景上做粗略观察，信息量更高。** 真要谈人与人之间的差异，主要来自基因组本身。你的干细胞和我的干细胞不同，因为基因组不同。还有些人的干细胞就是比别人的更容易分化，原因还不完全清楚。真正有价值的差异，是基因组差异带来的疾病负担差异。 疾病负担可以量化。有个指标叫多基因风险评分（polygenic risk score），把一个人基因组里所有与某疾病相关的变异加总，算出风险值。对一些研究得比较透的病，风险最高十分位和最低十分位的人之间，风险差可以达到 10 到 12 倍。 10 倍以上的差距，说明遗传对疾病风险的贡献是实实在在的，尽管它远不足以解释全部。 从机器学习角度看，基因里有信号。她认为细胞里的信号更强。道理很简单：原则上你可以说所有信号都在基因层面，不用看细胞。但当下人类对生物学的理解太有限，直接观察细胞层面发生的事，比直接看基因序列离真实临床结果近得多，能学到的东西也多得多。 ## 把软塌塌的东西变成数字 细胞是软的、湿的、会动的。机器怎么读它。 这十年发生的变化，是测量细胞的能力大幅提升。科勒回忆，她 90 年代末、2000 年代初开始碰生物学的时候，正好是量化测量起步的年代，用微阵列一次测出样本里全基因组每个基因的表达水平。正是这个能力，让人类第一次看清癌症有分子亚型。在此之前，大家只知道"你得了乳腺癌"。 现在能力更强，叫单细胞 RNA 测序，可以逐个细胞地测每个基因的表达水平。**本质上你在数转录本的数量，这件事把软塌塌的细胞变成了数字。** 另一个数据来源是显微镜，特别是超分辨率成像。通过复杂的数字重建，能看到亚细胞结构，甚至看到低于光的衍射极限的东西。 这些数据拿过来之后，机器学习能干三件事，科勒分得很清楚。 第一种是往回推：看到细胞层面的某种表型，反推哪些基因、哪些通路可能导致它。这是分析式的，依赖已有的生物学知识。 第二种是往前推：如果扰动某个基因，会不会出现类似病人身上看到的表型？如果是，这个基因可能是致病原因。 第三种是她自己做的：把大规模数据整个喂给机器学习，让它自己找模式。哪些亚型在临床上相似，在分子层面截然不同？找到之后施加干预，药物或者 CRISPR，看能不能把病态拉回健康状态。 第三种路径的特别之处在于**不那么依赖假说驱动**。传统药物研发先有一个关于机制的猜想，再设计实验去验证。这条路先有数据，让数据告诉你哪里可能有东西。好处是它有可能找到所有人都在盯着的那几个靶点之外的东西。 她提到一个让她自己都觉得酷的东西：类器官（organoid）。用干细胞培养出来的微型器官模型，有脑类器官、肝类器官、肾类器官。她说这可能是她见过最酷的东西。下一步是把不同类器官连起来，做成多器官系统。现在还很难，但她相信几年之后会有今天做不出来的疾病模型。 > 五年前，这些干细胞衍生的模型根本不存在。那时候大家主要在癌细胞上做研究，而癌细胞是绝大多数人类生物学非常糟糕的模型。它本来就是癌，而且在培养皿里传代增殖之后，基因组不稳定，会离人类生物学更远。（达芙妮·科勒） ## 机器学习在这个领域其实还没起多大作用 科勒对"用机器学习做药"这件事的描述格外克制。她说，迄今为止，数据和机器学习在这个领域起的作用并不大。真正需要的那类大规模数据集，一直都不存在，只有零星的碎片。 过去的顺序是反的：生物学家用技术手段生产数据，目的是推动科学发现，机器学习是顺手用上的第二道工序。有了数据集，那就跑个机器学习，比简单统计分析强一点。 insitro 把顺序倒过来。先问一个问题：要让机器学习做出强大的预测模型，需要什么样的数据？然后反向设计实验，用生物和化学的手段造出那种数据集。 访谈里主持人追问，你们是不是把数据当成了首要目标。科勒纠正得干脆：数据只是手段，终点是解决人类健康的问题。之所以从数据这一头入手，是因为她相信，越强大的模型越需要足够规模、足够质量的数据，否则机器学习根本发挥不出来。 这也是她说为什么很多优秀的人愿意来 insitro。这些做机器学习的人完全可以去卖广告、做电商、做自动驾驶，钱不会少。他们来是因为想做更有抱负、更能让人类受益的事。 关于承诺，她的态度很明确：**先交付，再承诺，顺序不能反。**她不预测具体能治哪个病。她只列出这类方法更可能奏效的疾病特征：遗传基础强，细胞模型可重复且稳定，疾病相对集中在一种或少数几种细胞类型里。如果一个病是全身性的、涉及身体远端多个细胞类型，把它塞进培养皿就太难了。 她还留了余地：今天的生物工程师正在不断做出更好的系统，今天做不了的病，三年后可能就做得了。 ## 十万人，几周之内 访谈中途转到了 Coursera。 起点是 2000 年代末斯坦福内部的一些尝试。吴恩达搞了 Stanford Engineering Everywhere，把十门斯坦福课程录下来放到网上。科勒自己主导了另一条路，把课程拆成更小的单元，中间嵌入互动。校方支持这件事，因为觉得这可能提高斯坦福自身的教学质量，走向后来所说的翻转课堂（flipped classroom）。 所谓翻转课堂，是把在线内容当作面对面教学的补充：学生课前看视频、做练习，到了课堂上做更深的、常常是小组形式的解题。任何超越"站在讲台上念 75 分钟"的教学法，准备成本都高出一大截。 2011 年秋天，第一批斯坦福 MOOC 上线。没做推广，只有一篇《纽约时报》的报道病毒式传播。几周之内，每门课涌进来十万人以上。 科勒记得她和吴恩达的那次对话。两个人都觉得，这里有真实的需求。他们已经是功成名就的学者，可以回实验室继续写论文。如果那样做，这件事就不会发生。而这件事太重要了，不能不发生。 于是他们花了不少时间讨论：做成斯坦福的项目，还是做成营利公司，还是做成非营利。最后选择了 Coursera 这条路。2012 年初正式开始以公司形式运作。 MOOC 这个缩写不是他们发明的。科勒说她不太喜欢这个缩写，但也就这样了。她顺手开了个玩笑：Big Bang 这个名字也没能准确描述宇宙起源，可也只能这样了。 ## 短一点，再短一点，五到七分钟 在线教育这些年，她学到了什么。 第一条，短就是好。最早的在线教育是 MIT 的 OpenCourseWare，把课堂讲座录下来，一个半小时一节。一个有工作、有三个孩子、还要跑腿办事的人，根本塞不进这种课程。十五周的学期塞不进去，一个半小时的视频更塞不进去。 所以视频要短。他们一开始做短模块，后来发现 15 分钟还是太长，最后落到 5 到 7 分钟。**如果一个人是在等孩子看医生的队伍里，5 到 7 分钟才是能塞进生活缝隙的长度。** 课程也要短。十五周的课拆成更小的单元，每个单元有一个自然的完成点，让人有"我快完成一件有意义的事"的感觉。没做完可以回来接着做第二部分、第三部分。 第二条，压缩内容有效。讲得快，需要的人可以暂停重看，不需要的人不必浪费时间。灵活性和简短性同样重要。 第三条，内容中间要有互动。反馈来得越快，人越容易投入。所以在讲座里嵌小测验、用自动评分，都基于这个直觉。科勒说，这个直觉后来被数据验证了。 第四条更有意思：他们做过关于性别偏见的实验。讲师是女性时，STEM 课程里男女学员的比例会发生变化。这类实验在线做 AB 测试很容易，在校园里几乎没法做。 主持人追问，那是不是意味着大部分课程都能压到原来的五分之一。科勒的回答很谨慎：不一定。面对面教学里，人需要时间吸收，需要停顿、反思、练习。MOOC 的做法是先给一小块内容，然后立刻让你动手。两种方式都比"站在讲台上念 75 分钟"难得多。**讲得更好，其实更难。** 她也不认为 MOOC 会取代面对面教学。学习在很多情况下是社会性的。Coursera 上有人自发组成学习小组，即使完全没必要。数据显示，有学习小组的人成功率更高。她的类比是：录制的音乐没有取代现场音乐会。 继续教育是另一回事。世界变了。五十年前，读完大学找份工作，大学学的东西基本能撑一辈子。今天，很多岗位需要的技能在你上大学时还不存在，而你上大学时存在的很多岗位今天已经消失或正在消失。让大多数人回学校脱产读书，不现实。所以这块会越来越多地转移到线上。 对想入门机器学习的人，她的建议是先开始，别犹豫。基础数学、统计、编程的在线内容足够多。然后她不建议跳过基础直接上模型。她见过不少人这样做，结果是只能照搬现成模型，既没法针对手头问题做调整，也没法创新；更糟的是，有时候他们的应用根本就是错的，而他们自己看不出来哪里有偏差。 再往后，一定要找真实问题动手。工作里有合适的问题最好，没有就去 Kaggle。最好找个人一起做，互相挑错比一个人闷头学快得多。 ## 我们离一个人类幼儿还差多远 访谈后半段聊到通用人工智能。 科勒的判断很直接：今天的机器学习算法，在特定问题域里、在训练数据足够多的情况下，是非常出色的模式识别器。把同一个问题稍微变个样子，它就会彻底卡住。 > 我们离一个人类幼儿的灵活性和适应力还差得很远。一个幼儿能用同一个大脑、同一套知识库，在不同情境之间切换，解决不同的问题。（达芙妮·科勒） 她说自己并不特别担心机器接管宇宙、为了权力开始杀人。她要表达的意思里，有一部分是怀疑这件事本身是否可能。更主要的理由是，连超级智能的骨架都还看不见，就着手设计防范措施，太投机了。 但她明确说，我们完全可以被笨得多的系统害死，而且已经被害过。 她举的例子压根不是 AI。电网极其复杂，跑金融市场的软件极其复杂，那些反馈回路带来的连锁反应，已经造成过金融危机这个级别的后果。AI 会让这个问题更严重，可问题的根源在于系统的复杂度和不可理解性，这一点在 AI 之前就存在。 她认为该做两件事。**一是提高系统的可解释性。二是设计更好的泛化测试。**你不可能把一辆自动驾驶汽车在每一个城市、每一个村庄、每一种天气下都测一遍。但如果你在一批条件上训练，在另外 50 到 100 个差异很大的条件上测试，它都过了，那你才有理由相信，没测过的那 50 个也许也能过。 另一件该操心的事是技术滥用。她提到，基因编辑和 CRISPR 一旦被用坏，危险程度至少不低于机器学习。用它造出非常恶劣的病毒，完全是可能的。 聊到人类整体趋势，她的态度是审慎乐观。数据上看，战争在减少，暴力在减少，人权在改善。她也认为大多数人是善意的，善意不等于利他主义，但大多数人不打算害人。她还强调一件事：社会规范可以被设计坏。有心理学实验，也有现实中的事件，证明人可以在"同辈认可"和"种族灭绝式的暴行"之间建立起正相关。所以社会必须持续维护一套规范，让做好事和被同辈认可这两件事绑在一起。她担心有些社会正在往反方向走。 ## 一个过度自信的神经网络可能杀人 访谈里有一段关于不确定性的讨论，聊的全是工程细节。 科勒说，很多机器学习模型的问题是，它给你一个答案，你不知道这个答案有多可信。这些答案的置信度还往往校准得很差。神经网络最后输出的 0.8 和 0.9，并不真的对应"前者正确的可能性是后者的多少倍"。 更糟的情况是，**你离训练数据越远，网络不只是更容易错，它还更容易在错的时候特别自信。** 她给的场景是医疗诊断。你用某一群病人训练了一个网络。现在来了一个离群病人，训练集里找不到相似的人。网络不仅给出完全错误的诊断，而且信心爆棚。这会出人命。 自动驾驶同理。你希望网络在看到路中间一坨它不认识的东西时，能说出"我不知道这是什么"，然后停下来。它自信地碾过去，代价无法承受。 有没有办法。有，但都还在研究中。贝叶斯深度学习，结合高斯过程的深度学习，用不同数据子集或不同随机初始化训练出来的网络集成。她提到，集成方法在估计置信度这件事上，效果好得出人意料。整个方向仍然开放。 主持人在这里引了斯图尔特·罗素（Stuart Russell）的观点：随着系统越来越强，让它们充满自我怀疑很重要，这是人类保持控制的方式。科勒的回应是，这个方向成立，在人命关天的应用里尤其成立。她说得具体：你得让系统能说出"这个数据实例我给不出判断，因为我从没见过足够像它的东西"。 ## 端到端和迁移学习，是她眼里最漂亮的两件事 被问到机器学习里什么想法最漂亮，她给了两个。 第一个是端到端训练。从原始数据出发，一直训练到最终目标。她补充说，中间当然可以引入为其他任务训练过的模块，不必是一整块不可拆的东西，但关键是整条链路能打通。 第二个是表征学习。一个为了任务 A 训练出来的表征，可以作为一个更快的起点，去解决任务 B。她说，这很像人成为好的学习者的方式。这个想法在机器学习里相对新，即使用今天的能力来衡量，也仍然被低估了。 她说自己当年其实很惊讶，在数据量足够大的时候，在一个维度极高的空间里居然能找到有意义的表征。早期做机器学习时数据集都很小，那时候她相信，必须有一个约束很强、知识注入很多的搜索空间，才能得到有意义的结果。在那个年代，这个判断是对的。 今天仍然开放的问题是：**一个完全不注入先验知识的方法，能不能成为最终的答案？** 她的观察是不能。用在图像上的卷积网络结构，和用在语言上的结构不同，和用在语音、用在生物学上的也不同。总有一些洞察要注入到网络结构里，性能才出得来。会不会有一天出现一台通用的学习机器，她说不知道。她在意的是那个更具体的问题：总得有一处注入洞察，还是说这件事最终能收敛掉。 ## 在宇宙里留下一个凹痕 访谈尾声，主持人问了一个很大的问题：什么给你的生命意义。 科勒说起 2011 年秋天创办 Coursera 的时候，正好是乔布斯去世。媒体上到处是他的名言。有一句她一直记得，也和她自己多年的感受对上了：我们人生的目标，应该是在宇宙里留下一个凹痕。 她说，她希望自己躺在临终的病床上回看一生时，能指出哪些地方，她让这个世界比她来的时候好了一点。 她常跟孩子讲这件事。她还讲了一层：**这个责任，对那些出生在优越环境里的人更重。**她说自己不算出身巨富，但成长在一个有教养的家庭，父母爱她、照顾她，她有好的教育机会，从来没饿过肚子。相对人类中的绝大多数，她属于受益于先天条件的那一小部分。她的孩子比她更甚。正因如此，把人生用来让世界变好，才格外重要。 这个目标和她的工作方式之间有一种张力。宏大愿景容易滑向对规模的执念，而她选的做法是先交付再承诺，是在一个具体问题上做出真实的结果，把口号留到结果出来之后。她没在访谈里专门解释这层张力，但从她拒绝预测能治哪个病、拒绝说"数据是终点"这两件事上，看得出来她怎么处理。 ## 这期访谈里可以带走的东西 科勒的路径有一个清晰的模式。她在每个阶段做的，都是反过来问一个问题：**要让这个方法真正发挥作用，缺的是什么？** Coursera 时期，缺的是能塞进成年人生活缝隙里的学习单元，所以她把课拆短、压缩、加互动。insitro 时期，缺的是能支撑强大预测模型的数据集，所以她反过来设计生物实验去造数据。两次的起点都是先找瓶颈，再改造瓶颈所在的那一端，而不是先取一套现成方法，再找地方套上去。 这个思路可以直接迁移。如果你手上的模型效果不好，先别急着换模型，先问数据是不是根本不够格。如果你觉得某个领域 AI 进展慢，先看这个领域有没有产生数据的工具。没有工具就没有数据，没有数据就没有模型。这条链子上的顺序不能跳。 还有一条来自她对疾病的理解：**如果一个问题的定义本身就是错的，再强的执行也救不回来。**阿尔茨海默症可能是一堆病的集合，如果按临床表型招病人做试验，就等于把多种机制混在一起平均掉。这件事的启发是，动手之前先确认你解决的是不是同一个问题。 最后是她反复强调的不确定性。一个自信地给出错误答案的系统，比一个会说"我不知道"的系统危险得多。校准、拒答、分布外检测，这些在关键场景里是能不能上生产的前提，它们的地位远在锦上添花的功能之上。 - 评估任何 AI 应用时，先问它的置信度是否经过校准，以及在训练分布之外会不会过度自信。如果答案是不会、不知道，那这个系统在关键场景里就不能用。 - 想进入机器学习，别跳过数学、统计、编程的基础。科勒说得很直接：跳过基础的人只能照搬现成模型，遇到问题不知道怎么改，甚至不知道自己错在哪。 - 学完基础立刻找真实问题练手。工作里没有合适的问题，就去 Kaggle。最好找个人一起做，互相挑错，比一个人闷头学快得多。 - 如果你在一个新领域做 AI，先画一张图：这个领域产生数据的工具是什么，规模到哪了。工具还不成熟时，真正有价值的投入可能不在模型上，而在造数据的那一端。 - 设计自动化系统时，把"知道自己在什么情况下不知道"当成必须实现的功能，别把它当成可选项。这是科勒从医疗诊断讲到自动驾驶，反复回到的同一点。 - 接手一个难题之前，先确认它是不是一个问题。把多个机制混在一起当成一个目标来处理，最优的执行也会被平均成失败。 - 如果你有资源、有教育背景、有时间读到这里，科勒那句话值得记下来：出生在优越环境里的人，责任更重。把这件事当成一个具体的选择，别让它停在口号上。