# 丹尼尔·卡尼曼：思考，快与慢、深度学习与 AI > 诺奖心理学家谈双系统思维与认知偏差，并讨论这些洞见与深度学习及 AI 之间的关联。 - 原标题：Daniel Kahneman: Thinking Fast and Slow, Deep Learning, and AI - 期数：特别节目 - 发布日期：2020-01-14 - 嘉宾 / 主题：丹尼尔·卡尼曼 - 网页版：https://lexfridman-cn.pages.dev/ep/daniel-kahneman/ - 官方页面：https://lexfridman.com/daniel-kahneman/ - 精读字数：约 9562 字（阅读约 21 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 1942 年的巴黎，一个犹太男孩在街上被一名德军士兵叫住。士兵把他抱起来，从口袋里掏出一张照片给他看，照片上是另一个男孩，他大概是想让眼前这个孩子看看自己的儿子。他并不知道怀里抱着的孩子是犹太人。 几十年后，这个男孩成了心理学家丹尼尔·卡尼曼。他在 Lex Fridman 的播客里讲完这个故事，接着补了一句：那个士兵是个好人，他完全有能力杀很多人，而且我确信他杀过。 同一个人，可以弯腰抱起一个孩子，也可以参与屠杀。这两件事之间的距离，比我们愿意承认的近得多。 ## 去人性化不需要理由，只需要位置 卡尼曼谈二战时，把惊讶集中在一个点上：德国人竟然把系统性灭绝变成了一项国策。他惊讶于它真的发生了，也惊讶于有足够多的人自愿参与。艾希曼审判给他的教训是，这件事能发生在德国，就能发生在任何地方。德国人并不特殊。 他自己不愿意用“恶”这个字。他给出的机制更朴素：你可以把一群人从“人”的类别里挪出去，挪到“动物”的类别里。宰杀动物的时候，人不会有什么感觉。再加上对另一群人的绝对权力，这两样东西凑在一起，不会激发出人性里最慷慨的部分。 内群体与外群体的区分是基础配置。对内群体的忠诚和 affection，对外群体的去人性化能力，这两样东西是配套写进人性里的。不需要奥斯维辛来教我们这件事，奥斯维辛只是把课程上得极其锋利。 他还提到了一个更冷的细节：周围所有人都在做，这件事就变得被允许了。共谋不需要每个人都是恶人，只需要每个人都看见别人也在做。 同一场战争也带出了另一面。士兵之间的忠诚，男性之间的联结，共同承担风险时那种近乎快感的友谊。这些同样是真实的。人会为同伴挡子弹，也会朝手无寸铁的人开枪，这两套反应共用同一副神经系统。 ## “系统”这个词是误导的，但它是目前最好的词 卡尼曼自己先说清楚了这件事：用“系统”来描述系统一和系统二是有误导性的。这个词暗示大脑里有两个独立的模块，实际上没有。它只是一个方便的说话方式。 他更愿意把系统一理解成一个活动家族，核心区别在于念头抵达意识的方式。有些念头自己就来了，比如 2 加 2。有些念头得自己去挣，比如 27 乘 14。后者需要在大脑里执行一套算法，会占用短期记忆，会调用执行功能，占用之后你就没办法同时干别的事。 系统二的标志是心理努力，而心理努力的容量极其有限。系统一的标志是不费力。这就是全部区别。 关于进化，他的态度很随意：这类推测成本很低，怎么做都说得通。他粗线条的看法是，动物早就有知觉系统，能在无法解释任何事情的前提下预测接下来会发生什么。预测本身就是一种理解世界的方式。系统二从这套东西上长出来，靠的是语言、大得多的脑容量，以及操纵念头、设想未来、设想没有发生过的反事实、做条件推理的能力。这些能力离开语言和这个尺寸的大脑就不可能存在。 系统一也能说话。他特别强调这一点：他说出的每一个词都不是深思熟虑的产物，词自己就出来了，不费力气。语言对系统一来说，是一项已经学会的技能，和开车、和象棋高手的直觉属于同一类东西。 系统一不等于本能。开车这事没有天生就会的，你必须在某个阶段费力地学它，学到它变成自动为止。所谓启发式，就是这套自动化之后形成的模式：把新的经验跟旧的模式做匹配。匹配得不好的时候，偏差就出现了。大部分时候匹配得相当好，所以大部分时候我们对下一步会发生什么的预期是对的，对该怎么做的计划也是对的。 更妙的地方在于，系统一在它擅长的领域里，做得比系统二好得多。一个高水平的棋手，所有浮现在脑子里的棋步都是强手。这背后是极其复杂的计算，全在无意识里完成，快到无法测量。系统二的作用只剩下验证。 沿着这条线往下推，人类可以被描述成一台非常擅长构建系统一的机器。而这正好是当下人工智能的样子。 ## 深度学习是纯粹的系统一，它不知道自己在说什么 卡尼曼对这个类比很痛快：深度学习做的事更接近系统一的产物，它做模式匹配，预测接下来会发生什么，在预测这件事上强得惊人。 它缺什么？很多人会说缺推理能力，缺一个系统二。卡尼曼把更关键的东西放在前面：它没有因果性，没有任何表征意义的方式，没有表征真实交互的方式。这几样东西没有解决之前，能做成的事很精彩，但边界清晰。 他被震撼的地方在速度上。从攻克国际象棋到攻克围棋，从 AlphaGo 到 AlphaZero，转变快得让人发懵。这件事推进的速度超出了所有人的预期。 他也引用了 Gary Marcus 的批评，并认为这个批评有道理：孩子学一样东西不需要一百万条样本，两三条就够。这中间的差距是根本性的。要让机器学得快，你得预先往机器里装进某些期待或结构，让它“准备好”快速学习。这个问题目前没解。卡尼曼的说法很实在：我猜有人在攻它，但如果已经攻下来了，我还没听说。 Lex 提到了 Yann LeCun 的比喻：我们只能看见前面一两个山峰，后面可能还有两座，也可能还有几千座。卡尼曼喜欢这个说法，比 Ray Kurzweil 那套预测靠谱得多。他自己站在多数派这一边，认为神经网络会在能力上撞到上限。但他也承认，模式匹配占了智能的太大比例，神经网络几乎必然会是大答案里的一部分。 然后是那个最要命的问题。现在的翻译系统做得极好，但它们真的不知道自己在说什么。要让词句有真正的意义，就得让它接上感知、接上行动、接上对世界的某种觉察。Lex 把这个问题叫作 grounding，落地到物理空间。 卡尼曼对“必须有身体”这件事存疑。他提出一个更好的判据：一个完全瘫痪的人，大脑仍然能学到大量关于这个世界的东西。所以身体未必是必要条件，感知系统才是。只要能通过感知积累关于世界的知识，就够了。要是有台机器能做到这个，那就是件大事。 婴儿学东西的方式是最好的注脚。他们用手去抓、去推、去扔，把手的动作和世界上发生的事连起来。装上假肢的人能在很短时间内学会操作假肢，速度快得让人吃惊。大脑是一套随时准备通过行动学习世界的系统。 至于这套系统造起来有多难，卡尼曼把球踢回给了 LeCun 的比喻：我们不知道前面有几座山，这就是目前最诚实的答案。 ## 过马路是一场博弈，机器还没上桌 说到自动驾驶和行人预测，卡尼曼罕见地表达了乐观。他给出的理由在规模上：每辆车都带着大量传感器，任何一辆车学到的东西都会进入整个系统的知识库。这种系统级的乘法效应能做成很多事。 但他紧接着指出，现在的自动驾驶系统把行人当成“不能撞的东西”来处理，并没有把行人当成博弈中的对手。人跟车之间其实有一场谈判。 他自己描述过这套谈判流程。过马路时看到有车过来，他会盯着司机的眼睛看，那是一个信号。他走上马路之前会看车，走上马路之后反而把头转开。Lex 说这是他看过几百小时录像后总结出来的规律：转头意味着我下注了，我把自己交给你了，你必须停。 这是一局胆小鬼博弈。承诺必须可见，否则承诺不算数。 于是问题变成了：机器需要理解必死性吗？卡尼曼的第一反应是不需要，只要会预测就行。下棋和打扑克的时候，大量预测在发生，理解是零。随即他意识到 Lex 的追问戳到了痛处：如果只靠预测，行人的这套信号体系能不能被学到？他的回答变得谨慎，说这比他原本设想的难得多。 这里埋着一个更普遍的洞察。几乎所有的人机协作系统，都比人们以为的难得多。 卡尼曼给出了一个悲观但清晰的判断：在任何人与机器交互的系统里，只要机器足够强，人类在很短时间内就会变成多余的那一方。国际象棋是现成的例子。曾经有人说人机组合能打败所有纯机器，后来 Stockfish 不需要人，AlphaZero 更不需要人。 唯一的例外是：存在某些机器解决不了、而人能解决的问题。这种情况下，机器必须有能力识别出“我正处在一个我搞不定的情境里”，然后呼叫人类。而这件事极难，因为要识别出问题的边界，你几乎得聪明到能解决所有那些问题。 每个问题最终都会变成国际象棋。真正的问题是过渡期有多长，以及过渡期里人机怎么分工。 ## 所有人都在用自己的难度感评估 AI 的难度 Lex 提出了一个卡尼曼研究之外的现象：AI 圈外的人评估一个任务难不难，依据是这件事对自己有多难。开车对自己很容易，所以开车简单；解偏微分方程对自己很难，所以那才是真本事。 结果就是几十年来人们对“什么难”的判断整体是反的。视觉和感知难到爆，定理证明反而相对直接。这件事在研究者内部已经被接受，公众的直觉基本没动。 卡尼曼老实承认，他自己的研究对理解情境的结构和问题的复杂度没什么贡献。他能确定的只有一点：围棋复杂到没有尽头，但它的约束极其严格。真实世界约束少得多，意外也多得多。 这套错位的直觉有现实后果。公众直觉催生媒体炒作，炒作带来投资，投资等不到回报就变成 AI 寒冬。指望靠科普把公众的系统一直觉纠正过来，卡尼曼的答案很干脆：不行。这需要很长很长时间。 ## 人类自己都解释不了自己，凭什么要求机器能 卡尼曼认为，一台不能解释自己的设备，是一个重大的、绕不过去的困难。这件事已经在发生了。 司法系统里，预测假释期间再犯的模型已经比法官更准。问题是它说不清自己的推理过程，于是人们不愿意信任它。 有意思的地方在于，人不愿意信任它的理由是“它不能解释自己”，而人类法官同样不能解释自己。卡尼曼的看法是，人给出的理由，绝大多数跟人真正相信某件事的原因关系很小。理由是你在被要求解释的那一刻才临时生成的一个故事。 但人类社会的运转恰恰建立在这些故事上。人际互动依赖这些共享的虚构，依赖人们对自己讲的那些故事。 顺着这个逻辑，Lex 得出了一个有点刺人的推论：可解释 AI 这个方向真正要交付的东西，也许只是一套让人信服的故事，至于它是否反映真相，反倒排在后头。卡尼曼回答得很直接：绝对是这样。故事不必反映真相，只需要令人信服。而要做到稳定地令人信服，就得掺进一点真实成分。 他把这件事称为一个辉煌的目标。让人接受一个说法，这是极其精湛的工程。 ## 假期结束时的失忆药 卡尼曼区分了两个自我。体验自我一直在活着，有好的时刻也有坏的时刻，大部分内容转头就被忘掉。记忆自我偶尔启动，在某个段落结束时回望过去，把这段经历重建成一个故事。记忆是一张示意图，一卷可以回放的胶片并不存在。 悖论在这里：只有一个自我在真正地活，但我们最终能留下的只有记忆自我。而所有的决策、所有我们做的事，都由记忆支配，不由实际发生过的事支配。 他研究了故事的结构，发现其中一条特别扎人：故事里时间不重要。故事里有开头、有高潮、有结尾，有“从此幸福地生活在一起”，然后“三年后”，时间轴塌缩了。事件重要，时长不重要。 可时间恰恰是我们唯一拥有的东西，是生命的货币。而在评价记忆的时候，时间基本上没有被表征。这里堆着一串悖论。 他做过一个思想实验，用来暴露这两个自我的分裂。假设你计划一次度假，有人告诉你，假期结束时你会吃一片失忆药，什么都记不住，所有照片也会被销毁。你还会去同样的地方、用同样的方式度假吗？ 答案是不会。人们去度假，很大程度上是为了制造记忆，不只是为了经历。知道自己会忘记之后想要的那个假期，和知道自己会记得时想要的那个假期，不是同一个假期。 这个思想实验没有解。卡尼曼说他就是因为解不下去，才离开了幸福研究。 Lex 追问了一个当代版本：社交媒体把记忆自我放大到了极端。很多人是为了那张照片而活，拍下来、发出去，然后被几千人甚至几百万人看到，可以反复回看，远远超过当时那几分钟。 卡尼曼笑着承认自己太老了，没看过 Instagram，说不了什么。但他顺着往下推了一层：设备在替代功能。电话号码不用记了，事实性知识也没那么重要了，聊天里越来越常出现的一句话是“查一下”。知道事情本身，从必需品变成了可选项。 他还提到一个已经消失的东西：过去人们默认朋友读过同样的书，看过同样的影评，三个电视频道里你看的很可能就是我看了的那个。共享一直存在，只是形态变了。而他觉得，这种由分享带来的记忆放大，心理学上还没有被描述过，因为它是新的。 ## 不打分的生活，可能是更好的生活 Lex 提到了存在主义，也提到了佛教。卡尼曼承认自己哲学读得不够，但他看得出这两条路和体验自我是同一个方向：只去经历，不评价，不打分，不记账。 他说，如果能想象一种人们不给自己打分的生活，那似乎会是更好的生活。“我做得怎么样”这个问题本身就不太让人快乐。 然后他给出了自己退场的原因，这一段值得反复读。他的直觉是体验自我才是真实。但他发现人们想要的不是体验，人们想要记忆，想要一个关于自己人生的好故事。你不可能提出一套跟人们自己所求相悖的幸福理论。当他看清事情会往这个方向走，他就离开了这个领域。 关于 Viktor Frankl 那本《活出意义来》，卡尼曼的回答近乎残酷的诚实。他能理解一个人靠着使命感和意义感撑过集中营，但他自己不是那种人。他说得很直白：如果我在集中营里，我会放弃，然后死掉。 接着他提出了一个幸存者偏差的版本。那些人活下来了，于是他们讲故事。听起来像是他们因为所做的事而活了下来，实际上我们根本不知道。可能是他们本来就是那类能活下来的人，而这类人恰好会讲出那样一种故事。 他由此推出一个结论：追求意义并不是人类行为的重要驱动力。人们被问到“人生有没有意义重不重要”时会说极其重要，但被问到“你昨天过得怎么样、记得哪些时刻”时，答案里几乎没有意义，有的是社交、是具体的事。 照顾自己的孩子和照顾别人的孩子，体验上差别巨大。卡尼曼承认这个差别完全真实，但他把原因归到故事上：我们讲给自己听的那个故事，在照顾自己孩子时是完全不同的一个。 ## 53 项研究，0 成功 谈到心理学 replication crisis，Lex 用词客气，卡尼曼直接纠正：你太礼貌了，实际情况比这更糟。 他有一套自己的解释，核心是被试内与被试间的区别。被试内设计是让同一个人在两种条件下都经历一遍，被试间设计是不同的人各自待在不同的世界里。出问题的是后者。 原因很微妙：研究者本人永远处在被试内的位置上。他在脑子里同时想象两种条件，能“看见”因果，能“感觉”到效应。而被试间的受试者只活在一个条件里，另一个条件对他而言根本不存在。所以研究者对被试间实验的直觉极其不可靠。 更糟的是效应量。同一个操纵，在两种条件下同时呈现时，力量远大于只呈现一种条件时。研究者系统性地高估了自己操纵的威力。 他还有一句更狠的判断：几乎所有的心理学假设都是真的。方向大体没错，A 确实会推动 B，只是推动得远比你以为的微弱。 他举的例子是 53 项行为改变研究，20 个团队，目标精确到“增加人们去健身房的次数”。这些都是领域里最好的人。结果 53 项里只有 1 项起作用。 解释这个结果的概念叫聚焦错觉。你在想某件事的时候，它就显得很重要，比它实际的重要性更高。你盯着自己的操纵看，它当然显得有力。而这批最优秀的研究者在这个错觉里，事先毫无察觉。 出路是把直觉的权重调低，把实验预注册，把该跑的样本量跑够，并且公开。这些事正在发生。另一个变量是 Amazon Mechanical Turk 这类平台，让实验变得又便宜又快。卡尼曼说，心理学每次引入重要的新方法，领域就会被改写，互联网就是一个方法。 样本量的问题他答得很具体。视觉和颜色知觉的经典结果，三四个被试就够用，其中一个可能还是色盲。到了被试间的弱效应，30 到 40 人的标准配置根本不够，可能需要几百人，差一个数量级。 ## 信息被接收得比发送得更多的那些年 卡尼曼与 Amos Tversky 的合作持续了十几年。他写过这样一段话： > 那是人际与智力的极乐岁月。几乎一切都很有趣，几乎一切都好笑，看着一个想法成形时有一种当下的快乐。那些年里我们多次共享一种神奇的经验：一个人说出某句话，另一个人理解得比说话者本人更深。与旧的信息理论定律相反，我们常常发现收到的信息多于发出的信息。（丹尼尔·卡尼曼） 他说，这种经验他几乎没在别人身上遇到过。没遇到过的人，不会知道协作可以有多好。 Lex 问，怎么找到这样的合作者，这个问题像在问怎么找到爱情。卡尼曼的回答分成两半。一半是运气。另一半是性格：你得有那个本事。他自认在这件事上有本事，但不是所有人都擅长。真正的合作是非常私人的事，你必须喜欢那个人，喜欢让对方思考，喜欢对方回应你念头的那种方式。市场上那种“你给我这个，我给你那个”的交换式合作，跟这个不是一回事。 就在这场对话里，这个过程当场发生了一次。Lex 讲起自己在做的行人预测问题，卡尼曼的好奇心立刻被点着，追问、拆解、给出自己的判断，新的东西开始冒出来。他说这没什么技巧，就是跟着好奇心走，他对 AI 和机器人相关的任何东西都好奇，知道 Lex 在做这个，于是就问了。 ## 科学家也不改主意 卡尼曼被问到有没有什么事让他智识上一直纠结。他把话题引向了一个更普遍的观察：人改变想法极其困难。一旦投入，人在任何重要的事情上都不会改主意。科学家也一样。 他自己有一段持续三十多年的争议，对方是德国心理学家 Gigerenzer。他的判断是这场争议永远不会被解决。你建起一套体系，然后住在里面，别的体系看起来就是外来的，接触很少，互相影响几乎为零。 那有没有办法让人改变想法？在真正重要的事情上，比如政治、宗教，答案是基本没有。能起作用的是领袖改变想法。 他举了气候变化的例子。美国公众并不真的把气候当回事。但如果某位宗教领袖站出来说这是对人类的大威胁，效果会完全不同。人持有某种观点，跟证据的关系很小，跟信任谁、不信任谁的关系很大。起作用的是故事，不是证据。 这条推理给了一个不太 intuition 的结论：改变群体想法的杠杆落在领袖身上，个体层面的说服基本无效。 ## 幽默和新隐喻，比事实更能说明智能 关于怎么测试智能，卡尼曼先给了标准答案：通用人工智能的定义是能做人类能做的任何事，而且做得更好。现状是大量领域专用的系统在特定任务上轻松赢人，但离通用能力还非常远。AlphaZero 比 AlphaGo 通用得多，但它能做的事依然窄得惊人。 图灵测试被批评得很多，自然语言对话太容易被糊弄。Lex 问，什么样的对话会让你真正印象深刻？ 卡尼曼的回答很具体。纯事实性的对话容易，他不会被震到。幽默会让他印象深刻。典故会有意思。隐喻会有意思，前提是当场新造的那种，背下来的不算。 这个标准其实很高。幽默和新隐喻都要求在两个遥远的语义空间之间建立映射，而且要求这个映射是当下生成的、贴合语境的。这正是当前系统最不擅长的事。 至于人类级别甚至超人类级别的智能出现时他是什么感受，他给了两个词：兴奋，以及恐惧。然后加了一句：我看不到了。他对正在发生的事好奇，但他很清楚关于三十年后的预测都是瞎猜。原话是：我们真的毫无概念。 ## “为什么”这件事没有希望 访谈最后，Lex 问了意义问题。 卡尼曼的回答没有绕。没有他能理解的答案，他也不在主动找。他不认为自己有资格谈论我们无法理解的东西。但他补了一句很重要的区分：我们可以不理解实在，同时仍然能做很多事。引力波的探测是人类的大时刻，一只猿能回溯到大爆炸，这件事本身就够惊人了。至于“为什么”，那是超出我们能力的问题。 他把“是什么”和“为什么”彻底分开了。前者人类做得越来越好，后者没有希望。 节目结尾，Lex 引了卡尼曼的一句话作为收束：智力除了推理能力，还包括从记忆里找到相关材料的能力，以及在需要的时候调动注意力的能力。这句话把整场对话串了起来。系统二负责推理，系统一负责检索和注意力的投放，而后者才是智力的大头。 ## 这场对话里能带走的东西 一个研究了一辈子人类判断偏差的人，在八十多岁时给出的建议，方向出奇地一致：对自己的直觉保持低信任度，尤其是关于别人会怎么反应这件事。 他说得最透的一层在这里：我们评估一个任务难不难，用的是自己动手时的感受。这个习惯在 AI 时代代价极高，因为它会系统性地压低我们对感知的估值、抬高对推理的估值，压低真实世界、抬高棋类游戏。 还有那个关于记忆的观察。人们为了故事而活，为了能讲出来而活，为了被打分而活。卡尼曼没能解决这个悖论，但他把它描述得非常清楚。看清这件事本身，也许就已经改变了一点什么。 - **评估任何 AI 任务的难度时，先问一句“这个判断是从哪来的”。**如果答案是“我觉得这事我干起来挺轻松”，那这个判断基本不可信。开车、认脸、听懂带口音的话，人做起来毫不费力，恰恰说明底下压着极复杂的系统一运算。反过来，解方程、下棋让人觉得难，是因为系统二会累，而累不等于复杂。 - **把预注册和足量样本当成习惯，不要当成审稿要求。**卡尼曼那套解释里最有用的部分是：你在设计实验时，脑子里同时装着两个条件，所以你“看见”了因果；但受试者只活在一个条件里。你感受到的效应强度，天生就比真实效应大。想绕开这个陷阱没有别的办法，只能先把假设和样本量钉死，再跑实验。 - **对“我们团队都觉得很有效”这类共识保持警惕。**53 项行为改变研究，20 个顶尖团队，目标精确到增加健身次数，成功了 1 项。原因在聚焦错觉上，跟能力无关：你盯着自己的操纵看，它当然显得有力。判断一个干预措施是否有效，唯一可靠的依据是别人在别处复现了它。 - **想知道一个系统有没有接近通用智能，别测它答得对不对，去测它笑不笑、能不能造新隐喻。**事实性问答早就不构成挑战，幽默和当场生成的隐喻要求在两个遥远的语义空间之间建立映射，并且贴合语境。这是目前系统最薄弱的地方，也是最难伪造的地方。 - **设计人机协作流程时，不要假设机器知道自己什么时候不行。**要它识别出“我在一个搞不定的情境里”，前提是它对问题空间有足够完整的理解，而这几乎等于要求它能解决那些问题。凡是需要机器主动求助的场景，都要在流程上预设它会犯错、并且犯得悄无声息。 - **如果你在做需要人类解释的产品，把目标从“说清真相”调成“讲出可信的因果链”。**卡尼曼的判断很直接：人对自身理由的访问权限非常有限，理由是事后临时生成的故事。人对机器的要求也一样。故事得足够稳定地可信，而稳定可信离不开掺进一点真实成分。做不到这一点的解释界面，会被用户直接跳过。 - **给自己留出不被计分的时间。**卡尼曼没能解决体验自我与记忆自我的悖论，但他承认，一种不打分的生活看起来是更好的生活。“我最近做得怎么样”这个问题本身就不太让人快乐，而它服务于记忆自我。反过来说，如果你想让一段时间真正属于体验，就不要给它安排一个要被讲述、被展示、被评价的结尾。 - **寻找合作者时，把“能不能互相把对方想得更深”当成筛选标准，超过履历和资源。**卡尼曼描述的那种经验，一个人说出某句话，另一个人理解得比说话者本人更深，收到的信息多于发出的信息，这与分工明确的项目协作是两种东西。它需要运气，也需要性格：你得真的喜欢看对方思考，而不是只喜欢对方给出的结论。 - **在重要议题上想改变别人的看法，别在个体层面做说服工作，去找那个群体信任的人。**卡尼曼观察到的机制是，人的立场跟着信任的人走，跟证据的强弱关系很小。这个判断有点冷，但它能省下大量无效努力：与其反复摆数据，不如弄清楚这个群体听谁的话，然后让那个人的讲故事版本发生变化。 卡尼曼在这场对话里反复做同一件事：把人们以为已经想清楚的概念拆开，露出底下的东西。系统一和系统二被拆成“念头抵达的方式”和“心理努力的成本”，两个自我被拆成“活着的那个”和“能留下的那个”，解释被拆成“真相”和“可信的故事”。 拆完之后他没有重建一套更漂亮的理论。他好几次直接说：这个问题我解不下去，所以我离开了这个领域。幸福研究是这样，意义问题也是这样。一个研究了半辈子人类判断的人，最终的姿态落在标注上，精确地标出哪些问题他不知道、以及为什么不知道。 这大概是这场对话最实用的部分。在一个所有人都急着下判断的环境里，能清楚说出“我不知道，而且我知道我为什么不知道”，本身就是一种被严重低估的能力。 还有一句他随口说的话，值得留在最后。《思考，快与慢》里那两个系统的划分，本质上是一个方便说话的工具，它帮人看清了一些东西，也遮蔽了一些东西。卡尼曼自己承认了这一点，然后继续用这个工具把话说完。会用一个不完美的工具把话说清楚，同时知道这个工具哪里不牢靠，这大概是所有清晰的思考共同的形状。