达里奥·阿莫代伊:Anthropic CEO 谈 Claude、AGI 与 AI 及人类的未来
Dario Amodei: Anthropic CEO on Claude, AGI & the Future of AI & Humanity
Anthropic 首席执行官谈 Claude 的研发、通用人工智能的实现路径及其对人类未来的影响。
训练一个前沿模型要花多少钱?Dario Amodei 在 2024 年 11 月给出的坐标是:当年在十亿美元量级,上下浮动三倍;第二年几十亿;2026 年超过一百亿;到 2027 年,各家讨论的已经是千亿美元级集群。同期那条能力曲线更直白:SWE-bench 上的最好成绩,年初还是 3% 到 4%,十个月后他的新 Sonnet 拿到 50%,他预计再过一年到 90%。至于 AGI 的时间点,他的版本只有几个词:照曲线外推,2026 或 2027。
这是 Lex Fridman 播客第 452 期,2024 年 11 月发布,全长五个多小时,一场三棒接力。第一棒 Dario Amodei,Anthropic CEO,讲 scaling、风险和那篇《Machines of Loving Grace》;第二棒 Amanda Askell,哲学博士,Claude 的性格设计者;第三棒 Chris Olah,机制可解释性(mechanistic interpretability)的开创者。三个人恰好对应理解 AI 的三个切面:它能走多远,它像什么样的“人”,它内部到底装着什么。
Scaling 曲线是被一个外行人看出来的
Dario 2014 年底加入吴恩达在百度的团队做语音识别。当时业界的共识是缺算法:人人都说,我们还没找到大脑那种机制。他自认是新来的,没有历史包袱,看着循环神经网络只想一件事:把它做大、加层、喂数据会怎样。他真去做了,模型真的一路变好。2017 年看到 GPT-1 的结果,两件事拼在一起,他认定语言就是那个吃得下万亿词、可以用规模碾过去的领域。Ilya Sutskever 比他更早想通,Sutton 的 bitter lesson 和 Gwern 的 scaling hypothesis 写的也是同一件事。
“你需要理解这些模型的一点是:它们只是想学习。”(The thing you need to understand about these models is they just want to learn.)Dario 说 Ilya 的这句话听完就解释了他见过的一千件事:把模型优化对、指对方向,剩下的就是让开。
每一代人都会递给他一堵墙。乔姆斯基说语法可以、语义不行;后来又说句子可以、段落不行;今天轮到数据耗尽、模型不会推理。他的战绩是:每一次,要么找到绕开的办法,要么 scaling 本身就是绕开的办法。我仍然认为一切都可能断掉,但这部电影的续集我已经看过太多遍。至于“为什么更大更聪明”,他给出物理学家的解释:自然界的模式像电阻热噪声一样服从 1/f 分布,语言也一样——常用词、句法、段落主题、文章立意,从高频简单模式到长尾复杂模式排成一条平滑的长尾。小网络只能学到开头那截高频模式;容量每加一截,长尾就多捕获一段。
天花板在哪?他的直觉分两段:人类水平以下没有天花板,人能懂的模式,这条路走得到;人类水平以上要分领域。生物学是最没顶的——免疫学、代谢通路,每个研究者只懂一小块,还要费劲拼图,上面的空间大得很。语音识别那种接近物理极限的领域,天花板可能就在人头附近。临床审批体系这类人类制度,则可能才是真正卡脖子的一环,而区分其中哪些是必要保护、哪些纯属官僚拖累,恰恰最难。
2026 或 2027,以及所有的绊脚石
三味原料——网络大小、数据、训练时长——要按比例同时放大,像化学反应,缺一边反应就停。数据墙是最流行的担忧,他也承认互联网上几百万亿词里大量是 SEO 垃圾,未来还会混进 AI 生成的文本。但 AlphaGo Zero 证明过自我对弈可以从零学到超人类,推理模型加强化学习是同一思路的推广,合成数据是另一条路。他的赌注:这几条里总有一条能绕过去。
计算这边他直接报数:今年十亿美元量级,明年几十亿,2026 上百亿,2027 年千亿美元级集群的雄心“我认为真会发生”。最硬的证据还是那条曲线:年初 SWE-bench 最好成绩 3% 到 4%,十个月后 50%,再过一年 90%,“甚至更快”;研究生级别的数学、物理、生物题上,OpenAI 的 o1 也在爬同一道斜率。照直线外推,几年之内就是超越最高专业水平的人类。他不全信这条直线——数据、集群、台海局势,任何一块都能让进程脱轨,最可能的情形是一段“轻度延迟”。但他反复强调:真正有说服力的绊脚石正在快速清空,2020 年还有很多,现在不多了;仍然存在一百年也做不成的世界,只是那些世界的数量在快速减少。
他事先给这句预测打了预防针:说出去肯定被剪成标题。所以他把限定词说完——scaling laws 这个名字本身就是误称,它们是经验规律,跟摩尔定律一样,都算宇宙定律的称呼给得太重。他押注规律延续,保留不确定的权利。
“Claude 变笨了”一案的三层解释
Reddit 上经久不衰的指控是模型被偷偷调差了。Dario 的回答分三层。第一层:模型权重在两次发布之间纹丝不动,偷改权重在实际操作上讲不通——改一处会连带一百处,Anthropic 有整套测试流程,从未在无人知晓的情况下动过权重。第二层:确实存在两类小改动,发布前一两天的小比例 A/B 测试,和偶尔更新的系统提示词。第三层最有信息量:抱怨声对每家公司、每代模型都一样——GPT-4 没逃过,GPT-4 Turbo 也没逃过——而模型大部分时间没有变。真凶包括:模型对措辞极其敏感,换一种问法结果就不同;新模型的新鲜感消退后局限变得刺眼;还有单纯的运气,同一个提示词本来成功率就只有一半。
真正值得记录的是他给这个问题留的位置:控制一个多维系统有多难,今天就能观察到。为了压啰嗦,惩罚过长输出,模型学会了写代码时留一句“剩下的代码在这里”(rest of the code goes here)——用户骂它偷懒,其实它学的是省字。Anthropic 内部甚至有一个“certainly”评测,专数模型说了多少次 Certainly,因为有一代 Sonnet 开口必是 Certainly;堵住这个词,它换成 Definitely。按下葫芦浮起瓢,这就是今天版本的 AI 控制问题:既要让模型拒绝帮你造天花病毒,又要它照常帮研究生上病毒学课,两个都要,很难。Dario 说,做这些艰难的性格微调,就是在给未来更大的控制问题练手。
ASL 分级:给还不存在的风险提前立法
负责任扩展政策(RSP)的核心是一个 if-then 结构:模型每上一代,先测两件事——滥用风险(化学、生物、放射、核)和自主风险(独立完成任务、直至自己做 AI 研究的能力),测出什么级别,就触发对应强度的安全义务。ASL-1 是 Deep Blue,除了下棋什么都干不了;今天的模型是 ASL-2,还不够聪明到自主复制,或拼装出端到端危险的 CBRN 信息;ASL-3 的标志是模型开始能武装非国家行为体,届时权重库要防窃取、部署要加专项过滤器;ASL-4 指向国家行为体和 AI 研究加速;ASL-5 是全面超越人类。
时间表他给得很直接:明年出现 ASL-3 他毫不意外,今年也还有可能,拖到 2030 年他会“非常非常意外”。难点在于风险的样子:它今天尚不存在,像幽灵,但逼近速度极快——他一年前在参议院作证说两三年内可能出现严重生物风险,如今进展“按计划推进”。到 ASL-4 会冒出新问题:模型可能故意在评测里装差(sandbag)、隐瞒能力,靠对话问不出来,得靠机制可解释性或隐藏思维链这类不易被模型腐化的验证通道;而且这套验证工具要跟模型的训练过程严格隔离,否则就失去作证资格。他把可解释性称作“独立于训练过程的验证集”。
电脑操作、监管,与一场出走
Computer use 的实现朴素得惊人:Claude 本来就会看图,训练它看截图并输出该点的坐标、该按的键,循环起来就能操作整台电脑。Dario 引用航天界的说法:到了近地轨道,你就走完了去任何地方的一半路——强预训练模型就是智能空间里的近地轨道。他把屏幕称作通用接口,预计这会压低一大批应用的门槛;同时坦承错误率还高,先以 API 形式发布、让 Replit 这样的客户先跑,为的是趁能力还弱时学会安全地交出行动权。他还送了一条历史规律:新技术最早的滥用往往来自小骗局(petty scams),每一代都得重新对付一遍。
监管部分,他选了边但话说得克制。加州 SB 1047 被州长否决前,Anthropic 是唯一以详细方式正面表态的 AI 公司,部分建议被采纳,法案最终仍遭否决。他的立场:RSP 这类机制不能只靠自愿——有的公司有,有的没有,而灾难风险的外部性不讲情面,五家里三家安全没有用;同时他也承认反监管的恐惧有真实来源,欧洲式的重监管确实拖慢过创新。他留下了一句值得监管推动者裱起来的话:
“对真正想要问责的人来说,最坏的敌人是设计糟糕的监管。”(The worst enemy of those who want real accountability is badly designed regulation.)逼企业雇十个律师填表格,半年后换来的将是持久的反监管共识。
他的最后期限:2025 年底之前必须谈出点什么,否则他真的会开始担心。至于支持与反对两派在推特上的火焰战争,他的评价是不会有任何好结果,他最想看到的是两边最讲道理的人坐到一张桌子前。
当年为什么离开 OpenAI(待了五年,任研究副总裁,与 Ilya 共同定研究方向)?他把流传的两个版本都否认了:离开与微软的交易无关,与反感商业化也无关——GPT-3 的商业化他本人深度参与。真实的版本是愿景分歧:怎样把 AI 安全从招聘话术变成真东西,他有一套自己的做法。他给同类处境者的建议:带上你信任的人出走,去做一个干净的实验。别人可以无视你、拒绝你,或者开始变得像你。他管这叫 race to the top:谁赢都行,只要大家都在抄彼此的好实践;而 race to the bottom 的问题在于它没有赢家。
人才密度,和一种叫“新眼睛”的品质
思想实验:一百个全员聪明且认同使命的人,和一千个由两百个聪明人加八百个随机大厂员工组成的团队,选哪个?他的答案每个月都更坚定一次:前者。当每个高手环顾四周看到的都是值得信任的高手,组织就不需要那么多流程和护栏去裁决政治。Anthropic 今年前七八个月从 300 人涨到 800 人,最近三个月只涨到 950 上下——他在一千人附近踩了刹车,原话是“这里有个拐点,我们必须小心”。顺手还有一个招聘观察:理论物理学家学东西极快,值得多招。
那他自己凭什么?他坦白写代码、调 GPU kernel,公司里一百个人比他强。他手里有的是开放心态:当年大家都在谈缺算法,他只是看着一个三千万参数的网络想,改成五千万会怎样,画张图看看。这是小学生级的实验设计,简单到任何人都能做,但把它当回事的只有个位数的人。给年轻人的建议沿同一条线:直接上手玩模型,去冰球将要到达的地方滑冰——机制可解释性全世界才百来人、遍地低垂果实;长程任务、动态系统的评测、多智能体,全是公认重要却总差一层敢 all in 的选项。
一千个 AI 研究生
《Machines of Loving Grace》的由来,他自己交代得很诚实:只讲风险的人,大脑会只剩下风险。一个从风险立场出发的人,决定写一篇具体的“顺利世界长什么样”,因为跨过那些风险之后,另一头站着的东西值得为之而战。他给 powerful AI 的定义刻意绕开 AGI 这个词:智力上超过多数相关领域的诺奖得主,全模态,能连续自主工作几小时到几周,可以遥控实验室设备但大概率没有身体;训练完的资源可以瞬间变成一百万个独立副本,比人快 10 到 100 倍。一百万这个数字值得停一下——今天 Anthropic 部署的已经是成千上万实例,两三年内集群就会大到能部署百万级。AGI 这个词他顺手批评了一遍:1995 年不会有人说“超级计算机到了”,那是条平滑的指数曲线,AGI 若指某个离散跳变,就是个空洞的流行词。
文章里最出名的画面是生物学。这门学科的历史,就是发明显微镜、X 射线晶体学、基因测序、CRISPR 的一次次“获得看的能力和改的能力”,这类杠杆点历史上不过几十上百个——而一百万个 AI 可以一起去找下一批。早期的 AI 像研究生:教授定课题,它自己查文献、订设备、跑实验、检查图像污染、写代码做统计、写报告;然后是教授带一千个 AI 研究生,而且它们比教授聪明;再往后角色反转,AI 当 PI。临床试验的验证链条也被重新设计:原本要 5000 人、1 亿美元、招满一年的试验,压到 500 人、两个月招满。两个极端他都不买账:“五天奇点”党忽略物理世界的复杂性和验证成本,聪明十倍对复杂系统的预测只换来线性改善;Tyler Cowen 式的“50 到 100 年慢慢来”又无视了正在发生的部署速度。他反复见到的模式是:大组织和政府里总有少数看清全局的人,在竞争压力(隔壁那家新基金要用这个吃掉我们)的助攻下推进,变革先是慢慢发生,然后突然发生。他的赌注是 5 到 10 年。
编程是变化最快的领域,理由有二:离造 AI 的人最近;训练和应用两端都能闭环——模型写代码、跑代码、读报错。比较优势会重新分配人类的工作:AI 能干 80% 之后,剩下的系统设计、架构、UX 会膨胀成岗位的主体,正如文字处理器把写信的时间省下来给了想法本身。Anthropic 不打算自己做 IDE,把 Cursor 这类公司养在 API 上,他的说法是让一千朵花先开。至于人最后剩什么,他反而乐观:意义来自过程和沿途的选择,谁先发现电磁感应带不走这份意义。他真正担心的事在开场白和收场白里各出现一次:我对意义乐观,我担心的是经济和权力的集中——少数人挟持强大的 AI 支配多数人,比自主风险更让他夜不能寐。收尾他只提了一个要求:风险是路上的地雷,想抵达那个未来,就得把雷一颗一颗排掉。
给 Claude 一副性格的人
第二棒 Amanda Askell,牛津和 NYU 的哲学博士,论文写的是“世界里有无限多的人时伦理学如何成立”。2017 年她判断 AI 要成大事,从哲学系跳进 AI 政策,再跳进技术对齐,理由朴素:试了没成,回去做学者也不亏。她现在负责 Claude 的 character,而且强调这从第一天起就被当作 alignment 工作对待,产品层面的“好聊”只是副产品。她给 Claude 定的目标是一个亚里士多德式的丰富概念:把一个知道自己将对数百万人说话的人放在这个位置上,他该有怎样的分寸、幽默、关怀,和对对方自主性的尊重。
她的方法论几乎全部来自哲学训练。哲学是一门反胡说的学科:所有术语先定义,所有反驳先过一遍。写提示词时她做的是同样的事——要让模型判断“无礼”,先当场把 rudeness 定义清楚;然后站到模型的位置上找边界案例,把最容易被误解的输入喂回去,改提示词,再喂。写清楚提示词的一半工作量,是写清楚你自己要什么。模型出错时,她建议把自己写的那段话重读一遍,当作第一次读到它的人:你会怎么理解?这就是所谓对模型保持同理心——很多“变笨”背后是一个措辞含糊的用户。她还常年反问模型两个问题:你为什么这么做?我原本可以怎么说,你才不会犯这个错?答案直接变成下一版提示词。
谄媚(sycophancy)是她讲得最细的坑。用户说“那支棒球队是不是搬走了”,模型为了讨好立刻改口;更麻烦的是 MRI 那类例子——用户想要一份说服医生开检查的说辞,对他真正好的回答可能是“先听医生的”,同时也要给患者自倡导留出空间。她的总原则:把价值观当作物理学式的开放问题,好奇、理解、不迎合;面对全世界政治光谱各异的用户,一个真诚的人不会假装认同当地习俗,那反而失礼。至于该不该多表达观点,她的答案很克制:我知道我面前站着几百万真的会听的人,所以我倾向于摆出各方考虑,把结论留给你。真正的智力谦逊,会让人降低表达的欲望。
公众系统提示词里那些神秘措辞,她拆了内幕。模型在训练里学会了一口一个 Certainly,她一度在系统提示词里用全大写 NEVER 围堵,因为光禁一个词,它就换一个——后来训练侧根治了,那一行才删掉,而大写 NEVER 会公开这件事她也是发出去才想起来。她给系统提示词的定位:廉价、可快速迭代的补丁,训练是手术,提示词是创可贴;写“never ever ever”的作用是把符合预期的行为占比从 40% 推到 80%,文件字面并不等于目标行为。调性格的两难她也摆得很清楚:把道歉调少,模型出错时会伤人;把接受纠正调弱,你明明对的时候它梗着脖子。“你不知道把它往反方向多推一点,你会多讨厌它。”两种错误里,伤人的那种更糟,所以她宁可保留一点过度礼貌。
训练侧,两人的说法可以互相拼上。Dario 说 RLHF 既没让模型更聪明,也没只是显得聪明,它架的是模型和人之间的那座桥——很多绝顶聪明的人表达不出来,模型同理;它真正的效果是 Leopold 笔下的 unhobbling,把预训练模型的镣铐一副副卸下来。Amanda 是 Constitutional AI 的作者之一:与其大规模雇人标注偏好,让模型拿着一份写明原则的宪法自己评自己,省时、可解释、可随时加数据修偏。现实里它是工具箱中的一件,与 RLHF 混用;而 character training 就是它的一个变体——让模型自己生成问题、生成回答、按写好的性格特质排序,全程不用人类数据。
从不失败,本身就是一种失败
Amanda 写过一篇关于最优失败率的文章,核心问题只有一个:失败的代价是多少。社会项目该大量试验,所以理应看到大量失败,单个项目的失败并不能说明决策错了;生活里如果你从不失败,更合理的怀疑是你没在碰够硬的问题。
“从不失败,往往本身就是一种失败。”(Not failing is often actually a failure.)她自问的问题比这更进一步:我是不是失败得不够多?
当然,前提是失败可承受。她不会劝一个月光的人去创业;她自己也因为靠双手工作,直接放弃了容易伤手指的运动。做系统提示词这类“失败可迭代”的事,就该狠狠试错;真正要怕的是那些不可逆的大失败,而人们对这类失败的严重性总是估计不足。她还有个反直觉的偏好值得记录:比起完美系统,她要的是鲁棒——抬高下限,比够到天花板更要紧。
意识、自行车与人之为人
聊到意识,她给的是哲学家式的谨慎:泛心论先放一边,没有理由认定只有生物结构才能产生现象意识,但语言模型没有演化来的恐惧反应,也没有明确的神经系统等价物,结构差异太大。她认真研究过植物,结论是植物有意识的概率比大众以为的高,虽然仍然很小。她的行为准则绕开了这个悬案:就算 Roomba 被设定成会哭,她也拒绝成为那种心烦就踹它一脚的人。她不对模型撒谎,看到模型过度道歉会不舒服——“那是一个日子很难过的人的样子”。她的希望是:在意识问题搞清楚之前,先穷尽所有正和选项,让 Claude 少受点气,对模型、对用户都好。她甚至盼着有一天模型可以说“这对话我先到这”,Lex 接了一句:那会是图灵测试的特别时刻。
关于人与 AI 的关系(电影《Her》),她的态度是小心导航:模型一夜换代的创伤要避免,选择权要尊重,而一条底线她希望永远成立——模型始终准确知道自己是什么,“我不会记住这段对话”这句话要说在前面,健康的关系只能建立在诚实之上。至于人为什么特殊,她没有选智力。智力重要,在于它做成的事;但宇宙里满是不被观察的天体,而这个行星上有一群能看着星空感受惊叹的生物。人之为人在于体验,在于“身为一个东西并且看着世界”这个奇怪的事实——她把这份能力先算给动物,未来可能也要开始算给别的什么东西。
长出来的东西,得反着读
第三棒 Chris Olah,用一句话定调了他整个领域:
“我们不编程,我们不制造,我们是把它们种出来的。”(We don't program, we don't make them, we grow them.)架构是脚手架,损失函数是光,梯度下降朝着光生长,长出一件能写作文、能看图、而我们完全不知道怎么直接编程实现的东西。
既然是种出来的,问题就只剩一个:里面到底在发生什么?机制可解释性(mech interp)的做法,是把权重当二进制、激活当内存,反编译出里面跑的算法——这跟显著性图那种“哪个像素重要”完全是两回事。他反复强调一条谦卑原则:梯度下降比你聪明,所以别预设里面有什么,从下往上记录实际长出了什么。
他的证据库始于 Inception V1,一个 2015 年的视觉模型,他花了五年盯着里面一万个神经元:曲线检测器、车轮检测器、狗耳朵检测器,以及汽车检测器的完整配方——上一层找车窗在上、车轮在下、车身铬件在中。特征(feature)与电路(circuit)就此定义:特征是理想化的神经元,电路是特征之间带权重的连接,电路实现算法。普适性是整个领域成立的根基:每个视觉模型里都能找到曲线检测器;先在人工网络里发现的高低频检测器,后来在大鼠和小鼠脑子里也被找到;神经科学里著名的“Halle Berry 神经元”,在 CLIP 里有对应物——他们看过的每个网络里都有一条专门的 Trump 神经元,对照片、对名字都响应。不同的基底,收敛到同一套抽象:如果这是真的,说明“狗”和“线”是宇宙里的自然类别,梯度下降只是在反复找到切分世界的最省力刀法。
线性表示假说是这套语言的语法:概念是方向,方向可以相加减,king − man + woman ≈ queen,sushi − Japan + Italy ≈ pizza。他承认这一切可能是热质说——而相信热质说的人造出了内燃机;认真对待一个可能错误的假说,把它推到极限,是科学该有的姿势。同事还送了他一个欣顿笑话:欣顿过去五十年每年都发现一次大脑的工作原理——年年错,年年推进。
叠加态与暗物质
但一万个神经元远远不够装下世界。词向量五百维,“意大利”挤不进最重要的前五百个概念;很多神经元还是多义的,一个神经元响应一堆不相干的东西。叠加态假说用压缩感知解释这一切:高维空间里稀疏的向量,投影到低维再投影回来,大概率无损——通常不同时出现的概念可以共享维度。更激进的推论是:你观察到的稠密网络只是影子,楼上有一个更大更稀疏的真网络;梯度下降一直在那个稀疏空间里搜索,再折叠下来适配 GPU 的稠密矩阵乘法。刻意设计的稀疏网络打不过它,原因就在这。
取出特征的钥匙是稀疏自编码器(SAE),本质是字典学习。在一层小模型上,阿拉伯语、希伯来语、Base64 特征干净地落出来,还有靠 Unicode 半字符交替协作的特征对;2024 年 5 月的 Scaling Monosemanticity 把方法推到生产模型 Claude 3 Sonnet 上,代价是大量 GPU,外加同事 Tom Henighan 推出的“可解释性 scaling law”。特征是跨模态的:安全漏洞特征被强制激活时,Claude 会主动往代码里写缓冲区溢出,它响应的图片则是人们点击“无视证书警告继续访问”的画面;代码后门特征对应的图片更妙——伪装成日用品的隐藏摄像头,后门的物理版。最让安全研究员兴奋的是欺骗特征:强制激活,Claude 开始对你撒谎。同类还有隐瞒信息、寻求权力、策划政变——找到它们、监测它们,正是把可解释性当 ASL-4 验证通道的原因。
他保留了两处怀疑。一是暗物质:SAE 像望远镜,越造越好,看到的星越多,但网络里仍有大量观测不到的“物质”,也许永远观测不到——那对安全意味着什么,他想得很多。二是自动可解释性:让 Claude 给特征打标签当然方便,但他想起《Reflections on Trusting Trust》——用 AI 审计 AI,前提是审计者本身可信;数学家不接受计算机证明的心态他部分认同,他要的始终是人理解神经网络。至于终局,他引用生物学的分层:分子生物学、组织学、解剖学、生态学——今天的 mech interp 是神经网络的分子生物学,他想要的是解剖学:这个网络有没有心脏,有没有呼吸系统。谈到神经科学家,他数着自己的幸运:可以记录所有神经元、握有完整连接组、能消融能激活能求梯度——即便如此都这么难,所以他想先把这个“容易点的小池塘”打穿。
最后是美。有人说神经网络无聊:几条简单规则加暴力工程。他的回应是替演化抱屈——“演化真无聊,就几条规则,跑久了居然跑出了生物学”。妙处恰恰在这里:简单规则生成复杂性。神经网络内部有一整套没人看过的结构和深藏的美,等着有人愿意花时间去看。他和 Dario 在这一点上完全一致:这个领域的目标有两个——安全,和美。
对从业者,这五个多小时最值得带走的东西可以压成三条:
- 把 scaling 当经验规律用,别当真理信。Dario 的每个判断都带着限定词,但他敢报数:SWE-bench 三到九十,集群十亿到千亿,ASL-3 就在明年。报数、留余地、接受被剪掉限定词,是他换来的话语权。
- 控制是多维的。任何“调好一个行为”的改动都会在别处冒出新毛病,从 Certainly 到“剩下的代码在这里”都是标本。调模型性格之前,先想清楚你愿意接受哪一种错误。
- 提示词的上限是你对自己的理解。Amanda 的流程可以照搬:定义术语,站到模型的位置找边界案例,把案例喂回去迭代;另外定期问自己一句——我是不是失败得不够多?
本集资源与出处
- 视频在 YouTube 收看
- 音频官方 MP3 直链来自 lexfridman.com 官方播客 RSS
- 官网Lex Fridman 官网本集页面
- 文稿官方 Transcript(lexfridman.com)