# 帕梅拉·麦考黛克：《会思考的机器》与人工智能的早期岁月 > AI 史学家回忆与人工智能先驱共事的年代，讲述这门学科早期的理想、争论与人物。 - 原标题：Pamela McCorduck: Machines Who Think and the Early Days of AI - 期数：特别节目 - 发布日期：2019-08-23 - 嘉宾 / 主题：帕梅拉·麦考黛克与 AI 史 - 网页版：https://lexfridman-cn.pages.dev/ep/pamela-mccorduck/ - 官方页面：https://lexfridman.com/pamela-mccorduck/ - 精读字数：约 6976 字（阅读约 16 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 1979 年，《会思考的机器》（Machines Who Think）出版。作者在书的开头写下这样一层意思：人工智能始于人类锻造神祇的古老愿望。 说这话的人叫帕梅拉·麦考黛克（Pamela McCorduck）。一个英语文学出身的小说家，跑去给一个刚满十岁的科学领域写史。这件事本身就很奇怪，奇怪到她申请研究经费的时候，美国国家科学基金会的人直接跟她说：你只是个作家，你不是科学史家。 她的回答是：对，但科学史家早晚会把这块地翻个底朝天，我写的是给普通人看的东西。 对方还是没松口。 最后掏钱的是 MIT 的埃德·弗雷德金（Ed Fredkin）。一个有钱人，专门喜欢他所谓的"疯子想法"。他觉得给 AI 写史就是个疯子想法，值得支持。麦考黛克到今天还说，她永远感激这个人。 ## 一个小说家决定给一个刚满十年的领域写史 故事的起点在斯坦福。她当时租了个房子过夏天，坐在门廊下，脑子里冒出一个念头：我应该写本小说，写写 AI 圈里这群怪人。 然后念头转了向。别写小说了，写历史。采访一圈，把材料拼起来，书就成了。 > 我当时的想法就是这么简单。结果比这难太多了。（麦考黛克） 难的地方在于，没人干过这件事。整个领域才十来岁，论文散在几十本期刊里，没有互联网，想看篇文章得跑图书馆。她之前给费根鲍姆（Ed Feigenbaum）当过助理，还参与过费根鲍姆和朱利安·费尔德曼（Julian Feldman）编的《计算机与思维》（Computers and Thought）。那是 AI 的第一本读本，编它的原因特别朴素：他们要在伯克利开课教 AI，学生找不到教材，只能被支使去这本期刊那本期刊翻。 约翰·麦卡锡（John McCarthy）听说她要写史，觉得这主意很蠢。他手上有个数学问题，希望她写那个。 她的回应后来成了名言：约翰，我不是一个找项目的女人。这就是我想做的事，希望你能配合。 麦卡锡嘟囔了几句，说，行吧，反正是你的时间。 她的时间，用在了一群正处在学术生涯顶峰的人身上。这些人愿意从忙碌里抽出几个小时，跟一个声称"我要写本关于你们的书"的女人聊天。她后来说，这件事让她觉得很谦卑。 ## 四位奠基人，和一次带着能跑的程序去参会的经历 1956 年达特茅斯那场夏季工作坊，后来被追认为 AI 这个学科的诞生仪式。到场的名字现在都是教科书上的：麦卡锡、明斯基（Marvin Minsky）、香农（Claude Shannon）、纽厄尔（Alan Newell）、西蒙（Herb Simon）。 但麦考黛克特别强调一个细节。那间屋子里，只有纽厄尔和西蒙带着一个真正能跑起来的程序到场，叫"逻辑理论家"（Logic Theorist）。其他人带的是想法。 > 所有人都有很好的想法，关于他们打算怎么做。但他们还没做出来。（麦考黛克） 她把纽厄尔、西蒙、明斯基、麦卡锡称为四位奠基人。四个人走的路子完全不同。 纽厄尔和西蒙是认知心理学家。他们想要的是模拟人类智能的各个侧面，然后发现计算机能干这事。麦卡锡 1949 年在加州理工还是学生的时候，听了一场讲座，脑子里冒出"这个做起来应该挺好玩"的念头，之后一路走的是数学路线。明斯基是混合体，他觉得这事酷。 麦卡锡后来有一套很完整的论证，主题是人类有了这项技术会得到多大的好处。你要是提技术上的反对意见，他就给你一个技术上的解决方案，然后继续往下推。他最爱讲的一个东西叫"文学问题"：文学有它的成规，其中一个成规是故事里得有英雄和反派，英雄通常是人，反派通常是机器。 麦卡锡说，事情不会是这样的。 麦考黛克听完的反应是：他说得对。 ## 希腊人的机器人，希伯来人的禁令 如果只把 AI 看成二战后数学和工程学的产物，会漏掉很长一段前史。 麦考黛克把这段前史归成两种态度。她管一种叫希腊观点：机器人是好东西，是好帮手，它们在赫菲斯托斯（Hephaestus）的锻炉里干活，人们张开双臂欢迎它们。 另一种叫希伯来观点，源头是第二诫，不可为自己雕刻偶像。不要开始模仿人，那是被禁止的。 这两种态度到今天还在打架。大量对 AI 的抵触情绪里，藏着一种"这事有点邪恶、有点亵渎"的感觉。麦考黛克的态度很干脆：确实会有坏处，但亵渎不在其中。 前史比她最初以为的还要长。有位古典学学者跟她聊起《奥德赛》，说这部史诗里全是机器人。她一愣。对方解释：奥德修斯那条船是怎么从一个地方开到另一个地方的？他根本没有足够的船员划桨。那是魔法，是机器人。 《伊利亚特》里也有。赫菲斯托斯的锻炉里有会自己移动的三足鼎。 再往后，十九世纪末二十世纪初，真有一批科学家试图把这事做出来，无一成功，技术条件不够。巴贝奇（Charles Babbage）在 1850 年代就意识到，他造的那台机器具备智能行为的潜力。然后钱花光了，英国政府说够了。他和洛夫莱斯夫人（Ada Lovelace）商量过用这台机器去赌马筹钱。他还有别的筹款点子。 ## 《弗兰肯斯坦》里真正的反派是谁 麦考黛克家的茶几上放着一本注释版《弗兰肯斯坦》。她的评价是：这是一部极其出色的小说，洞察力惊人。 有意思的地方在于谁是反派。那个被造出来的生物从头到尾没有名字，弗兰肯斯坦是造他的那个人的姓。生物想要的是被爱、被接纳。只有当造他的人转过头去、转身跑掉，当它彻底得不到爱的时候，它才变成后来那个怪物。 麦考黛克说，反派是谁其实不清楚。真正把它逼成怪物的，是那些躲开它的人。 小说里有一段：生物和一个盲人成了朋友，它照料这个盲人，两人相处得很好。后来盲人家里的明眼人回来了，一看，你这里有个怪物。故事就此崩掉。 她提到的另一个细节，很多人不知道。玛丽·雪莱和珀西·雪莱大量阅读了当时美国废奴运动的文献，他们把那一整套论述搬进了小说里：你们之所以把这些人造化成怪物，是因为你们不肯给他们应得的尊重和爱。 这条线一直通到今天。当我们造出稍微聪明一点的东西，人类天性里那个虐待他者的部分会不会冒出来？麦考黛克不担心这个。她能想象它发生，但她认为 AI 能给人类的东西太有吸引力，人最终会被说服。 ## 1974 年，AI 差点被从计算机科学的官方叙述里删掉 1974 年，计算机科学这个新学科被要求向国家科学基金会（也可能是国家科学院，麦考黛克记不清了）说明：你们这个领域到底是什么、意味着什么。 起草的人想把 AI 排除在外。 最后写进去，是因为高德纳（Don Knuth）说了一句话：这东西很重要，你不能漏掉。 > 你看，一个搞 AI 的人提这个意见，没人会信。但高德纳说了，大家就信。（麦考黛克） 她丈夫乔·特劳布（Joe Traub）不在 AI 圈，做的是算法复杂性。特劳布反复说过一句话：我认识的最聪明的人，都在 AI 里。 这段历史能解释很多事。一个领域在学术版图上的位置，有时候不取决于它做了什么，取决于谁替它说话。 ## 关于"AI 寒冬"，她的用词是"胡扯" 谈到八十年代专家系统的热潮和随后的退潮，麦考黛克的反应很直接。 > 所谓 AI 寒冬这一整套说法，在我看来就是胡扯。（麦考黛克） 她的理由是：八十年代做的是基础研究，那些研究非常重要，铺下了此前没人想过的东西。问题在于它没法变现。所以有了寒冬。 她接着说了一句更硬的话：科学研究本来就是走走停停，不是那种漂亮的、这一步接着那一步的线性推进。它就不是那样运作的。 不过对面追问得也很有力：寒冬往往不是研究者的错，是有人过度承诺。麦考黛克承认，有时候确实是研究者的错，有些研究者自己就相信"再有个几年就成了"。 这场对话发生在 2019 年。提到马斯克说一年内就会有自动驾驶汽车，她的反应是：一年？ 她相信自动驾驶会来，只是不相信会是一年。她还补了一句关于过度承诺的完整因果链：到了承诺的日期，东西没出现，大家一算账，花了几十亿，一分钱没赚回来，然后整个领域在智力层面被放弃。希望死掉，只剩下少数几个基础研究者。 但她也提了另一面。英国当年出过一份报告，结论是英国不该再往这个方向投钱，反正走不通。那背后有一堆学术政治，爱丁堡看不上剑桥，剑桥看不上曼彻斯特。结果是英国的研究确实受了重创。后来 DeepMind 让他们重新杀回来，但那是一个人和他身边几个有远见的人撑起来的。 > 我敬佩科学，可能超过我敬佩商业。商业挺好，大家都得活着。但科学看的时间尺度比商业长得多。（麦考黛克） ## 雪莉酒、西蒙，和一场八个人的月度沙龙 写《会思考的机器》那段时间，赫伯·西蒙和她成了很亲近的朋友。西蒙每天下班走过匹兹堡的诺森伯兰街，会路过她家。她那时正在给打字机盖罩子，探出头问一句：赫伯，要不要来杯雪莉酒？ 西蒙几乎每次都要。 一聊就是一两个钟头。她的日记里写着"今天下午我们聊了三个小时"。 聊的几乎不是 AI。聊文学，两个人都爱。西蒙把普鲁斯特的法文原著完整读过两遍，她只读过英译本。聊语言，聊音乐，聊艺术，西蒙画画画到一定程度，后来怕影响研究，硬是放下了。 有一个夏天，她跟西蒙抱怨：我的学生之间才有真正有意思的对话。她那时候在匹兹堡大学英语系教书，学生聊的是人生的意义。她自己呢，开会讨论复印预算，讨论浪漫主义诗歌这门课该开一学期还是两学期。 西蒙笑了，说，我懂你的意思，但你可以做点改变。他和妻子多特在芝加哥大学的时候，每个周日晚上办沙龙，敞开家门，来的都不是为了寒暄，是为了聊一个有深度的话题。他的建议是：提前定好题目。 于是有了那个八人小组。纽厄尔夫妇、西蒙夫妇、刚搬到城里的作家马克·哈里斯（Mark Harris）夫妇，加上她和乔·特劳布。哈里斯当时最有名的小说是《慢板敲鼓》（Bang the Drum Slowly），写棒球的。八个人每月聚一次，啃硬话题。 ## 算法怎么从配角变成了主角 她离开 AI 圈一段时间，卷进了圣塔菲研究所的复杂性研究。等她再回来，听一个年轻学生讲自己在做什么，她愣住了。 > 我那时候的想法是，算法是用来服务别的东西的，它不是主戏。结果算法成了主戏。这让我很意外。（麦考黛克） 符号处理那条路几乎干涸了。深度学习的应用铺天盖地，但那都是算法层面的东西。 她对这个转向的副作用看得很清楚。用一个算法去基于千万人的历史决策做判断，那些决策里烤着人类犯过的所有错误：偏见、歧视、短视，一样不少，全部打包进去。 这里还有一个她自己的判断值得停一下。她说符号处理那一块"还有很少的东西"，是一片等着勤奋研究生去开垦的地。这句话是 2019 年说的。 ## 哈罗德·科恩的 AARON，和圣塔菲那两个月 她关于 AI 的最后一个大项目，写的是画家哈罗德·科恩（Harold Cohen）。 科恩先是画家，后来深度介入 AI。他做了一辈子的项目叫 AARON，干的事情是把他自己的认知过程反映出来。 两人合作得并不顺，摩擦不少。书写完出版，用她自己的话说，掉进了沟里，没激起水花。她当时的判断是：完了，我到头了，该换件事做了。 转机是丈夫的一次休假。两个月在圣塔菲研究所，两个月在加州理工，春天在慕尼黑。 圣塔菲那两个月把她救回来了。研究所当时很小，挤在老圣塔菲路的一个办公区里，所有人门都开着。你卡在一个问题上想不通，推门进去找斯图尔特·考夫曼（Stuart Kauffman）或者随便谁，说我不懂这个，你给我讲讲。 她跟默里·盖尔曼（Murray Gell-Mann）聊复杂适应系统，顺口讲了科恩的 AARON 在做什么，说这听起来像个复杂适应系统。盖尔曼说，是的，它就是。 > 我当时特别释然。我想，行，你的直觉没错，你做的事是对的。我只是没有词汇。（麦考黛克） 她说如果那本书能重写，她会用另一套词汇去解释 AARON 到底在干什么。书刚出，改不了。 研究所当时的所长乔治·考恩（George Cowan）问过她，要不要写一本关于研究所的书。她当时盯着别的项目，婉拒了。多年后她说，他对我错了，我希望我当时答应了。这是一条她没走的路。 ## 一个会听你讲第三遍往事的机器人 她和费根鲍姆合写《第五代》的时候，书里塞了个小故事，叫"老年机器人"。 这个机器人做的事不只是给你擦身、喂饭、推你到太阳底下。它听你说话。它说：再给我讲讲 73 年那次妙招。再讲讲你的孙子孙女有多糟糕，或者有多好。 它不图你的遗产。它也不是因为找不到别的工作才待在这儿。这就是它的工作。 故事的来历挺有意思。她需要给大学生讲 AI 可能是什么样，就编了这么个东西，一边讲一边加细节，学生在下面笑成一片。写进书里之后，《纽约书评》把她骂了一顿：看看，这就是 AI 圈的人，多没人性。 她的回应是：这难道不是件好事吗？ 对面追问：你真希望它只是安静地听着？不想让它偶尔顶你两句？ 她的回答很实在。她说自己快八十了，看过太多朋友请人上门帮忙的经历。有的人运气好，遇到极好的帮手。有的人家里那位整天开着电视，整天打电话。所以是的，到时候她希望它能自己滚到角落里，闭嘴。 但被再追一句，她松了口：一点点，顶一点点嘴是可以的。 这个细节值得琢磨。人要的不是一个完美仆人。人跟人之间的关系里有拉扯、有张力、有猜不透的部分，正是这些东西让关系活着。AI 要拿捏这个度，难度极高。 另一面她也看到了。社交媒体让人的孤独感越来越重，年轻人尤其重。那种想被听见的渴望，AI 能满足一部分。 ## "男性凝视"和那批最聪明的人 关于存在性风险，她有一整套自己的说法，而且用了一个来自电影批评的词。 男性凝视（male gaze）这个概念本来是讲电影的：大多数电影是从男性的视角拍的，女性是客体，不是主体，没有能动性。 她说，当埃隆·马斯克、霍金这批人出来讲"AI 要吃掉我们的午饭、晚饭和宵夜"的时候，她心里的反应是：什么？ 她跟费根鲍姆说，你注意没有，这批人一直是街区里最聪明的那个。现在来了个可能更聪明的，他们的第一反应是：趁它还没接管，先把它掐死。 费根鲍姆笑了，说我没这么想过。她说，我想过。 > 这就是男性凝视。好，假设这些东西真的有能动性，那我们先等等看会发生什么。我们能不能把伦理放进去，能不能把共情放进去？（麦考黛克） 她顺带说了一句：我们已经有几个世纪的经验，处理那种没有共情的人。 她对库兹韦尔（Ray Kurzweil）那版奇点也不买账。按她的理解，那个版本讲的是一台机器比人聪明的时刻会到来，然后游戏结束。她的反驳很朴素：机器早就有一堆本事超过人了，从加法机被发明那天起就是。这事不会像某个十字路口，两拨人在那儿碰头，然后一方宣布另一方出局。 ## 沙堆、Me Too，和四种未来 1996 年，她和南希·拉姆齐（Nancy Ramsey）写了本书，讲女性在科学与技术领域的四种可能未来。 写这种"未来情景"的方法，是把当下的不同侧面各自推到极端。里面有倒退，有进两步退一步，也有一个平权黄金时代。 她说最难写的就是那个黄金时代。 写它的时候，她用了圣塔菲研究所的一个模型：沙堆效应。沙子一粒一粒极慢地落到堆上，堆越长越高，直到某一粒落下，整堆突然崩塌。 Me Too 就是那最后一粒沙。 > 那是一个沙堆效应的完美例子。它没有改变整个社会，但它真的叫醒了一大批人。（麦考黛克） 不过她对整体进展的评价相当严厉。女性在计算领域被磨损的方式令人难以置信。变化了吗？变了，变得不够。 被问到是否乐观，她的回答是：我是天生的乐观主义者，改不了。 ## 她自己的动机，几十年后才发现 有一个晚上，哈罗德·科恩和她喝了一两杯葡萄酒。科恩问她：到底是什么把你吸引到 AI 来的？ 她给了一串标准答案。最聪明的人，了不起的项目，等等。 然后有句话自己冒了出来：我想要男性智力之外的东西。 > 这个念头是潜意识里的，我那时候根本不知道。它就这么冒出来了。（麦考黛克） 她后来解释：我太厌倦听到"智力存在于男性的头颅之内"这种说法了。如果外面有个东西，它的思考和成就不是男性的，那就能戳穿这一整套说法。 这句话放在她整个职业生涯里看，很多事就对上了。一个英语文学出身的人闯进全是理工男的领域，几十年后写一本关于女性未来的书，还顺手发明了一个老年机器人。 她自己给这件事下的判断是：AI 让所有人都谦卑，尤其是那些最需要被谦卑一下的人。 ## 她唯一担心的事 被问到最担心什么，她的答案很短：担心那些我们预料不到的东西。总会有某个从左外野飞过来的事情，逼着人说一句：这个我们没准备好。 关于智力本身，她承认自己年轻时有个朴素得近乎天真的信念：更多智力等于更多美德。那时候的想法是，这能有什么坏处？ 到现在她仍然部分相信这一点。但她对智力的定义变了。智力有很多种，生物学家现在可以坦然讨论细胞的智力、大脑的智力，不只人类的大脑，任何大脑。章鱼就非常聪明，用任何标准衡量都是。这在六十年代、七十年代是没人会想到的。 她说，得把很多种智力都装进机器里去。 访谈最后，她提到自己正在写一本回忆录。回头看这一整段人生，最大的感受只有一件事：她的运气实在太好了。赶上一个将要改变世界的科学领域的开端，还拿到了第一排的座位。 顺便说一句，她先生特劳布那句话，可能比任何一篇论文都更能概括这一代人的心情：我认识的最聪明的人，都在 AI 里。 - 如果手上有正在做的研究或产品，先分清它属于"能变现"还是"能铺路"。寒冬冻死的是前者，冻不死后者，但前提是你自己别把两者搞混。 - 遇到一个你打算"先砍掉再说"的新技术，先问一句：我是判断它不行，还是它让我不舒服？这两个理由经常被自己搞混。 - 给自己办一个小型沙龙。八个人，每月一次，提前定题目，不谈业务，只谈难题。麦考黛克靠这个撑过了职业生涯里最难的一段。 - 当你要评价一个自己不理解的新领域时，先承认"我只是没有词汇"，再去学。她和盖尔曼那次对话的全部价值就在这一句上。 - 如果你在做需要长周期的事，找一个像弗雷德金那样愿意给"疯子想法"掏钱的人，或者，自己成为那个人。