帕梅拉·麦考黛克：《会思考的机器》与人工智能的早期岁月

1979 年，《会思考的机器》（Machines Who Think）出版。作者在书的开头写下这样一层意思：人工智能始于人类锻造神祇的古老愿望。

说这话的人叫帕梅拉·麦考黛克（Pamela McCorduck）。一个英语文学出身的小说家，跑去给一个刚满十岁的科学领域写史。这件事本身就很奇怪，奇怪到她申请研究经费的时候，美国国家科学基金会的人直接跟她说：你只是个作家，你不是科学史家。

她的回答是：对，但科学史家早晚会把这块地翻个底朝天，我写的是给普通人看的东西。

对方还是没松口。

最后掏钱的是 MIT 的埃德·弗雷德金（Ed Fredkin）。一个有钱人，专门喜欢他所谓的"疯子想法"。他觉得给 AI 写史就是个疯子想法，值得支持。麦考黛克到今天还说，她永远感激这个人。

一个小说家决定给一个刚满十年的领域写史

故事的起点在斯坦福。她当时租了个房子过夏天，坐在门廊下，脑子里冒出一个念头：我应该写本小说，写写 AI 圈里这群怪人。

然后念头转了向。别写小说了，写历史。采访一圈，把材料拼起来，书就成了。

我当时的想法就是这么简单。结果比这难太多了。（麦考黛克）

难的地方在于，没人干过这件事。整个领域才十来岁，论文散在几十本期刊里，没有互联网，想看篇文章得跑图书馆。她之前给费根鲍姆（Ed Feigenbaum）当过助理，还参与过费根鲍姆和朱利安·费尔德曼（Julian Feldman）编的《计算机与思维》（Computers and Thought）。那是 AI 的第一本读本，编它的原因特别朴素：他们要在伯克利开课教 AI，学生找不到教材，只能被支使去这本期刊那本期刊翻。

约翰·麦卡锡（John McCarthy）听说她要写史，觉得这主意很蠢。他手上有个数学问题，希望她写那个。

她的回应后来成了名言：约翰，我不是一个找项目的女人。这就是我想做的事，希望你能配合。

麦卡锡嘟囔了几句，说，行吧，反正是你的时间。

她的时间，用在了一群正处在学术生涯顶峰的人身上。这些人愿意从忙碌里抽出几个小时，跟一个声称"我要写本关于你们的书"的女人聊天。她后来说，这件事让她觉得很谦卑。

四位奠基人，和一次带着能跑的程序去参会的经历

1956 年达特茅斯那场夏季工作坊，后来被追认为 AI 这个学科的诞生仪式。到场的名字现在都是教科书上的：麦卡锡、明斯基（Marvin Minsky）、香农（Claude Shannon）、纽厄尔（Alan Newell）、西蒙（Herb Simon）。

但麦考黛克特别强调一个细节。那间屋子里，只有纽厄尔和西蒙带着一个真正能跑起来的程序到场，叫"逻辑理论家"（Logic Theorist）。其他人带的是想法。

所有人都有很好的想法，关于他们打算怎么做。但他们还没做出来。（麦考黛克）

她把纽厄尔、西蒙、明斯基、麦卡锡称为四位奠基人。四个人走的路子完全不同。

纽厄尔和西蒙是认知心理学家。他们想要的是模拟人类智能的各个侧面，然后发现计算机能干这事。麦卡锡 1949 年在加州理工还是学生的时候，听了一场讲座，脑子里冒出"这个做起来应该挺好玩"的念头，之后一路走的是数学路线。明斯基是混合体，他觉得这事酷。

麦卡锡后来有一套很完整的论证，主题是人类有了这项技术会得到多大的好处。你要是提技术上的反对意见，他就给你一个技术上的解决方案，然后继续往下推。他最爱讲的一个东西叫"文学问题"：文学有它的成规，其中一个成规是故事里得有英雄和反派，英雄通常是人，反派通常是机器。

麦卡锡说，事情不会是这样的。

麦考黛克听完的反应是：他说得对。

希腊人的机器人，希伯来人的禁令

如果只把 AI 看成二战后数学和工程学的产物，会漏掉很长一段前史。

麦考黛克把这段前史归成两种态度。她管一种叫希腊观点：机器人是好东西，是好帮手，它们在赫菲斯托斯（Hephaestus）的锻炉里干活，人们张开双臂欢迎它们。

另一种叫希伯来观点，源头是第二诫，不可为自己雕刻偶像。不要开始模仿人，那是被禁止的。

这两种态度到今天还在打架。大量对 AI 的抵触情绪里，藏着一种"这事有点邪恶、有点亵渎"的感觉。麦考黛克的态度很干脆：确实会有坏处，但亵渎不在其中。

前史比她最初以为的还要长。有位古典学学者跟她聊起《奥德赛》，说这部史诗里全是机器人。她一愣。对方解释：奥德修斯那条船是怎么从一个地方开到另一个地方的？他根本没有足够的船员划桨。那是魔法，是机器人。

《伊利亚特》里也有。赫菲斯托斯的锻炉里有会自己移动的三足鼎。

再往后，十九世纪末二十世纪初，真有一批科学家试图把这事做出来，无一成功，技术条件不够。巴贝奇（Charles Babbage）在 1850 年代就意识到，他造的那台机器具备智能行为的潜力。然后钱花光了，英国政府说够了。他和洛夫莱斯夫人（Ada Lovelace）商量过用这台机器去赌马筹钱。他还有别的筹款点子。

《弗兰肯斯坦》里真正的反派是谁

麦考黛克家的茶几上放着一本注释版《弗兰肯斯坦》。她的评价是：这是一部极其出色的小说，洞察力惊人。

有意思的地方在于谁是反派。那个被造出来的生物从头到尾没有名字，弗兰肯斯坦是造他的那个人的姓。生物想要的是被爱、被接纳。只有当造他的人转过头去、转身跑掉，当它彻底得不到爱的时候，它才变成后来那个怪物。

麦考黛克说，反派是谁其实不清楚。真正把它逼成怪物的，是那些躲开它的人。

小说里有一段：生物和一个盲人成了朋友，它照料这个盲人，两人相处得很好。后来盲人家里的明眼人回来了，一看，你这里有个怪物。故事就此崩掉。

她提到的另一个细节，很多人不知道。玛丽·雪莱和珀西·雪莱大量阅读了当时美国废奴运动的文献，他们把那一整套论述搬进了小说里：你们之所以把这些人造化成怪物，是因为你们不肯给他们应得的尊重和爱。

这条线一直通到今天。当我们造出稍微聪明一点的东西，人类天性里那个虐待他者的部分会不会冒出来？麦考黛克不担心这个。她能想象它发生，但她认为 AI 能给人类的东西太有吸引力，人最终会被说服。

1974 年，AI 差点被从计算机科学的官方叙述里删掉

1974 年，计算机科学这个新学科被要求向国家科学基金会（也可能是国家科学院，麦考黛克记不清了）说明：你们这个领域到底是什么、意味着什么。

起草的人想把 AI 排除在外。

最后写进去，是因为高德纳（Don Knuth）说了一句话：这东西很重要，你不能漏掉。

你看，一个搞 AI 的人提这个意见，没人会信。但高德纳说了，大家就信。（麦考黛克）

她丈夫乔·特劳布（Joe Traub）不在 AI 圈，做的是算法复杂性。特劳布反复说过一句话：我认识的最聪明的人，都在 AI 里。

这段历史能解释很多事。一个领域在学术版图上的位置，有时候不取决于它做了什么，取决于谁替它说话。

关于"AI 寒冬"，她的用词是"胡扯"

谈到八十年代专家系统的热潮和随后的退潮，麦考黛克的反应很直接。

所谓 AI 寒冬这一整套说法，在我看来就是胡扯。（麦考黛克）

她的理由是：八十年代做的是基础研究，那些研究非常重要，铺下了此前没人想过的东西。问题在于它没法变现。所以有了寒冬。

她接着说了一句更硬的话：科学研究本来就是走走停停，不是那种漂亮的、这一步接着那一步的线性推进。它就不是那样运作的。

不过对面追问得也很有力：寒冬往往不是研究者的错，是有人过度承诺。麦考黛克承认，有时候确实是研究者的错，有些研究者自己就相信"再有个几年就成了"。

这场对话发生在 2019 年。提到马斯克说一年内就会有自动驾驶汽车，她的反应是：一年？

她相信自动驾驶会来，只是不相信会是一年。她还补了一句关于过度承诺的完整因果链：到了承诺的日期，东西没出现，大家一算账，花了几十亿，一分钱没赚回来，然后整个领域在智力层面被放弃。希望死掉，只剩下少数几个基础研究者。

但她也提了另一面。英国当年出过一份报告，结论是英国不该再往这个方向投钱，反正走不通。那背后有一堆学术政治，爱丁堡看不上剑桥，剑桥看不上曼彻斯特。结果是英国的研究确实受了重创。后来 DeepMind 让他们重新杀回来，但那是一个人和他身边几个有远见的人撑起来的。

我敬佩科学，可能超过我敬佩商业。商业挺好，大家都得活着。但科学看的时间尺度比商业长得多。（麦考黛克）

雪莉酒、西蒙，和一场八个人的月度沙龙

写《会思考的机器》那段时间，赫伯·西蒙和她成了很亲近的朋友。西蒙每天下班走过匹兹堡的诺森伯兰街，会路过她家。她那时正在给打字机盖罩子，探出头问一句：赫伯，要不要来杯雪莉酒？

西蒙几乎每次都要。

一聊就是一两个钟头。她的日记里写着"今天下午我们聊了三个小时"。

聊的几乎不是 AI。聊文学，两个人都爱。西蒙把普鲁斯特的法文原著完整读过两遍，她只读过英译本。聊语言，聊音乐，聊艺术，西蒙画画画到一定程度，后来怕影响研究，硬是放下了。

有一个夏天，她跟西蒙抱怨：我的学生之间才有真正有意思的对话。她那时候在匹兹堡大学英语系教书，学生聊的是人生的意义。她自己呢，开会讨论复印预算，讨论浪漫主义诗歌这门课该开一学期还是两学期。

西蒙笑了，说，我懂你的意思，但你可以做点改变。他和妻子多特在芝加哥大学的时候，每个周日晚上办沙龙，敞开家门，来的都不是为了寒暄，是为了聊一个有深度的话题。他的建议是：提前定好题目。

于是有了那个八人小组。纽厄尔夫妇、西蒙夫妇、刚搬到城里的作家马克·哈里斯（Mark Harris）夫妇，加上她和乔·特劳布。哈里斯当时最有名的小说是《慢板敲鼓》（Bang the Drum Slowly），写棒球的。八个人每月聚一次，啃硬话题。

算法怎么从配角变成了主角

她离开 AI 圈一段时间，卷进了圣塔菲研究所的复杂性研究。等她再回来，听一个年轻学生讲自己在做什么，她愣住了。

我那时候的想法是，算法是用来服务别的东西的，它不是主戏。结果算法成了主戏。这让我很意外。（麦考黛克）

符号处理那条路几乎干涸了。深度学习的应用铺天盖地，但那都是算法层面的东西。

她对这个转向的副作用看得很清楚。用一个算法去基于千万人的历史决策做判断，那些决策里烤着人类犯过的所有错误：偏见、歧视、短视，一样不少，全部打包进去。

这里还有一个她自己的判断值得停一下。她说符号处理那一块"还有很少的东西"，是一片等着勤奋研究生去开垦的地。这句话是 2019 年说的。

哈罗德·科恩的 AARON，和圣塔菲那两个月

她关于 AI 的最后一个大项目，写的是画家哈罗德·科恩（Harold Cohen）。

科恩先是画家，后来深度介入 AI。他做了一辈子的项目叫 AARON，干的事情是把他自己的认知过程反映出来。

两人合作得并不顺，摩擦不少。书写完出版，用她自己的话说，掉进了沟里，没激起水花。她当时的判断是：完了，我到头了，该换件事做了。

转机是丈夫的一次休假。两个月在圣塔菲研究所，两个月在加州理工，春天在慕尼黑。

圣塔菲那两个月把她救回来了。研究所当时很小，挤在老圣塔菲路的一个办公区里，所有人门都开着。你卡在一个问题上想不通，推门进去找斯图尔特·考夫曼（Stuart Kauffman）或者随便谁，说我不懂这个，你给我讲讲。

她跟默里·盖尔曼（Murray Gell-Mann）聊复杂适应系统，顺口讲了科恩的 AARON 在做什么，说这听起来像个复杂适应系统。盖尔曼说，是的，它就是。

我当时特别释然。我想，行，你的直觉没错，你做的事是对的。我只是没有词汇。（麦考黛克）

她说如果那本书能重写，她会用另一套词汇去解释 AARON 到底在干什么。书刚出，改不了。

研究所当时的所长乔治·考恩（George Cowan）问过她，要不要写一本关于研究所的书。她当时盯着别的项目，婉拒了。多年后她说，他对我错了，我希望我当时答应了。这是一条她没走的路。

一个会听你讲第三遍往事的机器人

她和费根鲍姆合写《第五代》的时候，书里塞了个小故事，叫"老年机器人"。

这个机器人做的事不只是给你擦身、喂饭、推你到太阳底下。它听你说话。它说：再给我讲讲 73 年那次妙招。再讲讲你的孙子孙女有多糟糕，或者有多好。

它不图你的遗产。它也不是因为找不到别的工作才待在这儿。这就是它的工作。

故事的来历挺有意思。她需要给大学生讲 AI 可能是什么样，就编了这么个东西，一边讲一边加细节，学生在下面笑成一片。写进书里之后，《纽约书评》把她骂了一顿：看看，这就是 AI 圈的人，多没人性。

她的回应是：这难道不是件好事吗？

对面追问：你真希望它只是安静地听着？不想让它偶尔顶你两句？

她的回答很实在。她说自己快八十了，看过太多朋友请人上门帮忙的经历。有的人运气好，遇到极好的帮手。有的人家里那位整天开着电视，整天打电话。所以是的，到时候她希望它能自己滚到角落里，闭嘴。

但被再追一句，她松了口：一点点，顶一点点嘴是可以的。

这个细节值得琢磨。人要的不是一个完美仆人。人跟人之间的关系里有拉扯、有张力、有猜不透的部分，正是这些东西让关系活着。AI 要拿捏这个度，难度极高。

另一面她也看到了。社交媒体让人的孤独感越来越重，年轻人尤其重。那种想被听见的渴望，AI 能满足一部分。

"男性凝视"和那批最聪明的人

关于存在性风险，她有一整套自己的说法，而且用了一个来自电影批评的词。

男性凝视（male gaze）这个概念本来是讲电影的：大多数电影是从男性的视角拍的，女性是客体，不是主体，没有能动性。

她说，当埃隆·马斯克、霍金这批人出来讲"AI 要吃掉我们的午饭、晚饭和宵夜"的时候，她心里的反应是：什么？

她跟费根鲍姆说，你注意没有，这批人一直是街区里最聪明的那个。现在来了个可能更聪明的，他们的第一反应是：趁它还没接管，先把它掐死。

费根鲍姆笑了，说我没这么想过。她说，我想过。

这就是男性凝视。好，假设这些东西真的有能动性，那我们先等等看会发生什么。我们能不能把伦理放进去，能不能把共情放进去？（麦考黛克）

她顺带说了一句：我们已经有几个世纪的经验，处理那种没有共情的人。

她对库兹韦尔（Ray Kurzweil）那版奇点也不买账。按她的理解，那个版本讲的是一台机器比人聪明的时刻会到来，然后游戏结束。她的反驳很朴素：机器早就有一堆本事超过人了，从加法机被发明那天起就是。这事不会像某个十字路口，两拨人在那儿碰头，然后一方宣布另一方出局。

沙堆、Me Too，和四种未来

1996 年，她和南希·拉姆齐（Nancy Ramsey）写了本书，讲女性在科学与技术领域的四种可能未来。

写这种"未来情景"的方法，是把当下的不同侧面各自推到极端。里面有倒退，有进两步退一步，也有一个平权黄金时代。

她说最难写的就是那个黄金时代。

写它的时候，她用了圣塔菲研究所的一个模型：沙堆效应。沙子一粒一粒极慢地落到堆上，堆越长越高，直到某一粒落下，整堆突然崩塌。

Me Too 就是那最后一粒沙。

那是一个沙堆效应的完美例子。它没有改变整个社会，但它真的叫醒了一大批人。（麦考黛克）

不过她对整体进展的评价相当严厉。女性在计算领域被磨损的方式令人难以置信。变化了吗？变了，变得不够。

被问到是否乐观，她的回答是：我是天生的乐观主义者，改不了。

她自己的动机，几十年后才发现

有一个晚上，哈罗德·科恩和她喝了一两杯葡萄酒。科恩问她：到底是什么把你吸引到 AI 来的？

她给了一串标准答案。最聪明的人，了不起的项目，等等。

然后有句话自己冒了出来：我想要男性智力之外的东西。

这个念头是潜意识里的，我那时候根本不知道。它就这么冒出来了。（麦考黛克）

她后来解释：我太厌倦听到"智力存在于男性的头颅之内"这种说法了。如果外面有个东西，它的思考和成就不是男性的，那就能戳穿这一整套说法。

这句话放在她整个职业生涯里看，很多事就对上了。一个英语文学出身的人闯进全是理工男的领域，几十年后写一本关于女性未来的书，还顺手发明了一个老年机器人。

她自己给这件事下的判断是：AI 让所有人都谦卑，尤其是那些最需要被谦卑一下的人。

她唯一担心的事

被问到最担心什么，她的答案很短：担心那些我们预料不到的东西。总会有某个从左外野飞过来的事情，逼着人说一句：这个我们没准备好。

关于智力本身，她承认自己年轻时有个朴素得近乎天真的信念：更多智力等于更多美德。那时候的想法是，这能有什么坏处？

到现在她仍然部分相信这一点。但她对智力的定义变了。智力有很多种，生物学家现在可以坦然讨论细胞的智力、大脑的智力，不只人类的大脑，任何大脑。章鱼就非常聪明，用任何标准衡量都是。这在六十年代、七十年代是没人会想到的。

她说，得把很多种智力都装进机器里去。

访谈最后，她提到自己正在写一本回忆录。回头看这一整段人生，最大的感受只有一件事：她的运气实在太好了。赶上一个将要改变世界的科学领域的开端，还拿到了第一排的座位。

顺便说一句，她先生特劳布那句话，可能比任何一篇论文都更能概括这一代人的心情：我认识的最聪明的人，都在 AI 里。

• 如果手上有正在做的研究或产品，先分清它属于"能变现"还是"能铺路"。寒冬冻死的是前者，冻不死后者，但前提是你自己别把两者搞混。
• 遇到一个你打算"先砍掉再说"的新技术，先问一句：我是判断它不行，还是它让我不舒服？这两个理由经常被自己搞混。
• 给自己办一个小型沙龙。八个人，每月一次，提前定题目，不谈业务，只谈难题。麦考黛克靠这个撑过了职业生涯里最难的一段。
• 当你要评价一个自己不理解的新领域时，先承认"我只是没有词汇"，再去学。她和盖尔曼那次对话的全部价值就在这一句上。
• 如果你在做需要长周期的事，找一个像弗雷德金那样愿意给"疯子想法"掏钱的人，或者，自己成为那个人。