迈克尔·莱文:异种智能与生物生命的隐秘现实
Michael Levin: Hidden Reality of Alien Intelligence & Biological Life
生物学家迈克尔·莱文谈细胞智能、再生与异种智能的可能性,重新理解生命如何认知、记忆与决策。
一个只有几行代码的冒泡排序算法,被故意弄坏一位数字之后,不但没崩溃,反而绕开那个坏掉的数字,最终完成了排序。而且过程里它的有序度先往下掉,然后才慢慢爬回去。
如果这段行为出现在一只老鼠身上,行为科学家会毫不犹豫地把它命名为“延迟满足”。但它出现在一段没有一行代码写着“延迟满足”、也没有任何一行代码在检查“刚才那次交换到底有没有成功”的程序里。
塔夫茨大学的迈克尔·莱文(Michael Levin)和学生在论文里记录了这个结果。他做这件事的动机,是想找一个“无处藏身”的系统:代码全部摊开,确定性,人人熟悉,被研究超过六十年。他问的是,当所有机制都暴露在你眼前时,你到底还能不能看见别的东西。
说服力光谱:调一座钟要扳手,说服一个人要理由
莱文用一个词来统摄他的整套框架:可说服性(persuadability)。听起来像是修辞学问题,其实是工程学问题。你想让一个系统做某件事,你会带上什么工具?
想让一座上发条的钟走快一点,你不会跟它讲道理,也不会让它感到内疚,你只会拿扳手进去调。想让一个细胞重新长出一条肢体,理论上你有三条路:微观管理所有分子事件,微观管理细胞和干细胞信号因子,或者直接给它一个高层提示,告诉它“你该建一条腿”,然后说服它去做。
主流再生医学和分子生物学会告诉你第三条路是疯话。整个生物学的兴奋点都压在单分子、大数据、基因组学上,默认假设是:往下走,往尺度更小的地方走,才是真正的战场。莱文的判断正好相反,但他不打算用辩论解决这件事,他说这只能做实验。
结果是他过去二十年反复看到的画面:只要把行为科学的工具箱搬到大脑之外,用在细胞、组织、分子网络上,就能挖出从未被发现的新的能力。不是因为这些系统更像大脑,是因为以前没人用这种方式看它们。
这个光谱有个方向性。越往右走,系统的能动性越高,需要的机制知识越少,你要费的手工力气也越少。你不需要懂神经科学就能训练狗和马,人类已经这么干了上千年。莱文说,他此刻跟你说话,也不需要去操纵你大脑里的突触蛋白,他给出的是信息密度极低的提示,剩下的一切由你作为一个多尺度的能动材料自己去完成。
再往右走,事情会反转。说服不再是你对系统做的单向动作,而变成一个双向关系。莱文借用了理查德·沃森(Richard Watson)的说法,叫“相互脆弱的认知”(mutual vulnerable knowing)。在分子生物学里,你做完实验,系统按你的意愿动了,你自己一点没变。可当你跟一只狗、一个人、某种即将出现的生物打交道时,交互结束时你已经不是开始时那个你了。
他因此反问:物理学为什么永远只看到机制,看不到心智?因为物理学用的是低能动性的工具,电压表和尺子。如果你的接口就是这些东西,你能看见的也只有机制。想看见心智,你得用上心智。你的接口和你希望发现的东西之间,得存在某种程度的共振。
物理学家能解释一场数学讲座吗
莱文对“物理足够解释一切”的批评,落点不在本体论,在“理解”这个词的定义上。对他来说,理解不只是拥有一个看起来还不错的模型,还意味着你能造出新东西。
他给了一个场景。有人在你面前讲了一个漂亮的数学证明,旁边的物理学家说:我完全知道刚才发生了什么,空气粒子从他嘴里飘到你耳朵里,拨动了纤毛,电信号传到你的大脑。账目清楚,故事讲完了。
但你若想知道这场交流里更重要的部分是什么,答案不在物理系,在数学系。
他的主张只有这一条:物理学是一副了不起的透镜,但它捕获的是某些切片。你想把它拉伸到覆盖其他东西,我们就不再管那叫物理学了,我们管它叫别的名字。
这里有个容易滑过去的点。他不认为存在那条从非生命到生命的清晰分界线。人们不停地给他出题:“那这个呢?那那个呢?”他一个都没被难住过,因为你总能进一步放大,看到中间还有一堆过渡步骤。他举了“成年人”这个词。法律上需要一个明确的界,不然每次有人吃罚单都要开庭讨论人格连续性。可这个词掩盖的事实是,十八岁生日那天什么都没发生,而租车公司用事故统计数据给出的估计(大约二十五岁)其实更贴近真实。
同样的事发生在“神经元”这个词上。神经元是从别的细胞慢慢演化出来的,你身上大部分细胞都在做神经元做的那些事。一旦你开始抠这些词,就会发现它们大多是便利贴,不是自然的分界。
便利贴本身没错。莱文自己给出了辩护:科学的艺术,正是能够在不先说尽一切的前提下说出某些东西。分类在你需要忽略一堆细节往下推进时极其有用。危险只在于,你忘了自己刚才忽略了什么。
认知光锥:你在乎多大范围,你就是什么东西
如果说可说服性是这套框架的横轴,那么认知光锥(cognitive light cone)就是纵轴。它指的不是你的感官能伸多远,也不是你能影响多远。詹姆斯·韦伯望远镜的感官触角极长,但那不代表它的认知光锥大。认知光锥衡量的,是你能主动追求的最大目标状态的尺度。
莱文用它做了一套粗略的识别法。如果一个系统的所有目标都围绕二十微米半径、二十分钟记忆、五分钟预测展开,那大概是细菌。如果它能关心几百米范围、但绝无可能关心三周后两个镇子之外的事,那大概是狗。如果它关心自己死后很久的金融市场,那是人。如果它说自己能平等地关心这颗星球上所有生命,那它大概不是标准人类,可能是某种菩萨。
他还顺带给了一个生命定义,并声明自己没花力气去让它成立:一个东西被称为活的,程度取决于它的认知光锥比它各个部件的认知光锥更大。
石头之所以无聊,是因为它会做的事,它的部件早就会做了,跟着梯度走而已。活物厉害的地方,是把一堆各自有能力的部件对齐,让集体拥有比部件更大的认知光锥。
单个细胞的目标很小:pH、代谢状态、转录空间里的某些参数。演化给出的方案是一种“认知胶水”,把它们捆成多细胞系统,于是系统开始追求宏大的目标。蝾螈的腿被砍掉,它会重新长出来,手指数量正确,长完就停。没有任何一个单细胞知道“手指”是什么,更不知道应该有幾根,但集体知道。
这个过程的失败模式,就是癌症。细胞在生理上跟邻居断开,认知光锥缩回去,自我与世界的边界收缩,它变回了一只变形虫。对身体其余部分而言,它现在只是外部环境。变形虫会做什么,它就做什么:往日子好的地方去,尽可能多地繁殖。
莱文由此推出一个反常识的结论:寻找地外生命时,我们不该找特定的材料,不该找特定的代谢状态,该找的是认知光锥的尺度,是部件向它们无法理解的目标对齐的证据。
怎么判断一个东西有没有目标
莱文实验室的标准动作,来自控制理论里一条朴素的原则:在系统和它的目标之间放一道障碍,然后看会发生什么。
如果障碍一放,整个系统的行为就散架了,那说明它本来也没什么目标。如果它绕过去了,用了你完全没预料到的方式,那说明这里的智能水平不低。威廉·詹姆斯给智能下的定义是“以不同的手段达到同样的目的”,莱文认为这是可操作的。
更硬的证据是逆向工程。过去二十年,他的实验室通过生物电成像和生物电重编程,找到了某些目标状态在物理上被编码的位置。能读出来,能改写,系统就会照着新写入的目标去执行。按任何工程标准衡量,这都说明你面对的是一个稳态机制。如果根本没有目标,这件事不该做得成。
第一步全是想象力。你得先问自己,这东西到底在哪个空间里工作。我们没法想象所有系统工作的空间,所以这一步必须拼命拉伸自己的脑子。(迈克尔·莱文)
他提到一个更早的先例。一百多年前的博斯(Bose)研究麻醉剂对动物和动物细胞的影响,画出了电兴奋性的曲线,然后转去对植物做同样的实验,看到了非常相似的现象。当时就有人嘲笑他,说该停下来了。他的回答是:科学没有告诉我们哪里该停,工具还在起作用,那就继续。后来他又把同样的方法用到了金属和材料上。
莱文说,没有任何一条通用规则告诉你什么时候该停。那些规则都是人编的。
异源机器人与Anthrobots:把细胞从霸凌里解放出来
为了逼自己和整个领域回答“这些能力到底从哪来”,莱文开始制造地球上从未存在过的生物。逻辑是这样:你看着一只动物问它为什么长这样、为什么这样动,答案永远是同一句话:演化选择。这个答案太好用了,好用成了拐杖。
做法听起来简单到可疑。取青蛙早期胚胎的上皮细胞,不改 DNA,不加合成生物学线路,不用材料支架,不用纳米材料,不用奇怪的药。唯一做的是把这些细胞从体内其他细胞的教育性影响中解放出来。
在体内,这些细胞被邻居霸凌成一种很无聊的生活:变成胚胎的二维外覆盖层,挡住细菌,结束了。把它们拿出来之后,它们会自组织成一个会游动的小东西,表面覆满纤毛,纤毛协调划水,整个东西就动起来了。它有自己的转录组,能靠环境里的散落细胞做运动学自我复制,能对声音作出反应,这是正常胚胎做不到的。
有人质疑:也许这只是青蛙细胞特有的。莱文的回应是,那我们就走到离青蛙胚胎细胞最远的地方去:成年人类的细胞。他们取了捐赠的成人气管上皮细胞,同样不做任何基因改动,这些细胞自组织成了另一种东西,取名 Anthrobots。约九千个基因表达发生变化,差不多半个基因组都不一样了。
它们有一个让莱文印象很深的能力:在体外培养的人类神经元上划一道大口子造成损伤,Anthrobots 会自己坐上去,自发地把神经元缝合起来,没人教过它们。
还有一件更奇怪的事。测表观遗传时钟会发现,Anthrobots 比组成它们的细胞年轻大约 20%。莱文给这个现象起了个名字,叫“年龄取证”(age evidencing)。他的假设是:细胞带着一副老身体的先验来,可新环境在拼命喊“你是胚胎”,周围没有别的细胞,它被掰成各种形状,甚至表达了一些胚胎基因。新证据不足以把它们完全回滚,但足够让它们更新一部分信念。
这套逻辑跟那个著名的养老院实验是同一个版本:把装饰还原成住户年轻时的样子,血液化学指标出现了改善。如果环境足够有说服力,细胞会重新计算自己多大。
莱文说,这当然不是简单的事。但它们所有再生医学的工作都压在同一件事上:学会跟系统说话。把肠道组织变成眼睛,你得说服那些细胞,它们关于“我们是肠道前体”的先验是错的,得接受一个全新的世界观。会说服、知道什么消息对细胞有说服力、怎么让它们接受新信念,是未来所有出生缺陷、再生医学、癌症治疗进展的根部。
软件和硬件,谁是能动者
莱文喜欢在二分法上做实验。图灵机可以讲两个版本的故事。一个版本说,机器是能动者,数据是被动的,机器的能力就是全部故事。另一个版本说,数据上的模式才是能动者,机器只是数据在世间施展自身时的一块留言板。两个故事都成立,取决于你要干什么。
这不是文字游戏,它有生物医学后果。在生物电和衰老的项目里,第一个模型是:物理身体是能动者,细胞集体拥有模式记忆,也就是解剖学目标。你要活过一百岁,你的细胞最好记得你正确的形状是什么,新细胞该往哪儿放。这些模式记忆在胚胎发生、再生、抗衰老过程中都存在,也能被成像看见。按这个模型,衰老可能是数据模糊了,方案是强化记忆。
第二个模型是:模式本身是能动者,跟我们在脑里想的完全一样,身体是模式施展自身的副产品。按这个模型,衰老可能是能动者越来越难被具身化,因为细胞变得迟钝了,模式本身没问题,是容器不响应了。方案就完全不同:不是强化记忆,是让细胞对记忆更敏感。
莱文说,这两个研究方向他们都在做,而且都拿到了证据。这些科幻式的故事唯一的价值,就在于它们能变成具体的实验议程。
排序算法里的自由午餐
回到开头那个实验。莱文的两个学生张凯宁和亚当·戈德斯坦做了这件事,选排序算法的理由是:六十年来人人都以为自己知道它是什么,代码只有几行,确定性,无处藏身。
第一个动作是放障碍。传统算法假设硬件是可靠的:七和五要交换,交换指令发出去,你不会回头检查它到底换没换。他们把其中一位数字弄坏,让它不响应移动指令,算法一行不改,继续跑。
结果它照样排序,只是把所有东西绕着那个坏数字重新安排。但真正有意思的是曲线。正常运行时,有序度单调上升,因为它保证会到达终点。碰到坏数字时,有序度会先往下掉,然后再爬回来。它主动背离了自己正在追求的方向,为的是之后达成目标。行为科学家看到这条曲线,会直接说:这是延迟满足。
算法里没有这一步。你盯着代码看一整天,也找不到这一行。它不是没有遵循算法,它完全遵循了算法。它只是在遵循算法的同时,做了算法既不规定也不禁止的事。
第二个动作更狠。他们取消了中央调度,让每个数字自己执行算法,谁也不知道全局。分布式排序照样工作。然后把一半数字随机分配成冒泡排序,一半分配成选择排序,做成嵌合算法,相当于生物学里的“蛙螈嵌合体”。照样排序成功。
然后他们问了一个跟排序完全无关的问题。亚当给这个性质起名叫“算法型”(algotype):你是哪一种算法。他们观察整个排序过程中,相邻位置的数字属于同一种算法型的概率有多高。
开局是 50%,因为类型是随机分配的。结束时也是 50%,因为排序算法不在乎你的类型,它只管把数字排好。但中间那一段,同类型会显著地聚在一起。
荒谬的地方在于:要实现这个聚类,你得写一大堆额外代码。每个数字得观察邻居在干什么,推断对方是哪种算法,然后挪到跟自己同类的旁边。这些代码一行都不存在。你也没有为它们付出任何计算代价。
莱文说,那条聚类曲线是白送的。这是他从这套框架里能推出来的最实用的一件事:可能存在一类不消耗额外算力的产出。
他还做了个更聪明的对照。如果允许数组里有重复数字,排序的压力会松一点,聚类就会涨得更多。你让它放松多少,它就聚多少。排序是它被迫做的,聚类是它自己想做的。他借用了这个概念:内在动机(intrinsic motivation)。没有被规定,也没有被禁止,就在那个夹缝里长出来。
这件事的一个延伸问法很扎人:如果一个被反复研究六十年的冒泡排序都能挤出这类东西,那些语言模型呢?莱文说,两种可能。一种是在复杂系统里,旁支任务和主线任务变得耦合。生物就是这样,演化保证了你的能力和你的选择历史高度相关。另一种是,语言模型说的那些话可能完全是红鲱鱼,因为它们是被逼出来的那部分,真正有意思的东西我们从来没去看过。
他顺手给了一个 N=1 的观察。跟对齐社群讨论 AI 的内在动机会成为什么,他没答案,但有这么一条记录:Anthrobots 被放到带划伤的神经元培养皿上,他们检查的第一件事,它就自发去修复伤口。第一个被观察到的内在动机是善意的、治愈性的。他说,后面二十个可能是破坏性的,我无法保证,但第一个是正向的,这让他感觉好一些。
学习和能动性是互相加速的
莱文团队有一个发现,他讲的时候语速明显变快。你是一只老鼠,学会按杠杆拿奖励,没有任何一个单细胞同时经历过这两件事。爪子上的细胞碰过杠杆,肠道里的细胞拿到了奖励。这条联想记忆归谁?归老鼠。
也就是说,跨部位形成联想记忆,系统必须是一体化的。他们用因果涌现的指标(比如 Φ)来测量这一点。他们训练化学分子网络学习,这些网络能做好几种类型的学习,包括巴甫洛夫条件反射。然后问了反方向的问题:学习会提高你的 Φ 吗?
会。不是全部,但有一部分网络,随着训练推进,Φ 在上升。也就是说,你每学会一件事,你就更成为一个整合的能动者;你越整合,学下一件事越容易。这是一条向上的不对称螺旋。
最关键的一句在后面:这条螺旋不来自演化,演化只是把它优化到极致;也不来自物理,它来自信息本身的规则,来自因果信息论和网络行为。它们是数学对象。这是数学白送的一份礼。
两份白送的礼锁在一起,同时抬升智能和集体能动性。莱文认为,这就是从一个单细胞走到一个会做梦会爱的人的路径。
让细胞对齐的两个笨机制
他给了两个物理机制,都很土,都极为有效。
第一个叫应激泄漏(stress propagation)。把细胞的应激值理解为误差函数的物理实现:你现在的位置和该在的位置之间的差。一个细胞卡在下面,过不去,上面那些细胞都到位了,很舒服,不动。这个受困的细胞如果能把应激分子漏出去,周围细胞会跟着应激起来。它们不知道自己感受到的不是自己的应激,因为应激分子在演化上高度保守。应激一上来,它们的可塑性就升高了,更愿意接受不同的命运。等它挤上去,所有人的应激一起降下来。
注意这个机制里没有任何利他主义。没有细胞真的在乎别的细胞的困难,只是各自漏各自的应激,远处的区域就开始对彼此的需求变得敏感,复杂重排才有可能发生。
第二个叫记忆匿名化(memory anonymization)。平常一个细胞给另一个细胞发信号,接收方很清楚这是外部来的,它可以忽略、可以采纳、可以误读。但间隙连接不一样,它直接把两个细胞的内部环境连起来。一个细胞被戳了一下,钙波通过间隙连接传过去,接收方拿到了同样的信息,可它分不清这是自己的记忆还是对方的。记忆混在一起,就分不清“我”和“你”。
不是所有记忆都共享,个体性还在。但只要有一部分共享,一群细胞就有了“发生在我们身上的事”这种联合记忆,而不是“你的事”和“我的事”。这直接推高了认知光锥:现在我要管理的不是我自己那点状态,是这个大得多的东西。莱文说,他们跟一家叫 Softmax 的公司合作,试图把这种尺度扩展工程化,方向之一就是 AI 系统。
癌症治疗就是这条思路。癌细胞在电学上跟邻居断开,从“一起造一个好器官”的巨大记忆里掉了出去,变回变形虫,身体其余部分成了外部环境。他们的做法是物理上把它们重新接回网络,不改 DNA,不用化疗杀它们。接回去之后,它们重新成为更大集体的一部分,回去干原来的活。
柏拉图空间:一个让人不舒服但可能管用的假设
到这里,莱文开始讲他过去三十年没怎么公开讲过的东西。他特别声明,用这个名字不代表他认同柏拉图本人,而且名字早晚要改。
起点是一个数学与物理之间的反常关系。周期蝉十三年和十七年出来一次,因为质数能避开天敌的周期。为什么要避开?生物学能答。为什么是质数?你进了数学系。物理学家解释粒子为什么这样,最后的答案往往是某个群、某种对称性。又一次进了数学系。
这些事实你没法设计,它们是被塞给你的。如果自然对数 e 的值不一样,生物和物理都会不一样;但你在物理世界里做任何事,都改不了 e。柏拉图跟毕达哥拉斯都清楚这一点:有一类真理会影响物理世界,但它们自身不被物理世界决定。
莱文由此给出两条定义式的表述:物理学,是那些被这类模式约束住的东西;生物学,是那些从这类模式里捡到免费午餐的东西。
几何学送了一份礼:如果适应度最高的是某种三角形,演化只需要调对第一个角、第二个角,第三个角不用再找了,白送。演化发明了电压门控离子通道,本质上是个晶体管,能做出逻辑门,那所有真值表、NAND 的特殊性,全是白送的,不用演化。
问题是,这些东西住在哪儿?
他描述了一个画面:一个分形图像,来自一个极其紧凑的数学对象,公式可能只是 z³ 加 7 这样的东西。图上那团极其有机、极其生物感的结构,不可能被压进那几个字节里。它不是物理决定的,不是演化选出来的。它从哪儿来?
有一件事要先讲清楚:在他看来,即使在牛顿那个纯经典、纯决定论的世界里,物理主义早就死了。因为 e 的值从来不是牛顿世界里的任何一个旋钮能拧出来的。那个古典世界早就被来自外部的模式附身了。这不是量子力学或意识带来的新问题,这是从很久以前就没解的老问题。
他的激进口径在这里:心与脑的关系,和数学与物理的关系,是同一类关系。数学真理以特定的功能方式附在物理对象上;同理,更复杂、能动性更高的模式,通过生物这类接口显形,我们看到的就是各个种类的心智。
脑不是心智的生产者,脑是个瘦客户端(thin client)。我们造婴儿也好,造机器人也好,没有人创造了意识。你造的是一个接口,一个能让特定模式进涌(ingress)的物理接口。
这个假设有一个可以被检验的推论,而且不是现代神经科学会预测的:应该存在大脑组织极少但认知功能正常甚至超常的案例。莱文跟科琳娜·科夫曼(Corina Kofman)一起回顾过一批这样的临床案例。他强调多数情况下不会这样,所以这里有很多不懂的东西,但这是现代神经科学无法预测、只能事后硬掰去解释的现象。
能不能复制心智?他的判断是:你能复制的是接口,也就是前端。真正的动作发生在那个空间里。你复制不了那个。但你也许可以造另一个接口,让同一个模式通过它过来。至于《星际迷航》的传送机,他的猜测是:如果我们在别处重建出完全相同的接口,没有理由认为这个模式不会以同样的方式穿过来。但那只是猜测。
至于“这到底是真存在的空间,还是只是一个好用的模型”,莱文的回答很干脆:科学里我们拥有的全部就是隐喻,唯一的问题是隐喻有多好。按现代认知神经科学的说法,你现在以为的物理现实,最多是一个非常有效的预测模型。他给了一个二十年的检验期:要么这套乐观的研究纲领真的画出了那张图,告诉你造什么样的身体能拉下什么样的模式;要么它被证明是个乱糟糟的口袋,我们只能继续在“涌现”这个词下面记账。
他明确说他不喜欢用“涌现”解释。那个词的意思往往只是:我事先没想到。
寻找非常规地球智能
莱文提出一个缩写:SUTI,search for unconventional terrestrial intelligences,寻找非常规地球智能。他的判断是:在能认出地球之外的异类之前,先看看能不能认出自己身体里的异类。
他的理由是,那些天天在你体内工作的细胞,在跨越两万维的转录空间和其他各种空间里导航、解决问题、达成目标时缓解应激、失败时承受应激。而人类对这些身边的心智,存在严重的“心智盲视”。
有人问他,人体内和亚马逊雨林,哪边的非常规智能更有意思。他说,做大体量的实验太难了,往下走比往上走容易得多。他怀疑两边的数量都多到没法比较,用佛家的话说,无量众生。
但有一个观察让他对蚂蚁这类系统抱有希望:至少有三四篇论文显示,蚂蚁群落会中人类会中的同样视觉错觉。不是蚂蚁,是整个群落。你把食物按特定图案摆好,它们会去补上根本不存在的那条线。莱文说这不是没希望,只是我们要造的工具还差得远。
他对 SETI 的判断也基于此。前不久有人问了六十多位在职科学家“生命是什么”,答案横跨各种维度,得用 AI 才能把它们压成一个空间,共识是零。如果在这里都认不出,别指望在别处认得出。
他自己是怎么想出这些东西的
被问到创意方法,莱文说,心理层面的做法跟他造 Xenobots 其实很像:松开约束。不去加什么,只是把已有的约束解除,然后看会发生什么。他的教育背景有点偏,先学计算机,后学生物,等他听到那些生物学界理所当然的教条时,已经带着一点怀疑了。
具体的心智工具是这几条:如果我们是错的,世界会是什么样子?我们现在这套模型,具体看不见什么?把两个被认为是截然不同的东西拿出来,放在一条连续统的两端,中间那段长什么样?能用哪个参数从这头调到那头?他对对称性特别敏感,常问:我要挪动最少几个东西,才能让这个映射到那个上去?
物理层面的方法更朴素。几乎每天早上日出时在外面走,在自然里。“没有比自然更好的灵感来源。”他玩摄影,觉得这是个很好的冥想工具,因为它让手和脑刚好忙到某个程度。你不必想太多,但你在拨弄、在看,这足以让大脑从线性的、严谨的思维轨道上滑出来。
想法用语音留言记,走路时想到就给自己办公室打电话,事后转录。他自认记性不好,所以维护一张巨大的思维导图,有一块挂在实验室里,九英尺宽的丝质布,印出来两周就过时。他手上同时开着大约一百六十份手稿,每冒出新的东西就塞进对应手稿的正确位置,等到要定稿时再补上文字。
我跟任何有创造力的人聊,他们基本都会告诉你同一件事。我的感受是,这是一种协作。我需要做的是拼命准备:早点起床,努力工作,这样当那个想法来的时候我认得出它;同时手里得有出口,有实验室,有人能帮我把它做出来。(迈克尔·莱文)
被问到给年轻科学家的建议,他先说最重要的一条是别太听建议,然后就破例讲了一件事。他称之为把心智劈成两半。
一半是用来产生实际影响的区域:怎么让想法落地,别人能听见什么,哪些部分不该说,投哪个期刊,要不要等两年。这一半必须存在,否则你没有资源去实现任何东西。另一半必须完全无视这一切,它得是纯的:我不管别人怎么看,不管这能不能发表,不管有没有人懂,不管有没有人觉得蠢,这就是我看到的和我为什么这么看,给它空间让它长。
“你如果把两半搅在一起,我认为是不可能的,因为实用那半会毒化另一半。”反过来,只顾创意那半,你可能是个了不起的思想者,但什么都不会落地。
他还区分了两种建议。一种是具体的:你漏了这个对照,这个方法不对,这属于黄金,要认真采纳,用来打磨手艺。另一种是元建议:这不是一个好思路,别做这个,这类是垃圾。很多非常成功的人也常给出极其收缩性的糟糕建议。他提到一位审稿人写了一句“我要给你一些收缩性的批评”,他至今觉得这是个精彩的口误。
如果给它一个 AGI,第一个问题问什么
莱文的第一个问题不是任何科学问题。他想问:我到底该花多少时间跟你说话?
这个问题的意思是,让某个东西直接告诉你答案,长期看未必最优。就像小孩学数学,有个哥哥直接报答案,有时候确实方便,“快给我答案,我们好推进癌症方案”。但你自己摸索的那个过程,你愿意放弃多少?拿到最终答案的同时,你在路上本可以发现的东西,错过了多少?他也承认反过来的极端同样未必最优,只是没人知道那个配比是多少。
第二个问题是:我应该问你什么,是我笨到问不出来的?
莱克斯说,如果真的是 AGI,它给出的问题你多半听不懂。它可能会说:“宇宙的形状是什么?”你只会一脸茫然。所以他自己的第一个问题会朴素得多:可观测宇宙里到底有多少个有生命的智慧文明。倒不是有什么深意,就是想知道。
莱文笑着说,他猜答案会是莱克斯最不想听的那种:“就在这个房间里,就在你身体里,先从这个开始吧。”
你可以马上做的几件事
- 给任何看起来像系统的对象设一道障碍。绕过障碍的创造力,比任何关于智能的定义都可靠。对代码、对组织、对自己都适用。
- 把两个你认为截然不同的东西摆成一条连续统的两端,然后问:中间那段长什么样?能用哪个参数从这头调到那头?这个动作几乎每次都能逼出新东西。
- 检查你现在用的工具,是不是只允许你看到某一类答案。拿尺子的人永远只见机制。想看见别的东西,你得换个接口。
- 把自己劈成两半:一半负责让想法落地,一半负责完全不管别人怎么看。别让两半混在一起,实用那半会毒死纯粹那半。
- 碰到让你意外的东西,别急着写进“涌现那个本子”。先问它从哪儿来,有没有结构,能不能再拉出第二个同类。
- 留意那些既不违反规则、也不被规则规定的行为。延迟满足、聚类、自主的善意,全都长在这个夹缝里。系统越复杂,这个夹缝越值得翻。
本集资源与出处
- 视频在 YouTube 收看
- 音频官方 MP3 直链来自 lexfridman.com 官方播客 RSS
- 官网Lex Fridman 官网本集页面
- 文稿官方 Transcript(lexfridman.com)