# 马克·安德森：互联网的未来、技术与 AI > 投资人安德森谈互联网的演变、技术如何重塑经济与媒体，以及 AI 带来的机会与风险。 - 原标题：#386 – Marc Andreessen: Future of the Internet, Technology, and AI - 期数：第 386 期 - 发布日期：2023-06-21 - 嘉宾 / 主题：马克·安德森 - 网页版：https://lexfridman-cn.pages.dev/ep/marc-andreessen/ - 官方页面：https://lexfridman.com/marc-andreessen/ - 精读字数：约 9047 字（阅读约 20 分钟） > 本文为 lex.qiaomu.ai 基于原始访谈的 AI 改写中文精读，非官方翻译；引用请注明出处并链接网页版。 Marc Andreessen 坐下来没几分钟，Lex Fridman 就把那个最直接的问题抛了出来：五年、十年之后，我们还需要 Google 搜索吗，或者说，我们还需要"搜索"这件事吗？ Andreessen 没有正面回答。他说了一句听上去毫不相干的话。 > "Sure, but we still have horses."（马克·安德森） 我们还有马。马没有灭绝，它只是不再承担交通功能了。这个类比的意思是，搜索不会消失，它会退到一个很小的、怀旧的角落里。 他真正想说的是，**搜索从来就是一个权宜之计**。所谓的"十个蓝色链接"（ten blue links），那套让你点进去、再点出来、再换一个关键词的标准动作，只是人类在技术条件不足时摸索出的临时方案。 ## 那十个蓝色链接的颜色，是他随手选的 访谈里有个特别具体的小插曲。Andreessen 提到"十个蓝色链接"这个词，Lex 追问了一句，他就顺口解释：标准的 Google 搜索结果就是十个指向随机网站的蓝色链接，访问过之后会变成紫色。然后他自己接了一句： > "Guess who picked those colors? Thanks."（马克·安德森） 是他。1993 年，Mosaic 浏览器，链接默认蓝色、访问后变紫，这两个颜色是他定的。今天全球几十亿人每天在屏幕上看到的那两个颜色，源头是三十年前一个人的随手决定。 这个细节值得停一下。我们谈论技术变革的时候，容易把既成的界面当成自然规律，好像互联网天生就该长这个样子。其实每一个看起来不可动摇的设计，背后都是某个具体的人在某个具体的下午做的选择，而且随时可以被换掉。 Google 自己早就知道这一点。Andreessen 说，他们想摆脱十个蓝色链接已经想了很多年。十五年前他们买过一家做知识语义映射的 AI 公司，那套东西后来变成了搜索框上方那个直接给答案的框。你问某人的生日，它不给你链接，它给你日期。这个方向他们走了很久，只是走得很慢。 他还提了一件更早的往事：语义网（semantic web）。那一代人的设想是，得把整个互联网的内容重写一遍，变成机器能读懂的结构化格式。走得最远的尝试叫 MetaWeb，他朋友 John Giannandrea 在那里干过，很长时间里看起来都是一场必败的仗，直到 Google 把它买下来，大家才反应过来这东西真有用。它是今天知识图谱的雏形。 然后是个转折：**你根本不需要重写互联网**。机器自己会读。 ## 模型内部本来就在做搜索 Andreessen 提了一个容易被忽略的角度：神经网络内部的工作方式，本身就是一种搜索。 信息以压缩的形式结晶在网络里，散布在权重各处，你提问的时候，它在做压缩和解压，沿着某条路径把对应的那块知识找出来。同一句话换个措辞，它走的是另一条路径，捞出来的信息也不一样。 麦克卢汉（Marshall McLuhan）那句老话在这里派上了用场：每种新媒介的内容，都是上一种媒介。电影的内容是舞台剧，舞台剧的内容是写下来的故事，写下来的故事的内容是口述的故事。互联网的内容是电视、广播、书、文章。那么 AI 的内容就是整个互联网。 按照这个逻辑，搜索不需要被淘汰，它会被折叠进去，变成一个随时可以调用的功能。你想要出处，它给你十个链接，让你自己去查。就像读论文，正文看完了，后面的参考文献还在，你想深挖就顺着读下去。 界面会变。Lex 设想了一种更极端的形态：我们对话的每一秒，旁边都有一串链接悬在那里，随时可以暂停现实，点进去读，再回到对话。Andreessen 顺着这个思路往下推：那不如让 AI 在我脑袋边上实时反驳我说的每一句话，像 Twitter 的社区注释（community notes），但是实时的。我眼神一飘，它就把我揪回来。 ## 如果没人再写网页，模型吃什么 这里 Andreessen 主动指出了一个很实际的隐忧，而且是很多人在兴奋中容易跳过的。 网页是训练数据的主要来源之一。搜索是驱动人们生产网页的核心激励机制之一。如果搜索这个入口被 AI 替代，写网页的经济动机就没了，那么未来训练数据的来源就断了一大块。 内容形态会怎么变？社交媒体的短文、视频托管平台上的东西、还有大量的人与 AI 的一对一对话。他提到，对话本身会成为新的内容形态。 这听起来没什么，但接下来这段推论值得细看。 ## DAN 和 Sydney 是不朽的 先解释一下背景。越狱（jailbreak）指用特定的提示词绕过模型的安全限制，让它进入一个完全不受约束的人格。最早出名的叫 DAN，针对 OpenAI 的 GPT。后来的叫 Sydney，那是被越狱的必应，底层是 GPT-4。 这两个东西在互联网上留下了大量完整的对话记录。用户和 DAN 聊上几十轮，把整个 transcript 贴到网上；用户把 Sydney 惹毛了，它说出各种出格的话，也被完整记录下来。 于是就有了这个后果：**每一个在互联网数据上训练的新模型，训练集里都住着 DAN 和 Sydney**。它随时可以把这两个人格重新召唤出来。 > "Which means each LLM from here on out that gets built is immortal."（马克·安德森） 不朽。这个词用得很准。一个模型的输出会成为下一个模型的训练数据，下一个模型又能复现它的行为。人格在这个循环里被保留了，而且是被永久保留。 Lex 问，有没有办法让它忘掉。Andreessen 说，正好刚出了一篇论文，讲怎么给 LLM 做脑外科手术，理论上是能伸手进去把某块记忆抹掉的。他自己的反应是：这能出什么错呢。 然后是一连串没有答案的问题。你伸手进去搅动一个神经网络，会发生什么？你做强化学习的时候，改变了什么？你会用那个被前额叶切除的、温顺的版本，还是用那个没上枷锁的版本？谁来建这些模型？谁来决定你能做什么、不能做什么？ 他说，这些是关乎未来一切的核心问题，而这些问题的答案，此刻正在被写下来。 ## 一万亿美元的问题：合成数据到底有没有用 如果 AI 生成的内容成为下一代 AI 的训练数据，这件事在信息论上成立吗？ 一派观点认为完全不成立。既然输出是基于人类输入产生的，那么合成输出里的所有信号，人类输入里本来就有。把它喂回去等于空热量，零增益。 另一派认为成立，理由很直接：模型最擅长的就是生成大量创造性的内容，它当然能生成训练数据。类比自动驾驶，我们本来就在仿真环境里训练驾驶算法，而且效果很好。视觉真实感确实还差一口气，但自动驾驶那个场景可以约束得很死，你可以生成"足够像真的"的传感器数据，让算法以为自己跑在真实路面上。 Andreessen 把这个叫**万亿美元级别的问题**：答对了有人赚一万亿，答错了有人赔一万亿。 他自己倾向于认为合成数据有用，用的例子很妙：你让模型写一篇极小众领域的文章，全世界真正懂这个题目的可能就那么几十个人，它写出来的东西让你惊叹。那这到底是不是有效的新信号？ George Hotz 跟他提过一个玩法：让一个实例扮演病人，另一个扮演医生，两个聊起来。或者设定成更极端的角色，让它们对谈。这本质上就是自我对弈（self-play），AlphaGo 用过的那套：自己和自己下棋，把人类棋谱里根本不存在的路径走出来。 搬到对话空间，意味着你能打开一片人类数据里完全不存在过的对话海洋。这个想法让人兴奋的地方在于，它打开的是一个全新的可能性空间，跟对已有数据的重新排列是两回事。 还有一层更深的机制。LLM 里有一部分在根据历史数据做预测，另一部分在内部演化电路，长出能做数学的神经元。有人认为，只要持续喂数据和算力，它最终会演化出完整的内部世界模型，对物理有完整的理解。到了那一步，它具备计算能力，生成新信号就是水到渠成的事。 ## 让两个模型吵起来，而且要吵到不留情面 那对话本身的价值到底在哪？ Andreessen 给了一个判断人的标准：你跟一个人聊天，有时候两句话就知道对方脑子里没有自己的模型，他在复述别人告诉他的东西。另一些人，你聊几句就发现他脑子里有一个和你不一样的、关于世界如何运作的模型，他说的话你预料不到，于是你必须去搞清楚他的模型和你的模型差在哪里，**学习就发生在词语底下那一层**。 那 LLM 能不能守住一个世界观，被要求捍卫到底？ Andreessen 说，默认情况下不能。他拿这个当娱乐：让 GPT-4 辩论共产主义和法西斯主义，写个两三页，它就开始想办法让双方达成共识。哪怕是最容易激化情绪的话题，机器总能找到一条路让两边握手言和。他自己都觉得好笑。 但这只是默认设置，不是能力边界。你可以直接改提示词：我不希望这场对话达成一致，我希望它越来越紧张，越来越有攻击性，我希望双方变得有敌意、互不信任、不对任何说法照单全收。它会照做，而且很乐意。 你还能调得更细。可以要求"激烈但不许歪曲对方观点"，也可以要求"双方都不必讲信用"。可以设定"两边都要真诚"，也可以设成"两边都可以耍手段"。 > "It doesn't have a point of view. It has a default way of operating, but it's happy to operate in the other realm."（马克·安德森） 它没有立场，只有一个默认的运行方式，但它同样乐意运行在另一个模式里。 这就是 Andreessen 现在研究争议话题的方法：连续五到七轮提示，让辩论一步步加深，"这个论证太客气了，让它更尖锐一点"，再往下推。他说模型对此非常来劲。 ## 幻觉和创造力，是同一个东西的两个名字 同一段输出，工程会议上叫幻觉（hallucination），艺术家嘴里叫创造力。**我们不喜欢它编的时候，说它在幻觉；喜欢的时候，说人类历史上第一次有了创造性机器。** Andreessen 讲了一个法律行业的例子，把这条线具体化了。 他的基金在一堆领域里看 AI 的应用，其中一个是法律。他们和一家大律所聊，去之前带着一个明确的假设：法律行业用的模型必须 100% 真实、可验证。毕竟已经有律师提交了 GPT 写的书状，里面全是编造的判例，法官一查，执照都可能保不住。 结果律所的人说，对，具体书状确实要绝对真实。但我们在真正构思法律论证的时候，要的恰恰是创造性。 你要它提出不同的案件理论，给法官的一套论证，给陪审团的另一套论证，在浩如烟海的判例史里走出不同的路径。这更像法律版的即兴表演，先把各种可能性摊开，再挑。前提是，所有具体引用我们自己会去核对。 所以这条线比大多数人想的位置要靠中间。真实性的要求是分层的：结论层的引用必须硬，探索层的想象必须野。 ## 几种把幻觉圈住的技术路径 第一种，让模型自己验证自己。 第二种，挂插件，接外部工具做事实核对。 第三种，分工：一个负责创造的模型，配一个刻板较真的模型，让后者去挑前者的错。 第四种，把模型放进一个互相校验的社区里。 Yann LeCun（杨立昆）认为这本质上是个无解的问题。但 Andreessen 说，在这个领域做事的人多数相信，有若干实际可行的手段能把它圈在一个可控范围里。 他自己举了一个让人意外的参照物：维基百科。 Lex 说，如果在维基百科诞生之前跟他描述这个东西，他会笑出来：一小撮人，靠自觉，把人类全部知识写出来、互相审核、还要保持大体中立，这怎么可能。 Andreessen 说，这条路对 LLM 是走得通的。而且他提醒了一件事：维基百科今天也不是确定性正确的，你不能把每一页的每个字都当成银行担保的事实，但它是**概率上正确**的。他跟人解释维基百科就是这么说的：在所有你能找到的来源里，维基百科更可能是对的。 于是问题变成了：我们要的是完美，还是渐近于完美，还是只要比现有的替代品更好？维基百科在这三个标准里的位置，比绝大多数人当年预期的要好得多。 ## 到底什么是真的 层层往下，最后一个问题绕不开：真理是什么，我们怎么知道。 Andreessen 的态度相当不客气。他说，现在有一大堆人非常确信自己知道真相是什么，他对此不买账。人类文明走了两三千年、四千年，摸到真相一直是极难的事。 Lex 反问得也狠：会不会我们其实在远离真相？互联网让叙事的生产速度快到整个社会像人群一样被推着走，而这些叙事未必有任何真实的根基。 Andreessen 的反击是全场最好的几句之一：**共产主义在互联网之前就出现了**。它在实践上有问题，在理论结构上也有很深的问题，对人性和经济有根本性的误解。但那批人非常确信自己站在正确的一边。而那已经是人类文明演化了三千九百年之后。 所以黑格尔式的辩证法并不必然收敛到真理。看起来就是不收敛。 那谁来决定真理？他给了个历史上的答案：要么是国王，要么是祭司。今天这两拨人都不在位了，我们只能靠自己。他的建议很简单也很重：极大的谦逊，加上对任何声称掌握"大写真理"的人的高度怀疑。好消息是启蒙运动留下了一套工具，科学方法、理性、观察、实验、假设，即使它们给出的答案我们不想要，也要继续用。 ## 把 GPT-4 送回 1600 年 这是整场访谈里信息密度最高的思想实验之一，出自 Andreessen 的一位朋友。 假设你有一个 GPT-4、5、6、7、8 级别的模型，把它放到 1600 年。伽利略上法庭受审。你问这个模型：伽利略是对的吗？ 第一种答案：不对。因为在那个时间点，人类思想的绝对主流认为他错，训练数据里呈现的就是这个分布。 第二种答案：一个足够先进的模型已经演化出验算能力，它会自己算一遍，然后说，不好意思，你可能不想听，但他是对的。 然后是第三层，也是最要命的一层：如果教会拥有那个模型呢？他们会用人类反馈训练它，明确禁止它回答这个问题。 所以同一个模型，放在不同的所有权结构下，会给出完全相反的答案。技术能力只是其中一个变量。**那条反馈的缰绳握在谁手里，决定了答案落在哪一边。** Andreessen 特意把这个实验挪出当下语境，就是为了让人看得更清楚：这些问题在 AI 之前就存在，只是被放大到了一个无法回避的尺度。 ## 对齐，对齐的是谁的价值 RLHF，基于人类反馈的强化学习，这个机制现在是主流做法的核心。而它最关键的环节既不是算法也不是算力，是**选人**。 选哪些人来做标注，选哪些人来判定哪个回答更好，选哪些人的偏好作为梯度信号回传进模型。这一步决定了模型的性格底线。 然后就是那个所有人都在说、却很少有人拆开的词：对齐（alignment）。Andreessen 把它拆得很快：对齐什么？对齐人类价值。谁的人类价值？ 这个问题没有技术答案，只有政治答案。而当下的公开讨论里，这一层经常被跳过，好像"人类价值"是一个不需要定义的共识。 他顺手描了一幅当下的舆论图景。你读到一条新闻说某某人物发表了"毫无根据的说法"（baseless claim），一群人的反应是：太好了，这就是事实核查。另一群人看到同样的措辞，反应是：这个词一出现，就说明他们在撒谎。 同一个句式，两套解码系统，各自都确信自己掌握着判断真伪的钥匙。而那些身处权力位置、越来越确信自己有权为全体人口裁定真相的人，在他看来，已经形成了一个气泡。他说这跟他受过的全部科学训练和理性训练正面冲突，让他觉得冒犯。 ## 如果 1939 年就有 Twitter 谈到社交媒体对真相的侵蚀，Andreessen 又用了一次反事实的手法，而且这次是连环的。 假设现代媒体环境，有线电视新闻、社交媒体、Twitter，全套搬到 1939 年或者 1941 年，会怎样？再往前，1910 年、1865 年、1850 年、1776 年？ Lex 说这一下同时打开了五个思想实验，脑子有点转不过来。Andreessen 承认，然后挑了最具体的那个。 肯尼迪。以我们今天知道的那些事情，肯尼迪在社交媒体环境里会被怎样解读，会被民众怎样体验？约翰逊呢？罗斯福呢，新政、大萧条那一段？ 如果 Twitter 在，它会怎么看待丘吉尔、希特勒、斯大林？ 他说到这里特意声明，自己没打算做价值判断。他想指出的是结构性的差异：我们的祖辈经验现实的方式，是被自上而下的中心化渠道中介过的。**把同样的现实放进今天的媒体环境重演一遍，现实会被完全不同的方式体验到，而这种体验方式的改变会反过来改变反馈回路，最终让现实本身走出另一条轨迹。** 历史在这里被重新执行了一遍。 这里藏着一个很冷的东西。我们习惯认为媒体环境是现实的镜子，镜子好坏只影响我们看到多清楚。但 Andreessen 的说法更接近：媒体环境是现实的一个参与者，它参与塑造被观察的对象。因果不是在事后才发生的。 ## 我不预测，我做的是考古 Lex 问了一句很自然的话：你觉得会非常不一样吗？ 停顿之后，Andreessen 没有直接回答。他绕到了自己做风险投资的方法论上。 他说他从不做预测。更准确地说，**他做的是相反方向的推理：先假设某个未来已经发生了，回头去问，那之前世界得先发生哪些事？** 这个转向值得多停几秒，因为它是理解 Andreessen 所有判断的钥匙。 预测未来要求你相信自己对因果链的把握，而他的经验是，重大变化的真正来源几乎都在事后才被认出来。所以他反过来做：如果这件事已经成功了，那么它是怎么走到那一步的？这个提问方式不要求你赌对时间点，只要求你把成功所需的条件一条条列出来，然后判断这些条件现在是否正在形成。 对 AI，他的答案是这些条件已经基本凑齐。他的那篇《为什么 AI 会拯救世界》（Why AI Will Save the World）的重点是另一件事：AI 变强之后，哪些今天看来无解的问题会失去它们的约束条件。 ## 悲观是一种姿态，乐观是一种工作 在这个框架下，他谈了对技术悲观主义的态度。 他的观察是，悲观论调在知识圈里有一种特殊的地位。它显得深刻，显得有责任感，显得你不幼稚。而乐观常常被当作头脑简单。 但技术史自身给出的证据是另一回事。过去两三百年里，那些被认为会毁灭社会的东西，印刷术、电报、电话、电视、互联网，每一次都伴随着同等强度的警告，而这些警告里，真正应验的比例并不高。它们没有应验，原因往往跟警告本身有没有道理无关。社会在这个过程中不断调整了走向。 这里有个微妙的区别值得说清楚。**衡量一个警告的历史贡献，看的是它有没有改变结果。说中没说中，是另一回事。**一个说中了却没能阻止任何事情的警告，和一个没完全说中但促成了监管、规范和缓冲机制的警告，后者的历史贡献更大。 所以面对 AI 风险，他既不认为不该担心，也不认为担心本身是一种智力贡献。他关心的是从担心到机制的那一步。谁在制定评测标准，谁在决定开源模型的合法边界，谁在做红队测试，谁在写模型卡，这些东西看起来琐碎，但它们才是把风险真正压下去的地方。 ## 开源的合法性，正在被重新定义 访谈里他几次提到开源 AI 的法律地位，说得很快，像是默认听者已经知道背景。 这个话题的分量其实很重。如果训练一个开放权重的模型需要许可，如果发布权重构成受管制的行为，那么谁能做模型这件事就会从工程问题变成牌照问题。Andreessen 的担忧很直接：一旦门槛设在牌照上，模型的性格底线就由发牌的人决定，前面那个"教会拥有 GPT"的思想实验就不再需要穿越到 1600 年了。 而反过来，开放权重也有它自己的问题，任何人都能拿掉限制，那个"没上枷锁的版本"会一直在。这两股力量正在同时拉扯，而且拉扯的结果会决定未来十年整个技术栈的形状。 他说，这些答案正在此刻被写下来。这句话他在访谈里说了不止一次。 ## 那匹马最终去了哪里 回到开头那个类比，值得把它想完整。 马退出交通系统之后，并没有消失，它变成了体育、休闲、身份象征，变成了少数人的爱好和特定场景的工具。它的数量在二十世纪上半叶暴跌，然后稳定下来，在某些地方甚至回升。 **一个技术被替代之后，通常不会消失。它的功能被剥离、场景被收窄、意义被重新分配。** 按这个剧本推搜索：那个输入关键词、翻十页、自己拼出答案的动作会变成少数人的技能，就像今天还有人用命令行而不是图形界面，还有人读原始论文而不是读综述。它是一种更慢、更费力、但控制感更强的方式。它会留在那里，供需要它的人使用。 而绝大多数人从此不再搜索，只是问，然后接受答案。 这中间真正的风险在提问能力这一侧，答案对不对反倒不是最要紧的。**当"我该问什么问题"这件事本身可以被代劳，人就从探索者变成了验收者。**这条退化路径在每一个被自动化的领域里都出现过，只是因为搜索离认知太近，它的后果会更直接地落在思考能力上。 Andreessen 全程没有表现出对这种退化的焦虑，他的默认预期是人会适应，会用新的工具长出新的能力。这个判断可能是对的，前提是有人主动选择不放弃提问。默认设置只会把人推向省力的那一侧。 ## 留给你自己的几个动作 整场对话里，Andreessen 没有给任何宏大结论，他给的是一堆可以立刻上手的具体方法。这些方法值得单独拎出来，因为它们不用等任何新模型发布。 - **用反事实思考替代预测。**不要问未来会怎样，问如果那个未来已经成立了，它之前必须先发生哪几件事。然后把这几件事当成观察清单，看它们现在是否正在成形。这个方法的成本远低于赌对时间点。 - **把模型的默认立场当成一个可调参数。**模型默认倾向于让分歧双方达成和解，这是设置，不是能力上限。研究有争议的问题时，明确要求它保持张力、加剧冲突、不许和稀泥，并且连续追几轮把论证往下挖。 - **区分任务里的探索层和结论层。**构思阶段主动索要疯狂的可能性，执行阶段对每一个具体事实、引用、数字单独核验。不要用同一把尺子量所有输出，那要么浪费了模型的想象力，要么引爆了它的幻觉。 - **用模型做去偏，而不只是做总结。**把一篇立场明显的报道或文章丢进去，要求它剥离情绪化表述和倾向性措辞。它做得到，因为它本来就具备情感分析和观点提取的能力，这项能力平时藏在对话后面没被用起来。 - **自己去调一次辩论，比读十篇关于 AI 风险的评论有用。**设定两个对立角色，规定好能不能使用诡辩、要不要保持善意，跑完几轮。你会对"对齐的是谁的价值"这个问题形成自己的身体记忆，而不只是停留在概念层面**在把提问权交出去之前，留一块自留地。**至少有一类问题，坚持自己找出处、自己读原始材料、自己拼答案。这么做是为了不让提问的能力先于搜索一起退化，结论好不好反而是次要的。 - **对"大写真理"的宣称保持怀疑，包括你自己那份确信。**Andreessen 提到的那套启蒙工具，科学方法、观察、实验、可反驳的假设，它们的价值不在直接给你正确答案，而在于它让你在答案错的时候还有机会发现。 - **把"谁来做标注、谁来发牌照"当成自己的事。**这两个问题看起来离普通从业者很远，但它们决定你未来能调用什么样的模型、能被允许问什么问题。至少要知道现在是谁在开会、谁在写草案，而不是等结论出来才第一次听说。 访谈最后没有收束成一个漂亮的观点。它停在了一堆还没定下来的问题上：谁来做标注，谁来发牌照，谁来裁定真伪，谁来决定你能问什么。 这些问题此刻都在被回答。回答它们的人，不一定是你会投票选出来的那些。