罗希特·普拉萨德:亚马逊 Alexa 与对话式 AI
Rohit Prasad: Amazon Alexa and Conversational AI
Alexa 首席科学家谈语音助手的演进历程、对话式 AI 的技术难点与未来交互形态。
2013 年 4 月,罗希特·普拉萨德(Rohit Prasad)加入亚马逊做语音识别时,团队开第一次会,10 个人,其中 9 个人认为远场语音识别做不出来。
他们准备去找管理层谈,说换个题做吧,比如电话客服的语音识别,那是当年这个领域的主战场。10 个人里唯一眼睛发亮的是罗希特自己。
他后来在访谈里说了一句轻描淡写的话:做语音识别的人找了几十年的杀手级应用,眼前这个可能就是。
那一年,让一个放在房间角落的设备,隔着 20 英尺,在有人放音乐、小孩在跑、妈妈在打电话的环境里准确识别你在叫它干什么,学术界的主流判断是:无解。
这件事后来变成了 Echo,变成了 Alexa,变成了今天几千万个家庭里的那个声音。从那个 9 个人说做不到的房间,到今天这句话,中间隔着五年。
关于 Alexa 该长什么样
莱克斯·弗里德曼(Lex Fridman)开场问了一个很文艺的问题。电影《她》(Her)里,一个人爱上了 AI 的声音。这种连接,光靠声音能不能达到?
罗希特没有讨论能不能。他先改了讨论的框架。
他说,我们老在讨论“像人”(human-like),但还有另一个维度被忽略了,就是“超人”(superhuman)。人类只能出现在一个地方,一次只能在一个位置。Alexa 可以在你的手机上、家里、办公室同时出现。人类的记忆有限,Alexa 的记忆接近无限而且精准。这些能力你用“像人”这把尺子量不出来。
在他看来,只讨论“像人”是把问题拉低了。
这个框架在整场访谈里反复出现。每次莱克斯想把话题拉回“AI 像不像人”,罗希特都会把它推回“AI 该不该像人,什么时候该像,什么时候不该”。
他举了个很日常的例子。你走过房间想开灯,说一句“开灯”。这时候 Alexa 就该执行,不该跟你聊天。如果它非得以一个像人的方式回应你,那是一种退步。但如果对面是社交机器人,你要的就是像人的对话。
这不是人跟人的交互,这是人跟机器的交互。有些场合需要人性,有些场合需要机器性。(罗希特·普拉萨德)
后面聊到“Alexa 要不要有身体”时,他把这个判断又说了一遍。他说,与其纠结 Alexa 的身体长什么样,不如看它现在已经在什么里面了:微波炉、汽车、牙刷、灯泡、第三方机器人。Alexa 不是一个物理助手,它是一个虚拟助手,超人类的地方恰恰在于它同时在很多地方。
“从这个意义上说,我其实不觉得具体的身体重要。”
这是对具身智能主流叙事的一个温和的反驳。他的判断是:形态不是关键,能力才是。有些场景像人是必要的,有些场景像人反而是低估了这个 AI。
对话能力就是智能本身
莱克斯问,怎么定义智能?图灵测试有很多批评,你怎么看?
罗希特的回答没有绕弯:“对话能力是终极智能的标志,这一点毫无疑问。”
然后他拆了一层。人类有传感器,传感器是数据收集机制,大脑做决策,这是感知、推理、行动的循环。机器也有这一套。但机器在另外几个维度远超人类:计算、记忆、检索的精准度。人类说不清“那天我到底见的谁”,机器不会。
所以在他的定义里,智能不是“像人”,是“感知、推理、行动”这一整套能力的组合。有些维度人类更强,有些维度机器更强。
他把这个推到极端:如果这些维度机器都在超过人类,我们讨论的就不是“达到人类水平”,可能是“超越人类水平”。
聊到游戏和自动驾驶时,他说了一句我觉得很关键的话。AlphaGo 下围棋、自动驾驶开车,这些都需要大量数据驱动的智能,但它们的难度不如跟人对话。原因很具体:游戏里终点是定义的,状态是清楚的。对话里,终点没定义,你也不知道自己
处在什么状态。你甚至连自己想要什么,都可能在中途改主意。
他举了规划周末的例子。你本来想去看某场演出,查到一半发现另一场更想去,于是改目的地。你本来只是想问附近有什么电影,问完之后决定顺便吃个饭。这中间有几步、每步会怎么变,事先都算不出来。
“这种维度上的可能性,让这个问题极其吓人。我认为它是智能的终极测试。”
Alexa Prize:20 分钟,5 到 10 年
2016 年起,亚马逊办了一个比赛,叫 Alexa Prize。规则说起来一句话:让大学生造一个社交机器人,能跟你连贯、有趣地聊满 20 分钟。
“极其困难的挑战。跟一个刚认识的人,或者认识很久的人,就任何话题聊 20 分钟,而且话题还在不断演变,这超级难。”
到访谈时已经办完两届。第一届冠军是华盛顿大学,第二届是加州大学的一个团队。第三届有十支队伍在跑。
评判机制设计得挺讲究。整个赛程分多个阶段,前面的阶段在受控环境里做,请演员来跟机器人对话,三个评委里要有两个认可“这段对话成立了”,20 分钟这道硬门槛就是在这里测的。
到了决赛,评判权交给真实用户。所有 Alexa 用户都能用,说一句“Alexa, let's chat”,系统会明确告诉你现在在跟一个参加比赛的社交机器人对话。聊完之后问你一个问题:1 到 5 分,你有多愿意再跟它聊一次。
用户中途退出本身也是一个信号。他退出的那个时间点,就标出了你在哪一步让人受不了。
莱克斯拿 DARPA 自动驾驶挑战赛做类比。第一届没车跑完全程,第二届有几辆跑完了沙漠。Alexa Prize 进度如何?
罗希特的回答很实在:距离 20 分钟连贯且有吸引力的对话,还有 5 到 10 年。但进步幅度很大。生成回复的准确度在提升,更明显的是幽默感开始出现了。
他说幽默是很高的门槛,不是耍宝,是真正的幽默感,这本身就是智能的标志,而且极难做。这些机器人现在开始摸索:什么时候该插一句合适的玩笑,遇到不认识的领域怎么把话接下去让对话不中断。
还有一层更微妙的能力。你和我聊 AI,我们都是内行,能聊。但如果话题突然切到我完全不懂的地方,怎么把对话转出去?社交机器人开始处理这类问题了。
他说这背后有一部分是被 20 分钟的赛制逼出来的。为了聊满时间,参赛队学会了一些聪明的办法,包括在某些时候“遮掩”自己其实不懂的事实。
为什么只开放给大学
莱克斯问了个有点尖锐的问题:这些对话里,有人推边界吗?有人说脏话吗?有人靠争论来把对话往下拖吗?
罗希特先说,比赛有敏感词过滤,不只是关键词,还考虑上下文。因为这些设备是家用设备,家里有小孩,护栏必须多。
然后他讲了办这个比赛的真实动机,这段我觉得是整场访谈里信息量最高的部分之一。
那几年,学术界做对话 AI 的人大量流向工业界,学生毕业就走,教授也有出走的。工业界手上有三样学术界拿不到的东西:海量数据、大规模算力、以及用真实用户验证进展的通道。三条缺一条,研究就做不深。
Alexa Prize 就是把这三样东西打包开放给大学。副作用是它变成了一个用户真在用的技能,成了技能商店里使用量最高的技能之一。
他解释为什么只给大学:先给学术界留一块能安心发明的地,同时让学生有动力留下来,而不是一毕业就全跑进工业界。
这些机器人现在到底在干什么
莱克斯问了个技术问题:要赢这个比赛,需要什么?
罗希特的回答把现在的社交机器人给定性了:它们大部分时候还在做检索,不在做推理。
他举了个体育的例子。对话在聊最近的比赛,里面涉及大量上下文,你必须理解被提到的那些实体之间的关系,对话才连贯。如果你只是抛出一个关于某个球员的趣闻,而不是真的理解他昨晚那场球打得怎么样,这段对话就谈不上智能。
“很多时候它是在检索一个事实,给出一个差不多接近的答案,但不是真的答案。这就是研究必须往前走的地方:真正的理解和推理。”
顺着这个,他还泼了一盆冷水给想做监督学习的人。有研究者习惯的思路是:先有一个高质量标注语料,然后在上面跑算法。他说,在 Alexa Prize 这个世界里,这条路走不通。
这不是一篇 ACL 论文,也不是 NSF 资助的研究,你手上有一份漂亮的语料。这里是真实世界,你有真实数据。(罗希特·普拉萨德)
所以他要求参赛者换脑子:从真实反馈里学习。用户评分是反馈,用户中途退出是反馈,用户纠正你是反馈。没有标注集,优化目标本身都还在讨论中。
给 AI 一双眼睛
访谈里引了一句罗希特说过的话:让智能助手真正变聪明的唯一办法,是给它眼睛,让它去探索世界。
他说这话被断章取义了,但意思他认。
人类的感官能力很多,学习方式很复杂,也从来不是唯一的一种模式:给你灌一大堆文本和音频,你就学会了。人是在经验里学,在观察里学,被人教着学。人类学习的效率极高,机器恰恰相反,尤其是这类对话系统,学习效率极低。
他说下一波研究的重点会落在“更少数据”上。他强调这不是说数据量要变少,我们产生的数据多得是,重点是学得更快。具体路径是弱监督、无监督、迁移学习,把一个领域的知识搬到另一个领域,把一种语言的能力搬到另一种语言。
而在这种学习方式里,其他感官就变得关键了。人是在大量噪音数据里学会东西的,这一点不该改。该改的是学习机制本身。
怎么让人一听就知道这是 Alexa
聊到个性时,莱克斯提了一个很具体的问题:闭上眼听,凭什么判断这是 Alexa?
罗希特的回答把“声音”这件事拆开了。美国的 Alexa、英国的、印度的、澳洲的都不一样,虽然都在说英语。你换一个文化、换一个社区,你认的是什么?
他说这不是配音演员的问题。用词的选择、语气的属性、语速、怎么发音、解释的时候啰嗦还是简洁,全都是识别度的一部分。
不只是听起来像。用词、语调、语速、你怎么发音、用词是简洁还是冗长,全是因素。(罗希特·普拉萨德)
这背后有个产品上的两难,他自己说得很清楚。你要给一百万人造一个统一的个性,能测,能优化,能保证体验的下限。你越个性化,就越难测,越难知道它是不是好体验。
他的答案是:把控制权给用户。
他举了几个已经上线的例子。一个是“Remember This”,你主动说“Alexa,记住某某事”,它就存下来。他自己存了整辆车的参数,因为查起来太麻烦;存了所有航空公司的常旅客号码,因为要用的时候总找不到。这是显式控制,用户知道自己授权了什么。
再一个是声纹识别。你告诉 Alexa 你是这家里的谁,它就能做针对你的个性化。系统在发生个性化动作时会明确告知,不偷偷来。
第三个是服务商选择。你说“放一首 Sting”,到底从 Spotify 放还是 Amazon Music 放,是你在 App 里设的。
信任的门槛比对人类还高
莱克斯提了个很有心理学的观察。人跟人之间最深的关系里,是有摩擦、有张力、有拉扯的。这种东西要不要放进人机交互里?
罗希特的回答只用了两个字:信任。
他说,摩擦、张力在人与人的关系里可以是健康的,但在这个场景里不可谈判的是信任。而且他认为,用户对 AI 的信任门槛,比对人类还高。
门槛高在哪?不只是隐私和数据。是你每天的动作。你今天理解我理解得准不准,你执行得稳不稳。他打了个比方:你打客服电话,网络出了问题,对面那个人听不懂你在说什么,你立刻就失去信任,不想再跟这个人说话了。这个例子放到人机交互上,要放大十倍。
还有一层更别扭的。用户对 AI 的预期是摇摆的:你期待它很聪明,它一旦笨了你就生气;你期待它没那么聪明,它一旦表现得像在耍小聪明,你也生气。两头都能冒犯人。
他说这是研究人员和用户身份之间的拉扯。作为研究者,他偶尔会烦:为什么对这些系统的要求这么苛刻?作为用户,他立刻回答自己:就该这么苛刻。
灯亮着,和猫毛衣
隐私这一段,罗希特讲了两个原则:透明,和控制。
透明落到具体设计上。做第一代 Echo 时,他们做了一个判断:什么时候音频被送到云上,必须有明确的物理指示。所以你说出唤醒词,灯环亮起,才开始传输。设备上有物理静音键,按下去麦克风直接断电。
控制落到使用上。你可以在 App 里看到自己被录下的每一条语句,随时删。后来做得更省事:直接说“Alexa,删掉我今天说的话”。
再后来加了一个开关:如果你不想让人工审阅你的数据,可以标记,标了之后你的数据不会进入人工标注流程。这条是针对监督学习必须有人标注这件事来的。
然后莱克斯问那个所有人都想问的问题:Alexa 在听吗?
“Alexa 只在设备上监听唤醒词。”
唤醒词是 Alexa、Amazon、Echo、Computer 里选一个,一次只能选一个,设备只听那一个。
至于那个流传极广的都市传说:聊到猫毛衣,转头亚马逊就给你推猫毛衣。他的解释平淡得有点扫兴:那可能是冬天到了,大家都在搜毛衣,所以它就成了热门。我们人类没那么独特,你的需求也没那么独特。
然后莱克斯提了一个跟主流舆论相反的观点,我觉得值得单独拎出来。他说作为机器学习从业者,他希望有一天用户可以主动选择“一直听”,因为只要控制权和信任在手,数据越多,设备能为你做的事就越多。让他不安的是人们对数据的敏感程度,相对于这些数据能给生活带来的改善,这个比例失衡了。
罗希特的回应很克制。他说社会整体确实在变得更能接受数据共享带来的好处,但不是所有人都这样,不能一刀切,必须尊重不接受的人。
他给了两个已经存在的例子。一个是 follow-up mode,开启之后 Alexa 说完话会再开一次麦克风,等你说下一句。你在往购物清单里加东西,说“鸡蛋”“牛奶”“面包”,不用每样都喊一次唤醒词。另一个是 Alexa Guard,你出门时开启,它开始监听特定声音事件,比如烟雾报警器响了、有人打碎玻璃。回家之后关掉。
两个例子都是同一个结构:用显式授权换取高价值能力。
2013 年那间屋子里没有数据
回到技术史。罗希特说一切从“Working Backwards”开始,这是亚马逊的一个方法论:先写新闻稿,写这个产品发布那天你想让世界读到什么,再倒推要做哪些事。灵感来源是《星际迷航》里的那台电脑。愿景定得很高,但发布必须有起点。
第一个要解的是远场语音识别。当年这不是常规做法,他此前所在的研究圈子里,这事被判定为不可解。
然后是唤醒词检测,这一关的难度外人不太容易体会。Alexa 这个词很常见,音素构成跟“I like you”“Alex”这类词高度重叠。设备在房间里只听唤醒词,家里同时有一堆话在说。你要区分的不只是“有没有说出 Alexa”,而是“这句话是不是在对设备说”。
他说“I love my Alexa”“I hate my Alexa”,这两句里都有 Alexa,但都不该唤醒设备。
莱克斯顺势开了个玩笑:那这期播客里我们会说几百次 Alexa,听众该怎么办?罗希特的回答是,可能会醒几次。他们做过反制技术,包括类似水印的方式识别广告和媒体音频。这是个尚未彻底解决的问题,但他们很在意。
再往后是大词汇量连续语音识别。这一关的难点不在于算法,在于场景:音频不是从贴着嘴的手持麦克风来的,是从 20 英尺外来的,中间有儿子在放音乐,女儿在跑来跑去问妈妈事情。
2013 年 4 月他加入时,神经网络在语音识别上刚露出一点苗头,还很早期。团队当时是个创业状态,没上来就押深度学习。他们做的第一件事是搞数据:要训练远场模型,先得有远场数据,而远场数据在世界上不存在,因为还没有用户。
他们想办法造出了第一批远场训练数据。数据到手之后,开始往深度学习上压。分布式训练是他们最早的成果之一,让训练时间随数据量线性增长,这样数据翻倍,训练时间不至于爆炸。
结果他给了一个具体数字:从项目启动到拿到那批数据之后的六个月内,错误率降了 5 倍。“到那个点,我有信心这事能成。”
2014 年 11 月发布。他说了一句很重的话:
我们在这个产品上只有一次机会。如果 2014 年 11 月发布时它低于那条线,我认为这个品类根本不会存在。(罗希特·普拉萨德)
这条线的位置,他没法从既有经验里推出来,因为没人做过。团队只能在准确率和体验上先立几个标杆,然后想办法在没有用户的情况下衡量自己离标杆有多远。
规则系统还是统计系统
语音识别之后是多领域自然语言理解。单个窄领域做意图理解,当年是可行的。但音乐、信息查询、闹钟、计时器、家居控制一起上,难度是另一个量级。而且还是在没有用户的情况下。
当时行业主流是用规则写语法模板去匹配意图。他们选了统计优先的路子:语言理解、槽位和实体识别、内部意图分类器,都是统计模型。
但罗希特补了一句很诚实的工程细节:统计模型会出 bug,所以他们同时建了确定性匹配模块专门修这些 bug。纯统计不行,纯规则也不行,最后是统计打底、规则兜底。
实体消歧的例子他讲得很生动。你说“放 The Stones 的歌”,如果系统对这个乐队不熟,可能匹配到 Rolling Stones,也可能匹配到 Stone Temple Pilots。你怎么知道是哪个?这在当年是个热门难题。
他的处理方式是承认这件事可以靠对话解决。目标是九成以上一次命中,剩下的可以问。“就像人一样,我没听懂你刚才说什么,问一句,这没问题。”
发布时铺了十几个大领域。到访谈时,Alexa 上有 9 万多个技能。
把对话流的编写工作拿掉
2019 年 re:Invent 上他们发布了一个东西叫 Alexa Conversations。要解决的问题很具体:过去给 Alexa 写多轮对话,开发者得把整个对话流全部手写出来,如果用户说这个就做那个,跟那种老式电话 IVR 系统一个路子。开发者体验很差,能做出的对话也很僵硬。
新的做法是:你提供几段示例交互数据,说明用户会怎么用你的 API,然后系统用一个在示例数据上训练的循环神经网络自动构建对话流。开发者不用写对话代码。
但更值得说的是它解锁了什么能力。莱克斯问“附近有什么电影”,这句话背后可能有好几种意图:想买票、只是好奇、想确认某部片子还在不在映。系统不知道你的真实目标是什么。
罗希特把这条链路走了一遍。你买了电影票,四个人的。那接下来系统推一件事:要不要订附近餐厅?而且不用再问你一遍“几点”“几个人”。四个人这个信息已经隐含在购票会话里了,直接带过去。
他管这叫把认知负担从用户身上转移到机器身上:系统去猜你的潜在目标,然后执行最合理的下一步,而不是让你把需求一条条说全。
至于长期记忆,他承认还在早期。现在的记忆主要在一段会话内部,跨会话的长期记忆(比如你偏好哪家餐厅)还是开放问题。
你每次纠正它,都是一条训练信号
莱克斯在这里插了一段私人抱怨,很有意思。他说自己每天干一样的事,穿一样的黑衬衫,所以 Alexa 每次听不懂某首歌、每次都要他纠正,特别烦。具体是《Stairway to Heaven》,每次放的都不是 Led Zeppelin 原版,是个翻唱。
罗希特当场说:这是个正式 bug report,我记下了,我们会修。
然后他顺势讲了自学习。Alexa 现在能自动收集上百万条语句,没有人工监督。机制是行为信号:你点了错的那首歌,或者你说“不对,不是这首”,或者你重说了一遍,这些动作都在告诉系统它刚才做错了。如果某首歌被请求却播成了另一首,这个失败模式就能被捕捉。大量这类纠正现在是自动消化的,不需要人去看。
他自己就是受害者兼测试用例。印度口音导致 M 和 N 经常被混淆,对人来说都容易听错,对机器更是。系统在一点点学会纠正。
莱克斯提了一个产品细节:纠正完之后,用户希望得到一句确认,知道自己这一下起了作用。罗希特说这是光谱,有人喜欢被确认,有人会被这种确认烦到。他拿特斯拉车主做对比:很多 Autopilot 用户觉得自己在教系统,还挺兴奋。Alexa 用户里也有一部分这么想。
他的判断是,可教学的 AI(teachable AI)在助手这个赛道上会越来越重要。而且他强调,上面说的自学习是彻底无监督的,没有人参与标注,只靠用户行为。
从 9 万个技能里挑一个
“更自然”这条线上,除了语音合成用神经网络做得更像人,还有一个更麻烦的问题:9 万个技能,用户凭什么记住名字?
过去的交互是“Alexa,让 XX 技能告诉我某某事”。这个动作本身就是不自然的,因为你在用 App 的心智模型套语音。语音世界里没有“打开一个应用”这回事,它应该是一个连续的界面。
他们的做法是建一个深度学习能力:你说“帮我叫辆车”,系统先筛出一批候选技能,判断这大概率是打车类,再根据你的偏好对各个技能的响应排序,选最好的那个回给你。
另一个例子是列表。你不用一句一句加:“Alexa,加鸡蛋”“Alexa,加牛奶”“Alexa,加饼干”。一句话“加饼干、牛奶和鸡蛋”就行。
再一个是记忆的统一。有些事你是通过日历记的,有些是你让 Alexa 记住的,有些是提醒。用户不该关心它存在哪。你只要问“我什么时候去我妈家”,它就该从任何一个来源里把答案捞出来。
莱克斯追问了一句:这个整合的责任归谁?技能开发者还是 Alexa 平台?
罗希特的回答是两边都要。技能本身的质量由平台工具保证。但“当请求不够具体时,判断哪个技能能完成用户意图”这件事,明确是平台的责任。多米诺披萨做了自己的技能,用户说“打开多米诺”能用,但用户说“帮我订个披萨”,就得靠平台来路由。
而再往上,那个“订个披萨”的背后可能是一个完整的场景:孩子在家,晚上要吃饭。到这一步,就是对话式 AI 真正的战场了。
最难的那一层:推理
罗希特把当下的挑战分成几层。
第一层是基本功。一次命中的事务型请求必须做到近乎完美。他说得很直接:就算我能帮你安排好一整晚的行程,但如果你让我开个灯我开不了,你作为用户是无法接受的。
第二层是推理。根据已有信息和历史,判断用户的潜在目标,决定下一步最优动作。他把它跟自动驾驶做类比,都是推理和决策问题。区别在于自动驾驶的环境虽然难,终点相对有限;对话里的假设空间要庞大得多。
第三层是主动。现在讨论的都是反应式决策,你问,它答。如果加上主动,Alexa 会自己产生“预感”(hunches):你出门忘了关车库灯,它提醒你。到这一步,它在任何一个时间点都要基于手上的信息判断该不该做一件事。
莱克斯问了个他很关心的方向:什么时候 Alexa 能“看”你,从你的表情判断你在不在沮丧,从而修正自己的判断?
罗希特的回答把难度摆了出来。沮丧这个信号理论上可以从声音里拿,因为你一旦开始重说,系统就知道大概出错了。但真正做情感识别,是在远场、嘈杂、有距离的环境里做,这是情感计算领域公认的硬骨头。“非常非常难的问题。”
然后是那个更大的问题:深度学习够不够?
他的回答分两半。一半是:不够,推理必须做起来。他点了几个正在成形的方向:更少数据、零样本、单样本、主动学习、迁移学习。深度学习已经证明有用,现在要把它跟迁移学习、主动学习配起来。但下一波真正的跃迁要靠推理。
另一半是:短期内还不必绝望。为了把客户服务好,预测式方法还有大量空间没挖完,远没到用尽的时候。他区分得很清楚:把事办成,短期内预测式方法够用;做出他真正想要的那种高质量体验,推理必须补上。
他把推理称为这些难题里最难的一个,因为假设空间太大。而一旦跨出单次会话,比如你希望 Alexa 记住你喜欢哪家餐厅、下次规划晚上出门时问你要不要去同一家,问题的规模就再上一个量级。
五年和四十年
莱克斯请他用“新闻稿倒推”的方法,写一份五年后和四十年后的 Alexa。
五年。他说五年这个尺度是他敢想的极限,因为五年前他自己也想不到 Alexa 会是今天这样。
五年的判断是:目标导向的对话和开放域的闲聊,这条界线会消失。
他用购物来论证。买电池、买纸巾,一句话就完。买相机呢?你要做大量研究,看评测,比参数,最后才决策。所以“帮我找台相机”这句话,到底是目标导向还是开放探索?分不清。
他顺手把莱克斯自己的购物习惯点了出来。莱克斯承认,他从没在 Alexa 上买过一件此前没在电脑上买过的东西,全靠复购。罗希特的回应是:即便是一个看起来目标明确的事,空间也很大。产品属性太多,你要看站内评价,要看站外评价,要看消费者论坛怎么说。
再看“这个周末鳕鱼角天气怎么样”。你为什么问这个?背后一定有个目的,可能是要去,可能在犹豫要不要去。
所以他的定义是:怎么用最少的步骤帮客户完成目标。这么定义之后,目标导向和开放域的区分自然就没了。
“我可能想知道总统辩论发生了什么,我是在找信息,还是在判断谁在赢?这些都是很难的问题。”五年内他希望能解掉。
四十年。他说得更干脆:四十年也解不完。
即便我们把范围限死在人类智能,我们离它还很远。从感知到神经处理,大脑怎么存储信息、怎么处理信息,我们连知识该怎么表征都还不知道。(罗希特·普拉萨德)
他给了一条已经发生过的坐标。五年前,问天气、复购、听喜欢的歌,用嘴说出来这件事已经变得自然了,你不会觉得拿起手机更顺手。这是第一段转变,已经完成。
下一段是:用 Alexa 规划周末、规划下一顿饭、规划下一次晚上出门,毫不费力。这一段就是他认为的五年目标。
他说五年前差点离开这个领域
访谈最后,莱克斯把镜头拉到最大:一群猿的后代,造出了一个能跟人对话的系统,放在自己家里。你站在这个系统的中心,什么感觉?
罗希特先说了“特权”这个词。然后他说了一段我觉得整场访谈里最真诚的话。
他在这个领域待了很多年,在剑桥。五年前他几乎想走,因为找不到那个杀手级应用,找不到一个用户会真爱、而不只是“有了也不错”的东西。研究实验室里做出来的东西,一直落不了地。
现在看到几百万、上亿人在用,他说这很让人满足。而且这还很早期,他还有二十年可以干自己爱干的事。
他跟每一个新加入团队的人说同一句话:这是难得的特权。2014 年发布 Alexa 是第一次,后来开放 Alexa Skills Kit,把语音和语言的 SDK 第一次真正做出来,他管这个叫 AI 的民主化。
现在他和莱克斯能坐在这里讨论“用智能体规划一个晚上”,而不是说“不可能”,本身就已经说明位置变了。
“我不觉得还有更好的地方可以待着了。”
回到开头那间会议室。10 个人,9 个说做不到,1 个眼睛发亮。六个月后错误率降了 5 倍,那条“魔法线”被摸到了。如果他那天也举手说换个题做,今天这个品类可能确实不存在。
这类判断在当时都没法证明。你只能在事后回头看,看那个少数派当时看见的东西是什么。罗希特看见的是一件事的用途,而不是它的难度。
如果要从这场访谈里拿走点什么
- 评估一个 AI 产品时,把“像人”和“超人”分开打分。在需要速度和准确的地方追求像人,往往是退步;在需要共情和陪伴的地方,超人能力没有意义。
- 判断一个对话系统行不行,别只看它答对了没有,看它被纠正之后有没有变化。行为信号(重说、打断、中途退出)比评分更有信息量,而且是零标注成本。
- 做多轮对话产品时,先问自己一个问题:这一步的认知负担在谁身上。如果用户在反复提供同样的事实(几个人、几点、在哪),就说明系统该做上下文传递了。
- 设计带麦克风或摄像头的常驻设备,把透明和控制做成物理可见的东西,而不是写进隐私政策里。指示灯、物理断电、一句话删除,成本极低,缺了就补不回来。
- 给团队定目标时试试倒推:先写产品发布那天你希望媒体怎么报道,再倒推需要哪些能力、哪条线必须先跨过去。罗希特说这个方法连他手下的科学家都爱上了,因为它逼你先把结论写出来,再去找证据。
- 评估一个技术方向时,区分两件事:这件事能不能把活干成,和这件事能不能做出你真正想要的体验。前者预测式方法常常够用,后者往往必须等下一次范式跃迁。别用前者的进展去掩盖后者的欠账。
本集资源与出处
- 视频在 YouTube 收看
- 音频官方 MP3 直链来自 lexfridman.com 官方播客 RSS
- 官网Lex Fridman 官网本集页面
- 文稿HappyScribe 版文稿