开场：尚未见到模型，就要投入千亿美元
去年年底，我们当时就想，好吧，我们这次确实要……可我们还没有见到模型呢。你知道，我们将要开出一张——我也不知道——大概一千亿美元、两千亿美元的支票。我就问 Alex：“你确定这事能成吗？”
干杯！干杯。对。干杯，干杯！
Muse 的突破性使用场景
给我讲讲 Muse 最近的进展吧。如果看看第三方报告，你会发现，它可能是迄今增长最快的智能体或 AI 应用。你们自己最喜欢 Muse 的什么用法？不管是你们自己还是其他人的案例都行。
昨天吃饭的时候，我其实刚聊过这个。我最喜欢的是，让我的 Muse——它叫 Oiler——不断替我寻找越来越冷门的茶叶，供货商也越来越小众。现在它基本每周都会从台湾或日本某个茶园买来一些随机挑选的茶，然后设法运回来。
那你最喜欢 Muse 的什么用法？
说不上来，我拿它干的事情太多了。不过我还是很喜欢……对我来说，最喜欢的使用场景，同时大概也是产品最好的评测项目，就是让它担任我的综合格斗（MMA）教练。我在健身房里装了摄像头。训练的时候，它会看摄像头拍到的画面，在每个回合的间歇给我反馈。后来才发现这是个非常难的问题，因为它不仅需要理解视频，还得足够快地处理完；两个回合之间只有一分钟休息时间。
哦，它在回合间指导你？
对。我想要反馈，我想知道怎样才能赢。你懂我的意思吧？快点告诉我啊。
你需要专门告诉它该怎么处理视频吗？我也一直好奇这个问题，因为看视频确实是 AI 非常好的应用场景。但感觉不能直接塞给它一个好几个 GB 的视频文件吧。你会告诉它该怎么截取静帧吗？
不，它基本上会自己处理……对，它会抽取静帧。我觉得这是它自己琢磨出来的。而且事实证明 Muse 对 MMA 有相当不错的原生理解，所以这点很好。
所以是多模态——
预训练。
对，看来团队里有人懂这个。或者说，这些知识本来就在训练语料里。
我觉得这也是检验编程能力的好例子。因为它实际上做的事情是这样的：虽然在智能体里我看不见任何代码，但它其实是在自己编写整套视频处理、图像处理流水线。
没错。
而我会不断对它说：“好，你看，刚才给出反馈花了三十秒。我总共只有六十秒休息，你得再快一点。继续优化自己，继续优化。”我认为这很好地说明了未来会发生什么：基本上所有人都会编写大量代码，只不过他们根本不知道自己正在写代码。
这个模型会给你什么样的 MMA 技术指导？
想看看吗？我试着调一些出来。它会给我很多关于平衡、髋部位置之类的建议。比如你正处于侧位压制，对方会指出：“你在这个位置没做好下勾臂控制，所以这里可能会被对手翻转。”我找几条给你们看。你们真该试试。
其实就连最初原型阶段，这已经是他最早的一批使用场景之一了。
对。我在 Muse 还没做出来之前，就已经用 OpenClaw 做这件事了。所以我才说，它后来也变成了这个产品的一项评测。
不错。我此前还真不知道这是产品的评测项目。记下了。
这些能力到底是怎么进入模型训练数据的？比如那种很细致的判断：综合格斗选手正确保持平衡时是什么样，重心过度落在后脚时又是什么样。我好奇的是，它究竟是如何看过这么多正确姿势和错误姿势的 MMA 图像的？
这里就能看到。它把视频帧抽出来，然后告诉我：“你这里的重心太偏向后腿了。”
可这算是涌现出来的智能吗？
多模态理解：从综合格斗到智能眼镜
它真的能判断……但它究竟是看了很多 MMA 图片才知道，还是因为理解了身体应该如何保持平衡这个概念？它可能读过综合格斗的书，再看到你把重心放得太靠后，就能指出问题，是这样吗？
我们训练模型时确实用了很多视觉感知数据。
对。
我想，这就是把多模态模型做好的一部分。这也涉及我们的一项核心思路：从端到端训练模型，让它成为出色的个人智能体。Meta 为什么要开发这些模型？首先，我相信超级智能整体上会让我们更好地经营公司、构建各种产品。但具体到我们所做的产品，某些能力及能力组合就是特别适合相应场景。Alex 从一开始就很重视这一点：一定得把多模态做好，因为它对人们使用这些服务的用途格外重要。
那要怎样训练出优秀的多模态模型？Meta 有那么多图像和视频数据，是不是天然占优势？
这确实非常有帮助。
对。最终很大程度取决于你把重点放在哪里。我们想做的是个人超级智能。根本上说，世界上大多数人的体验本来就高度多模态：他们喜欢跟人交流、听东西、看视频，也会自己拍视频。多数消费者接触世界就是这样。尤其在今年早些时候，行业内部甚至有点分歧：AI 圈内的主流意见太偏向编程了，好像只有编程重要。但像 Muse 这样的产品以及很多消费者场景要取得成功，很大程度上必须有强大的多模态能力。
是啊。我觉得我们才刚触及它的表面。最初我们有个判断：其实多数人不那么爱阅读。文字交互当然有人使用，每个人都会发消息。但想到我们正在研发的眼镜，或者其他非常视觉化的产品，眼镜最终几乎会成为一个纯多模态产品：如果你允许，它能听见你听到的东西、跟你说话，也能看到你所看到的东西。最后，我甚至不确定眼镜上还会不会有应用商店。也许系统直接通过多模态生成，在你的视野里创造出你当下需要的一切。我想我们开发的很多应用最终也会由类似能力驱动。当然现在还在早期。但到目前为止，感知方面的成果确实令人印象深刻。
AI 产品为何看起来如此相似？
我想问问你们 AI 产品形态的问题，也试着抛出一个观察。比如让我描述 Stripe 的优秀产品应该是什么样，我可能得讲好几页：开发者体验、各国迥异的支付方式、稳定币等等，要讲很久。但我注意到 AI 有种现象：成功产品似乎很快就收敛到大家公认的一个方向，所有人都在追。Transformer 行得通，聊天式智能体界面行得通，现在你们也提到 OpenClaw——一种有持久状态、自己有电脑、能操作现实世界中计算机的智能体——大家又向这一类产品收敛。AI 的获胜产品好像概念非常简单，所有认真做 AI 的公司都在追赶。你用一张明信片背面就能描述清楚。当然实现极其复杂，我们马上也会聊新模型，要做出前沿水平涉及大量科研。但你们还提到了眼镜和未来形态。与广泛复杂的传统产品空间相比，AI 似乎只有极少数明显正确的产品。
我有点不同意。
请说。
首先，我们从一开始的设想就是：这种智能体，不论最终是什么形态，都会和文字助手很不一样。每家公司都有文字助手，我们的是 Meta AI，覆盖很多用户，但跟别家在做的差不多。我们特意区分：人们主要用文字助手获取信息，却不觉得它是能替自己把事情办好的东西。
就是检索，而不是委托。
对。即使你说智能体有自己的电脑，实现方式也很多。最近一波给智能体分配专属虚拟机的做法，我认为非常重要，因为那样你才更有把握保护数据的安全与隐私，而不是把私密信息连到所有人都共用的弹性计算资源上。
但我的意思不是说实现容易，也不是说它显而易见——
我认为会出现很多不同的东西。
好，所以你觉得会有很多不同方向？我的意思是，现在人们看到 Muse，会说：“对，AI 智能体就应该这样工作。”未来智能体产品也会有很强的 Muse 特征。
我的看法是，现在讨论 AI 产品形态还为时太早。用今天的产品观念去观察，许多真正有趣的差异反而被抹平了。我们过去描述产品需求、制定规格的方法，衡量的维度、可调的杠杆和坐标轴，并不适合表达 AI 原生产品真正重要的设计决策。以 Muse 为例，我们在“为了产品而设计模型”这件事上投入很多注意力：模型在各种情境下到底该怎么行动？它应当是什么性格？面对工具调用又应该怎样处理？每一项都有意为之。假如把所有场景下希望模型展现的行为全部写成规格书，也会是一本很长的文档。只不过按照今天的产品认知，大家会说：“不就是 AI 嘛。”就像移动互联网刚出现时，大家说“不就是 App，所有东西都是 App”；后来才发现 App 的具体形态有大量微妙差别。
模型就是产品：从界面到性格与后训练
我们现在正处在这样一个阶段：人们说“不就是 AI”“不就是智能体”“不就是带虚拟机的智能体”。但真正值得关注的差异需要慢慢辨析。
明白了。你们觉得我犯了一个经典错误：自己所在的支付行业复杂，别的行业从产品角度看起来却简单，仿佛所有支付处理商都一样。
其实我非常同意你刚才的一点。我们很早就讨论过一个趋势：产品本身变得越来越轻、越来越薄，而模型越来越成为产品的主体。我们内部常说，“模型就是产品”（the model is the product）。
对。
谈到智能体，Muse 很多复杂的产品工程，是围绕它如何处理你的数据、关联服务时如何保护隐私和安全展开的。这是我们特别重视、也很自豪的一点，也是仍然需要创新的产品层。但能力、性格和大量体验本身，都是训练进模型里的。不管是实验室的研究人员，还是 Nat 团队里的产品人员，Nat 思考怎样让产品体验好时，实际上谈的往往是模型后训练。界面当然也重要，只不过产品最重要的部分就是模型。
完全如此。对用户来说，随着时间使用 Muse，会形成一种很直观的感受。其中相当一部分来自它完成任务的可靠程度，另一部分则来自它的主动性：什么时候主动、在什么情境下主动，以及它跟你说话时让你有什么感觉。我最近在 X 信息流里也越来越多看到讨论：看起来都是主动式智能体，但它们之间到底有哪些有意义的差别？这些才是有趣的产品设计决策。而好玩的是，这些决策该怎样写进规格？最后往往落到模型设计，再进一步落到训练方法、数据、评测等各个环节。
说到产品形态，Muse 有个显著特点：没有模型选择器，也没有推理投入程度（effort）选择器。你们觉得这对消费者 AI 产品来说理所当然吗？
我就是希望简单。
对。很多 AI 产品出了名地由高度技术化的人群设计，他们脑子里的用户模型并没有一个随机抽取的普通美国人。有些模型名称简直离谱。
数字还会倒着排？
有时候数字顺序倒退，有时候突然换了一个完全不同的单词，又搞出另一套命名。一个不认真研究 API 设计规格的人，到底怎么知道该选哪个？实在太混乱了。
发布 Muse Wonder：规模更大、模型更强
我们谈了很多模型。介绍一下新模型吧，听起来很厉害。
我们确实很自豪。新模型 Muse Wonder，是一个处在前沿的新级别模型。我们基本上从一开始就为此努力。做预训练时，你不会直接使用手头最大的集群，而是要逐级往上训练，先做大概扩大四五倍的模型，再一遍遍重复。第一批 Muse Spark 模型就来自我们去年十二月左右完成的最初一次预训练。
对，去年年底。
团队居然能往一个坦率说并不太大的模型里放进那么多智能和能力，大家都感到惊讶和佩服。随后我们开始做下一个模型，它的预训练早已结束，后训练也持续做了一段时间，现在终于发布。这是下一档次，规模大得多。用户会体会到它思考问题时更细腻的层次。我们重点优化的是让它成为最好的个人与专业工作智能体模型，包括强记忆、坚持完成复杂任务的能力。实验室和产品团队为此付出了大量工作。这也证明团队已经能有条理地掌握扩展模型规模的流程。我觉得这还是一个里程碑：从现在开始，每发布一个更大规模类别模型的间隔有望缩短；这对我们将来能开发的产品很令人兴奋。
你是指 Meta 自己，还是整个行业？
Meta。当然别家也有类似趋势。
这是递归自我改进（RSI）的作用，还是其他因素？
在 Meta，有部分原因是我们必须……大家也知道，我们对 Llama 4 原来的发展轨迹不满意，所以几乎把整个团队重建了一遍。过去一年半经历了很多疯狂的事，后面应该专门谈谈。
一定会聊。讲点战时故事。
总之团队得先搭建一系列不同层级的模型，才最终走到这一版。如今我们已经到了前沿，以后的工作就是不断推进前沿，而不必再完成过去那些基础性的补课。我不知道，Alex，你怎么看？
我们真的很兴奋。这个系列会有两个可用模型：Muse Wonder 和 Muse Wonder Full。
（笑）好吧，明白了。
后者基本上是更高端的型号。
就是 Muse 1 的完整版。
我懂了，“Wonder Full”，两个单词，跟 wonderful（美妙）同音。
你显然是当爸爸的人了。这是很标准的冷笑话。
说回性能，我们在个人和专业智能体任务的一系列评测上看到了非常突出的表现。按我们的测量，它达到了最先进水平。此外还有一些随着模型设计不断打磨出来的亮点，我们特别兴奋。比如 Mark 刚提到的“主动记忆”（active memory）。要构建可靠的个人和专业工作智能体，记忆显然是基本要求之一。我们在这方面的投入，事实上比其他许多方向都要多。
主动记忆、持续专注和前沿编程
我们也有内部的 Memory Bench 评测，展示了这方面的一系列能力。
给外行解释一下，模型的“记忆”是什么？就是处理一个任务时，它的工作记忆能装多少东西？
对，它跟上下文有什么区别？
我认为区别体现在使用体验上：几天、几周甚至几个月前，你告诉模型的事情，它还记得多少？做以后的任务时，又能多好地利用这些信息？
明白了。这正是 OpenClaw 特别容易出故障的部分。我们都很喜欢 OpenClaw，我自己也是很满意的用户。但它最终要做上下文压缩，有长期记忆，也有工作中的短期记忆之类。用久以后，很多人会发现记忆相当不可靠。
对。所以我们既设计了模型，也设计了供模型使用的系统，以形成更强的记忆形式，我们叫它“主动记忆”。另外，Mark 说到坚持完成任务——
等等，这是在模型外面的东西？模型本身已经有了，然后——
不，不。你说的压缩之类，有些就是模型自身执行的能力。要把这种事情做好，就需要——
不是外面加的智能体框架（harness），而是模型本身的能力？
对，就在模型本身。它会把自己的记忆视作核心系统的一部分，并理解该怎样利用各种信息来源完成将来的任务，也知道自己可以做压缩、怎样压缩最有效等等。
这意义很大。因为许多人初次使用 AI 智能体，得到的就是不太可靠的记忆体验，提升这一点很关键。
当然，必须说还有很多改进空间，我们自己的评测就表明了这一点。但这是我们引以为豪、也认为有实质贡献的方向。
好，主动记忆是一项。
还有“主动专注”（active focus）：模型执行任务时能一直把事情做到底。我们看到 Muse 和 Muse Code 的用户交给模型的任务越来越复杂、越来越模糊、难度越来越高；我们希望它都能有效执行。早期内部试用和测试中，许多人都注意到，相较他们试过的其他模型，这一点格外突出。第三项是领域专业知识。
从 AI 角度说，“专注”究竟指什么？是给任务投入大量算力，还是不被其他事分心？
有点像坚持不懈？
对，就是持续性：有能力在非常长的时间跨度内完成整个任务，途中遇到各种挫折时，也能找到其他办法，并保持与目标一致。
明白。
另外，编程能力也有巨大跃升，已经处于前沿。在 DeepSWE 和 SWE-Marathon 上据我们评测达到最先进水平，在 Terminal-Bench 4 等其他基准上也很强。用它写代码的用户可能只是我们所有用户中的少数，但他们会看到明显的大幅进步。
那 Stripe 是不是也该用 Muse Wonder Full 写代码了？
有可能，当然可以出去试试。
如果它在 SWE-bench 上真是最强，不用就亏了。
编程能力确实提升很大。当然我们希望大家亲自试，看看实际体验，我们自己的内部测试结果让我们非常满意。
我觉得人们还会在很多别的任务上喜欢它。
所以它既是你们最新的前沿模型，开发者可以直接从你们这里、或通过 OpenRouter 调用；与此同时它也是 Muse 里的一次重大升级，普通用户使用时会直接感受到。
对。不过它大很多，服务成本也更高，所以最初主要会在付费订阅里提供。
免费与付费、API 和 Muse Code
我们希望 Muse 这个产品人人都能免费用。因此使用 Muse Spark 模型的用户会有大量免费 token。但要让 Wonder 完成大部分高难任务，至少目前得用付费版本。当然行业发展那么快，希望不久以后就能做出具有 Wonder 水平、却有 Spark 这种小型形态的模型，届时就能向全世界数亿人提供服务了。
好，所以我打开 Muse，订阅什么高级版、专业版之类……
付钱就行。（笑）不掏出信用卡绝不停下来。
然后我要自己选模型，还是它神奇地就……
它直接变得更好。对你的体验就自动升级了。
而且它会通过 API 提供，包括 Meta Model API 和 OpenRouter；Muse Code 用户也能使用，订阅 Muse Code 的人还可以用 Muse Wonder Full。我们很兴奋。正如 Mark 所说，这是大得多的模型，我们正在研究怎样最高效地服务尽可能多的人，希望让更多人能上手，这是很大的一步。
对。用 Muse Spark 走到这一步时，我们就已经对模型效果相当满意。但现在这标志着 MSL 开始站上模型前沿。我们觉得这些模型足以和外面最强的模型竞争。
所以你认为 Astra、Fable 和 Wonder 都在同一个前沿梯队？
你可以直接看评测的实证结果。
按评测确实会得出这个结论。明白。
而我们尤其骄傲的一点是，正如前面提到的，我们花时间针对 Muse 这样的产品形态来优化模型。所以这不仅是一款前沿模型，我们认为，针对个人及专业工作智能体的使用场景，它确实是世界上最好的模型。
基准测试的局限：怎样衡量“大模型的味道”？
公司内部经常有人抱怨古德哈特定律：一个指标一旦成为目标，就不再是好指标。有人说模型被过度刷榜（benchmaxing），过度拟合评测基准反倒可能在某个阶段让模型变差。作为真正训练模型的人，你们觉得属实吗？基准测试还能很好地给模型打分吗？会不会出现奇怪的边缘失败案例？
基准必须不停更新，因为它们很快就会被做满、达到饱和。我确实觉得——
那没饱和的测试就是有效的？
随着推进，我们越来越多地用自己针对核心使用场景设计的内部评测引导模型。最初我们还在摸索科学方法、逐级扩展模型时，更关注外部基准，以确认路线没有跑偏。但每发布一代模型，我们评估时内部指标的占比都更高。
Muse Wonder 的研究博客里，我们实际上量化了一个叫“大模型味道”（big model smell）的指标。它和刷榜带来的感觉某种程度上正好相反：用真正的大模型时，你往往一下就感觉得出来，它思考有层次、有细节，有种难以言说的特质（je ne sais quoi）。我们量化它的方法，恰好接近你刚才提的问题：衡量分布内与分布外表现的差距。也就是在强化学习、后训练覆盖的任务上表现如何，而超出这些训练任务分布的任务又如何。比较 Muse Spark 系列与 Muse Wonder 系列的这一差距，我们看到很大的跃升。正如 Mark 说的，Wonder 背后是一个好得多的基座模型。那种说不清的优越感，我们现在能在一定程度上量化；我们也很期待继续提高这个维度。
如果你们认为外部基准没那么重要、内部评测重要得多，这是不是反对刷榜的一条理由？追逐大家都在谈论的公开榜单最高分，并不一定能造出好模型？
是，但也因为我们关注的东西本来就不一样。整个策略的一部分是个人超级智能，我们想开发与其他人不太一样的产品。就算大家用完全相同的评测，也不能反映我们全部需求。
可个人超级智能也不是什么极小众目标，别的模型应该也想做得到。
我认为其中有不少差异。比如性格可能更重要。我们经常讨论“谨慎披露”（discretion）：要替用户完成任务，模型必须了解用户很多情况，却在现实世界办事时尽可能少透露这些信息。比如你有过敏症，或者怀孕了，想订一家合适的餐厅，却不想向餐厅透露自己的医疗状况。模型应该怎么办？人会凭常识判断，但模型到目前为止……如果做的是编程智能体，在一个所有人都能访问同样上下文的环境里工作，那么信息披露的分寸就不一定那么重要。我们还看重另一种编程：代码必须能运行，但使用智能体的消费者甚至根本不会看到代码。服务个人超级智能和直接服务软件开发者，重点是不同的。
最终我们关心的是做出有用的模型：真正交到用户手里，他们用起来体验很好。
从公开榜单到内部评测：前沿模型如何训练
这才是我们或其他任何人生产模型时最重要的指标。若过分盯着公开基准，追根溯源你可能会发现，那不过是某个博士生读博期间做出来的测试。你等于把整套产品思考外包给了一个碰巧让基准火起来的博士生，显然不对。所以 Meta 和 MSL 有大量人员专注于精心设计优秀评测。有了自己的评测，就能沿着自己的目标改进。当然刚开始搭建实验室时，公开基准是合理起点，那时候你只是想看看有没有成果，但不应该停在那里。现在我们希望极有意识地持续改进模型和产品。Mark 刚才举的例子，都可以非常严谨地写进一张表：每个小能力、产品体验的细微差别、它们为什么对用户重要。也许单项只影响用户体验的 2%，可所有细节叠加，正是这种执着最终让模型显得像魔法一样。
你们能介绍一下训练强化学习模型——抱歉，我是说一个最前沿模型——究竟需要做什么吗？很多听众大概知道有预训练和后训练两步。预训练就是吞下海量数据，比如看大量图片，知道哪些是猫、哪些是狗，逐渐理解“猫的特征”“狗的特征”以及毛发等等。也可以讲讲数据收集。然后是 RL 阶段，这是过去几年 AI 领域比较新的进展。听起来你们模型很多细节都来自这里：选对训练领域、选对值得模型攀登的高峰。我想从宏观上了解，要多少人、花多久、经历哪些步骤，怎么组织这一切？
你有多少时间？（笑）这些就是我们全部的工作。
对，所以只说高层次。
要讲的话都能开一套 YouTube 课程。
非常宏观地讲，确实有预训练、后训练两个阶段。讽刺的是，“训练”其实是包含两者的上位概念。
那在研发这些模型时，整个项目有多少人参与？
这就说到 MSL 很有意思的地方，以及我们采用的组织方法了。从最初开始……前几天我们还在回顾过去，我翻出第一次联系 Alex 的聊天截图。最初我发的就是：“嘿，有空聊聊、叙叙旧吗？”然后我们通了个大概 44 分钟的电话。
原来他们就是这样把你拉进来的。（笑）
两天后 Alex 给我发来一大段文字，说“如果我是你，我会这样做”。第一条就是：不需要很多人，关键是人才密度。从计划一开始，这就是核心策略，对吧？不是堆砌庞大员工数量，而是让每个人都尽可能优秀。这才促成了后来疯狂的招聘行动和极其严格的筛选：既从 Meta 内部挑出最强的一批人，也用非常高强度的流程从外部招人。
用创业团队的规模训练前沿模型
我觉得 MSL 特别吸引人、许多人想加入的原因，是在精干且人才密度高的团队里做事更有趣，感觉像创业公司。
对，像初创企业。
既有创业公司的好处，又有大企业的稳定性和资源。这也是 Alex 当时计划的第一条。我不确定预训练团队应该多大，但并不需要太大；其他实验室的队伍可能相当庞大。我们的模型之所以表现不错，一个原因是我们把赌注押在一些核心人员身上，让他们得到充足资源，而不是像抹花生酱一样，把算力薄薄地分散到大量相互竞争的项目上。我们集中投资关键人才，让每名研究员拥有大量算力，然后放手让他们工作。
Wonder 就是那个大型训练项目吗？大部分训练都在它身上？
它是下一阶预训练，是向上爬梯子的一个阶段。我们内部有不同档次：Muse Spark 的代号是 Avocado（牛油果），这一代的代号是 Watermelon（西瓜）。水果快用完了。
用完了，得换命名方式。好像唯一技术上更大的水果是榴莲，但最好别选那个。
榴莲比西瓜大吗？
至少更重，也更可怕、更扎人。
回到正题，正如 Mark 所说，我要讲的每个研发阶段，在 Meta 都只是几十个人在做，而其他地方可能是几百人。
Meta 明明是一家巨型公司，这却是内部极小的项目？
对。研究团队不到 200 人。
很小，有意保持非常精简。
更接近 100 人吧？另外还有不少基础设施人员。
是的，基础设施工作很多。宏观地回到刚才的问题——一个模型到底是怎样诞生的？
正是我的问题。模型从哪里来？
预训练首先需要海量数据。大致来说，尽可能多的公开互联网内容、能拿到的书籍，还有各种类型的数据，包括专有数据——
还有不同模态。要做好感知，就必须确保图像、音频、视频等数据充足。某个专业领域的能力，也不应该等最后才靠强化学习补进来，模型应从一开始就接触这类知识。
对。这一阶段相对不那么纠结数据的精确形式、格式或其他细枝末节，重点是大量、多样的数据。
既然目标是最佳个人智能体，预训练是不是得找来大量餐厅订位、打电话预约这类数据？
你希望大量纳入人们真正关心的模态。我们之前介绍 Wonder 优势时好像没有详细谈这个：用户很关心购物、个人建议，也会问法律、健康、税务等私人问题。Muse Wonder 在这类问题上表现相当好。具体要不要报出量化数字我不确定，但可以说，这类个人建议问题它很擅长。
对。这些能力可以在一定程度上用 RL 强化，但你也会希望预训练就装入大量相关内容。比如健康，外面就有很多健康领域的数据。
预训练的数据配方、迁移效应与规模定律
所以预训练阶段，你就是想让模型看到各种各样的东西，把不同语料库放进去。
没错。Mark 刚说到，Muse Wonder 的一大亮点就是各个领域的专业能力。我们的理念是，最好的个人智能体应该让人感觉像有一支专家团队站在自己这边：好像自己的律师团队、财务团队、医疗团队都随时可用。按我们的评测，Muse Wonder 在不少金融和法律基准上达到了前沿水平。这些专业能力始于预训练，我们会找大量领域数据放进去。
预训练这门手艺本身很特别。Rune 发过一条推文，说做预训练的研究员就像一边嚼玻璃，一边凝视远方和深渊。这话确实有道理，因为这是风险最高的研究领域之一。我们把总算力中相当大的一部分投入 Muse Wonder 的预训练，赌注非常大。我想整个过程中我和 Mark 都经历过——
悲伤低谷。
对，还有不确定的低谷。预训练一个模型时，你会经历悲伤的七个阶段（笑）。它又是特别有科学意味的工作，因为你没有太多试验样本，所以要科学地推断到底会发生什么，全靠你对整个过程每个环节做极深入的推理。
所以前沿模型的预训练都要尽可能多地获取数据，同时按目标有所倾斜。如果希望 Wonder 擅长法律、金融、税务问题，就要尽可能多地加入相应语料？
是的。你仍应有意识地决定最终希望模型成为什么样，但总体上它确实受益于更多数据。
这就是海量数据和海量计算的阶段。预训练数据会达到饱和吗，还是永远越多越好？
模型规模和数据量存在关系：模型更大就需要更多数据，否则容易过拟合。
我想问的是，是否有些数据会干扰模型，让它头脑里的阁楼塞满不需要知道的东西？
我想确实存在一些这样的效应。
哦，这就接近商业秘密了，抱歉。
倒也不是。我们会研究，增加这么多 token，在一些地方是否产生零和效应；很多地方并非零和，反而有正迁移，但在特定配置下也可能出现负迁移。这些都是很有意思的问题。但扩展大模型的主要挑战之一，不只是有多少 FLOPs、多少计算量，而是数据也要同步扩展。最初研究预训练规模定律时就得出过这个结论。如果互联网增长并不快，而你又想把模型做得更大、更聪明，数据从哪儿来就成了很有意思的难题。
好，这一部分恐怕讲到这里就差不多了。
这边 CEO 风范十足啊。（笑）
那接下来讲后训练。现在的后训练好像特别令人兴奋，也是一个——
后训练：SFT、RL 与扩展法则
整个领域几乎一直在学习，怎样的训练配方才是后训练的最佳方式。给听众解释一下，后训练就是让模型执行你期望的任务，再给它的表现打分。比如训练一个下棋模型，就让它下棋、学习——
实际上还要分两步。先是监督学习，也就是 SFT。你拿一个原始模型，既给它问题，也给它希望它回答的正确示例。比如聊天时遇到某种情况，希望它怎样回应？塑造性格之类的行为，SFT 特别重要。不过最近几年绝大多数进步来自强化学习（RL）。
对。SFT 是 supervised fine-tuning，也就是监督微调。可以把它理解为初始化模型将来要展现的各种行为。在 SFT 结束时，这些行为已经一定程度上刻进模型，但也许只有 10% 的时候会表现出来。到了强化学习阶段，你在各种情况下给予强化反馈，把这些行为被真正激发出来的比例大幅提高。
RL 和后训练最近有许多有意思的进展，其中一个明确的方向就是扩大 RL 和后训练规模，投入更多算力、收集更多数据，在模型发布前做得更多。
对，尤其预训练模型越大，后训练也得做得越多。就像所有规模定律一样，多个因素必须一起增加才行。
如果要给 AI 一条笼统建议，我会说“把一切都扩展”。但重点是一起扩展；只把其中一个因素独立放大效果不好。
技术上你当然可以单独扩大一个维度，只是多个维度同时扩展时，性能才更接近最优。
拿 Muse Wonder 来举例：我们先完成预训练，又做了一些 RL。看 Muse Spark 从 1、1.1、1.2 到 1.3，预训练完全没有变，只是在同一基座上继续强化学习。因此一个新级别模型的早期版本，RL 相对预训练的比例比较低，后续小版本则会逐渐提高。
所以这就是模型小数点版本的意义？
各家公司命名惯例不同，对我们是这样。
很多公司大版本数字代表预训练模型，但这个语义好像已经丢失了。
至少 Muse Spark 是如此。Muse Spark 和 Muse Wonder 来自不同的预训练；至于 Wonder 后续怎样编号，我们决定先不回答，暂时不给它加数字。等第一次发布小版本时就得定下来。
强化学习阶段很有意思的一点，是怎样创造训练环境与任务。这是我们非常有意识去设计的地方。你还会发现一些反直觉现象：RL 数据往往不是越多越好，少反而更有效。整个做研究的直觉和科学方法，几乎与预训练倒过来了。另外 RL 对模型的影响可能被极度放大。例如我们很在意的安全与对齐问题：对前沿模型进行大算力 RL 时，如果一个环境给模型施加很强的优化压力，但成功的唯一方式却是不符合人类目标、甚至不安全的行为，那么——
RL 环境质量与 Meta 的模型对齐理念
……模型就会被推着做出不对齐或不安全的举动。所以训练 Muse Wonder 时，我们必须非常小心地策划强化学习环境，确保所有环境都是在诱导和推动更符合预期的行为。
你说的数据“质量”这个点很重要。刚才讨论很多都围绕数量，好像总之要扩大规模，但有时候少量高质量数据就能产生巨大价值。
对。我们看到新一代 Muse Spark 有很大的能力提升，往往都伴随着训练配方本身的实质改进。从 Muse Spark 1 到 1.3 的体验可以说天差地别。如果让普通用户猜这是不是来自不同的预训练，我想他们多半会说是。其实这种现象整个行业都在发生：大家学会了从已有基座模型里榨出更多能力、激发更强的智能体行为。当然我们仍相信扩展规模至关重要，这也是为什么要开发更大的 Wonder。但如今预训练规模和 RL 训练配方正在同步快速改善，这正是总体进步如此迅猛的原因。
还存在其他扩展维度。比如智能体运行框架（agent harness）是不是足够好，能否和模型一起联合优化，这也可能是另一个重要维度。
我想确认一下：你们是说，对齐并不是设计一些专门负责对齐的 RL 步骤，而是要让整个 RL 过程始终把模型引向正确方向？
必须在整个 RL 流程里都审慎对待这件事，这是一个整体性的工作。
而且各家实验室对于“对齐”有很不同的理论。对齐从哲学上讲，首先就得问：你希望模型与谁对齐？我们的想法更多是，要给每个人提供自己的智能体。用户交代一件事，应该有很高的把握智能体会照着要求可靠地完成，而不是反过来听它发表道德说教，告诉你为什么不应该提这样的要求。当然，如果请求可能造成灾难性后果，它得妥当地拒绝，而且尽量别让用户火冒三丈。总体来说，我们更把对齐理解为：执行指令，以及价值观与它原本要服务的那个人保持一致。这跟一些其他实验室的思路确实很不一样。
千亿美元豪赌：从研究到千兆瓦计算集群
还有一个有趣问题，也和刚才问的相关：训练一个模型到底要多久？Muse Wonder 大体从去年八月就开始规划了。
对，我还记得那次线下讨论会，团队第一次展示方案。
所以刚才谈到的所有阶段实际上都要持续很长时间。并不是等 Muse Spark 做完才开始研究 Wonder；我们很早就一直在规划、推进。第一篇 Muse Spark 博客就写过，Spark 其实是通往 Wonder 的垫脚石。我们当时真就是这样想的。
当时就这么定位？
对。而且刚才只谈了研究时间，还有算力建设。我们长期投入建设海量计算资源。衡量一个实验室的算力实力，一个标准是它能用来做大型训练的最大单体超级计算机有多大。我们在俄亥俄州建了 Prometheus 集群，目标超过 1 吉瓦（GW）；现在还在路易斯安那州建 Hyperion 集群，计划扩展到 5 吉瓦。这些规划其实早于 MSL，因为从零开始建设一个大型数据中心需要很长时间；现在只是逐步投入运行。
你们起初会不会以为这些算力要用在信息流（feed）等现有业务上？
不，不。这些规划甚至可以追溯到 LLaMA 项目。我想是 2023 年或 2024 年，我们就开始计划建设这些集群，现在才陆续落地。路易斯安那州的那个还得用几年才能全部上线。
如果从头到尾看整个技术栈，Meta 本来就是全栈科技公司：自己建数据中心、造芯片、做底层基础设施。现在又增加了一个部分——开发真正优秀的模型，再把它交到用户手里；对下一波技术而言，这可能是整个体系最重要的一环。但完整走下来是个漫长过程。外界看模型不断发布，容易以为公司先推出一个，再决定下一个怎么做。其实背后是漫长的规划和多个长周期工作流，最后才一起汇合，形成漂亮的模型。
反馈周期这么长，你们要怎么做出好产品？八月开始规划，一年多后才知道模型好不好。硅谷一向喜欢用指标，但到头来是不是还需要一个有审美判断的人说：“抱歉，我就是不喜欢”？
有指标当然好，但创业者的能力本来就是在信息不足时做出正确决策。
但你们把这难度提高了好几个量级。
是的，Mark 在这方面非常值得称赞。正因为一切耗时都很长，过去一年里，从我加入到更早以前，我们有很多时候——
看不到结果先下注：反精益创业的资本投入
……必须在技术究竟能不能奏效还毫无验证之前，就做出极大的投资或研发决策。这几乎是高难度模式的创业，完全是“精益创业”的反面。精益创业讲的是先做出点成果，看管不管用，再加倍投入，然后继续验证、继续加注。前沿 AI 根本不能这样。我们已经连续多年投资建设数据中心；如果等看见技术是否成功再决定投不投，就会远远落后。
去年年底我们开会时，大家都对研发进展很兴奋，但还没有见过最终模型。我当时就想：我们马上要开出一张大概一千亿美元，甚至两千亿美元的支票。我问 Alex：“你确定这玩意儿能成吗？”
当时情况极端到整个管理团队都参与了。
Susan 还把你吓得不轻。
对，我们每次谈这事都会开玩笑说“希望一切能成功”。可那时候，我能给大家的无非是研发进度的直觉性判断，展示一些曲线图。虽然我自己感觉不错，但完全不能确信它一定成功。
所以你们的意思是，训练前沿模型的本质，就是牌还没发到你手里，就得把筹码全部推上桌。得先决定一定要做前沿模型，而且没法一点点计量投入。
在今天这种规模下是这样。几年前集群不必这么大，现在必须得大。现在建一个前沿实验室特别刺激，因为入场底注高得离谱。
我对这件事有切身体会。去年年底我们在夏威夷，整个管理团队聚在一起。Susan 把我单独拉到一边好几次，说：“我得告诉你，如果做不成，后果非常、非常糟糕。财务上会非常严重。我要你明确意识到，这个模型必须成功，而且必须做得好。好就一切都好；如果不好，后果真的非常非常严重。”
这算有用的激励？
还真是。那是个很有趣的瞬间，金额大得近乎荒唐。
单是训练就要多少钱？大概数量级就行，能分享多少说多少。
可以做个常规估算。运营一座 1 吉瓦集群一年，大概需要 150 亿美元。
也就是花 150 亿美元，能训练一批模型。
更准确地说，是运营 1 吉瓦集群一年的成本。如果算建造时的资本开支，还得预先支付，可能接近 500 亿到 600 亿美元。这还只是某个训练环节的一座集群。还有许多其他部分。研究不是只做那次大型训练，每改一个地方，你可能都要从小规模到大规模把一系列实验完整跑一遍，所用算力可能差不多。然后还有部署服务成本。
现在训练一个前沿模型，整体得花数百亿美元？
是，我看过汇总后的财务数字。就整个投入而言，用数百亿美元来估算是合理的——
推理需求未知，Meta 为什么仍要提前建设算力
不过训练之后总得拿它来做事。更复杂的问题其实是：我们要训练模型没错，这是核心，但未来产品到底会有多少需求？那时候产品根本还不存在，却要为未来的 Muse 推理服务提前建数据中心，而且得提前好几年。去年讨论时一度有人建议保守一点。我说不，我们就是要干，要把它做成，破釜沉舟。
我自己也是创业者，也冒过风险。但那时候真切地感觉：这风险大得吓人。
而且之后只会更大。
Mark，我很佩服你的一个地方，是你真正把一个道理内化了：关键不是失败是否可能，而是一旦成功，胜利有多大。失败本身可以接受，重要的是赢的时候能赢多大。
Mark 对幂律的理解确实比许多人深得多。
不过我不认为风险有你们说的那么大。数字很庞大，但 Meta 对算力有兜底用途。第一，只要 AI 整体成功，别人也会想买我们这些算力。假如每吉瓦成本是 150 亿美元，我们可能卖出更高价值。所以事情最终不成功，不仅要求 Meta 失败，还要求整个 AI 行业都失败。第二，即使 AI 真的不行，我们也有其他能有效使用算力的业务。没错，我们确实在产品尚未准备好时就先为推理铺设了计算资源。
你算是彻底相信 AI，觉得只要 GPU 通电上线，总有人会用得上。
对，但我们也相信自己在造的东西。看看发展轨迹：先有 ChatGPT 文字助手，然后 Anthropic 把编程智能体做出来了。但还没有人真正做出面向普通个人消费者的对应产品。我们从一开始就觉得，这正是 Meta 应该做的事；我、Alex 和 Nat 都很清楚我们为什么在这里。
Muse 发布时，真正不确定的是产品会怎样被用户接纳。理想情况是一炮而红，这次确实如此，一开始就得到非常好的反响。但通常情况下，产品初版表现尚可，还得迭代好几轮，才能找到产品市场契合点，再实现快速增长。某种意义上我们原本还可以把 Muse 增长推得更快，但发布时增长工具没有全部准备好，因为我们的中位预期是要先经过几轮迭代。即使迭代几轮，也完全正常、没什么大不了；当然如果发布灾难性失败、花很长时间才能恢复，那就不好了。尽管投入数字巨大，我当时仍觉得这件事大概率值得干。
整个高管团队手牵手一起承担这么大风险，是不是反而增进了凝聚力？
高管团队的凝聚力与下一代平台
你说 Susan 把 Alex 单独叫去谈话，那算增进感情的时刻？其实压力很大。
两者都有。共同面对压力一般确实会让人更团结。Meta 很特别的一点是，绝大多数高管都已经在这里很久了，Nat 和我才是新人。其他人过去也经历过许多疯狂的局面。Meta 是非常有韧性的公司，穿越过许多当时看起来同样艰难的危机。大家很了解怎么应对这种局面。财务总监 Susan Li 在会上单独把我拉到一边时，从纸面看，这当然极其吓人，但其他人更多会说：“是啊，不过我们是 Meta，会挺过去的。”那种并肩作战的氛围很好，我很感激。毕竟公司的其他高管在管理日常业务——
在负责付账单。
对，他们运营着有史以来最出色的商业模式之一。他们完全可以对我们这件事很不满，但大家同时也很期待 AI 为公司带来的机会。
从更高层面看，Mark 作为创始人和 CEO 的一项职责，是不断推动公司走向它能实现的最有雄心、最有扩展性的形态。整个 MSL 和 AI 项目正是这种责任最直接的表现。我们知道 AI 毫无疑问是当下最重要的技术之一。如果我们能把它做好，真正融入公司的一切业务，再利用全栈技术公司的能力，把 AI 放进未来必然出现的那些了不起的产品，它就可能极大扩展 Meta 的边界。Muse 就是个非常令人兴奋的产品，能朝一千种不同方向发展。晚上想想各种可能性，Nat、Mark 和我还会互相发消息：“我们可以做这个、做那个，还能推出这样的产品。”现在真是激动人心的技术时代。
从这个意义上讲，确实是一片蓝海。
聊着 Muse，我越来越觉得它显然是下一个平台：替你行动的智能体。Mark，你很长时间以来都说过不想依赖别人的平台。过去在 Android、iOS 上开发产品、受制于平台方的经历让你有过教训。谈到 Reality Labs 时，你总强调掌握未来平台的重要性，这些年一直为之投入。现在又出现一种明显将用于大量生产性工作的全新交互方式，看起来就是未来平台，而 Meta 恰好准备充分。
是，不过我的重点不在于为了掌握平台而掌握平台——
超级智能平台：发明创造比自动化更重要
……而是为了把最好的东西做出来。看看其他社交应用，Meta 能做得更好，部分原因是我们不只会做 App。很多人把我们当成应用公司，但我们其实是一家深度技术公司。我们在机器学习方面是世界级水平，推荐系统的运行规模放眼全球都只有少数同行能达到，可能就是我们和字节跳动。我们会一直深入到底层硬件。能通过设备把最后一公里的体验交到用户手中，确实也源于我们过去在手机上无法实现理想体验的挫折。
但展望未来，我认为模型将远远成为技术体验最重要的组成部分。我们很早就同意这个观点：每一代技术公司通常不是只有一家赢家。互联网时代有五六家巨型企业，还有非常出色的其他企业构成的生态。表现最好的公司，是掌握核心技术、能为用户提供最佳服务的那些。下一代可能只有少数几家公司能打造最前沿的超级智能，它们将真正引领方向，并能创造大量最有趣的体验——面向消费者、企业、硬件等领域。
因此我看这件事时会问：Meta 真的还有选择吗？就算我们不做这些，Meta 未来大概也会继续存在。但如果我们希望它继续是一家能发明重要新事物、让人们受益的有趣公司，我看不出不具备端到端开发自己超级智能并将它融入产品的能力，还能怎么做到。
而且这是你从很早就相信的事。未来有望掌握这项能力的公司只有少数几家，个人与消费者方向还存在巨大空间，因为其他人几乎都醉心于自动化知识工作。但仅仅自动化知识工作甚至称不上多么振奋人心的未来。我们共同相信，超级智能最高价值的应用其实是发明和创造，而不是自动化。所以这个方向仍有广阔空间，但你确实需要掌握完整技术栈。
智能体商业：商家该开放还是封锁 AI？
在 Muse 介入的未来，企业和商业生态会变成什么样？商家可能得专门支持 Muse，否则智能体只能用电脑操作的方式访问网站，有些地方会很笨拙。最好大家都原生支持智能体交互。但更深的问题是，有些企业可能主动阻止智能体。也许它们误判了自己的利益，实际上支持会更好；也可能支持智能体确实不符合自身利益。想象一家护城河很浅的企业，靠消费者耗在网站上的时间赚钱，或者靠对消费者收取过高价格赚钱，那它理性上就不想让 AI 来替用户购物。
但这种企业会被颠覆。
所以你们谈谈，这会怎样从二阶效应上改变整个经济。
第一步，我们把非常强的浏览器操作能力直接训练进了模型，这样接入 Muse 不需要商家额外做任何事。下一步我们按重要性逐一联系合作伙伴：愿意合作的就提供直接 API 接入，Muse 用起来会高效、快速得多，商家也省去了智能体爬网站的成本。长期希望愿意合作的商家都能用这种方式连接。再往后，就像今天每家公司都有网站、社交媒体账号、电子邮件地址一样，未来每家公司也会有自己的智能体。我们也在开发商业侧的智能体。Muse 会跟各种智能体交流，跟我们自己提供的商业智能体当然可以整合得更顺畅。现在让 Muse 操作网站，只是过渡阶段。
网站操作是保证可靠性的后备方案，让人人都容易开始。
没错，也让商家容易启动。事实上找我们主动要求深度集成的企业远比试图阻止我们的多。我的猜测是，封锁智能体从长期战略看不见得明智，但最终还要让时间证明。
能帮商家省很多时间，也能省钱，对消费者明显有好处。
从长期看，需求必然会越来越多地从现有渠道转向智能体渠道。当然其他购买方式依然存在，就像现在有实体店，也有很大一部分电子商务需求。但智能体商务在整个市场蛋糕中的占比会不断增长，企业要考虑愿不愿意参与这部分经济。想象智能体商务的未来，我非常兴奋。
Patrick 写过一篇不错的长推文——现在是叫 tweeticle 吗？
不知道。Patrick 的推文自成一派，散落在各种内容里。我记得他分析《卡拉马佐夫兄弟》就写得很好。
但这确实是商业运作方式的一次非连续性变化，甚至可能重新塑造更广泛的商业通道。归根结底，它对消费者、对客户显然更好，市场自然会被这种更优的体验吸引过去。
智能体代买商品与跨场景个性化
还有一件很激动人心的事，不知道你们有没有同样观察：Muse 可能是第一批真正让人把购买决定完全委托给智能体的产品。这是一个跳跃。我们讨论智能体购物的可能性很久了，现在真的有人在用，很多人信任它替自己买东西。像我买的好茶叶，或者其他人让智能体替自己发现很棒的商品，就是例子。
对用户来说，一项价值是减少摩擦：不用自己点开一堆网站、做大量研究才找到想要的商品；模型还会自动应用约束，比如“我周三前就要收到”，那它就只查能在周三前送到的货。
想想以前我们竟然依赖关键词搜索，这种限制明明非常合理，却很难自然表达。
没错。能这样购物之后，传统搜索方式突然显得非常原始。后段流程也更顺畅，比如自动填表、直接完成下单。但我们更期待的是长期更深入的个性化。Muse 对你这个人和生活的方方面面有整体上下文，能理解你的家人、同事、朋友，综合所有因素，为朋友群里的某位挚友选出真正合适的礼物。过去推荐系统彼此割裂、各自孤立，没有对一个人的整体理解；Muse 有机会把个性化提高一个层级。
用户已经感受到了：你让 Muse 买东西，它经常会从别的对话调出相关背景，加进购买决策。我们就有个很好的例子。
我的三岁女儿很喜欢烘焙和做饭。我平时更喜欢熏烤肉，但为了让 Aurelia 高兴，也开始做烘焙。我们养成一个很可爱的习惯：我在试用 Muse 还没有全面推送的语音模式。它有一项很棒的能力，能区分不同人的声音，知道哪个是我、哪个不是。平时一周里，我和女儿会一起跟 Muse 讨论周末要烤什么；她还会给出奇思妙想，甚至根本不存在的菜谱，Muse 就跟她一起讨论。到了每个周六烘焙时，Muse 已经替我通过 Instacart 把食材买好，准时送到。要是周六才开始筹备，就得花时间去找、去买；现在我们坐下来时一切都准备好了。
这个周末，Muse 知道 Watermelon 这个代号的模型要发布，就在购物袋里加了一个西瓜，特别暖心。
它是推断出配方里还缺少……
西瓜、Instacart 与智能体创造的新需求
……可能是订单金额不够配送门槛，所以得再加一样东西。
于是它用西瓜把订单凑够了，还问：“要不要这个西瓜？”我说要啊，太可爱了。
那就是你在直播里吃的西瓜？
对，直播里吃的就是 Muse 买给我的那个。
那个片段很容易变成网络梗，得谢谢 Muse。
还有更有意思的地方：我以前几乎不用 Instacart，可能一年一两次借 Priscilla 的账号。后来我专门注册了 Instacart 账号交给 Muse，现在每周要用一两次。因为我和 Aurelia 跟 Muse 一起想菜谱，它就把材料送来，这成了我的生活工作流的一部分。因此商家得到的机会不只是转化率提高 20%。我实际上成了 Instacart 的新用户，而以前根本不会这样用。
这里还有个更有意思的经济学问题：这个 Instacart 账号究竟是我的，还是 Muse 的？从长远看，整个商业的可服务市场会不会大幅扩大？因为消费者不只是人，智能体也会拥有账户。任何企业若错过这一变化，未来可能都会后悔。
但你为什么还得亲自注册 Instacart？在 Stripe Projects，我们就在解决开发者场景里编程智能体——
顺便说一句，Stripe 集成得很好，你们和 Muse 的合作做得非常棒，我们很满意。
我们早就看好智能体商务，因为显然未来人们会这样买东西：购物执行阶段那些摩擦完全没有必要，而且从很早期的 AI 开始，用 AI 做产品调研就已经显示出产品市场契合度。电脑操作能力几乎是最后一块关键拼图；现在你可以让 Muse 买差不多任何东西，它用电脑操作总能想办法完成，是最彻底的向后兼容层。
Nat 特别执着于把这一系列体验做好。Muse 很多魔力就在于这些事情真的能跑通。只要可靠性稍微差一点，就会变得非常烦人，人们直接卸载应用。现在众多流程达到“就是能用”的可靠程度，这本身就是魔力的重要部分。
你说 Nat 特别执着于什么？
他什么都很执着（笑）。当然主要是把这些体验打磨好，他和团队一批核心成员非常重视。
说来好玩，大概 2023 年，我和 Patrick 吃过一次晚饭。他礼貌地问我：“我们现在应该做什么？”我说：“你们在智能体商务上已经落后很多了，必须尽快想明白，智能体未来会替人购物，而你们还没准备好！”
所以这话是你对 Patrick 说的，不是他对你说的？
是我对他说的。他只是很客气地问了一句，我却着急地讲了一大通。
谢谢你当年的刺激。
大方向没错，只是早了三年。应该是在 2023 年。
现在看 Stripe 的智能体商务数据特别有意思：我们早已开发相关能力，在五月的 Sessions 大会上发布了一系列公告，但实际上直到九月，曲线才开始陡直上升——
Stripe 智能体商务的增长拐点
……也就是说，虽然我们早在五月的 Sessions 就发布了相关消息，智能体商务使用量直到九月才真正开始呈指数式上扬。
OpenRouter 插播
Meta 正在开发包括 Muse Wonder 在内越来越强大的模型。这些模型与其他数百种模型一样，都能在 OpenRouter 上使用。Stripe 已同意收购领先的模型网关 OpenRouter。OpenRouter 每天处理超过 10 万亿 token，通过一个 API 化解对接不同模型的大量复杂性，让用户更容易实验、找到有竞争力的价格，并在服务商发生故障时自动切换路由。欢迎访问 openrouter.ai 亲自体验。
超越手机：语音交互的技术与体验障碍
嘿，能帮我把一个西瓜送到南旧金山的 Stripe 办公室吗？我们正在这里录播客，这会很好玩。
很有趣的播客点子。我现在查看一下西瓜配送。
好，看看它能不能办到。这又引出一个有趣问题。人们一直在尝试造出《2001 太空漫游》里的 HAL 9000。现在居然开始能用了。我特别喜欢应用里那个小家伙坐在笔记本前啪嗒啪嗒敲键盘的动画，很棒。先让它在那里忙吧，看看结果。嗯，支起来有点难，好了。
人们尝试实现“直接跟电脑说话”的 AI 愿景已经很久了。苹果大概在 2014、2015 年前后推出 Siri，近几年也有了语音模式和各式 AI 产品。为什么这件事还那么难？你开车的时候，想确认烘焙材料、调整会议时间，大概率还是不会完全靠语音完成。当然最近的产品可能快要做到。
原因很多。Siri 恰好是个好例子，特别是我们现在这样彼此插话的时候，或者现场有不同人的声音——
所以以前做不好只是技术局限吗？
我觉得有几个方面。首先，你希望系统真能替你办事，而不只是听懂你的话。其次，人真正的对话并不是“我给完提示词，等你说完，我再说下一句”这种轮流交替。你用语音智能体时，可能说到一半停顿三秒，它就以为你说完了，开始回答；等它说话时你又插进去，它会不会把这当成一条全新的问题？对话的节奏和相互打断都需要处理好。
还有一个问题：通过声音表达想法，对说话的人而言带宽很高；但作为接收信息的方式，听别人一字一句念出来，远没有看视觉信息高效。所以我认为理想界面不会只是“语音输入—语音输出”。当然用户用语音发出指令很有价值。
我们已经明显看到语音输入爆发，连写代码的人都开始用语音。
对，大家在对着电脑说话。
研究员经常对着键盘轻声说话，因为正如 Mark 说的，这是表达想法最高带宽、通常也是摩擦最小的方式。一个很极端、也很有趣的例子是现在的大学生怎样用 AI：有人直接连续讲十到十五分钟，完全意识流，把脑子里的想法一股脑倾倒出来，再让 AI 去整理、推断、归类和组织。这是一种很有意思的技术使用形态。
没错，语音输入已经很重要。而智能体又是一次大跨越，因为它改变了人和 AI 交互的心理模型。如果你面对的只是一个提供信息的聊天系统，迟早会遇到觉得它毫无用处的时刻。但它现在真能替你做事，就更像在与人交流——
AI 的具身形象、智能眼镜与家庭设备
……更像在和真正的人说话。过去与 AI 互动时有许多奇怪的“恐怖谷”体验，就是因为它不能实际行动。现在有了智能体，Muse 的有趣之处在于好几种能力汇合了：它被具象化成一个为你忙碌的小家伙，这个形象之所以让人觉得合理，是因为它有持续记忆、有执行任务的能力，还带一点性格。所有因素一起让这种具象化真正成立。
说到眼镜，一开始我们发现即使只有摄像头和音频、没有显示屏或只有小屏幕，许多人也想要。单是摄像头加音频就能构成很有用的产品。后来我们推出带显示屏的眼镜，虽然还不是大视场角的完整增强现实，我自己当然也期待完整 AR，但即使小屏也已经很强。你会看到真正多模态的交互：可以语音输入和输出，能看你所看，还能直接在你眼前绘制像素。
另一个令人兴奋的项目是 Muse Gadgets，它让整个生态都能尝试各种有趣的设备形态。发布以后，甚至有手机厂商来找我们，说想把 Muse Gadgets 集成进手机，看看效果，我们也很期待。如今智能体的潜力已经非常清楚，它应该能解锁大量新东西。
你们会重新做家庭设备吗？这些是个人设备，但疫情期间你们不是有那个……Portress？
Portal。
对，Portal。
我们刚推出的一个 Gadget 是小小的 HomeLink，体积可能就一枚五美分硬币那么大，带 USB 接口。连上它以后，Muse 就能接入家里的各种东西。我觉得特别有意思的是连上 Sonos 音响和全屋灯光。我现在晚上到放松休息的时间，就让它把家里所有灯调暗，体验很舒服。
谁为 AI 基建买单？免费服务、订阅与企业市场
AI 基础设施的钱到底从哪儿来？大家都担心：Google 的自由现金流已经转负，你们刚说了 1 吉瓦、5 吉瓦和各种投资。Meta 还没到自由现金流为负的地步，但资本开支只会继续增加。解决办法是什么？Susan Li 在哪儿？
我认为会有很多创造价值的方式。就 Muse 而言，我们首先希望它得到极大普及，因为用户的智能体开始相互交互时，会形成很有价值的网络效应。用户越多，合作伙伴越愿意集成，产品自身价值又会继续上升。所以应该让基础模型足够便宜、人人免费可用，先把规模做起来。
但收入也有多种扩大方式。订阅就是很大的一项。我们希望免费版本非常优秀，但有些高成本能力无法经济地免费提供。比如明天起要在 Muse 里使用 Wonder，你就得订阅付费，这会是一门大生意。
此外还有智能体商务。我们相信使用 Muse 能帮用户赚钱、省钱，未来可以通过各种方式，在它给用户创造的节省额或新增收益中抽取一小部分，积少成多可能就是巨大的收入来源。
你的意思是，对用户而言 Muse 最后整体会成为“负成本”，因为它省的钱比收费还多？
已经有很多有趣的使用场景：让智能体检查邮箱，找出你没有在用的订阅，再把它们取消。我不知道这个具体功能是不是我们要收费的，但你明白那种帮用户省钱、赚钱的方向。我们还一直讨论一个主意，尤其是 Alex 很执着的：为小企业提供“盒装公司”（business in a box），让它替创业者打理经营中的各种环节。这对企业主和 Meta 都可能很有价值、很赚钱。
还有一点：我们为个人智能体和企业智能体训练出的模型，是一个非常通用的模型，不只能做这两件事，还能通过 API 创造利润。我们推出 Meta Enterprise Platform、邀请 CJ Desai 加入建设，就是基于这样的判断：Meta 传统上虽然不算企业软件公司，但做企业 AI 最难的一环，本来就是先造出领先且通用的模型。如果有了模型，再认真投资企业团队，以企业客户需要的方式交付，很多企业会愿意使用优秀又实惠的 Muse Wonder。这也可能形成很大的业务。
把这些渠道加起来，再考虑到 Meta 原有业务利润高、信用好、能够支持巨额投资，我们作为实验室处在相当有利的位置：可以建设所需算力、打造领先产品、围绕它建立网络，把公司放在未来几十年持续引领这一领域的位置上。
明白。
盈利回报、折旧会计与自建数据中心优势
也就是说你认为这些产品最终会有大量收入，较短时间就能自我供血？
对。你这个回答比我刚才的短多了。（笑）问我们能不能从中赚钱？答案最好是“能”。
可历史上的支出都极其前置。
AI 行业一直有人担忧这些企业怎么赚钱，但每年大家通常又会惊讶地发现收入和价值上行得比预期更多。超级智能确实是非常有用、价值极高的东西。
这几乎就是 Meta 一贯的剧本：先把某样产品做到十亿用户，随后扩展收入；在这段时间，主要依靠已有的、仍在增长的规模化业务扩大利润。
而且这个行业需要提前做很长时间的规划。Dario 好像也谈过类似情况。你在任何一个时点看到的研发支出，其实是多代模型重叠进行的研发支出。模型开发需要很久，但当它们最终交付时又可能带来巨大回报，Muse Spark 系列就是这样：很久前开始研发，现在经 Muse 产品获得惊人的消费者采用率。
而且我们也用这些模型改善核心业务。Meta 有年营收数千亿美元量级且仍高速增长的核心业务。如果模型能让这门生意增长率提高几个百分点，增加的现金流就能支持大量模型扩张投入。
Meta 的核心业务真称得上世界第八大奇迹，商业模式太好了，增长也令人难以置信。你们在这方面确实做得漂亮。
我还想到一个有意思的会计现象：建数据中心属于资本开支，可以在多年的使用寿命里折旧。具体年限可以讨论，但总归能够折旧。而 AI 的大量研发支出是研究员工资；那些工资也用于开发未来多年有价值的模型，一般却不能资本化。自建数据中心也给 Meta 带来一项财务优势：其他公司每年付钱租云，而你们买的 GPU 到了完全折旧之后，可能还能继续用很久。只要算力持续稀缺，甚至现在 H100 的价值都可能比去年更高。
对，我觉得……
AI 为什么未形成赢家通吃？模型差异与开放生态
对我们即将收购的 OpenRouter，有什么建议？我们已经签了收购协议，但还没交割。
我认为正在出现一个非常有趣的变化：像 Muse Wonder、Fable、Astra 这样的前沿模型，实际上开始向不同方向优化。正如之前讨论的，模型开发中有很多有意识的选择，确实与其他实验室不同。如果把所有模型压缩到同一套基准得分里比较，就抹掉了它们之间有意思的细微差别。所以 OpenRouter 很大的机会，是帮助开发者理解这些微妙区别，让他们更明智地选择模型。反过来，这些实际在使用模型的开发者，也最能告诉大家它们真正的区别，而不只是发一条“这个模型好，那个模型差”的短推文。能像葡萄酒侍酒师那样细致理解各个模型的长处短处，会非常有意思。
也就是说 OpenRouter 的理念——未来存在多种针对不同任务优化的模型——符合你们的实际经验？
我同意。我们确实在优化不同东西，依我的观察，相比其他主要实验室，我们更重视个人和专业工作智能体。这很好，经济本来就需要差异化，这在某种程度上正是资本主义的意义。
非常赞同。我喜欢你们开发 OpenRouter、把它做大的原因之一，就是支持生态中不同参与者的基础设施越完善，整体就越有利。同样的原因，我也很支持 NVIDIA 最近帮助开源生态的一些动作。这跟我们对美好未来的理念一致：通过赋能个人来实现繁荣。这是个人超级智能的理念，企业端也有对应版本。
对许多重要安全问题，我们认为更好的保障方式，是提供多样性和相互制衡，让人们能够获取各种不同系统，而不是只有两三家公司握着少数几个优秀模型。在我看来，技术权力集中在少数公司手里，可能比大量人能使用多种技术的未来风险更高。
你们有没有解释为什么现状会这样？以前许多人预计 AI 会出现赢家通吃。2023 年流行一种叙事：某个实验室先取得领先优势，然后启动递归自我改进，与其他人差距越来越大。但竞争一直非常激烈，前沿仍有多家公司；你们今天推出了 Wonder，开源模型总体上也跟得很好。几年前大家以为有人会带走所有奖品，为什么没有发生？
我认为背后有多种原因和机制。
执行波动、知识蒸馏和反垄断力量
第一是执行。所有前沿实验室都会有执行很强和执行不那么好的时期，时间一长这种优势劣势就有些互相抵消。
回答得真外交。（笑）你是说有些原本领先的公司犯了错？
如果任何一家在领先时都能完美执行，它大概有机会持续领先。所以这是一个因素。另一个是模型蒸馏的威力，特别是它给开源生态带来的好处。
模型蒸馏现象里有种天然的反霸权力量。
对，这是技术本身的属性。并没有谁预先设计好要让蒸馏特别有效，但事实就是可以通过各种蒸馏形式自然获得大量能力。总体而言它对整个生态是好事：你能把很强的智能塞进越来越小的模型，从而以更大规模提供服务。今天一些非常小的模型，甚至比一两年前最大的模型更强，就是很激动人心的事。
第三，我觉得生态里的很多人真心希望未来不要变成整个资本主义只剩最后一家公司。并非只有个人，公司也在用真金白银做选择。
是的。许多人当初愿意加入 Meta 和 Meta Superintelligence Labs，就是因为想在一个把技术交给几十亿人的地方工作。不是所有前沿实验室都明确把这件事列为目标。所以行业中有种自然力量：大家会问自己将来到底想生活在怎样的世界里，然后用选择雇主、商业伙伴、交易方式等不同层面的实际决策，推动竞争格局更均衡。
MSL 的起点：Llama 4、联系 Alex 与组建核心团队
我还想问 MSL 是怎么从零开始建立的。我们刚才讲了前沿模型研发有多难，那么 MSL 的真正起点是什么时候？
Llama 4 是 2025 年 4 月 4 日发布的，我记得大概如此。然后 4 月 20 日或 21 日左右，我就开始打电话向各方请教应该怎么做。
我记得当时还在开员工会议，WhatsApp 跳出一条信息，问“有空通话吗？”我想，嗯，有意思。
所以 MSL 已有两年多历史？
不不不，一年多。
哦，是 2025 年啊，现在是 2026 年。抱歉，我活在未来了。
对，你已经跑到未来去了。（笑）
那成立一年多后回头看，哪些环节是真正支撑 MSL 建起来的关键？
最初最重要的是先把核心团队聚起来。Nat、Alex 和我早期就在聊，一开始只是头脑风暴。我还跟 Nat 讨论，有没有一种交易结构，既能让 Alex 原公司的股东受益，又能把 Alex 请过来。接着就是讨论具体行动方案。那时我进入一种状态，到处向不同的人请教该怎么做。每次跟 Alex 谈完，我都能带走三条新的清晰判断：“没错，我们应该这么干。”信息密度非常高，战略上也很清楚。我们构思、推进了一段时间，随后 Nat 和 Daniel 加入，又聚集了最初的一批研究员。
刚开始真像一场 Supernova 超新星爆发，很多人一股脑凑到一起。最初几个月我们俩几乎都没怎么睡觉。
确实。我都有点选择性失忆。那段时间几乎清空了一两个月的日程，天天跟研究员见面、交流。
甚至在官宣 Alex 加入的交易之前，他就已经在招人，大家还在问：“怎么回事？这是什么项目？”但真正重要的问题仍然是：既然我们对现有项目的轨迹不满意，谁才是未来领导它的合适人选？我和 Alex 已经认识多年，每隔几个月就会聊一次。我一直非常佩服他的战略思考方式。他经营的是一家高度重运营的数据业务，但在我见过的同代创业者里，我始终觉得他可能是最敏锐的一个。
那家公司也是好生意，顺便说一下，我们还是大投资人。
我不是说生意不好，只是在说经营它有多辛苦——
扎克伯格选择 Wang 的四项非常规决策
经营世界第八大奇迹一样的生意时，Alex，许多其他企业看起来都会像辛苦的运营生意。
哈哈，我只是这么看问题，都是很费劲的生意。我的判断是，当我们刚开始做这件事，很多人都怀疑：“一个做社交媒体的人跟一个做数据的人联手，真能建成前沿 AI 实验室吗？”但我几乎跟所有实验室领导者、研究负责人都谈过。我非常确信 Alex 就是最合适的那个。我们能够把需要的人招到一起，组建团队。而他在不同技术路线上的战略清晰度、对人才密度的极致强调、清楚表达我们共同打造的愿景，这些都是关键。
还有一些非常激进但最终奏效的做法。比如你从一开始就很执着于扁平组织文化。你差不多有 200 个直接汇报人吧？
实际没有那么极端，也有团队负责人。我还有 Muse 帮我管理。（笑）
但你很早就提出一系列观点，我虽然觉得激进，但方向是对的，应该做。我也见过其他按传统大公司思路管理的人，做法正是你会预料的那一套。但我们不想那样。
听你描述，我至少注意到四件事，即使是很有主见、执行力很强的创始人 CEO，也未必敢做。第一，你等于公开承认公司上一阶段、那么多人做的项目结果失败或不够好。虽然你的表达更委婉，但决定偏离原有路线，大家都能听出潜台词。
有时候确实得重启团队。
第二，你愿意为人才支付天文数字般的价格，尤其为了 Alex，还有其他人。
还获得了那家优秀但运营辛苦的公司 49% 的股权，可别漏了。
是，得把账算清。第三，Alex 此前其实没亲自训练过前沿大模型。虽然在 AI 领域经验丰富，但恕我直言，他没有做过现在受聘要负责的这项具体工作。你是在赌他的潜力。第四，你说曾清空两个月的日程，全身心投入招聘和组织这件事。很多 CEO 还会安排业务评审、董事会事项、客户会议等等，这四件事恐怕很多人都不会这样做。
这些确实很有意思。我想 Mark 有个很特别的品质，他自己可能意识不到，就是一旦认定某件事——
一旦决定方向，就让整家公司转向
……当他认定某件事是对的、有道理，就会完全改变自己的安排，让行动和这套信念保持一致。哪怕是非常成功、观点鲜明、敢于冒险的创始人，也常常受惯性影响：日程早已排满，于是只是说说要做这件事，希望别人替自己去做。Mark 不一样。一旦他得出结论，认为这就是必须做的事，他就真的会转向。从这个意义上说，他的「学习率」非常高，愿意让整个组织随之调整。
我觉得外界特别低估的一点是，为了支持 MSL，Meta 公司其他部门也需要做多大的转向。虽然 MSL 在大公司内部以更像创业公司的方式运作，但它的需求规模极其庞大：需要基础设施支持，需要建造大型数据中心，也需要其他许多团队协助。尤其当 Muse 开始取得成功，我们还需要和公司的其他部门进行更深层的合作。这种协同之所以可能，很大程度上因为 Mark 是创始人兼 CEO，可以确保全公司朝着「把 AI 能力发挥到极致的 Meta」这个全局目标优化，而不是让各部门永远只顾自己的局部最优。
这也是我们合作方式的重要部分。我必须深入具体细节，才能让公司的其他环节去完成需要做的事情。当然，我会对技术问题有自己的看法，但我不是首席研究员。我们都深度参与细节，可运营整个实验室本身是件大事；推动公司其他部门来支撑实验室也是件大事。我觉得缺了其中任何一部分，这件事都做不成。
当初成立 MSL 时，有个决定很重要。Meta 投入了大量资源把这个组织搭建起来，然后我们却非常明确地告诉所有人：「没有最后期限。我们要按照适当的节奏推进。」一方面，这甚至可以说非常吓人——你刚刚组建了一个极其昂贵的部门，却又告诉大家……
没错。身处一家大公司里，你难免担心：好吧，也许七年之后他们才会推出什么东西。
完全是。但我觉得强调人才密度、招来很多已经取得卓越成绩的聪明人，恰恰有一个好处：每个人都非常想交付成果，想在这个领域留下自己的印记，因此都有很强的内在动力，想尽可能快地推进。
有件事很有意思，我一直得提醒团队：这是一群「缺乏安全感的高成就者」。如果你随时问他们：「你们觉得三个月后会做到什么程度？」得到的总是最悲观的答案。
大家都说：「太糟糕了，太糟糕了。我们完蛋了。」
对，就是各种非常悲观的预测。我会把这些话记录下来。三个月后，模型真的发布了，我就说：「来，我给你们看看，三个月前你们自己说我们今天会是什么样子。」然后——
什么时候知道 Muse Wonder 真的好用？
这样会让他们变得乐观一点吗？还是没有？
没有，他们依然非常自我批评。但这并不等于对 MSL 悲观。我觉得一般来说，大家对 MSL 整体非常乐观，却对自己手头的项目特别苛刻。这其实是种很健康的状态，而且这种趋势一直持续。Muse Wonder 对每个人都是极了不起的里程碑，因为一路上负责它的团队始终对自己的工作非常挑剔。
你们到底什么时候知道 Muse Wonder 是个好模型？
好问题。在整个过程中会看到很多中间结果，就像隔着烤箱玻璃往里看，感觉「我不知道，好像还是黏糊糊的，还没烤好」。
没错。一路上有各种中间信号，能告诉你事情进展得好不好。
那些中间信号具体是什么？
预训练阶段有很多基于困惑度（perplexity）的评估，使用的是适合预训练阶段的一套不同评测方法。到了强化学习（RL）阶段，就有更传统的基准测试可以帮助你判断。这个模型确实已经「烤」了很久。我觉得 AI 研究里最好笑的一件事是，研究人员有时就是盯着一堆点看，眯着眼睛说：「嗯，看起来不错」，或者「这个好像有点偏」。有的人真会拿出实体量角器，贴到电脑屏幕上的曲线旁边量角度。这份工作里确实有很大一部分依赖直觉和感觉。
但你们最初是什么时候说「这模型不错」的？
预训练完成之后，我们讨论过一个问题：「还要做多久强化学习，它才能超越 Muse Spark？」我记得预训练团队当时还在设定预期，告诉我们：「有时候这要花很长时间。」结果几乎马上就超过了。我们就想，好，应该走在正确的道路上。这对我是一个关键时刻。
是。我觉得大家几个月前就已经相当兴奋了。当然，还有很多事情要做。
回到组建团队的最初阶段，一件很有意思、也很困难的事是，我们真的想建立一个人才密度极高的组织，所以从 Meta 内部拉来了一些最优秀的人，也从外部招募了很多最优秀的人。你之前问过一个问题：Alex 当时还没有亲手训练过这样的前沿模型。对我而言，关键之一是，很多最顶尖的人才都非常期待与他共事。
人很少只有一个维度。你可能原先在做某件具体的事，但你成长、扩展能力的空间，在很大程度上取决于能否让其他不同领域的杰出人才愿意跟你一起做新的事情。
对，真正杰出的人会有人愿意跟随。
没错。这是其中一个因素。不过，即使对于那些当时还不认识你的人……
顶尖实验室的领导者需要创业精神
……包括那些不认识你、也不了解你背景的人。他们见到你时，会不会觉得你是个出色而有吸引力的人，愿不愿意为你工作？他们会不会相信，你能营造出一个让他们愿意加入的环境？我觉得你在早期对这些问题想得非常周到。
有些组织原则，你从一开始就已经形成了清晰信念。但我也记得，我们最初和候选人谈招聘时，常常边谈边实时调整组织设计。比如我们讨论的某种合作安排，对这个人来说行不通，但他非常优秀，也提出了自己的想法。我们就在一次次谈话中，逐渐形成对这个组织应该是什么样子的理解。
你可能还记得，最激进的主张是「人才密度」。但是刚开始时，我们也不确定是否必须把原来的组织彻底重启。这个想法是在拜访、招募行业里很多顶尖人才之后逐渐确定的：如果要让这件事对他们有足够大的吸引力，就应该让大家感受到「我们真的从头重新开始了」。当然，也会从 Llama 项目和 FAIR 引入大量优秀人才。但「全面重启」是我们在最早那批招聘谈话中有意识地做出的决定，最后证明十分明智，极大地影响了实验室的文化和启动方式。
这种随时调整组织形态、判断下一步该怎么做的能力非常罕见。我觉得这是一种典型的创业者特质。我想的是：AI 领域还会不断变化，什么能力才能让一个人长期经营好实验室？不是他是不是眼下某一种最新模态或训练技术的专家，而是他是否思路清晰，能否像创业者一样，根据新信息持续更新认知、迅速调整方向。这个行业本质上非常需要创业精神。
这次经历有改变你对「从外部寻求人才和判断」的看法吗？你们全面重启时，招进了 Alex、Nat、Daniel 等很多外部人士；决定是否重启，也是在听取行业研究人员的集体判断之后做的。如果以后要做别的、完全不相关的项目，你会延续这种方式吗？毕竟大公司的风险是内部人人都说：「我们的办法最好，我这里还有一份一百页的说明文档。」
这次有个特殊之处：我们必须让公司其他很多部门一起转向。比如基础设施团队如今在建巨型集群，这本身就是庞大的工作。整个公司很多部分都必须调整，所以显然不能同时发起太多这样的转向——真正的头号优先级只能有一个。
但总体来说，这次经历确实让我更愿意相信外部人才的价值。比如我们招来了 Kunal Shah。我觉得他是印度最优秀的创业者之一，创办了很棒的公司 CRED，现在他负责 WhatsApp。我一直觉得 WhatsApp 应该在商业领域做得更多，过去我们在那里做得不够，而印度又是我们用户规模最大的国家。所以我想引入更多创业者的活力。
组织重启的代价，以及「我们不需要推理模型」
不过，WhatsApp 和 MSL 情况不同。我们并不是要让全公司都转向 WhatsApp，只是给它增加一些创业精神。而 MSL 这件事的难度可以说是十分制里的十分。我不想用过去时谈它，仿佛已经完成了，因为它现在仍然是一件难度十分的事。为了让它成功，必须让数量惊人的不同环节同时运转。这不仅让参与者很辛苦，也对公司其他部门以及财务模型形成压力。这两件事不能混为一谈。
我认为引入新鲜血液很有价值，同时也需要理解原有环境的人。比如有些人在 Meta 已经待了十年，见过公司一次又一次的起伏，也经历过许多难关。这同样是一种非常重要的背景。总的来说，组建团队时总是要基于某种假设：Alex 对团队应该是什么形态有一套理论，我对领导层应该是什么形态也有一套理论。经过一年多，看起来进展还不错。首先，尝试一种与众不同的方法，本身就是值得的。
这里还有几个值得说的方面。我们决定全面重启，外部意见确实是主要依据之一，但还有另一个信号。我不知道有没有跟你讲过：我刚加入时参加了一个会议，里面有原来项目的几位负责人。我说：「我觉得我们首先要在某个时间点之前训练出一个真正优秀的推理模型。我不知道准确要多久，但这显然是最重要的里程碑。」
其中一位关键负责人——现在已经不在 Meta 工作了——当场说：「我们不需要推理模型吧？我们的用户有谁需要推理模型？我感觉我们完全可以不做这个，只做普通模型就好了。」
我当时心里一下子沉了下去，觉得：「糟了，我是不是加入错公司了？」我想，完了，我得往回退十步，从最基本的地方重新解释。我记得会后还打电话给 Nat，告诉他：「他们在会上竟然这么说。」这是个有点好笑的故事，但它说明了一个很实质的问题：公司领导层需要更深刻地相信 AI 的能力和前景，更积极地理解技术发展有多快、未来会走向哪里、有哪些可能性，也就是在 AI 上彻底完成认知转变。
随着 Mark 开始推动全公司转向这个方向，大家都看见他真正相信 AI，也就明白公司接下来会往哪里走。许多现有领导者很快就开始学习、调整。比如管理 Instagram 的 Adam Mosseri，他在这方面的做法既有审美感，又非常有效……
管理者必须保持技术能力
……Adam Mosseri 的个人 vibe coding 和个人小应用体系，可能是我见过所有人里做得最有品位、也最有效的一套。他在这方面真的走得很远。我觉得 Meta 许多老领导者都很善于适应变化。毕竟他们经历过技术行业剧烈动荡的时期。现在 AI 的变化速度也许是过去几轮的五倍或十倍，但这些人已经多次成功适应新趋势。所以我很惊讶也很佩服：和我刚进公司时相比，很多 Meta 高管现在谈 AI 的方式已经完全不同，真的非常懂、非常投入。考虑到 Meta 是世界上规模最大的公司之一，能够让这么多人如此快速地转变，确实很了不起。
是，我们让大家很快跟上了。如果开始自己写代码，确实有帮助。不过我们试图建立的文化还有一个重点：之前说 Alex 有很多直接汇报人，真正的重点并不是「他有很多直接汇报人」，而是这个组织里尽量没有脱离技术的管理层。我们并不是期待 Alex 同时给两百个人提供大量传统管理支持。这不是这种组织设计的功能。
Alex 就是以经常做职业发展谈话、关心大家情绪和近况出名的嘛。
研究人员都知道一个常见模式：你原本是一个非常懂技术的人，后来进入一个不再钻研细节的岗位，于是很快就变得不那么懂技术，甚至不知不觉丧失判断力。这很危险，尤其在变化这么快的领域。保持技术能力很重要：人们得自己使用智能体，自己写代码。这是整个文化建设里极其重要的一部分。
你们俩有没有过什么特别好笑的分歧？
我们分歧可多了。
是。前不久我们还在争论产品命名。
命名真是很适合反复争论的话题。
这恰恰是我欣赏 Alex 的一点。你以前在 Scale 招人时有个理念：招那些真正非常在乎自己做的事的人。原话里可能带点脏字，不过没关系。Alex 事实证明就是非常在乎。他有自己的主张。
把那么多有才华又意志强烈的人聚到一起，就像超新星爆炸一样，当然会有有趣的争论，也会有不那么愉快的争论。但比起让人们觉得自己只是在盲目执行命令，我宁愿看到他们为自己相信的东西据理力争。人必须对工作有主人翁意识。
为扎克伯格工作，是怎样的体验？
Mark 作为老板，和你原先想象的有什么不同？
嗯，我可没有很多老板可以比较。
那我现在可以离场了。
哈哈。过去一年跟 Mark 合作，我觉得最棒的体验之一，就是近距离看到他真正大胆到什么程度。前面谈过，他一旦真正接受一种新的信念，就会极其迅速、极其大幅度地调整过去的行动，让做法符合新建立起来的世界观。即使在创始人群体中，这种特质也相当罕见。Mark 会真的吸收新信息、完整更新自己对世界的看法，然后按照新看法采取行动。
非常贝叶斯。
非常贝叶斯。
从来没有人这么好好夸过我！
你的先验概率真可爱。
还有后验概率呢。
上次那件事之后，你已经不许再谈「后验」了。（众人笑）
还有他的大胆程度。最初我真的很不理解：你竟然愿意下如此巨大的赌注。Nat 和我经常私下说：「哇，我们这次真的要玩这么大？」我们俩还会互相问：「换成你，敢投到这个规模吗？真敢这么大吗？」这是我非常敬佩的一点。
回顾 Meta 的历史，我现在能想象它在那些关键转折点上是怎样作出决定的。有时某件极其重大的变化正在发生，可能还没有反映在指标里：用户数没有变化，营收也没有变化，暂时看不出影响。但只要相信那种变化最终会发生，就知道它会对公司和产品产生巨大的后果。按照我现在对 Meta 历史的理解，每次遇到这样的时刻，Meta 都非常严肃地对待它。这使得公司能在技术快速演进的世界里不断创新、持续转型。
Mark 真的是贝叶斯派。太贝叶斯了。
人生很短，做正确的事就好了。
我觉得 AI 就是这种情况再乘上一百倍。去年夏天，可能每一位 CEO 都会告诉你「AI 对我公司的业务最重要」。但你要看的是他们实际做了什么，行动与这种判断究竟有多一致。Meta 和 Mark 特别之处就在这里。
最后一个问题，我们都已经过了睡觉时间了。你怎么看 Alex 在 Twitter 上那些疯疯癫癫的帖子？
我觉得大多数都非常棒。我主要的看法是……
关键不在于你失败多少次，而在于你赢的时候能赢多大。
我觉得在沟通上，最重要的是保持真实。想要保持真实，有时候话会说得不如预期，但我宁愿做这种取舍，也不愿意过度编排、失去真实。再说，那些帖子大多数时候就是特别好笑。
真诚、网络迷因与最后一杯吉尼斯
……有些话说出来未必符合你的预期，但这总比事先写好一切、显得不真实要好。说真的，大多数帖子让我觉得特别有趣。
那你自己怎么看那些疯癫的推文？
我其实不是 X 的重度用户。
不过你最近又开始用 X 了。
对，重新开始发帖了。很多研究人员都在那里，所以我们也希望参与。但我在 X 发的东西，也都会同步发到 Threads，这没什么问题。只是每次打开 X，都能刷到四条 Alex 的帖子，真的把我逗乐了。我有时就在想，这些东西你到底从哪里找来的？
你现在估计已经成了一个集散中心，别人看到好玩的就会发给你。
昨天我还跟我的搭档聊过这个。他观察到，直到今天，我的思维方式经常还是：「哎，这真好笑，不知道 Jolly 看到会怎么想？」然后就能产生不错的迷因。但我也亲身领教过互联网残酷的「消化速度」——一个迷因可以很快就被消费殆尽。你得始终走在玩梗最前沿。
稍不留神就落后了。
这大概也是整场谈话很好的总结：很容易掉队，得始终站在前沿。
始终深究细节。
对，保持技术能力，站在最前沿。
好，那我们就聊到这里。太棒了，谢谢各位。
谢谢。
等一下，大家都在喝什么？这是什么？
我给你们带来了一桶 Guinness（吉尼斯黑啤）。
从哪里来的吉尼斯？
都柏林。
哇，你刚去过？
对，就这星期去的。
太棒了，谢谢。我们喝上本地货了。
正好觉得今天是个开吉尼斯的好场合。
是啊。