开场
大家好，我是 Will Brown，在 Prime Intellect 负责应用研究。希望大家都在 AI Engineer 大会上玩得开心。这一直是我最喜欢的会议之一，能看到大家在做什么、打造什么，总是很酷。我觉得这里让大家有机会聊聊未来会是什么样，也能开始看出行业趋势、进展，以及哪些办法管用、哪些不管用。
这也是我今天想聊的主题：我们现在做的事情接下来会走向哪里？我们一直在做什么，又有哪些正在展开的研究，能让我们窥见 AI 在组织层面的未来？过去几个月、几年里，智能体、界面、机器人之类的东西进展很惊人。但事情还会继续发展，速度非常快。我觉得现在正是一个令人兴奋的时刻，可以去想象、推测并规划接下来会发生什么。所以我不知道你们有没有……
从聊天机器人走向 AI 原生组织
你们还记得 ChatGPT 刚出来那会儿吗？OpenAI 当时大致勾勒过通往 AGI 的路上，AI 进展会经历哪些阶段。我觉得我们走过这些阶段的速度比预想快。
我记得 18 个月前，我也在纽约参加 AI Engineer 的活动并做过演讲。那时推理模型已经出现，聊天机器人也流行一阵子了，推理模型算是新东西，但我们还没有真正的智能体。现在我们很快走过了智能体和创新者阶段，下一个问题似乎是：组织会怎么样？一个组织真正做到 AI 原生意味着什么？这不只是说一家创业公司大量使用智能体、用云端代码构建所有东西，而是要放到大型企业的规模上看。
未来的公司会是什么样？智能体如何深度融入组织的整个生命周期？在走向那一步的路上，我们还需要打造什么？先简单介绍一下 Prime Intellect，给大家做些背景铺垫……
Prime Intellect 在做什么
我们围绕 AI 基础设施做很多不同的事，涵盖模型训练、部署和持续改进，尤其关注开源模型与开源工具。我们做的事情很多，大致相当于大型实验室内部会做的那些工作，这些就是我们的产品。
我们之所以这么做，是因为我们设想这样一个未来，而且它似乎很快就会到来：开源模型可以随手获得，组织能够用自己的工作流程、自己的数据和自己的运行框架来训练和部署模型。模型可以随着组织一起成长，逐渐积累组织知识，以及来自工作流程、数据、员工和流程的制度优势；这会成为使用前沿实验室模型之外的另一种能力。
这场演讲会聊聊我们怎么看这种演进：AI 原生企业里的训练扮演什么角色？它怎样与前沿模型共存？我们认为，怎样的实现方式最能为人们释放价值？最后它会是什么样？
从未被写下来的组织知识
组织里有很多知识。一个组织存在得越久、越成熟，就越有大量从未被写下来的隐性知识。当然，也有些东西会写下来，比如代码库、邮件和流程，其中有些非常明确，像是“必须这么做”“这件事就是这么运作的”这类规则。
但很多东西都留在人们脑子里，藏在邮件字里行间、会议记录里，也藏在谁跟谁沟通这类关系中。很多公司的组织架构图是一回事，实际的组织架构又是另一回事：究竟是谁在做决定？改变如何在公司里落地？哪些指令可能真的会生效？在公司待久了的人会逐渐摸清这些门道，知道事情实际上怎么运转、摩擦点在哪里。
我认为，这是 AI 在组织层面的一个重大机会。很多员工其实没有能力改变组织里出问题的地方，因为没人把问题明确说出来，也没人站到全局角度看组织里发生的一切，指出：“这里效率低，可以做得更好；不同团队反复遇到同一个问题，但没人发现解决办法早就被另一个团队找到了。”
智能体很擅长处理这类事。它们可以梳理大量非结构化文本，找出模式，把这些模式变成有用的信息，并揭示问题，比如：“这个工作流程在浪费时间、效率低，可以换一种做法。”
而我们不希望只做一次这样的分析。我们希望这成为组织广泛采用 AI 的方式：智能体既能拿到所需上下文，也能改进自身和组织。我们希望智能体更像我们的同事……
为什么智能体总得从头学
我们希望智能体更像同事。但人类同事会在工作中学习，智能体目前在工作中学习的方式还比较原始，主要靠上下文学习……抱歉，我倒回几秒，这样录制时可以剪掉刚才那段。
智能体通过上下文学习等比较原始的方式学习。通常是有人给它写一个技能文件，或者让它自己翻代码库，但它们并没有人类员工真正拥有的那种组织层面的隐性知识。
所以智能体会反复学习、重新发现已有的东西，耗费大量输入 token。我觉得现在大家开始意识到，缓存输入是很多智能体成本里的瓶颈。即使缓存命中率很好、缓存成本下降，每次重新跑工作流还是得重新处理大量输入。
要解决这个问题，我们希望把更多东西直接融入模型，尤其是那些很难写成规则的东西。我喜欢把它看成从“规则”到“模式”的光谱，也可以从“代码”和“数据”的角度理解。技能和规则更像代码；偏好、摩擦点、启发式经验和趋势则属于数据。
组织运行依赖大量这类数据，员工会在潜移默化中学会它们，模型却始终没有机会学到。这正是我们认为智能体还无法成为真正同事的一个障碍。
哪些该放进上下文，哪些该写进权重
所以问题是：什么该放进上下文，什么该写进模型权重？其中一部分得靠表现来“挣得”——知识不会一开始就直接进权重。
但你看每一代新模型，模型变强不是因为提示词更好了，而是因为训练更多。训练有用，训练有效，训练正是我们看到这些进步的原因。模型大致是在大量数据上训练的，目标是逼近实验室认为对组织而言价值高、可重复的工作流程。
我觉得目前确实有一套行之有效的流程，模型就是这么变强的。不过如果把它说清楚，这套流程其实相当……
前沿模型训练中的“传话游戏”
……低效。举例来说，假设要让模型特别擅长使用 Salesforce 等工具，流程可能是这样：一个真正懂这些工具如何使用的人，正在找工作。他以前也许在使用这些工具的公司工作过，现在会到专家人脉平台上接些活、挣点外快，把自己的知识分享给专家网络公司里的人。
这家网络公司的人再把这位专家提供的数据转交给负责创建强化学习环境的人。之后，这个强化学习环境可能会被卖给一家并不具备这方面专业知识的公司，再由那里的研究人员拿去用。实验室研究人员本身也不一定是这个领域的专家，接着他们会对环境进行调整、加工，把它放进训练流程，最终进入下一轮前沿模型训练。模型就这样通过一场“传话游戏”，学到一些最初来自那位专家的知识。
但整个流程有很多环节，而且相当不透明。参与者可能会跟流程中相邻的两个环节沟通，但真正懂这件事的人并没有监督训练过程，也没有直接参与模型训练。假如这个人是在训练自己日常使用的编程助手，完全可以亲自告诉它该怎么学；现在的流程却做不到。
我们看到的机会，也希望努力实现的方向，就是弥合这个差距。就像我们使用编程智能体时，会一遍遍提示它不要重复同样的错误，我们也应该能直接把经验教给模型，让它持久地学会，而不是只把指令写进智能体的 Markdown 文件里，让文件不断堆积，最后还得反复重构。写文件当然也有用，但很多时候我们真正传递的是结合具体情境的偏好：在这种情况下，你刚才那样做不太符合我的期待，我更希望你这么做。
我们希望系统能把这些偏好不断累积为持久的学习。训练是很有效的办法，因为你提供的数据形式已经很接近真正训练流程所需要的东西。
学习有好几种层次：人会学习；运行框架这一层可以通过技能和记忆来学习；组织里还有大量知识散落在文件系统和数据库中，可以通过工具和代码检索；模型自身则拥有广泛的世界知识。但我相信大家都遇到过这样的挫折：模型的知识截止在很久以前，如今你没法直接和它聊过去六个月的新闻。它每次都得在上下文里重新学习一遍世界模型，因此谈起近期发生的事情，不如谈久远的历史那么流畅。
我们设想，组织若想从模型身上获得最大价值，就会越来越需要真正直觉式地理解组织内部情况的模型。这类能力需要靠训练获得。那么，组织要怎么走到这一步？……
把评测当作模型的测试用例
……组织要如何从抽象地说“我们要用自己的数据训练模型”，走到真正实现？我认为一个很实用的起点，是把评测（evals）当作测试用例。
在代码领域，我们已经建立起较成熟的测试和软件开发生命周期，通常能确保代码库健康地持续成长。现在有大量工作由智能体替我们完成。我认为对大多数组织来说，最实际的持续学习方式，是把模型当作代码库来维护，为它建立一套生命周期：可以添加测试用例、添加功能，也可以加入素材和资产。
使用智能体的过程本身就会积累所需材料。最初，你会收集运行轨迹，其中包括提示词，以及你对模型行为的反馈；使用模型的过程中，你就在积累创建评测所需的素材。过去制作评测有点痛苦，很多组织不愿意手动做。但智能体进步很快，幸好我们有了能替我们完成大量评测创建工作的“机器人”，尤其是当我们进一步用评测最佳实践训练它们，让评测更稳健、更适合用于学习。
我觉得另一个有用的例子是……
路由与决策模型
……decision model 的热潮最近几周席卷了大家，伴随着 Jev；另外还有路由方面的相似趋势。大家很关注成本优化，因为每个月花很多钱用 Claude 是完全可能的，于是大家会琢磨：什么时候该换成便宜些的模型？我觉得大家逐渐意识到，这类逻辑需要放在运行框架里；但它也有点像决策模型的一个属性。
我把这两件事放在一起讲，是因为其中有些问题的标签非常明确，答案也有对错，可以让人或另一个智能体来提供反馈。你可以让大模型和小模型执行同一项任务，再判断小模型的表现是否和大模型一样好。如果一样好，这就形成了数据：遇到这类任务时，我们可以更多地把请求路由给小模型。
决策模型也类似，它会学习人在特定情境下如何做判断。这是一种很适合标注的行为。人可以像有时在 Claude Code 里审批工具调用那样批准操作，不过我觉得大多数人都已经开启了工具自动批准。
但在工具安全以外的定制场景中，每个组织都会有自己的规则和偏好，这些东西可以逐步沉淀成决策模型。这是一种相当可信的持续学习方式，很多人明天就能接入并立即看到价值。
更广泛地说，我们看到很多组织想做的事，也是我们在 Prime Intellect 的大量工作：与组织合作，开展相当有野心的训练项目，把模型在生产环境中处理高流量用例时留下的运行轨迹，转化成丰富、稳健的环境。这些环境会结合真实与合成数据，尽量呈现他们想用长期运行智能体处理的真实任务的复杂性。
只要有足够的编排、工具支持以及人在环路中参与，把这些任务构建成足以训练的环境，智能体就很有用。随着每一代开源和闭源模型进步，这个过程正变得越来越自动化。这意味着我们有机会把本来就在做的事情，变成自我改进闭环：让智能体参与数据整理，并创建界面让人表达自己的需求，整个闭环就可能自然而然地形成。这个想法……
把决策变成训练数据的界面
……这是我最近一直在自己的配置里尝试的东西。我觉得未来它会成为一种很常见的模型交互界面。现在有些机器人里已经能看到一点苗头，尤其是模型如今已经能即时写代码，这种小组件卡片式功能会很实用。它们是一种很落地的动态 UI，也很适合收集人的决策。
它有点像工具调用审批，但更加个性化、更加具体，也能解决这样的问题：“我有 20 个不同的机器人在跑，得记清楚它们各自在哪儿，还得操心谁来管理这一切。”有人会问：“你想要一个机器人吗？”你会说：“一个挺好，不过我其实想要两个。”然后你就有两个，接着又变成 20 个。我觉得我们一直在单一对话流和多线程智能体之间来回摇摆，但我们真正想做的是决策：把想法交给智能体，让它们继续推进，等需要我们做决定时再回来。希望智能体能判断好什么时候该把决定交给我们。
如果智能体能临时为我们生成界面，让我们直接提供它们需要的信息，首先这对人来说更顺手，不必在长长的对话串里翻来翻去，找“问题到底在哪儿”。这也有点像决策模型的 Jeff 风格的人类对应面，而且还能产出完美的数据。
我们一直在试验用这种方式训练模型，让反馈闭环运转起来：通过自然界面收集人类输入，并直接把这些输入作为标签，供模型改进，因为目标非常明确。这样也能避开我们常听说的很多奖励黑客问题之类的情况。
当然，那些问题也值得处理；但我们认为，这可以成为解决许多问题的一个很有用的起点。而且不需要对模型栈里的每个模型都这么做，可以应用在编排层模型、决策模型上。它能成为一个入口，让偏好和隐性知识在模型里逐步累积起来。
一个花 30 万美元训练的知识工作模型
我想今天还有个刚加进来的近期案例：有家公司叫 Paper Instruments，他们用我们的一些工具做了这件事。他们是我们的朋友。
他们花了 30 万美元训练了一个模型，在知识工作方面达到了帕累托前沿的表现，适用于电子表格、幻灯片之类的工作。对组织来说，这笔投入大致相当于雇一个员工：你可以去招聘一名软件工程师，也可以选择训练一个模型。
如果知识会随着时间不断累积，投入也可以分摊到更长的周期里。这件事正变得越来越可行。我们看到许多组织现在都想这么做，而且需求逐月增长，因为人们开始认识到它的价值，也看到开源模型已经足够好，可以通过把领域知识、运行框架和环境转化成训练场景，让模型能力显著提升、更加贴合自身需求。
而且，这种做法天然适合形成学习闭环……
每晚进行训练
……这就是我们内部正在做的一个原型，展示我们设想人们如何真正把持续学习应用到现实中：收集运行轨迹，然后每天晚上查看拟议的实验，检查被标记出来的问题，再启动一轮夜间训练。
白天，推理算力可能用来为智能体提供服务；到了晚上，员工用得少一些，就可以把这部分算力转去训练。因此我们认为，组织很快就能以一种非常自然的方式真正实现持续学习，让模型不断把知识积累起来，为智能体带来越来越强的能力。
自我改进型组织
……智能体。这大概就是我们认为许多趋势最终汇聚的方向。前面要做的事情有很多：先摸清工作流程、创建技能、制作评测、做好路由；之后，组织会希望获得规模经济和复利效应，让公司内部的数据不断产生累积收益，使组织越来越能够自我改进，持续变得更好。
我就讲到这里。也许可以回答几个问题，如果还有时间的话……没有问题？好，我们在 Prime Intellect 做很多这方面的工作，其中很多是开源、公开的。我们会写博客、发推，也和公司合作。我们正在招聘、不断壮大，如果你有兴趣，欢迎联系我们。谢谢。