企业 AI 治理：用反馈闭环把智能落地
这里是硅谷与华尔街的 Palo Alto Studio Connection，我是 John B，和我的共同主持人 Dave Volante 一起为大家带来节目。
欢迎回到纽约证券交易所的 theCUBE 演播室。我是 Jen，NYC Wired《Mixture of Experts》的主持人。我们节目一直关注一件事：每家公司都能用上越来越强大的 AI 模型，但真正的竞争优势，在于模型是否了解你的业务，以及它们究竟被允许用这些信息做什么——现在这方面仍然有些零散。Redpanda 以实时数据流业务起家，估值超过 10 亿美元；如今它发现，下一个重要的基础设施机会，是治理企业内部运行的 AI 智能体。Redpanda 创始人兼 CEO Alex Gallego，欢迎来到 NYC Wired。
谢谢你再次邀请我，很高兴回来。
很高兴你来。Alex，这个领域最近变化很快。你去年上过我们的节目，今年夏天早些时候 Tyler 也来过。围绕 AI 数据以及企业和采购端的各种消息，感觉比以往任何时候都变化得快。先帮观众梳理一下：介绍一下你自己，以及公司和市场现在的发展情况。
我是 Redpanda 的创始人兼 CEO。公司最初做数据基础设施，服务包括纽约证券交易所的数据业务；我想，美国所有电动汽车公司都在用 Redpanda，美国大约 75% 的银行业务也由我们提供支持，全球最大的支付服务商也都在其中。这就是公司一路走来的基础。
进入 AI 时代后，我们看到一个独特机会，就是我们所说的“让智能投入运营”（operationalized intelligence）。最近我们和 GlobalFoundries 的 CIO Vishal 发布了一份新闻稿，谈到一家制造企业怎样把 1.3 万个智能体投入生产。这些智能体现在可以接触国家级机密。想想看，最关键的信息不仅属于三字母情报机构或政府部门，其次还有芯片制造，再往后就是银行和金融。现在的芯片制造就是国家级机密。企业要怎样守护这些信息？这也成了公司的新使命：继续帮助大型企业把智能投入运营。
你说的“让智能投入运营”，是否意味着企业里的控制平面和数据平面正逐渐合为一体？从你们看到的数据层情况来说，工作流的形态正在怎样变化？
智能体治理与 AI 紧急停止开关
我们从中学到的是——先说明一下，我的经验更偏向大型企业，对那些还在寻找产品市场契合点的早期初创公司了解相对少一些。我们最能创造价值的，是《财富》全球 5000 强这类公司：IT 资产规模庞大，通常同时用多个云，也有自建系统；它们可能通过收购成长起来，环境复杂，还运行着多个 ERP 系统。
我们发现，对这类公司来说，“让智能投入运营”意味着把错误经验编码进系统，让不同系统彼此学习。回想今年早些时候，或者去年年底，大家谈到智能体时，关注点还是“我们今天要做的是把这个测试版投入生产”。有些人确实这么做了，但很多企业仍然难以解决治理问题，比如身份管理、智能体幻觉，以及智能体容易受到操纵等。我们发现，智能体要真正成功，关键其实是闭合反馈环：把智能体的输出，尤其是它犯下的错误，反馈给下一版智能体。
我用会计师、初级工程师或实习生来打个比方。企业要把那些口耳相传的入职经验写进系统：工单怎么提、代码怎么写、东西怎么提交到生产环境，等等。这样，当新的智能体或下一版智能体接手时，就能学会如何把代码部署到生产环境。闭合反馈环，就是把智能体上一阶段的输出带回下一阶段。我们要从“智能体采取行动后信息流就结束”，转向把这些信息记录下来，供下一版智能体使用。这就是我们所说的“让智能投入运营”。
如果从你建立的这家公司和智能体范式的变化来看，Redpanda 最初的理念和机会在于数据流，追求低延迟、高效率和速度。现在重点不再是数据在哪里、怎么流动，而更多是“谁”在行动：智能体是什么、由什么定义？谁来治理和观察每个智能体的活动？你们为什么决定重点投入可观测性？这个领域似乎正在形成一个独立品类，但还没人真正知道这个问题该由谁负责。你同意吗？
房贷 AI 治理与 CIO 销售
我同意。我觉得对我这样的人来说，这个问题很让人兴奋，因为数据安全公司和基础设施公司之间的界线其实并不清晰。很多时候，大家争的是同一笔 CIO 预算，但解决问题的方式又很不一样。我来讲讲 CIO 现在担心什么，以及我们怎样帮他们应对这些挑战。
首先是身份问题。不过我想强调，我们谈的不只是可观测性，而是完整治理。两者有什么区别？治理要依赖可观测性，但还要能对行为不当的智能体采取行动。去年我们提出过“AI 紧急停止开关”（AI kill switch）的概念。刚开始大家不太明白，以为它是不是断路器，究竟是什么？
你们也知道，我们现在为一些大型可观测性公司提供支持，也支撑着规模很大的实时数据流，包括证券交易所、银行账户和可观测性公司的遥测数据。我们已经证明，自己能在大型客户那里大规模采集这些数据。在此基础上，我们搭建了一层治理能力，称为 AI 紧急停止开关。它会持续观察所有智能体的实时数据流。想象一下，一家大型制造企业部署了 1.3 万个智能体，我们会持续监控它们，找出哪些智能体行为异常，比如正面或负面判断出现得过多。
银行贷款的场景很复杂。大型企业面对的不是简单的聊天机器人，不是问一句“我的支票账户号码是多少”——这类知识库问题比较直接。真正复杂的是业务结果，比如房贷发放：用户提交申请后，一个智能体去征信机构取信息，再交给风险平台；风险平台分析申请人的个人资料、收入和背景，然后交给财务智能体判断是否有预算给这个人发放贷款或抵押贷款。
在企业里，大多数团队不是只做一个智能体，而是做一组彼此协作、还会和其他公司系统交互的智能体。就像传统软件一样，各个部门会交付自己的系统：风险部门交付风险智能体，征信部门交付征信智能体。要在一整条智能体链路中发现哪个智能体失控，并在它行为异常时把它停掉，是个难题。
因此，我们在可观测性上再加一层能力，为大型客户提供更高层的机制。可以把 AI 紧急停止开关看作一份保险：它代表全局策略，发现智能体越界，或它本周的行为与上周相比出现偏移，就可以将它停用。如何安全地停用？如何实时处理？如何利用实时数据，在有成千上万个智能体时仍然规模化地做到？这一直是客户最难解决的挑战之一。
CIO 如何负责 AI 治理
我觉得另一个关键问题是：谁有权做这个决定？从你的角度看，客户的画像也很有意思。你是系统工程师出身，技术背景很强，以前也常和技术受众交流。但这次观众里有合规、治理、CISO、技术人员、开发者和业务负责人。你刚才说这不只是可观测性，而是治理，是整合式的风险保障。你们现在主要向谁销售？你们的市场拓展方式如何调整，才能服务这些客户？
与超大规模云厂商的智能体平台竞争
我们刚结束第三季度，业绩非常出色。我想我们之后会正式公布，但实际上远超了原定目标。部分原因是我们如今和企业合作的方式，建立在过去七年打造真正的零级、关键任务系统的经验上。比如对纽约证券交易所来说，如果我们的系统崩溃，部分交易系统就会停摆，交易可能暂停。我们提供的是企业的零级关键基础设施。
变化在于客户对象。过去我们像你说的那样，主要做非常技术化的销售，通常面向 CTO。现在我们转向 CIO，更关注业务成果，而不只是可靠地搬运比特和字节——当然，要做好这件事本身也很难。我们已经有信心在规模化场景下把它做好。对话也变了：怎样利用这项技术，怎样简化把智能体投入生产的问题？
现在我们的主要对象是 CIO、业务负责人，也就是要赋能各部门的人。比如人力资源负责人或 HR 业务伙伴，可以用它来管理员工和承包商的入职与离职；CFO 可以借此确保合规，不会向受到美国制裁的企业销售；业务分析师也能得到赋能。合作伙伴关系和市场拓展方式都随之改变。
现在可以把 Redpanda 看作一家有两款产品的公司：核心数据平台，以及智能体数据平面（agentic data plane）。过去一年，我们看到的增长、新客户和使用场景，很大一部分都来自智能体数据平面。
我想再问问整体市场。今年对你们最大的竞争对手 Confluent 来说很特别，它在今年早些时候被 IBM 收购。大家也在讨论超大规模云厂商会不会进入这个领域，还有 Snowflake、Databricks 这类大型数据湖厂商。人们有时会假设数据领域会逐渐融合：数据被全面整合和掌控，风险也由同一个平台管理。你怎么看？在你所处的竞争格局里，这会怎样发展？
按用途选择 AI 模型，保持供应商独立
在智能体数据平面——也就是公司目前的重点——我们已经不再把 Confluent 视为主要竞争对手。比如我们正在和欧洲最大的互联网服务提供商之一合作，它服务的用户约占一个欧洲国家的 30%；在这个项目里，Confluent 并没有出现。我们主要面对的是超大规模云厂商及其更全面的平台，比如 AWS AgentCore、Azure Copilot Studio。
我们的合作方式也变了。核心平台卖的是可靠、规模化的数据传输，这本身就很难；智能体数据平面则建立在这个基础上。正确性非常重要，因为要向审计人员证明，智能体确实按它所声称的顺序采取了行动。这是我们在原有能力上的延伸。
不过在智能体数据平面上，我们现在遇到的竞争者已经不同了，因为我们显著改变了接触的客户角色和提供的业务价值。我们不再只是卖数据传输，而是为企业交付业务成果。这方面增长非常好。我还想分享一个重要观察：我们位于数据访问、身份管理等底层能力与模型之间。企业正在转向我称作“模型最大化”（model maxing）的做法。
以前大家总是优先选择最前沿的模型，比如 Anthropic 的 Claude 或 OpenAI 的 GPT 顶级模型。但如果企业想真正实现更多自动化和智能体行为，所有事情都用前沿模型，成本实在太高。因此，现在大家会更细致地讨论哪种模型适合哪种用途。
智能体数据平面之所以关键，是因为企业需要一个能跨多个云、多个自建环境和多种访问模式运行的平台。大型企业可能通过收购扩张，也可能进入多个地理区域，面对不同司法管辖区和数据主权要求。大约两个月前我开始注意到这个趋势：企业不再是什么都用最前沿的模型，而是因为开支压力变得更精明，开始按使用场景选择合适的模型。比如房贷发放的端到端流程里，不同环节可以使用不同模型。
我认为这对 Redpanda 以及这个领域里的公司是个好机会：帮助企业为不同场景选对模型，同时保留治理、审计和可观测能力。因此，企业仍然需要一个横跨多个云的水平平台。
还是围绕“模型最大化”以及行业里的担忧和假设：今年早些时候，大家谈开放权重模型时还会说“这绝不会发生，企业不会用，太害怕了、风险太大”。到了夏天中期，风向完全变了。现在我们听到很多关于开放权重模型的讨论。从你的角度看，你们正在构建的技术，能否给企业一层可靠的保障和信任，让它们选择成本更低的模型，同时获得相同的输出，并把风险控制在同样可管理的水平？
按用途选模型与供应商独立性
你们正在构建的技术，能否给企业可靠的保障和信任层，让它们选择成本更低的模型，同时取得相同的输出，并把风险控制在同样可管理的水平？
业绩创纪录增长，智能体加速进入生产
要获得模型独立性和预算控制，企业就必须绕过前沿模型实验室，不能只依赖它们。原因有很多，我举个简单例子。排名靠前的两家前沿模型实验室都在准备 IPO。它们的条款可能会限制你与它们竞争，比如不能使用云服务来构建前沿模型。假设它们转而进入另一个行业，企业此前没有绕开这些前沿模型供应商，也没有通过智能体数据平面这样的平台隔离依赖，就会承担巨大的风险。它们一旦和你竞争，你就不能再用这些前沿模型了。那该怎么办？你只能匆忙寻找方案，维持业务连续性。
如果我是全球 5000 强企业的 CIO，这几乎像是每周一都会遇到的事：你得在智能体和前沿模型之间加入一个平台，提供横向治理、访问控制和身份管理。除了业务连续性与控制——这确实是个真实风险——还有第二个变化：多数企业不再需要更多智能。瓶颈其实在数据访问层，也在“双重身份”上。比如 CEO 能访问 Salesforce，但代表 CEO 行事的智能体不应该因此就拥有 Salesforce 的根用户权限。
说回公司发展阶段和商业化情况，给我们讲讲增长吧。你提到第三季度表现非常亮眼。现在公司的融资情况如何？如今成本很高，你们谈模型最大化，行业里也在谈 token 最大化，模型调用的成本肯定不低。
今年是公司历史上增长最好的一年。年中时，我们把公司的预测翻了一倍，现在仍然会超出所有预期。
开放的多云策略与增长融资
是啊。
我们看到的需求几乎没有上限，但真正的难点在于把智能体投入生产。我想把话说得准确些：智能体里的代码生成部分并不便宜。代码生成模型确实很擅长写代码，这部分反而容易。困难的是给人们更高层次的业务构件，比如智能体技能，同时又不把他们绑在某个平台上。
Redpanda 的做法一直是走到开发者所在的地方，这深植于公司的理念里。我们没有专有协议。核心平台的消息层用 Kafka，数据库用 Postgres。虽然我收购了一家数据库公司，但它连接内部系统使用的协议仍然是 Postgres。静态数据使用 Iceberg 这个开放格式。
全球 5000 强里的 CIO 尤其希望把数据留在自己手里。他们不想把所有数据交给某个供应商。这是 Amazon 和 Azure 面临的主要问题：它们的立场是，只要你把所有数据放进它们的体系里，它们就能为你做很多事。但 CIO 会说：“我不想把所有数据都交给你，那是我的优势。数据就是我的优势。”他们希望供应商能适应自己的现状：大型企业往往同时使用多个云，也有庞大的自建系统；数据不能在欧洲和美国之间随意传输。他们需要一个能横向查看全局的平台。
我们一直有机会继续增长，也可以继续融资，但目前没有这个需要。去年较早时我们融资 1 亿美元，账上还有足够支撑很多年的资金。如果再次融资，会是为了战略增长，比如投资业务的其他部分，或者收购一家公司。现在我们正专心建设业务，尽可能快地发展。
这当然是很多创始人都羡慕的处境。我想不少创始人都希望有一天能说出这样的话。这次交流很精彩，产品也很棒。你最后提到的供应商锁定问题很有道理：为企业打造解决方案，避免它们在下一波前沿技术中再次被供应商锁定。非常感谢你参加 NYC Wired。
谢谢邀请。
我是 Jen Allen，感谢你在纽约证券交易所的 theCUBE 演播室收看 NYC Wired《Mixture of Experts》。谢谢观看。