让智能体网络的安全普惠化

AI 成了引发这场安全危机的工具，但它也能帮助我们更快地解决问题。事情从“怎样让所有人都用上 AI”，一下子变成了“大家都在争相弄清楚 AI 安全究竟意味着什么”。

谢谢，也谢谢你来这里。

是啊，是啊。有人开玩笑说，明年要把节目改名了。

作为 CTO，现在最优先的事情是什么？这一年感觉像把十年压缩进了一年，所以优先事项一直在变化。但归根结底，还是回到我们帮助建设更好互联网的使命上。过去十五年，这一点都没有变：我们希望互联网安全，让每个人都能轻松把内容放到网上并扩展规模。

……以便找到这些漏洞。

我认为，最近出现的一些重大漏洞，幕后其实并不是国家级行为者，甚至是高中生。

对，对。他们花时间做的事情，以前就像参加夺旗式安全竞赛一样：把自己的智能体指向某个领域，让它去查找漏洞。他们也能因此获得经济回报，比如通过漏洞赏金拿到相当可观的报酬。

人类适应能力很强，需要的时候也能迅速行动。我见过行业在这种事情发生时携手合作。平时你会认为是竞争对手的公司，那时就不再是竞争对手；我们只是在保护你刚才说的关键基础设施。到了这种关键时刻，人们会挺身而出迎接挑战。所以我没那么悲观。

这是紧急情况，对吧？未来十八个月，安全投入会整体提前，包括偏进攻的红队工作——主动尝试利用漏洞——以及防御工作，也就是如何做好准备。但我不认为这种情况会永远持续。

是的。首先，我们现在是在给过去七十年积累的软件打补丁，其中一部分只是补课。往前看，软件开发生命周期，以及智能体的开发生命周期，都需要改变。

我会回到第一性原理：要缩小攻击面。最简单的办法就是减少可能出现漏洞的地方。审视所有软件，问问自己怎样简化它、怎样缩小代码规模。

和过去人类开发时一样，智能体带来的问题需要在各个层面解决。要培训编写代码的工程师、产品工程师；安全团队仍然要参与，提供制衡和第二双眼睛；还要把流程建立起来。

我觉得我们现在正处在一个混乱的中间阶段：人类和智能体还在互联网的同一套轨道上运行。智能体试图解析一个为人类设计的网络，这效率很低。网站原本是为人类设计的，人能以不同速度浏览网页、阅读内容、看广告并参与完整的经济模式；而智能体在同样的时间里可以访问一千个网页。这很好，但我们需要一种新的经济模式来支撑它。

我认为会有。我们会找到办法，把内容送到人类和智能体各自所在的地方，而不是非要让它们在同一个地方获取内容。现在有很多转换层，帮助智能体查看网页，但这会额外消耗 token，有些其实没必要。网站本来就知道自己的数据是什么。多年来我们一直有 API，让计算机彼此通信，只是 API 只覆盖了互联网上一小部分信息。智能体想了解一切，所以它们会去探索面向人类的互联网。

我觉得现在还没有人清楚另一端的商业结果会是什么样。大家经历过互联网转型，当时有人说互联网会毁掉实体商业街，但它并没有；小企业仍然蓬勃发展。不过也有人因此失去生计，所以人们自然会有所怀疑，也会本能地想把智能体挡在外面。你看亚马逊刚刚就说，不允许智能体进行个人购物。

……他们正处在这种混乱的中间阶段，试着弄清楚前进的道路，也想保留一些谈判筹码。我认为总有一天，Muse、Dots 以及其他个人智能体都能顺畅地完成任务，甚至比人类自己操作还容易。但我不确定技术和商业模式现在是否已经跟上。

当然有。在内容方面，我们发布了内容变现网关，让网站可以接入我们的服务，并为内容收取微支付，其中包括提供智能体可用的钱包，以及一种能帮助促成交易的稳定币。

我认为，变化在于我们不再向他们收费，而是向他们付钱。这笔收入能覆盖基础设施成本，也能支撑他们的生计。我们甚至可以让内容创作者的数量增加。上一代互联网已经通过 YouTube、TikTok 和 X 等平台很好地做到了这一点；我认为我们还能把创作者规模再扩大几个数量级。

这就转到我们发布的 Cloudflare OS 了。它是公司内部员工日常使用 AI 的平台。它源于安全方面的考虑：我们很担心客户数据和内部数据泄露，希望员工既能使用新的 AI 工具和模型，又能安全地在公司内部部署，并了解数据如何被使用和流转，做好治理。

首先，它其实是一套参考架构。过去十年，我们逐步建立了开发者平台，最初只有简单的无服务器计算原语，现在已经有一百多种开发者平台工具，从存储、数据库到 Durable Objects。我们想展示如何完全基于 Cloudflare 来构建，也展示我们内部如何构建，让大家可以分叉这套系统，在上面打造自己的公司操作系统。

实际上，使用它最多的是市场拓展团队和总务行政团队，甚至超过工程团队。它让员工能很快上手。起初我以为最大的障碍是培训；如果只是把人丢给一个聊天界面或另一个辅助工具，那就像一张空白画布，让人无从下手。

这次重组很艰难。和一些同事告别，是 Cloudflare 有史以来第一次这么做。我们一向很谨慎，不会过度招聘；这次是出于不同原因：我们看到 AI 正在改变一些团队的工作方式。

Cloudflare 一直有远超我们实际能做的事情——不论是产品、功能，还是这类内部改进。所以我们总是在寻找愿意主动承担责任的人。没必要把一百件事从头到尾排好优先级；只要有人对其中一件充满热情，做它通常就是安全的选择。

看法确实变了。每个新模型都会让我们重新思考，因为成本结构在变化。总的来说，我觉得让人类来决定每项任务该用哪个模型有点荒唐。

正是如此。人类永远不擅长做这种选择。早期还是要用比较直接的方式试验：比如规划阶段用最前沿的模型；计划写好、达成共识并迭代后，可以让一些开源模型来执行；最后再让前沿模型做审查、红队测试等。目前这些过程还相当依赖人工，但随着我们学习和试验，路由会变得更智能，治理也会逐步完善。

我觉得还非常早。两年前 Cloudflare 大约有 200 名实习生。我们看到他们是第一批真正的 AI 原生一代：如果把 AI 拿走，我觉得他们可能就不会工作了。

我觉得算。他们比我们更会用这些工具。就像如果十年前把 Google 从我身边拿走，我还怎么学习？AI 就是他们首先会求助的工具。我们还发现，那年带过实习生的经理，后来采用 AI 的速度更快了。

对，分布在全年。这个做法特别棒：一方面实习生带来了大量新点子；AI 让人能更快试验，因此我们可以让更多人参与。另一方面，我们也看到他们使用 AI 的方式。比如需要填一张表，他们就会先找 AI 帮忙。我自己却常常发现，很多事情我还在手工做，然后才想起来：“等等，这件事我应该用 AI。”对我们大多数人来说，这还不是自然而然的反应，需要时间。所以我认为我们的 AI 旅程仍处于很早期。

是的，就是先用比较直接的办法试起来。去年一月左右，我们设立了一个 agents@Cloudflare 邮箱，告诉员工：如果你想知道某项工作能不能用 AI 做，就给这个邮箱写信。它会回复一个技能文件。起初大家以为是 AI 自动回复，其实是一些实习生在帮大家写 skill 文件。

我们一直很看重好奇心。如果一个人在家里或个人生活中完全不用 AI，这算是一个很大的警讯。一个人有好奇心，却不愿意拥抱 AI，这很难理解。所以接下来，我们会更加看重主动性、好奇心和同理心这些特质。

是的。我们做的很多事情都不是照搬现成方法。以 Cloudflare 所服务的网站数量和我们免费提供的服务规模，现成技术根本无法胜任。所以我们需要能进来发明新东西的人，而这要从好奇心开始。

我们目前有一个红队。我想，到明年年底左右，我们可能会有四到五个红队。我们会把人员分成更多小组，采取对抗性视角，主动寻找漏洞。

流程当然总能改进。我们有漏洞管理流程，也有打补丁的流程。它们完美吗？并不完美。但我发现，让这类事情变好的办法，往往是危机推动的。当工作量大到工程团队无法用常规流程处理时，工程师就会想办法把它自动化——工程师天生有点懒，但这是好事。发现没有别的办法时，他们就会自动化这些工作。

我认为两件事都要做。可能需要牺牲成本优化或其他事项，但我们相信：公司如果停止交付，就会走向衰亡。

绝对不会。我们必须继续构建并交付新东西，同时确保安全，及时打补丁、修复漏洞。我认为如果做得好，借助 AI，我们两边都能做得更快。AI 确实成了引发这场安全危机的工具，但它也能帮助我们更快地解决危机。所以它同时作用在问题的两边。

是的。我认为长远来看，这些能力都必须开放，因为无论如何，所有人最终都会获得它们。

没错。坏人总会找到办法拿到它，顶尖公司也会有办法获得它。所以如果不开放，排除在外的只是大量可能需要这些能力的人。

我会建议把网站和基础设施接入 Cloudflare，基于 Cloudflare 构建。发生重大漏洞时，比如去年的 React 漏洞，我们不会只把防护提供给购买高级防火墙和 WAF 功能的付费客户，而是会提供给所有人。我们把这类能力视为服务的一部分。

对。

谢谢。