FIELD NOTES 首页 / SiliconANGLE theCUBE
SiliconANGLE theCUBE播出 2026.11.0633:019 章约 16 分钟读完整理于 2026.11.07

333|Breaking Analysis|AI 网络韧性与信任鸿沟

本期围绕企业 AI 的网络韧性与信任展开。Dave Volante 与 Christa Casease 分享了对 25 位安全和韧性从业者的访谈发现:只有 4 家机构演练过 AI 智能体事件,许多组织对恢复的信心尚未经过端到端验证。智能体用合法权限犯错,会带来更快、更大规模且跨系统的连锁影响。嘉宾建议企业从业务流程出发,验证日志与监控能否还原智能体活动,分级设置自主权限,演练停止、纠错、恢复和业务负责人审批,并从设计之初把韧性纳入 AI 工作负载。

01 0:02 1,211 字

从备份恢复到业务韧性

Dave Volante

这里是《Breaking Analysis》,我是 Dave Volante。备份与恢复一路发展到数据保护,再到安全、网络恢复,如今已经走向业务韧性。范围还在不断扩大,现在还要考虑攻击者如何使用 AI,以及防守方如何借助 AI 更好地保护资产。

我们与合作伙伴 Qualitate 做了新一轮实地研究,探讨了不少问题,其中一个不太常被谈到的风险是:企业内部的 AI 出错时会发生什么。总体来看,我们的研究表明,大家对恢复能力的信心远远超过了实际能力。这项研究也凸显出网络韧性和 AI 安全都还不成熟。尤其是智能体 AI,它给从业者带来了更大压力:不只要保护数据,还得重建智能体当时的意图,并有把握地恢复业务状态。换句话说,这就是 AI 带来的内部威胁。

欢迎收看第 333 期《Breaking Analysis》,本期主题是“AI 网络韧性与信任鸿沟”。今天请回了 Christa Casease。她最近为我们的网络韧性峰会深度采访了 25 位安全与网络韧性从业者。Christa,很高兴见到你,欢迎回来。

Christa Casease

谢谢你,Dave。很高兴能回来。

Dave Volante

先跟观众介绍一下这项研究的目标吧,我们就从这里开始。

Christa Casease

好。你刚才说得很到位。我们听到 IT 和安全从业者都面临两方面的任务:一方面要保护企业,抵御对手越来越多地使用 AI;另一方面,在组织积极推进 AI 项目、把它们投入生产的同时,还得设好护栏,并落实安全和韧性措施。

所以我们想了解组织如何处理安全与韧性问题,例如智能体的身份和权限、监控、事件响应,当然还包括恢复。我们深入研究的一件事是:智能体用合法权限做了错误操作时会怎样?组织能不能还原事情经过、判断后续影响,并恢复有效的业务流程?这些就是我们想展开讨论的几个核心主题。

Dave Volante

好,谢谢。别忘了,这只是 25 个样本,但访谈很深入,每次大概 35、40,甚至 50 分钟。这就是我们和 Qualitate 合作的方式。我们来看看研究结果:25 家机构里,只有 4 家演练过 AI 智能体事件情境,而且这里面还包括不完整的测试。今天我们想聚焦客户实际测试过什么、AI 给他们自己的安全工作增加了哪些事,以及怎样安全地恢复业务流程。

这页上有一段来自医疗行业从业者的引述,很能说明我们的发现。对方说:“不,我们没有针对 AI 智能体或类似攻击完成任何桌面推演。”但这个人接着说:“我们很有信心,因为这些情境和我们以前处理过的非 AI 事件很相似。”

也就是说,这个人认为,AI 智能体采取错误行动,在实际效果上等同于内部人员威胁或外部攻击者做同样的事。Christa,不知道你怎么想,我听到这里的反应是:等一下。我们的调查确实发现,对 AI 事件更有信心的组织,往往也更倾向于大量借鉴现有剧本里的类比,比如勒索软件和其他事件响应框架;而他们是否具备这些框架,也和他们觉得自己准备充分与否有关。但我接下来想说的是,这些受访者中有相当一部分其实没有……

02 4:04 989 字信息密度高

信心是否经过验证

Dave Volante

……比如他们的勒索软件和其他事件响应框架。那些认为自己准备充分的人,往往也已有这些框架。但 25 位受访者中有 21 位从未测试或演练过 AI 或智能体事件情境。Christa,在我看来,这说明大家的信心——包括这位受访者的信心——大多停留在理论层面,实际上并没有验证过。你怎么看?

Christa Casease

我同意,Dave。正如你说的,能力和实际准备程度之间存在很大差距。不管从哪个角度看,实地都缺少证据,证明组织真正验证过由智能体引发事件后的端到端业务恢复。那 4 位受访者中可能有人做过部分演练,但这并不能证明他们展示了完整的端到端恢复能力。其他人也许测试过单项控制措施;我们在访谈中听到过权限管理或遏制措施这样的例子。总之,我看到的都是零零散散的环节。

这让我很担心。测试某项控制是否有效是一回事;证明组织能还原一连串经授权的操作、识别错误结果、修复后续影响,并安全地恢复业务流程,则是另一回事。这要求高得多,远远超过测试一个控制。就像你刚才暗示的,我确实看到了一种虚假的安全感。比如那位医疗行业受访者说,他基于处理类似非 AI 事件的经验而有一定信心。这种信心可以理解,但两类情境并不等同。智能体事件会带来额外复杂性:速度和规模都不同,而且所有相关操作之间的关联更紧密。组织必须加倍测试这些差异,不能假设现有能力自然就能应付。

Dave Volante

很好,谢谢。回看这些数据时要记住,这些是定性访谈——Qualitate 这个名字也由此而来。但它们仍然能揭示一些迹象和模式。当然,我们也会做样本量更大的定量调查,那样可以把分析切得更细。这次研究让我们提出了很多问题:工具是否存在缺口?这是成熟度不足吗?还有哪些未知的未知?要证明工具适用于智能体 AI,是否需要建立新的流程?

你看,只有两位受访者表示,他们具备广泛的异常或非预期行为检测能力;只有三位表示,他们能广泛监控并还原智能体活动。现有的身份日志记录和数据保护工具打下了基础,但这里展示的这句话很能说明问题:“不,我们已经部署的那些工具,还没有测试或验证过是否有效。”

Christa,这让我印象很深,想起灾难恢复早期的情况:当时人们会测试故障切换,却不敢测试切回,因为太担心出问题。现在这里也有点像,只不过严重程度放大了一百倍。

Christa Casease

这有点像法律行业那句老话:别问你不想知道答案的问题。我觉得这里也有类似的心态。Dave,具体看我们发现的这些缺口,刚才提到的日志和监控……

03 8:04 895 字

日志、监控与内部 AI 风险

Christa Casease

……对吧?我觉得这里也有类似心态。Dave,具体看我们发现的一些缺口,尤其是刚才谈到的日志和监控,最大的挑战恐怕不在于企业手头有哪些工具,而在于是否真正测试和验证过这些工具能不能还原整个智能体工作流中的活动。

企业已经有很多工具:身份系统、应用日志、SIEM 平台、数据保护能力,以及你刚才提到的事件响应流程。现在他们正试着把这些能力延伸到 AI 上。但 AI 智能体会与多个应用交互,还会自主触发后续操作、调用各种工具。每个系统可能都记录自己的事件,却未必能拼出整个工作流连贯、完整的记录。

从事件响应的角度看,我们需要把这些不同记录关联起来,确认是哪个智能体采取了行动、它行使了什么权限、调用了哪个工具,以及因此发生了哪些变化。所以,必须从全局审视这条链路,并验证这些能力在真实的智能体事件情境下是否经得住考验。就像你刚才举的灾难恢复例子,组织几乎应该先设想最糟糕的事件,确保这张工具和流程组成的网络能够……

Dave Volante

是的。实地研究里还有一个很有意思的发现,我想 Christa 你也会认同:企业内部部署 AI 带来的焦虑,竟然超过了外部威胁。为什么内部采用 AI 会给安全团队增加这么多工作,即使外部威胁也在增长?你看,25 位受访者中有 10 位表示,内部 AI 在治理、数据保护和访问控制等方面带来了新工作。一位金融服务业 CISO 的评论说得很清楚:“对我们来说,采用人工智能带来的更多是运营开销和运营影响,而不是 AI 武器化或对抗性 AI。”

Christa,这有点像“已知的魔鬼”。外部风险依然存在,但你听到内部这些新型威胁有哪些推动因素?

Christa Casease

是的,Dave。正如你说的,并不是外部威胁就不值得担心,它们当然仍然值得关注。但企业越来越依赖 AI 智能体,也因此出现了一整类新的内部人员风险。这里的新情况,也是我认为推动这些研究结果的主要挑战,在于风险和暴露面其实源自合法的业务活动。几个月前 Hucking Face(字幕听写如此,可能指 Hugging Face)的事件就是一个例子。

想想它会怎样影响一家普通企业:比如某位员工把 AI 助手连接到企业后端的信息系统,例如 CRM。接下来……

04 12:07 970 字信息密度高

恢复不只是把系统还原

Christa Casease

……业务部门可能会接入一个智能体,或者 SaaS 服务商会给现有应用增加 AI 功能。这些 AI 智能体正进入企业环境,接触数据、创建新的身份,也带来了过去不存在的自动化操作路径。很多时候,IT 和安全团队甚至没有监督这些路径,也不知道它们的存在。

于是又出现了一整套新要求:不仅要发现 AI,还要保护智能体对数据的访问;要管理它们的访问权限;也要像我们刚才说的那样监控并治理它们的活动。我想再次强调,25 位受访者中有 10 位给出的这个发现,既反映了风险水平,也体现出安全团队,尤其是安全团队,新增了多少运营负担。

Dave Volante

我写这一部分时,想起了我刚入行时的一位导师 Fred Moore。他已经退休了,但还在做一些很棒的工作。他当年在一家叫 Storage Tech 的公司。这家公司曾经非常了不起:Jesse Awida 当年在大型机时代挑战 IBM,创办公司,主要做磁带机。后来他们雄心更大,进军磁盘驱动器,经历了一些艰难时期,甚至申请过破产保护。后来他们回归本行,制造自动化磁带库,有时电影里也能看到。

我还会再讲回这个故事。这些人真正懂得什么是恢复。备份可能运行正常,恢复出来的系统看起来也健康,但业务未必能继续运转。我们现在也看到类似担忧:智能体可能拥有合法的访问权和权限,却做出错误决定。它可能改动一条记录,也可能发出一封邮件,而邮件一旦发出就收不回来了。Fred Moore 有句名言:“备份是一回事,恢复才是一切。”

为了向 Fred 致敬,我们把“恢复”的范围进一步扩展了。这张表是我们根据实地访谈做出的评估,显示恢复既有技术层面,也有业务层面。过去,业务层面常用 RPO 和 RTO 来定义,也就是恢复点目标和恢复时间目标——这听起来当然不像业务术语。

一位媒体与娱乐公司的信息安全总监说得很能体现这个困境:“我们可以恢复系统,也可以在恢复目标时间内完成恢复,但这不一定能保证系统是安全的。真正的瓶颈是信任。”

Christa,这带来了一整套新问题:除了安全或 IT 团队,还有谁需要参与?由谁签字确认业务可以安全恢复?我们如何理解智能体原本的意图、它能访问什么,以及它造成了哪些后续影响?你怎么看?这里还有什么需要我们了解?

Christa Casease

是的,这确实是个棘手的问题。Dave,先回应你刚才最后提到的那一点:这其实已经超出了早年备份和恢复的范畴……

05 16:09 774 字

业务需要定义可信恢复

Christa Casease

……过去,恢复工作大多由数据保护团队独立负责,重点是恢复数据、恢复系统。但现在——Dave,你和我今年也和很多数据保护公司一起讨论过这个问题——我们必须弄清楚:什么才算可信、可用、真正良好的业务服务?如何界定?又怎样确保恢复到这种状态?

归根结底,这需要自上而下推动。业务部门要明确目标是什么,IT 和安全团队则要提供底层技术,并作为合作伙伴帮助落实。智能体世界里有几件事发生了变化。错误交易、人为失误、故障在系统间产生连锁反应,这些问题我们早就有了。新变化首先是问题会以更快速度、更大规模扩散;其次是更难弄清哪些访问和操作是正当的,并追溯整个过程。你刚才没用这个词,但智能体的来龙去脉也很重要。

所以谈到韧性,正如我们刚才说的,桌上出现了新的利益相关方,影响也不只局限于安全。我们需要全面了解事件的范围、哪里出了问题、该采取什么措施,还要有明确的评估标准,验证业务服务是否可信、能否恢复运行。

Dave Volante

谢谢。现在大家经常谈“人在回路中”。我们来看看这到底有多重要,以及人的参与能带来多少保障。这些数据也显示,依赖人工可能会让组织推迟对现代恢复能力的投入。两段引述都来自同一位 CIO:第一段说,他们通过人工监督来限制智能体能做什么;第二段则承认,如果人漏掉了失控智能体的操作,公司基本上就没有撤销按钮。

我们的建议是,审批和恢复测试必须同步推进。谢谢你,Alex。真正的韧性必须考虑这样一种情况:如果人类跟不上以机器速度运行的智能体,或者发生了错误,该怎么办?Christa,你还想补充什么?

Christa Casease

有两点,Dave。首先,在这些交流中,确实很有意思的一点是看到客户究竟如何看待这些取舍。虽然样本不大,但我们还是得到了些数据,比如受访组织中有多大比例仍在限制 AI 的自主性,而且总体而言,他们确实在限制。接下来我想补充的是,谈到我们准备赋予 AI 多大程度的自主权……

06 20:10 857 字

用风险分级设定智能体自主权

Christa Casease

……让智能体在恢复或韧性情境中实际采取补救行动。我的建议是,必须把这一点纳入风险评估。正如你说的,没有撤销按钮。如果你要让 AI 智能体直接批准某件事或采取行动,就必须了解该行动涉及什么风险。因此需要采用分级方法。往后我们会越来越依赖这种方法,因为人工审批很快就会成为瓶颈,我认为可能就在未来 6 到 12 个月内。

所以,当我们开始信任智能体采取某些补救措施时,就要提前想清楚如何设定护栏,以及哪些风险水平是我们愿意接受的。

Dave Volante

接下来看看一个最佳实践案例:准备得更充分的客户实际做了什么,其他人又能从中学到什么。例子来自零售业。一位从业者描述了如何在完整的系统副本中重放智能体操作。我们这里借用了“数字孪生”这个词,因为我们喜欢这个说法,希望你能明白重点:关键是找到根本原因和交易影响,再利用细粒度快照进行分析。

受访者明确表示,他们确实在沙盒中测试过这一做法,而沙盒是系统的副本。表格右栏是我们对这类演练应该验证什么的看法。这不是审计,样本也仍然很小,但它能给人启发。Christa,你怎么看?

Christa Casease

正如你说的,Dave,这个案例很有意思。很高兴看到一家公司在真实环境中这样做。比如,这位客户能够重现智能体的操作、调查根本原因,还能用快照了解受影响的交易,这些都很有价值。

至于完整的数字孪生,我觉得整个行业还在摸索,因为那意味着要更丰富地呈现业务流程、依赖关系和状态。这方面我们还有不少工作要做。随着企业更多地使用 AI 执行关键职能,这项工作会变得更加重要。不过,就调查一连串操作及其对各系统造成的影响而言,这种方法已经很有价值。

我还注意到,受访者承认,交易量更大时,可能需要更多时间做核对。这是需要记住的局限。因此,建立更丰富的业务环境模拟,有助于企业测试智能体行为,真正为它们在生产环境中的故障做好准备。

Dave Volante

好,最后我们来谈谈行动建议。如果 CISO 听完这项研究只采取一项行动,那应该是什么?Christa,带我们过一遍这些建议,然后我们再做最后总结。

Christa Casease

我觉得这里给出了一些很实用的建议。首先,像你这里说的,要先弄清楚……

07 24:12 858 字

把恢复演练做成完整工作流

Christa Casease

……智能体能触及哪些系统。我想先退一步说:客户照着这份清单演练时,我建议挑一个已经投入生产的工作流,最好后果重大,而且智能体有权跨多个系统采取操作。先把这个原则定下来。

演练中还应该纳入智能体在凭证和权限都合法的情况下仍然做错事的情境,也要纳入需要人类参与审批的情况。这样才能逐步摸清边界:哪些事情可以交给智能体自主处理,哪些至少目前还不行。要弄清它能触及什么;还要弄清能不能停掉它、撤销它的访问权限,能不能真正阻止它继续行动。这就是大家常说的“紧急停止开关”:要在影响继续扩大前控制潜在波及范围。

Dave Volante

顺便问一下,抱歉打断你。你还记得我们在 CrowdStrike 时的事吗?Daniel Bernard 上了 theCUBE,似乎透露他们有一个紧急停止开关。后来我们问了——我记得是 AJ Shipley;你我当时应该都在——他说:“哦,我们没有紧急停止开关。”当然,他当时是在保密,因为 CrowdStrike 本周刚在欧洲 Falcon 大会上宣布推出了这个开关。抱歉插话,我只是想补充这一点。

Christa Casease

没关系。这类能力确实很重要,尤其是为了阻止横向移动、控制影响范围。这个例子很值得一提。智能体真正停下来之后,我会接着检查它的操作可能造成了哪些后果,能不能纠正、有没有未解决的例外情况,然后证明业务流程可以安全恢复。也就是清单倒数第二项:想清楚残留影响,以及需要采取哪些纠正措施。

Dave,最后一项是由谁批准恢复。这又回到我们一开始说的参与团队:既有 IT 和安全团队,也有业务部门。我认为必须由业务负责人验证,这是拼图中不可或缺的一块。安全团队可以确认威胁已经受到控制,也可以提供事情经过的证据。但业务负责人必须判断实际结果是否可以接受,也就是弄清刚才谈到的后果是否可接受。

为此,我们还得记录这次演练证明了什么、哪些部分可能仍未测试,以及各团队还要做哪些后续工作来弥补缺口。我觉得这份清单已经相当全面了。我还想提到,整场讨论的核心之一是证明恢复能力。尤其是当我们把演练结果推广到其他情境,并考虑应该赋予智能体多大权限时……

08 28:12 959 字

韧性要从设计之初就纳入

Christa Casease

……赋予智能体多少权限,以及能否回滚和恢复,确保我们不会陷入没有撤销按钮的困境,这一点非常关键。

Dave Volante

是啊。你在很短时间里完成了这项研究,并和峰会同步推进。观众可以在 theCUBE.net 找到 Christa 的 AI 网络安全与韧性峰会内容。我在峰会上也做了几场访谈,包括采访 Dell 的 John Simony。顺便说一下,这次活动得到了 Dell、Infoscale,以及 Infinidat 等伙伴的支持;Infinidat 现在是 Lenovo 旗下公司。还有我们团队的伙伴,以及 Dell 的多位同事参加,包括负责数据保护和网络韧性业务的 Simon Jelly。我们的朋友 Eric Herszog 也来了,Experian 的 Rodrigo、Texas A&M 的代表,以及来自 Octa 的人也参加了。Christa,你把大家聚到一起,做得非常棒。你怎么看这次峰会?还有什么重要收获,和你的实地研究有什么关联?

Christa Casease

Dave,我想说,实地研究印证了供应商和从业者双方许多讨论中的观点。首先,我们很感谢赞助商的支持。我们还邀请了几位很棒的业界嘉宾,包括曾在《财富》500 强公司担任 CISO 的人士,以及研究 AI 和安全的研究人员。

峰会验证了几个总体主题:随着智能体,尤其是智能体 AI 工作负载进入生产环境,韧性和恢复能力从一开始就必须纳入设计。我们需要拿出韧性和恢复能力的证据——就像刚才讨论的那样。这已经是基本要求了。

我们还多次谈到,面对 AI 智能体可能产生的不可信结果,怎样构建韧性。正如我们说过的,智能体即使持有完全合法的凭证,也可能失控。那我们如何维护和保护业务状态?我很建议观众去看看我们关于这方面的内容,里面有很多很好的观点。

最后我想说,我们并不是要大家放弃已经在数据保护基础设施等方面做出的投入;这些投入非常重要。关键是要弄清楚,在企业采用 AI 后出现的新要求和新压力之下,现有能力还存在哪些缺口。大家需要和内部团队、供应商紧密协作,找出这些缺口,并思考如何优化韧性。

Dave Volante

Christa,很高兴和你一起制作这一期节目。非常感谢,也祝贺你们成功举办峰会并完成调查。我们今天只谈到了其中一小部分内容,期待看到更多研究成果。

Christa Casease

我也很期待。Dave,非常感谢,真的很感激。

Dave Volante

不客气。好,我来收尾。

09 32:12 198 字

企业 AI 的信任需要恢复证据

Dave Volante

好,我来收尾。实地研究的一项关键结论是,我们坚信:如果企业不能测试并拿出证据,证明自己能够理解智能体做过什么、能够停下智能体、还原它们的行动,并把业务恢复到健康状态,就谈不上信任企业 AI。

正如 Christa 所说,现有的安全和恢复工具很重要,但研究表明,它们应对智能体驱动事件的效果仍有待改进。

感谢收看本期《Breaking Analysis》,我是 Dave Volante,我们下期再见。