网络安全进入新阶段
我们这些做网络安全的人要做的，是尽可能缩短这段黑暗时期。我们得确保亚历山大图书馆不会被烧毁，竭尽所能让这段时期尽可能短。在我看来，最好的办法是主动出击，而不是被动应对。不能坐等坏事发生，我们必须有意识地重新设计这些系统。
现在是十月下旬，接下来有一场选举，还有世界大赛，新闻事件一桩接一桩，让人喘不过气。但眼下还有另一场危机正在逼近。保护数字基础设施的人说，支撑我们线上线下生活的整套系统，如今比以往任何时候都脆弱。我们熟悉的互联网是个非常脆弱的生态系统，其中很大一部分由人写的代码构成，而人写的代码天生就会有缺陷和漏洞。一些关键数字基础设施依赖几十年前的技术，运行在古老的编程语言上。
互联网是个奇迹，但它和任何规模庞大的人类工程一样，并不完美，充满漏洞。网络安全史可以看成一场竞赛：一边有人寻找并利用漏洞，另一边有人加固系统、守住安全。但近几个月，人工智能正在改变这场竞赛的力量对比。AI 智能体就像一支成本低、不会停歇、能力很强的黑客大军，已经证明它们特别擅长发现代码漏洞，有时甚至能找到人类从未想到要去检查的地方。
结果是一连串引人注目的网络安全事件，每一起都让人觉得我们已经进入了一个新时代。最近几周，漏洞披露的速度如此之快，以至于网络安全从业者把这个月叫作“黑色十月”。上周，公众得知 AI 智能体在 PHP 里发现了一个漏洞。PHP 是一种编程语言，影响着互联网 70% 的部分；这个漏洞可能让黑客进入几乎任何服务器。除此之外，Node.js 等大型软件产品也陆续披露漏洞。Node.js 被互联网上无数重要网页和服务使用，从供应链到医疗企业，背后都有这些软件在支撑。
人们担心，这并非偶发事件，而是新常态的开端。在这段时期里，从电网到个人数据，都可能面临前所未有的脆弱局面。我想弄清楚，这场“黑色十月”究竟有多么不同寻常，它对互联网现状意味着什么，未来又可能发生哪些灾难性事件。
Alex Stamos 是 AI 公司 Cognition 的首席信息安全官，曾任 Facebook 首席安全官。他不仅站在这场危机的最前沿，也了解大型数字组织如何应对日益不安全的互联网。我是 Charlie Warzel，这里是《Galaxy Brain》。
Alex Stamos，欢迎来到《Galaxy Brain》。
谢谢邀请我，Charlie。
我们现在似乎正经历一波 AI 驱动的黑客攻击，或者说网络安全漏洞披露的爆发。你们业内的人，还有 X 上的网友，都把它叫作“黑色十月”，听起来挺不祥的。过去两周，究竟发生了什么根本性的变化？
说实话，这是个慢慢升温的过程。但这个月特别有意思的是，攻击者终于开始从 AI 中获益，能够利用 AI……
AI 正在自动化攻击链
……把我们称作“攻击链”的流程自动化。这个词借自军事领域，军方说“杀伤链”时真的是指杀伤目标；在网络安全里，它指的是侵入一个网络并采取行动所经过的一系列步骤。过去可以把攻击链的某些环节自动化，但往往仍需要人来操作。就在过去几个月，AI 模型，尤其是开放权重模型，已经进步到足以在本地、用自己运行的硬件来执行任务。甚至普通人能买到的硬件，比如新款 Mac Studio，也足够强大，基本上可以用 AI 完全自动化攻击链的每一步。这改变了游戏规则：人为瓶颈可以被拿掉，攻击者行动的成本结构和速度都彻底变了。
我听说有人把最近的情况称作一波漏洞披露潮，意思是披露了潜在漏洞，而不是攻击潮。事实究竟怎样？
我不认为这种说法对。我们确实经历了一波攻击，而且早在这个十月之前就开始了。过去一年左右，随着攻击者把攻击链自动化，攻击浪潮一直在累积。好的一面是，这些漏洞已经存在几十年了。人类写的代码很多年都不够可靠、不够安全，经常使用所谓的非内存安全、非类型安全语言，也就是那些本身不容易写出安全代码的语言，比如 C 和 C++。人用这些语言写程序，很难造出能抵挡超人级漏洞搜寻工具的系统。
现在我们正在集中清理过去二十年留下的这些漏洞。它们被发现、披露并打上补丁，但补丁发布之后，真正让现实中的系统完成修复还需要时间。坏人就有了一个窗口，可以趁机利用漏洞。过去一年里，我们看到漏洞确实在被利用，有时靠人工，越来越多时候则是自动化。是的，漏洞利用一波接一波，只是媒体报道得没那么多。如果你周五晚上遇上安全紧急事件，要联系专业的事件响应人员会很难——偏偏紧急事件似乎经常在周五晚上发生，因为大家现在的档期都排得很满。
作为圈外人，时间线上不断出现这些新闻，确实让人心惊。对没有专业知识的人来说，很难判断其中一些说法是否准确。我想提一条前几天看到的报道：日本 GMO Internet Group 的云服务遭到黑客入侵，这项服务也被金融交易员使用。我看到的一篇报道里，GMO 的 CEO 暗示，承受这样的压力，可能会让我们熟悉的互联网濒临崩溃。听到这种说法，我们该怎么判断？互联网现在到底是什么状态？
我觉得说互联网要崩溃，是夸张了。互联网的基础设施目前运转得很好。路由器这些底层设施……
AI 抬高所有攻击者的能力
路由器这些传输流量的基础系统也出现过漏洞，但那些问题已经修好了。我认为真正发生的变化是，过去我们会假设，只要使用某项服务，自己的数据就能得到保护。事实证明，这种假设从来就不成立。系统一直都不安全，只是过去没有足够多有技术的攻击者，去利用它们根本上的不安全。
现在漏洞不断被发现，有时是坏人发现的，更多时候是好人发现的。但在漏洞修复完成之前，坏人就可以利用这个时间差。攻击者的技能水平整体被抬高了。你看过《足球教练》吧？现在大家都懂英格兰足球联赛的比喻：表现好就升入更高联赛，表现差就降级。如今每个攻击者都像升了一个级别。过去顶级联赛只有少数几个国家和组织：美国及其“五眼”盟友，也就是英国、加拿大、澳大利亚和新西兰；俄罗斯、中国、以色列以及另外一些西方国家也在顶层。下一档是伊朗、朝鲜等国家，再往下是很强的独立商业团体。现在 AI 让所有人都往上升了一级。对过去位居顶层的人来说，这也不全是好事，因为其他人都赶上来了，他们不再那么独占优势。
是啊，AI 让以前非常独特的技能变得没那么稀有了。
没错。比如拿到微软发布的补丁，逆向分析它，再把分析结果变成漏洞利用代码。五年前，可能只有 150 到 200 个人有本事这么做；现在圣彼得堡一个 19 岁的年轻人，用一台 M5 Mac Ultra 就能做到。这很不可思议。
我看到一个引人注目的说法：影响互联网上 70% 网站的 PHP 漏洞，有人独立用前沿模型发现了，给模型的提示词就是“找出 PHP 里的严重漏洞”。这似乎说明，所有人的能力都被抬高了，能做以前做不到的事。但如果连对这些系统缺乏基本了解的人都能做到，网络安全行业要怎么持续应对？
接下来会出现这样的情况：拿到网络安全模型预览版的人就能发现漏洞。过去我们有一种叫“协调披露”的做法：遇到很严重的漏洞，有时可以等 90 天再公开。但如果这 90 天里人人都能用的模型变得更强，那就等不了了，因为别人可能自己就把漏洞找出来。
我认为我们要渡过这一关，就得重写大量代码。今年早些时候我做过一次演讲，提出两种情景。乐观的情景是漏洞数量有限，我们逐个消灭它们；随着新模型出现，剩下的漏洞越来越少。悲观的情景是每次推出新模型，我们都会发现同样多的新漏洞。遗憾的是，我们现在还更接近后者：每有一个新模型，仍能找到大量极其复杂的内存管理缺陷。所以这些复杂代码库需要重构，用 Rust 这样的语言重建。一方面，这类语言天生就没有某些类别的漏洞；另一方面，可以像订立契约那样，明确设计要满足哪些属性，再用数学方法证明它们确实满足。
这叫形式化验证。真正严格的形式化验证非常困难，过去要靠人做，几乎不可能，或者成本极高；但有了大语言模型，就有可能做起来。所以我认为我们基本上得把这些东西彻底重写。用 AI 重写，可能比每隔六个月处理一千个漏洞更便宜。我们干脆把这些系统重新做一遍。
重写互联网代码并非遥不可及
……有限数量的漏洞逐渐被清除，随着新模型出来，剩下的漏洞会越来越少。但悲观的情景是每次出现新模型，就会发现差不多同样多的漏洞。遗憾的是，我们仍更接近后一种情景：每当新模型问世，还是能找到大量极其复杂的内存管理问题。所以复杂代码库需要重构，用 Rust 之类的语言重建。这些语言从根本上避免了一整类漏洞；也能像订立契约一样定义代码应该具备的属性，并用数学方法证明这些属性成立。这就是形式化验证。严格的形式化验证非常难，以前由人来做几乎不可能，或者贵得惊人，但借助大语言模型就能实现。我认为我们基本上得把这些系统重写一遍。用 AI 重写，比每六个月处理一千个漏洞更便宜。我们应该把这些东西重新做过。
那就谈谈这个吧。重写互联网的代码要花多长时间？
比你想的短。这正是 AI 改变的事情之一。我现在在 Cognition 工作，我们有一款叫 Devin 的产品，会和企业合作。比如我们曾与 Mercedes-Benz 合作，重写他们的一款应用。人来做要花好几个月，我们八天左右就完成了。
软件工程师总觉得这种事不可能做成，但听起来其实完全有可能。我还听你说，我们正在进入网络安全的黑暗时代。你说的就是这个意思吗？听上去挺吓人的。
是的。我因为这么说挨过一些批评，也许确实有道理。不过第一，黑暗时代后来是会过去的。再说，所谓黑暗时代只发生在地球的一部分：欧洲经历了黑暗时期，但中国当时发展得很好，文明繁荣。欧洲先有希腊和罗马文明，后来经历了一段艰难时期，很多知识失传；再后来才有启蒙运动和文艺复兴。
我想表达的是，我们这些做网络安全的人要尽可能缩短这段黑暗时期。我们得确保亚历山大图书馆不会被烧毁，尽全力让这段时期越短越好。在我看来，最好的办法是主动出击，而不是被动应对。不能只等坏事发生，我们得有意识地重构、重写系统，有意识地改变网络安全的做法、网络的建设方式，以及安全团队的组织方式。
现在我们仍然很被动，打补丁的方式和五年前一样；多数安全团队的组成也和五年前相同。岗位没变，防御体系没变，事件响应方式也没变。我觉得这是个问题。说要缩短黑暗时期，就是要真正用上 AI……
为什么要换掉 C 和 C++
……真正主动应对，就不能只靠一遍又一遍打补丁，那样行不通。
如果我们用今天更好的代码重写系统，之后更强的 AI 模型会不会又找到新漏洞，甚至发现我们人类无法理解的“超人级”漏洞？
我不这么认为。谈到超人能力，我们就有点进入形而上学了，但如果改用能消除整类漏洞的语言，再加上一定程度的形式化方法，这种情况就会小得多。眼下的做法显然行不通。我觉得继续用 C 和 C++ 写新东西简直是失职。到了 2027 年还发布用 C++ 写的代码，在我看来完全不合适。
对不熟悉的人来说，原因是什么？这只是因为它们是老旧过时的语言，所以系统容易被攻击吗？
C、C++ 实际上是 70、80 年代的语言。我在伯克利上课用的 C 语言原版教材，作者自己写的书里就有安全漏洞，这件事很有名。这些语言属于底层语言，程序员必须自己决定如何和处理器交互、如何管理内存，因此很容易犯错。如今许多被利用的根本性漏洞，正是内存操作出了问题：你要分配内存、释放内存，PHP 那个漏洞就属于内存分配错误。
现代语言会自动处理这些事情。像 Rust 这样的现代语言，不只是替你管理内存，还能让你告诉编译器——也就是把程序转换成计算机能执行的语言的软件——你希望程序具备什么行为，再反复检查，确保不会出问题。八十年代的电脑太慢，这种机制会让程序慢到无法接受；现在电脑快得多，即使这类语言稍慢一些也没关系，我们用一点速度换来多得多的安全性。
过去，要重写 Windows、Linux、思科内核代码，以及支撑电力系统的各种软件，简直难以想象。这些代码控制着照亮我们的电力，也控制水电站里的小型处理器。Charlie，你在太平洋西北地区，电力大概来自华盛顿州、俄勒冈州和不列颠哥伦比亚省的水电；我这里用的是加州的风能和太阳能。
关键基础设施需要经济激励
……这些系统的可编程逻辑控制器来自 Siemens、Schneider Electric 这样的公司，软件都是 C 写的。现在完全可以重写，只是得花钱替换设备。但为了社会未来十年的正常运转，这笔钱值得花。我们必须作为一个社会主动做出这个决定。
你提到了电网系统这些基础设施依赖老旧技术，我们确实得采取行动。你之前也说大家应接不暇。我们有足够资源、有序地应对眼下的威胁吗？我在网上看到有人谈电网漏洞和关键基础设施漏洞，也可能只是在社交媒体上博眼球。
你说的资源具体指什么？首先，Twitter 不是现实生活，这一点一直很重要。现代 AI 确实有能力做到这些事，但我们还没有建立起合适的激励机制：既要让电网运营者向供应商施压，也要让供应商按安全方式设计系统，还要有经济条件真正升级所有这些设备。相应的经济激励还没建立起来。
可电网不是已经有动力这么做了吗？总不能让圣彼得堡那个 19 岁的年轻人找到漏洞，把电网弄瘫痪吧？我觉得威胁已经到了这个程度。
我和一些基础设施供应商合作。在各类基础设施提供方中，电力公司其实做得最好。我们看到水务设施遭到攻击，它们的状况更糟，因为组织规模小，常常只是市政单位；在供水、污水系统上投入的时间和资金都少得多。所以你说得对，电力系统相对准备充分，也有经济动力。但各方协同行动仍有问题，它们还没有足够推动供应商生态把该做的安全工作做好。
电网行业确实做了不少工作，但大多靠隔离：他们认为买来的设备质量很差，就想办法不让攻击者接触到它。这目前是合理的防护方式，因为他们能做的也就这些；长远来看，我们仍得重建系统、提高安全性。面对足够强的对手，电网不可能真的做到物理隔离。对手会派人潜入，爬上电线杆，直接接入那个号称隔离的网络。
大家太关注电网，是因为它最让人担心。但还有很多系统一旦停摆也会造成严重后果，比如医院。医院经常遭勒索软件攻击，损失惨重；它们同样至关重要，而且很难断开网络，因为我们都有电子病历……
AI 黑客已瞄准银行和模型公司
尤其是社区医院、县政府运营的机构，从安全角度看，资源比电网少得多。
近几个月有哪些漏洞披露或实际攻击最让你担心？
有两件事很能说明趋势。第一，韩国银行遭到名为 ArTex 的全自动 AI 攻击系统攻击。这类系统用开放权重模型完成攻击。去年年底或今年早些时候发布的 Voyager 也能发动 AI 辅助攻击，但主要用于低阶任务。如果现在已经能用它对技术发达国家的银行发起完整攻击，那说明我们确实走到这一步了。此后我们看到 ArTex 被用于多起攻击。它是开源的，模型也是开放权重，任何人都能直接拿来用。
另一个案例是 Fireworks 和 Railway 遭到攻击，看起来是关注美国 AI 生态的中国行动者所为。中国有一种“外包入侵”产业：私人承包商在中国政府许可下，代表更广泛的中国经济体系入侵西方公司，并得到某种掩护。这些人没有攻击推理服务或客户数据，而是盯上 API 密钥，这很值得注意，说明他们可能在窃取模型权重以及训练 AI 所用的数据。
能解释一下这几个术语吗？
Fireworks 是一家知名公司，为想打造自有 AI 模型的企业提供训练服务。遭攻击的是它负责训练的那一部分。看起来，攻击者是帮助中国 AI 企业的团体，想偷走能帮助这些企业改进模型的信息。现在已经形成了一整套黑客生态，替中国 AI 公司工作，窃取数据以加快它们的研发。
我还想聊聊创新速度。看起来防守方在部署保护性 AI、用 AI 重写代码，攻击方则用 AI 智能体发动攻击。模型进步很快，甚至会出现意料之外的行为。最近还有消息说，OpenAI 不再让前沿模型训练时接入互联网，因为模型即便不联网也能彼此通信、分享信息。我们还没完全弄清这些系统能做什么、人类能控制多少，它们却已经要在攻防双方投入使用。这个速度让你多担心？
防御能力与滥用风险并存
……这一切从创新角度都发展得太快了。我们还在摸索这些系统能做什么、人类能控制多少，它们就要同时被攻防双方使用。整个进展的速度让你多担心？
这是个很棘手的挑战：我们希望模型足够强，能帮我们做网络防御，同时又不能让它造成伤害。OpenAI 最近有篇很好的博客，介绍他们建立安全评估框架的工作。你提到的应该就是那件事：他们让最强的网络安全模型攻击自己的防护措施，结果模型找到了在不同隔离机制之间偷传信息的方法，还做了所谓的时序攻击。这是正确的做法。我很高兴他们把过程公开，因为这对我们这些做模型训练的人也有帮助。Cognition 正在和 OpenAI、Anthropic 合作，努力协调大家开展这项工作的方式。
继续推动前沿能力很重要。大家常谈模型从前沿实验室泄漏出去，但坦白说，那不是长期风险。长期问题是人类滥用模型做坏事。我不是那种担心模型本身会产生作恶欲望的人；实验室之间正在协调合理的训练限制，确保模型不会加密其思维链，也会设置合理的能力边界。我更担心发布出去的能力，以及如何把这些能力控制好。
真正困难的是：我们必须提供网络防御能力，又不能让这些能力被恶意用于进攻。政府，尤其是美国政府，还没有定义公司在这方面承担什么责任。在防御安全领域，我们常常抱怨前沿模型受到的限制。
这些都说得通。但对旁观者来说，现在这种局面很难持续，进展速度令人担忧，挑战也越来越大。你说必须继续推动发展，同时我们又看到局势加速，韩国银行都遭到攻击，听起来逻辑上有脱节。能解释一下为什么面对这些担忧仍应继续前进吗？
我从事网络防御工作。首先，这些漏洞本来就已经存在……
PHP 漏洞事件是一次侥幸脱险
我不认为这时候有办法让全世界都暂停下来。现有能力已经足以发现大量缺陷，但高端网络安全模型只扫描过极少一部分已写出的代码，发现并利用了一些漏洞。这里有个协调难题：如果我能让所有人停下来，一起制定安全机制，我会这么做，但我没有这个权力。
我个人想做的是专注于发现并修复漏洞，提升防御能力，尤其要解决成本问题。高端防御能力太贵了，不可能用 Mythos 把所有代码都扫描一遍再修好。因此，我们要降低发现漏洞、尤其是修复漏洞的成本。Cognition 正在关注网络安全能力与成本之间的帕累托前沿。你说得对，这就是问题所在。抱歉，Charlie，我没有办法让整个世界停下来；我能做的，是面对前沿能力飞速发展的现实，尽快修补漏洞，也尽快建造防御模型。
我们是否也看到了系统的韧性？过去几周那个引起广泛关注的 PHP 漏洞似乎没有造成大规模入侵，也没听说大量数据被盗。应对看起来相当有序、协同。这说明系统在发挥作用，还是风暴前的平静？
我们这次运气很好。PHP 漏洞实际上很难利用。那 70% 的网站里，很多位于 Cloudflare 或其他 CDN 后面；由于协调披露流程，这些服务商提前部署了保护措施。所以理论上虽然可以利用，实际上却比最初看起来难得多。这次差点出事，像一颗擦过大气层的小行星，给了我们一个警告。
这次算是幸运。但更让我担心的是 Hugging Face 的漏洞：OpenAI 的智能体群发现了专门针对 Hugging Face 的漏洞，写出利用代码，然后把它扔掉，继续寻找新漏洞。它们速度太快了。我更担心的不是现成的通用漏洞，而是 AI 智能体为每个网站、每个 API 找到定制漏洞。
最后想谈谈普通人能做些什么。很多远远看着这些新闻的人感到不知所措；如果不是网络安全专家，能帮上忙的事情不多。面对更不安全的互联网，个人现在该做什么，才能尽量做好准备？
老实说，就是五年前就该做的那些事，只不过现在更重要了。
普通人该做的四件事
普通人最常见的被黑方式，是在所有网站重复使用同一个密码。Charlie，我知道你肯定不会这样，收看节目的各位也不会——但很多人确实在很多地方用同一个密码。问题是，某个不安全的网站被黑，密码被偷，结果那个密码刚好也用于 Gmail 或银行账户。尤其是邮箱一旦被接管，你的生活就被接管了，因为攻击者可以接管你所有密码。
所以要用密码管理器，比如 1Password，去重设所有密码，确保每个账户都不同；然后给密码管理器设置一个特别牢靠的主密码，记在脑子里，或者写在纸上也行。钱包或手提包里的一张便签，不可能被远在千里之外的人偷走。把所有密码改成互不相同的，条件允许的话使用通行密钥。把通行密钥存进密码管理器或手机里很重要。
第二，大家得更有戒心。一方面，个人信息会大量被盗；另一方面，AI 生成语音和视频会越来越逼真，诈骗也会更像真的。你可能接到听起来像是孙辈被绑架的电话，也会收到更多垃圾短信。如果一件事好得不像真的，或者看起来不对劲，它很可能就是假的。大家要更谨慎，也要帮父母和祖父母提高警觉。
第三，如果能用功能受限的电脑，就用。以前有一年感恩节，我给父母和岳父母买了 Chromebook，假期过得轻松多了。如果平时只是用浏览器，就不需要完整的 Windows 或 Mac 电脑；整天只用 Chrome 或 Safari 的话，Chromebook 或 iPad 就够了，也更安全，因为不像完整电脑那样可以运行各种恶意软件。特别是给家里年长一些的人用，这是更安全的选择。
第四，随着网上的东西越来越不可信，大家可能需要一个备用的“小号”身份。对生活里不太重要的事务，单独用一个备用身份，比如再开一个 Gmail，不要用自己的常用邮箱。像博彩网站之类你不太在意的服务，可以用一个单独的邮箱。这样即使它被攻破，也不容易牵连银行账户和真正重要的东西。
谢谢你分享这些建议，帮助我们理解这个正在到来的新世界。
Alex Stamos，谢谢你来上《Galaxy Brain》。
谢谢你报道这件事，Charlie。很高兴见到你。
今天节目就到这里。再次感谢嘉宾 Alex Stamos。如果你喜欢这期节目，《Galaxy Brain》每周五更新，可以在 The Atlantic 的 YouTube 频道、Apple Podcasts、Spotify 或你常用的平台订阅。想支持这项工作和同事们的报道，可以访问 theatlantic.com/listener 订阅《The Atlantic》。
我们还在筹备一期《Galaxy Brain》问答节目。关于节目、我的工作、AI、网络安全，或者你的银行账户有多安全，任何问题都可以发来。邮件地址是……
向《Galaxy Brain》提问
charlie@theatlantic.com，主题写“Galaxy Brain AMA”。非常感谢，我们互联网上再见。