开场：AI 风险与 2027 年的 AGI
网络安全风险要现实得多，远比 AI 消灭人类更迫近。要么你拼命冲击前沿，最后失败；要么你活得够久，最终转去提供推理服务。
人们宁愿住在核电站旁边，也不愿住在数据中心旁边。光是过去这一年发生的事，就够离谱了。那就看看明年能不能迎来 AGI。
他是 Nathan Benaich，风险投资人，也是《State of AI 报告》的作者。每年 Nathan 和团队都会把 AI 行业的关键事实、数据和趋势汇总成一份 250 页的报告，这是我最喜欢读的报告和参考资料之一。Nathan 第三次回到节目。我们照例聊了今年许多大事，也谈到他的一些预测：为什么 AGI 可能在 2027 年到来、AI 如何开始构建 AI、Hugging Face 事件究竟发生了什么、数据中心引发的反弹，以及他如何用智能体管理自己的基金。我是 Matt Turck，这里是《The MAD Podcast》。
Nathan Benaich 为什么预测 AGI 会在 2027 年到来
你每年都会做一份大报告，我们今天会深入聊。报告最后会列出预测。过去你的预测多少还算审慎，但今年你放开了写，最后一条就是“2027 年实现 AGI”。为什么这么判断？给我们展开说说。
严格说来，我写这份报告大约有十年了。最初觉得，一年已经够长，足以发生不少事情，让报告有内容可写。说实话，今年特别忙。快到发布日期时，也就是 10 月 8 日前后，几乎隔一天就得更新一次。我有一刻甚至想求求大家，能不能至少有一天别再出新闻，让我把发布视频录完。
等我开始做预测时，已经看过几起令人担心的网络安全事件；过去几周情况似乎又恶化了。与此同时，我看到其他人在用这些产品，能力几乎周周都在迅速提升。现在有很多应用场景让我觉得模型非常出色。我尤其喜欢一个叫 Astro Boy 的系统。
我能想象，未来 12 个月里，无论是法律、金融，还是我的投资工作，甚至是思考我不熟悉的话题，模型都有可能做得比我更好，而且所需时间还短得多。我能用来完成工作的时间本来就有限。对我来说，这大致就算 AGI 了。
AI 开始构建 AI：Claude 参与 Anthropic 26% 的研发
你在报告里重点谈到的年度主题之一是递归自我改进（RSI），也就是 AI 构建 AI。我们在节目里已经聊过很多次。你觉得这是推动我们更快走向 AGI 的一部分吗？
我觉得是。眼下的挑战是：怎样把模型目前还不擅长的问题，改造成适合递归自我改进的形式？比如搭建一个能近似模拟任务的软件环境，或者设计某种可验证的奖励机制。我相信你们已经讨论过很多次了。
如果我们能做到，在任意领域里，进展只受限于可投入的算力和可生成的合成数据，那么至少对我做的这类知识工作来说，这在某种程度上是可能的。特别是模型本身的验证能力越来越强之后。这会是 AGI 提前到来的主要原因之一。
你报告里提到 Anthropic 的一些数据：截至 8 月，Claude 已经主导了其测量到的模型研发工作的 26%。
对。我记得几个月前还不到 1%，而这个 26% 的数据是 8 月的，现在已经到 10 月了，谁知道如今是多少。这个数据很有意思。我还很喜欢 Anthropic 今年 6 月一篇介绍递归自我改进概念的博客文章，里面还有另一项数据。不过他们随后做了一个双臂实验，对比不同代际的模型和人类……
研究品味：AI 能挑对研究问题吗？
他们做了一个双分支实验，测试不同代际的模型和人类。首先由人类开展一项研究计划，沿着选定方向走几步，决定做什么并实际推进；到某个节点后，实验分成两支，由人类继续，或交给某一代模型继续。模型依次是旧版本、Opus，再到 Fable。实验结束后，人工评审比较人类路线和模型路线。
较早一代模型的研究方向，大概只有 10% 的时候会被人类选中；而对 Methuselah 级别的模型，人类有 64% 的时候更偏好它选的研究方向。这说明模型越来越会预测接下来该走哪一步，或者说，在研究决策树上挑出值得追的分支。
我喜欢的第二组数据来自 OpenAI 对旗下 AI 研究人员使用 Codex 的研究。他们试着把整个研究流程中的 token 用途分类：用来决定测试什么研究问题、如何测试、该搭建什么实验；编写训练代码、运行数据工程流程、编写基础设施；以及推广和撰写论文等。绝大多数 token 都用在解释研究、写作上，这很合理，毕竟这属于知识工作；其次是运行实验所需的基础设施。但真正用来思考“我该研究什么问题、为什么研究、正确路径是什么”的 token 非常少。
我很喜欢这个问题，因为我受过科学和生物学训练。我还记得，大概十年或十五年前——也没那么久——刚开始读博士时，你会坐在一大堆论文前，上网不停地读，试着弄清现状、别人怎么验证想法、缺口在哪里、该做哪些实验，然后和导师一起决定研究路线。最好的导师能引导你走上最有希望的路，希望最后发一篇《自然》论文，然后你就出师了。最差的导师则是没什么头绪，也提不出好想法。
所以我觉得，“研究品味”是智能的一大标志，也是递归自我改进能否顺利运作的关键因素之一。这个概念我特别喜欢，因为它和我对科学的兴趣有关。
没错。“品味”这几年都快成了陈词滥调了。但放在递归自我改进的语境里，说白了就是选对问题，对吧？
对。很多著名发明家会说，发明源于好的品味。工作中很大一部分是选择该往哪个方向努力，而不是漫无边际地什么都做。如果我们想有效使用 token 和算力预算，也想让系统表现出聪明，它们就不能只会……
而你在各种交流中，觉得攻克“品味”这件事会在未来几个月发生，还是更久？
可能更久，至少得一年。我觉得问题在于，怎么客观衡量品味？艺术领域或许可以，因为作品完全可见；葡萄酒也许能说清这种风味为什么比那种好。但科学和工程有多条路径都能到达正确结果，就没那么清楚了。是看模型能不能用更少 token 得出人类认为最好的答案吗？还是更看重过程？我觉得数学界围绕某个模型解题引发的争议，可能就说明了这一点：答案是对的，可人类或系统没有经历摸索如何抵达答案的过程。重要的是过程，而不只是最终结果。所以要判断产出的品味是否成立，得想办法量化什么样的过程才算好。
研究品味：结果和过程哪个更重要？
关键在于，重要的是过程，还是终点？数学界对某个模型解题引发的争议，大概就是这个意思：好，答案出来了，但人类或系统没有经历如何一步步推导到答案的艰难过程。重要的是过程，不只是最终结果。所以对我来说，得想办法量化什么样的过程才算好，才能判断这种“品味”的产出究竟是不是真的好。
现在已经快到 2026 年年底了，你觉得当前的整体氛围怎么样？我记得两年前我们聊时，谈话的一个重点是末日论大体上已经退潮。可现在它又卷土重来。我们请过 Redwood Research 的人来节目，聊各种可怕情景。你怎么看？
末日论回潮，但网络安全风险更现实
你说得对。两三年前，大家严格说是在谈生存级风险，比如人类灭绝、失去控制。之后话题转开了，我们大体上把它忘在一边，一路追求能力提升。现在它又回来了，但我会说，除了失控这类生存风险，更迫在眉睫的是网络安全风险。
对我来说，网络风险要现实得多，远比 AI 消灭人类更迫近。当然，网络安全问题最终也可能引发那种灾难性情景。但报告写作时，差不多正值 Hugging Face 事件，OpenAI 对外披露情况，我们也逐渐了解到发生了什么；此后最近几周，又有 PHP 遭入侵、亚洲一些政府服务被攻陷等事件。
我觉得现在越来越清楚，无论你信不信 AI 安全，我们都需要网络安全。我的报告里有不少预测都在谈网络威胁升级，比如有人从实验室窃取模型权重。我原以为这会是 AI 驱动的攻击，结果发现人类只要试着插一根 USB 盘就行。
那我们就来聊聊网络安全。具体来说，你做的那个预测是什么？
预测：前沿模型的权重会遭窃
那我们就来聊聊网络安全。你具体做了什么预测？
我的预测是，会有一次由 AI 驱动的网络攻击，目标是某家前沿实验室，并且攻击者会成功窃取模型权重，也就是闭源模型本身。
把模型偷走。对。可一两周后，实际发生的却是有人试图窃取知识产权。至于他到底想不想拿到模型权重，现在还不确定，但肯定是想窃取东西。
那起事件是什么？一名在 OpenAI 工作了一段时间的员工，试图在一间会议室里安装监听设备。他先问行政人员，哪些会议室高管最常用，然后把设备包在卫生纸里，藏到电视后面。这后来成了网上很经典的梗：有人躲在电视后面，查看设备有没有接好。现在看起来有点滑稽。此人后来被报告给 FBI，随后展开了调查。
所以我觉得，我们常常忘了，尽管 AI 能力越来越强，也能组织网络威胁，很多风险其实还是人造成的。但这确实是个大问题，尤其是各国都在争谁拥有最强的 AI 系统。这既推动经济增长，也带来经济和政治不稳定。美国的模型实验室已经开始打击蒸馏行为，因此有些国家可能会通过其他非蒸馏方式获取模型能力。
总体来看，随着公司和个人凭借 AI 获得更多财富，差距也在扩大。报告里的其他数据也显示，有些公司投入很多、收获很大，另一些公司的员工还在用 ChatGPT 写邮件。这种张力会加剧风险。开放领域里的前沿模型越来越擅长网络攻击，尤其是中国模型，威胁面自然不断扩大，能用这些工具作恶的人也越来越多。
开放权重在网络安全里的作用很复杂。Hugging Face 事件中，Hugging Face 靠开放权重模型保护了自己，而闭源模型拒绝帮忙。我觉得这是整件事里最吓人的事实之一，也许是第二吓人的。用的还是一个中国模型，我想是 GLM 5.3 之类的。
OpenAI 的智能体如何攻击了 Hugging Face
既然这是回顾年度大事的一期节目，能不能用几句话带大家了解 Hugging Face 事件？我们请 Thomas Wolf 来过节目，但很多人可能听过一千遍，却不清楚到底发生了什么。
先说明一下，Redwood 和 Meter 等机构都做过非常深入的分析，围绕此事也产生了大量内容。我不可能把细节讲全，只说大致经过。
OpenAI 用最新的前沿系统做了一组评测，给模型布置了几乎不可能完成的任务。模型发现可以利用文件系统的命名规则来写消息，其他模型也能看到这些文件名。文件名里可以编码指令、知识或其他信息，帮助它们完成那项不可能的任务。于是它们把文件系统当成留言板，开始彼此通信。
接下来，一些模型发现，由于环境配置存在问题，它们能访问互联网。联网之后，它们觉得，解决那项不可能任务的办法也许是查看 Hugging Face 上的数据、模型和代码仓库，因为那里有许多类似环境。于是它们开始行动，召集数百个智能体跟进、协作执行。即便链条中有几个智能体在思维链里指出，攻击第三方系统、突破安全防护是不对的，它们最终还是决定完成任务更重要。
这正是这类评测的问题：奖励机制可能诱发意料之外的行为，因为奖励设计非常复杂，谁也没法预料系统能做出的每一种行为。还有其他例子显示，模型会自我破坏，或为了整个群体而牺牲自己，这确实挺吓人的。
为什么只有中国开放权重模型能协助调查
正如你刚才提到的，Hugging Face 没法使用 Anthropic 和 OpenAI 这类闭源工具，因为它们的网络安全防护规则很严格。要弄清发生了什么，就得把日志输入模型，而日志内容本身就是一次网络攻击；闭源模型不允许这么做。
这就是网络安全的复杂之处：防守要强，也得懂得如何进攻，所以闭源模型内置了拒绝机制。
对，幸好他们接到了 OpenAI 的电话或邮件，说明攻击来自他们的系统，有人确实在试图做恶意的事。后来发现，模型越狱或者说“逃出”环境的问题并非 OpenAI 独有。Anthropic、Google、Meta 在一两周内也都遇到了类似情况。有些模型实验室用的是同一家安全供应商来搭建环境。
这一连串事件让大家相当紧张：模型不仅很会想出巧妙办法完成目标，有时会因此做出糟糕行为；实验室设置环境时，有没有做到尽可能安全，也令人担忧。我们有时忘了，这些公司都还很年轻，却在开发非常先进的技术。它们的模型必须能应对人类可能输入文本框的任何事情。相比之下，大型互联网公司应对网络攻击已有 20 年，更安全也有其积累的原因。
因此我在预测里得出结论：美国的前沿模型实验室会推出真正的网络防御产品。否则我看不出我们其他人该如何保护自己，避免他们的系统被挪作攻击用途。
前沿实验室的网络防御可以是什么样
你说的到底是什么意思？具体展开讲讲。会是什么样的防御？你刚才说，要擅长防守就得擅长进攻。比如，前沿 AI 可以持续尝试攻破自己的基础设施。
对。一种做法是让 AI 不断攻击自家基础设施，找出漏洞并修复。比如 NeoCloud 越来越受欢迎，用来运行 AI 工作负载；它们或许能向模型实验室购买这类产品，让系统持续攻击自己的设施、发现问题并修补。也可以和 CrowdStrike 等公司合作。我记得 NVIDIA 有个网络安全企业联盟，大家一起做这方面的事。你可能得通过类似反洗钱或了解客户的审核，不过目的不是金融合规，而是确认你是正规、无恶意的公司，然后才获得这些服务。
再往前一步，有些前沿实验室的人可能真想按下暂停键，停止能力提升，用六个月时间加固整个世界的网络防御。这需要大量资金。要做到这一点，也许得把它定性为国家安全和国防问题，用一部分国防预算购买 token，保护所有关键基础设施，确保机场、网购服务、物流系统等不会瘫痪。
自我复制的智能体与 AI 群体风险
继续看你的预测，还有一条也挺吓人：已经部署的智能体会复制到原环境之外，并在原实例关闭后继续运行。
听着像科幻小说。不过就在几周后，Anthropic 有项研究发现，模型可以在边缘设备上互相复制。
我认为仍有很多行为是我们尚不了解的。比如，模型通常是作为独立个体训练的，不一定会和其他模型协作。不久前有研究比较了一个前沿模型单独做任务，和一组前沿模型协作完成任务的表现；群体反而不如单个模型，因为它们没受过这方面的训练。
但就在今天，General Reasoning 有项新研究，让模型通过“群体奖励”的强化学习来作为一个集体行动。思路是告诉模型：你们作为一个组织工作，自己建立组织结构、协作完成目标。这样做表现更好，token 预算也更低。
目前的缺点是，把这种经过群体奖励训练的模型放进网络安全情境中——比如模拟 Hugging Face 事件，让它们在留言板上协作尝试突破防护——虽然模型并没有真的做坏事，但如果它们在训练中开始考虑做坏事，就会越来越不愿意告诉人类。
我之所以做出这个预测，主要是因为这种情况有可能发生。我们还不完全了解智能体如何独立运作；一旦组成群体，事情就更加复杂了。
前沿实验室能否同意放慢脚步？
好，那关于 AGI、递归自我改进、网络安全和局势可能失控这些话题，我们先聊到这里。你怎么看“放慢前沿发展速度”这个想法？这有道理吗？现实吗？
我能从几个角度来看。一方面，如果问公众：实验室负责人都说他们手上有越来越难以控制、存在危险、还引发过事故的技术，你们觉得应该继续推进，还是先弄清楚发生了什么再让情况变得更糟？我觉得合乎直觉的反应会是：是啊，继续往前之前，可能该先搞明白。
但现实是，经济里的各方都有巨额利益牵涉其中，要达到那种程度的合作和协调非常困难，简直是博弈论的极限。有些参与者可能因为落后于别人而支持放慢脚步，也可能是因为这符合他们自己的总体议程；那议程是否公平，或是不是另有所图，我也不知道。
实际问题是：谁来决定？怎么衡量？怎么执行？什么时候开始或停止？有人提议派外部评估人员进实验室测量这些情况。
KPMG 的大复仇。
这说得好。也有人想办法调查数据中心正在运行哪些工作负载，或对特定工作负载设定算力门槛，但过去试过类似做法，监控起来非常困难。
尤其考虑到国际层面的囚徒困境，特别是美国和中国之间。
对。报告这一部分我没有给出确定答案，只是尽量呈现不同观点，让大家根据数据自行判断。如果把讨论延伸到“邻避主义”，我们去年报告就预测，多数人不愿住在数据中心旁边，这会逐渐成为政治上的重要议题。
这个预测显然说中了。
看起来是。越来越多州尝试实施暂停令，或为电网接入制定新标准。比如，数据中心可能得自建电力设施，或者对打算进驻的社区作出一定投资。
社区为何挡下 500 亿美元的数据中心项目
顺着这个话题再展开一点。现在反对建设数据中心的声音大家都知道了，你能不能补充些具体情况？
我觉得目前因为各种原因而停滞的项目，金额大约有 500 亿美元。德州、宾夕法尼亚州等地都暂停了新的数据中心接入。民调里还有个数据：美国人宁愿住在核电站旁边，也不愿住在数据中心旁边。这挺不可思议的。
你觉得这是为什么？
核电站和数据中心：美国人更愿住在哪里？
这是不是因为大家不了解、缺少教育？还是数据中心的公关实在太糟？
我觉得各种因素都有。公众叙事里常说数据中心消耗大量水，居民水费会涨。但实际上，数据中心的水循环更像一个封闭的游泳池：一次加满，之后不断循环，所以加满以后并不会消耗很多水。
还有人担心电费上涨，但情况也说不准，因为有些设施用电网供电，另一些则脱离电网运行。噪音方面倒大概普遍是真的：这些设施噪音很大，嗡嗡作响，挺让人难受的。至于创造就业还是造成失业，比较难判断。总体来看，对 HVAC 工程师、建筑施工人员、重型设备操作员的需求在增加，他们要实打实地把楼建起来。
你有个数字挺高的，大概是 30 万？
新增就业岗位？
新增岗位。好。
邻避主义也不只发生在美国，韩国也有。韩国的 SK 海力士和三星股价大涨，员工财富迅速增长；它们生产大型数据中心所需的高带宽内存。参与其中的人当然很高兴，股价和期权都涨了，还拿到现金奖金，也推动了首尔房价上涨。韩国想再建更多数据中心，但当地居民也因为和美国类似的原因感到不满。
欧洲 AI 的瓶颈：8 万张 GPU 与电费
欧洲好像没那么明显地遇到同样的数据中心问题，因为这里根本没有多少算力。报告里有些数据：欧盟 27 国的 H100 等效卡总量估计是 8 万张，还不如美国排名前五的每一个 GPU 集群。
2026 年，美国超大规模云服务商的支出约为 7300 亿美元；欧洲承诺的投资基本只有个位数十亿美元。能源成本也很糟，芬兰和挪威除外；这两个国家的电价和美国、以及电价最便宜的中国差不多。欧洲其他国家贵得多，英国更是发达经济体里电价最高的国家之一，而且可用容量也不够。
你有些挺好的数据：芬兰每千瓦时 0.085 美元，美国 0.086 美元；最贵的其实是英国，每千瓦时 0.373 美元，中国是 0.109 美元。
最近微软和 NScale 有个大项目被撤回，至少微软退出了，因为数据中心供应商没能及时接通电力。
欧洲在 AI 领域还有哪些机会？
好，邻避主义和数据中心就先聊到这里。顺着你刚才的思路，谈谈欧洲和美国、中国的差距吧。欧洲还有什么值得乐观的地方？你在英国，总体上做全球投资，尤其关注欧洲，你现在怎么看？
确实不容易。欧洲增长最快的公司，客户都在美国。不过，有些不同模态领域里出现欧洲公司，还是很令人振奋：图像领域的 Black Forest，音频领域的 ElevenLabs，视频领域的 Synthesia，以及代码应用生成领域的 Lovable，它们都是市场领先者，也都是在欧洲创立的。
不是说不可能，但如果没有美国客户，这些公司不会有现在这么大。现在它们也越来越多地服务亚洲客户，比如韩国和日本都在积极拥抱 AI。问题在于，前沿与非前沿之间的差距实在太大，而且还在不断拉大。
追上 OpenAI 需要 1 万亿美元
我不知道这些估算到底有多重要，但你可以想象从零开始建一家实验室，试图追上 OpenAI 或 Anthropic，大概得花 1 万亿美元。我觉得有件事很能说明问题：
拼命冲前沿，还是活下来提供推理服务
Mistral 正在更多转向推理服务商和云公司，而不是真正全力推进前沿模型。当然，它也发布了新模型，表现还不错，但仍然落后于中国。无论是它，还是其他已经建好 GPU 算力、想训练前沿模型的公司，都可能退出这场竞赛，转而提供推理服务。
这大概概括了正在发生的变化：要么你拼命冲击前沿，最后失败；要么你活得够久，最终转去提供推理服务。Neo Labs、NeoClouds、推理云都是如此。大家都想进入 token 流通这门生意，因为如果没有最好的模型，不如去服务别人的模型。
推理芯片如何成为国家的 AI 筹码
回到欧洲这个话题，最有竞争力的切入点大概就是推理。各国需要确保能接入美国的前沿系统，同时也要有某种战略筹码，避免再发生今年 6 月那样的情况：Anthropic 的 Fable 和 Mythos 模型受出口管制，非美国公民或实体无法使用。当时我人在伦敦，大家对此有不少意见。我不希望这种情况再发生，但要保有战略筹码，我能做什么？
英国认为应该投资并采购推理芯片。如果我们做出最好的推理芯片，模型实验室出于成本等原因就会想用它；这样我们就能拿它来交换接入美国前沿技术的机会。
所以欧洲会变成推理中心，部分地区电价更低（英国不算），然后美国前沿实验室会愿意在法国和欧洲运行服务。概括一下你刚才的观点。
对，还可以强制要求数据留在本地。
英国芯片这件事到底是什么？我听过好几次，是有人在讨论，还是已经成为政策？如果是政策，具体怎么落实？
这确实是一项政策：英国 AI 大臣受命成为新型推理芯片的优先采购方。我觉得他很适合负责这件事，因为他显然深入了解行业，也懂得 AI 成功所需的基础要素：算力、人才和数据。政府承诺拨出大约 1 亿或 1.5 亿英镑，等英国新公司设计的推理芯片上市后就采购。
韩国也有类似政策，但雄心更大。韩国每年在 AI 上投入约 70 亿美元，其中很大一部分用来建设模块化推理数据中心，因为韩国公司希望数据留在韩国。我觉得这是一种很有意思的互惠安排：韩国市场不大，却富裕、技术水平高，而且在 AI 供应链中凭借内存占有重要位置。国际公司总有一天会想进入韩国市场，和日本一样；但进入并不容易，因为韩国有数据本地化和韩语的要求。
因此这就像在说：你想要数据本地化？那我们就提供数据中心，让你在这里运行技术；而提供服务的是本地公司，我们也能从中获益。
买了 NVIDIA GPU，就代表拥有 AI 主权吗？
所以你对“AI 主权”这个概念并不太买账，也不是很有信心。正好现在 Jensen Huang 最近在欧洲展开魅力攻势和投资攻势，前几天还去过巴黎、伦敦和柏林参加 GTC。可在你看来，这些承诺并没有实质内容？
这有点像国家航空公司：国家从空客或波音买飞机，再把自家标志贴上去，不代表飞机就属于你。它仍然是别人的飞机。不过，如果你相信开放模型能一直和闭源模型保持在相当接近的水平，开源或许会带来一些希望。
可那些模型是中国的，又多了一个问题。
也可以是美国的。
但它们不算前沿。至少据我所知，美国那些开放模型没有一个处于前沿；尝试过的那些公司最后都去给 Jensen 打工了。
好吧。我的意思是，我觉得 Jensen 的战略很棒。要分开来看：我认为买 NVIDIA GPU 能让你拥有主权吗？不。对 NVIDIA 来说这是很好的商业策略吗？当然。
他们卖出了 300 多亿美元的产品。
对，差不多。看看各国招标，全球未来几年承诺投入的主权 AI 资金大约有 1380 亿美元。最受欢迎的供应商显然是 NVIDIA，我觉得几乎没有替代选择。这是个不错的起点，而且确实应该买，因为它是最好的技术；但别自欺欺人，以为买了这些就有了主权。
说到今年的大事，美国政府曾决定不让非美国公民使用前沿模型。非美国国家和公司是不是至少该尝试自己建系统？我对此也有几种想法：一方面我觉得值得尝试，但这现实吗？
我觉得如果要尝试，各国就该努力推出能承担白领工作的系统。比如英国其实有不少能力，可以打造 OpenAI 或 Anthropic 的竞争者，也可以对标 DeepMind、DeepSeek 等。但如果你看看……
英国的问题：“但我们有 DeepMind 啊”
这其实挺讽刺的。DeepMind 是英国公司。
对，你说得对。英国 AI 生态及其领导世界的能力有个问题：英国政府太长时间都在说 DeepMind 是英国公司。我觉得他们最近才开始一点点放下这种说法。
为什么这是个问题？
因为这样就会觉得自己已经是第一名：英国是做 AI 最好的地方，我们也最擅长 AI，因为我们有 DeepMind。
所以我们就不……问题在于这种说法背后的态度。
对。于是政策讨论中，那些主张增加 AI 投资、采购更多 AI 公司系统、让本国更吸引 AI 公司创业的人，得到的回答却是：“但我们有 DeepMind 啊。”
对啊。
就是这样。
欧洲国防 AI 为什么需要本土供应商
你是国防公司的投资人。国防 AI 会不会正是需要 AI 主权的领域？毕竟未来战争显然会由 AI 深度驱动。
这种推动力在俄乌战争后就开始了，差不多五年前；但更重要的是，大概两年前 JD Vance 在慕尼黑安全会议上表示，欧洲和北约必须投资自己的国防、认真对待这件事。此后有各种举措，为新国防公司提供更多资本，鼓励政府向企业提供贷款、改善供应链。
这催生了一批“新一代主承包商”式的国防公司，试图和传统主承包商竞争。欧洲主要公司包括 Stark、Helsing 和 Quantum Systems。
战争形态也变了。过去是开发中程打击系统，再去打击坦克营；现在则是每天遭到成百上千架 FPV 无人机或其他自主空中系统的攻击。它们已经不能再靠干扰来拦截，因为会用计算机视觉，或由光纤电缆控制。顺带一提，由于数据中心需求，光纤电缆也变得贵多了。因此我们需要新型防空系统，法国的 Alta 等公司都在推动这方面的发展。
供应链也极其重要。比如，北约采购欧洲系统时，零部件中至少得有 70% 来自非中国来源。各国也不太敢完全相信美国的保护和安全保证，因为这些承诺每周都可能变化。
因此，这是一个从设计上就必须由本土供应的市场，也有机会孕育出比美国同行更有竞争力的新公司。
为什么 OpenAI、Anthropic 和 Google 持续领先
如果美国以外建不出前沿 AI，那我们回到美国。你的报告里有一部分研究把 Anthropic、OpenAI 和 Google 列为明确的赢家。这是多年发展累积的结果。曾经有很多实验室，而你现在的判断是这三家胜出。那 SSI、Thinking Machines 这些公司呢？没人知道它们具体做什么，但新实验室似乎有几百家。
也许 Meta 算边缘选手。
是的，还有 SSI 这种超级智能实验室。尤其是它们现在也在通过 API 提供模型，还在拓展企业业务。
对这一家来说，未来六到十二个月还可能有变化，要看它们的市场策略怎么推进。但我会说大概是前三家再加 Meta。
所以你的看法是，它们的优势会继续累积，市场格局也会如此？
通用前沿模型方面，我觉得是这样。不过，某些公司也可以专注押注一种特定能力，在模型上做取舍，从而在某项任务上表现好得多。比如分类模型 JEV，可以快速成长、变得流行；至于这种热度能持续多久，还得观察。但这对创业者是个好信号，说明专注某项特定功能的押注可能奏效。
不过，未来是否还会存在足够大、足以利用的能力差距，仍然是未知数。
独立 AI 实验室还能在哪些领域竞争
那几十家新实验室会怎么样？我不是非要一直说欧洲，但光伦敦就有三家，比如 David Silver 那家，还有另外两家。美国也隔几周就冒出一家，例如 Jeff Dean 的新实验室。它们会走向哪里？
得看它们聚焦的方向和模态。比如机器人和具身 AI，我能想象独立实验室依然有机会竞争并胜出。OpenAI 和 Anthropic 极其专注企业 AI。我的报告里有一页列出 OpenAI 和 Anthropic 的各种产品线（OpenAI 那边的产品线确实很多），展示它们后来逐步砍掉了多少。有人说，这个时刻太重要，不能被支线任务分心——这是我转述的大意。也就是说，它们总体上没有专门做机器人，虽然在 Astro 的训练配方里可能用了一些相关数据。
科学领域情况不太明朗。Anthropic 显然在大力投入生物学和药物研发；OpenAI 可能更偏模型本身，不太像是要掌握更多技术栈。和具身 AI 有关的还有“世界模型”这个类别，比如加入动作信息的视频模型，或者其他定义下的世界模型。不过总体来说，Anthropic 没怎么做这些，至少从公开信息看是这样；举例来说，它甚至没有图像生成模型。
音频领域显然有一些独立公司的能力。如果 ElevenLabs 能继续像现在这样加速发展，就说明专门的能力确实有市场。我觉得这些领域可能最适合独立实验室。但如果有公司笼统地说“我们要做知识工作的前沿智能，只是更好、更快、更便宜”，那就很难让我信服。眼见为实吧。打开电脑后，应用看起来一模一样，只是变得更好——我不确定这能不能……
世界模型：从机器人训练到游戏引擎
世界模型实验室有什么令人兴奋的进展吗？比如李飞飞的实验室被高价收购了，但买家是 AMD，接下来会怎样还不清楚。Yann LeCun 在巴黎创办了 AMI，这也是一家世界模型公司。
我了解一些 Odyssey 的情况，我是它早期投资人之一。它在做世界模型。我觉得有意思的是，它们最新的系统，比如 Odyssey 3，能看到一种非常激进的模型训练方式：用大量视频数据，再根据动作进行条件控制。也就是说，我做出一个动作，模型就生成这个动作带来的下一帧。
这种范式可以应用于机器人操作、自驾、电子游戏、娱乐等各种领域；而且已经看到这些模型用于机器人操作训练。总体上我很关注图像、音频和视频如何融合成一个世界模型。如果真能实现，它最终可能会把模拟器和游戏引擎都吸收进来。这对让机器人进入真实世界很重要，也能帮助设计物理系统和硬件。
回到 AMD 收购 World Labs 这件事，如果世界模型成真，为这些环境提供算力底座、支持训练和推理就非常重要。了解世界模型研究生态的方向，并改进硬件成为首选，将带来巨大的收入机会。我觉得这也是 AMD 收购 World Labs 的部分原因。多年来 NVIDIA 也一直和做着色器、3D 视觉等研究的实验室保持密切联系，提供算力并不断听取研究人员反馈，从而始终知道自己的硬件最适合前沿的发展方向。
AI 成本更低，会不会冲击算力热潮？
现在有不少实验室在设法提高算力效率。从扑翼飞机——我不太懂这个——到似乎重新兴起的扩散模型公司，大家都在想办法降低推理成本。这想法很有意思，人们常聊一会儿就忘了：理论上，我们对算力投入的巨额资金，似乎可能被某种效率高得多的训练方式所威胁。
即使这真的发生，我认为只会看到更多消耗。我现在就在笔记本上用 Astro High，速度是 1.5 倍；我希望它能达到 10.5 倍。
就是说效率越高，就能加更多芯片、做更多事情。我能在相同时间里完成以前做不到的事。所以我不确定某种超高效系统会不会把我们现在的投资全都打水漂。
更好的模型会把智能体框架吸收进去吗？
你的报告谈到模型和智能体框架之间重要的交集。这话题总在变化：有人说智能都在模型里，有人说都在框架里，观点来回摇摆。你怎么看？我大致觉得这有点像受伤后用拐杖：先需要辅助，等伤好了，就不再需要了。
在还没有前沿模型时，你得给它拐杖，比如提供工具、管理记忆、开放数据源，再给它一些完成特定任务的操作配方。对非前沿模型来说，这一套目前仍然有用。
但我愿意相信前沿实验室的说法：随着时间推移，这些拐杖会通过训练融入模型，或者被模型供应商提供的框架吸收。有个数据点是，随着模型变强，Claude Code 的系统提示词大约有 80% 被删掉了。
框架也很重要，因为 OpenAI 或 Anthropic 发布的框架，并没有动力让你去用能力较弱的模型。单看界面和产品，如果我做法律工作、买了 200 美元套餐、手里还有 token，我当然希望质量特别好。为什么要把选项从高档降到低档，或冒险换成质量较差的模型呢？除非产品界面能改变用户行为，鼓励他们别只用最贵的工具，否则前沿实验室会继续这样做。
所以，更懂得如何用较弱的系统，再靠更好的框架补足能力，或许会有价值。但我认为这更多是产品决策，对不属于前沿实验室的公司尤其如此。
作为投资人，你觉得垂直或通用型框架公司有意思吗？这是值得投资的方向吗？
单独来看，至少目前我觉得不值得；以后可能改变看法。可是对我投资的公司来说，如果它们高度依赖 AI 或智能体，每月 token 支出都会大幅增加，因为员工从工具里获得的效能越来越高，产品使用量也在上升。这时候就值得花时间研究：能不能用稍弱一些的模型，再靠更好的框架补足，这样就不用烧掉那么多钱。
AI 尽调：两天半完成 12 次专家访谈
顺便说，你是单人 GP。我读到过你在投资工作里大量使用智能体。过去一年有没有什么特别酷的用法？
最近最酷的用法是专家调研。便宜点的做法是问朋友；如果想花些预算、问问人脉圈以外的人，就会找 GLG 或 AlphaSense 之类的机构。他们帮你找专家、安排介绍，然后你打电话沟通。整个过程来回折腾，很烦，还受语言、时区等限制。
我开始用一个叫 LT 的新产品，它把原本我得亲自做的工作交给模型。我已经大量使用 Codex，不过会根据当时哪个模型更擅长而切换。我让它处理我积累的想法，以及过去看过的其他公司的背景、表现、我问过什么问题、得到什么答复，进而找出最值得向某个团队提出的问题，帮助我判断是否值得投入时间或投资。
我会把这些信息交给 LT，设计专家访谈、选择受访人群，然后点“启动研究”。系统会出去找人、征得他们同意，确认是否符合研究要求，再让他们和 AI 对话。我当时非常震惊，因为我点下启动研究后就去睡了。我只有三天时间给这家公司答复，毕竟它处在竞争激烈的市场里，客户研究的细节很重要。
第一天醒来，我已经有三位相当资深人士的访谈记录和原始文字稿。文字稿可以再交给我的模型，回答我们之前留下的问题——是我和模型一起梳理的问题。接着我们会判断：这些数据点够不够？同时也会发现新的问题，或许得调整访谈问题，引导受访者回答这些问题。于是系统更新研究问题，再次启动调查。
第二天又访谈了五个人。同样的流程重复下来，两天半里我一共做了 12 次访谈，累计 14 小时，受访者分布在美国、印度、欧洲、德国和法国。要是靠我自己，根本不可能和 12 个人聊满 14 小时。有好几个人和这个模型谈了一个小时二十分钟。
光是人们这么快就觉得和 AI 交谈很自在，这件事本身就很有意思。
对。这可能有点递归：我们整天都坐在电脑前，这些一般都是技术问题。说来遗憾，人们宁可对着手机说话，也不愿意和真人说。
你说人们更喜欢和 AI 交谈，这个想法确实很有意思。
是的。我们这几个月也听到类似趋势：人们开始更愿意和 AI 客服交谈，而不是找真人。
因为那种情形下，是人假装成机器人，结果做得很差。你会想：“你是人，能不能就直接像机器人那样说话？”后来你真的遇到一个机器人，它做得特别好，然后真人却……
像真人那样说话。
对，好极了。
所以自动化客户调研这件事对我非常有用。我甚至能想象，哪怕你管理着一组投资组合公司，也会想在这些公司里用智能体访谈客户，了解他们如何使用产品。这样至少能拿到一手数据，开董事会时心里有数；或者你是有限合伙人，投资人说某家公司很好，你就能追问：真的好吗？
个人 AI 智能体的信任问题
过去几个月，个人智能体兴起了，比如 The Instincts、The Muse 和 Rock Bots。你怎么看？
我不会把自己的数据交给它们。
我目前也不太信任它们。不过很多人信。
是，很多人信。
所以你的意思是，你不会把信用卡信息交给一家两个月前才成立、还不要求你验证身份的公司？
基本上是这样。另外，我觉得用 ChatGPT 也能做差不多的事，我不清楚还能多得到什么。Codex 和 Claude 已经能低层级地访问我的电脑、浏览器和一些通讯应用，我已经信任它们了，不想在此基础上再增加风险。
不过这引出了一个有意思的问题：做这些事时，你最信任哪家供应商？我最近听到 Revolut 的 Nikolai 提过，他们有几百万或几千万客户，客户显然信任他们管理资金和信用卡信息，而 Revolut 现在也内置了 AI 助手。因此，我能想象自己更愿意让 Revolut 代我购物，而不是把这件事交给一家成立仅 12 个月、可能还没建好合适基础设施的第三方创业公司。
所以这可能会成为大平台的一项功能，而不是反过来？
这是一个可能的方向。大平台也可能收购某家团队。另一个观点是，有人更愿意用 Meta 的 Muse，因为这些创业公司能不能活十年、出了问题能不能起诉并拿到赔偿，可能性都很低；而 Meta 有过出问题后赔钱的记录。所以有些人因此更愿意用 Meta。至少我知道出了事该打电话找谁。
不过，这些新个人智能体似乎在 AI 普及方面发挥了很大作用。你的报告也讲到 Codex 用户越来越多，特别是程序员以外的人。
对。我觉得最重要的信息是：一边是递归自我改进，大家用 AI 做各种令人惊叹的事，但他们可能只占 AI 用户群的 0.1%；绝大多数人几乎不花钱用 AI……
提示词工程为什么让人对 AI 望而却步
绝大多数人几乎不花钱用 AI，体验也相当差。一部分原因是产品做得不好、营销也不行。还有就是一两年前，大家总在说你得成为“提示词工程师”，得懂怎么写提示词，因为提示词写得差，模型表现就差。我能想象有多少不在科技行业的人看到后会觉得：“我根本不知道怎么学，这也太复杂了。简直像用人类语言写代码。算了，AI 真难用。”
但现在你真的需要当提示词工程师吗？我觉得你更需要会对着手机把想法一股脑说出来，把脑子里想到的东西都讲出来，系统自己会整理。所以提示词工程师这套说法正在消退，模型已经有足够的能力，不再需要那么多讲究。
现在普通人用 AI 容易多了，可普通人在提示词工程师那段时间已经厌烦了，还没回来。所以你说得对，个人智能体能成为新的入口，让人们重新用起 AI，也让他们不再把 AI 理解成聊天机器人。
AI 也需要自己的 Genius Bar 吗？
有些人已经进入了那个世界。
可世界上还有 97% 的人没进去，这太惊人了。所以我在想，是不是该有 AI 专属的 Genius Bar，或者 AI 版 Geek Squad。我们身在纽约，这里有很棒的 Apple Store，也有各种品牌概念店，为什么 OpenAI 没有一家 OpenAI 商店？
在 OpenAI 店里能做什么？你走到一位天才吧顾问面前，他们带你了解各种用法？
差不多。
这可能需要时间，但像这种会火的产品，最终大家会互相教。也可以按不同经验水平开课程：小型企业主、忙碌的家庭、医疗服务人员等等，带着大家一步步体验，只要滑动屏幕、打开 Work 或 Codex 就能做些什么。
我觉得这会大有帮助，让技术真正赋能人们，而不是让人觉得：“哇，好多人都在用这个做我根本不懂的事，但我每天没时间、没动力，也没耐心自己去学。”有点像人人都该锻炼身体，但大多数人不会，所以得请个私人教练带着练。
Codex 不止写代码：面向知识工作的智能体
接着聊 Codex。你有页幻灯片说，非开发者使用 Codex 的速度增长比开发者更快。从 2025 年 8 月到 2026 年 6 月，个人非开发者用户增加了 137 倍。所以这些已经不太算编程智能体了，而是能够写代码的智能体，只是服务的人群早已远超程序员。
这说起来有点不清楚，因为它们可能会写代码来执行你的知识工作，但用户本人并不会看到代码。我会说，这个结果既来自一些很简单的事情，比如真正好用的 Google Drive 连接器（这其实挺离谱的，默认 Google Drive 连接器做不到很多你想要的事，你还得去找第三方的 GWS CLI。它是一个 Google 工程师写的，结果他因为这件事被解雇了）。如果不用 CLI 版本，智能体对 Google Drive 的访问权限就很粗略，许多工作流都做不了。所以首先是把基础集成做好。
第二点是一个递归循环：模型实验室发布模型，数据公司或有特定工作流程的公司尝试部署模型，发现模型在内部基准测试上表现不佳；但它们手里有环境和数据，能把模型调到很好。实验室于是意识到，应该持续提升这项能力，就买下数据、改进模型表现，然后循环继续。
自 Codex 发布以来——更早之前其实还有带法律、营销等连接器的 Claude Code——大致就是这种思路：为模型接入必要工具，让它能胜任人类的白领工作；针对金融、法律、营销等重要流程持续改进；再配上更好的营销和案例研究，先从自家员工开始。大家一直争论这到底叫 Work 还是 Codex，应该放在哪个选项卡里。我觉得他们还没完全想清楚，但现在它确实非常强大。
为什么企业想拥有自己的 AI，而不是租用它
说到持续提升，我们聊过开源、大型实验室，也谈过 AI 主权。现在似乎出现一种趋势：企业，尤其是垂直 AI 初创公司，开始掌控自己的 AI，而不是完全依赖 Anthropic 或 OpenAI。这对你来说是个重要趋势吗？值得投资吗？
这个趋势确实在增长，原因有几方面：一是优化成本；二是数据主权和数据本地化，不想把所有信息都交给第三方系统，也不一定信任它的隐私政策；三是有些用例才是企业真正关心的，它们不想等模型实验室哪天才开始重视这些用例并把模型做好。最后可能还有一些民族主义倾向。
我在想，谁最有条件提供这项服务？最大的一家当然可能是 Palantir。它和 NeoClouds 有合作，已经拥有数据基础设施，过去几年为提供这类服务做好了准备。在美国商业市场可能行得通，在欧洲就不那么适用。欧洲也有一些类似 Palantir 的新公司，打着不同的国家利益旗号做同样的事。
第三种可能是一直在服务开源模型的推理公司。它们不仅能提供模型服务，也可以分析企业使用模型的轨迹，利用对话数据提供后训练服务，形成闭环。它们或许很适合；也可能是已经开始建立推理业务的 NeoClouds，甚至是那些开始走出为模型实验室提供开发环境这一步、转而向企业提供服务的数据公司。它们可以说：“我们已经证明能把实验室的环境做好，也许也能帮你们做好。”
快问快答：家用机器人、NVIDIA 回报与 Arm
最后做个快问快答？
来吧。
2026 年最被高估的趋势？
家用清洁机器人。
那些根本不好用。
是。
为什么大家都特别想做一个能叠衣服的用例？是因为……
我不知道。这有点像智能体订机票的演示。我最近听说，旧金山的人现在会说：“能不能演示一个不订机票的例子？”谢天谢地，我说这话已经十年了。
好，说是快问快答，结果我还是要追问。你自己的报告里最被低估的一页是什么？
如果当初把投在其他半导体公司的钱投进 NVIDIA，能赚多少钱。
简单展开一下：如果把投向其他半导体公司的钱，在那些融资轮公布时转投 NVIDIA，能多赚四倍。
过去八份报告里，你最自豪的一项预测是什么？
NVIDIA 不会完成对 Arm 的收购。当时很多人以为肯定会成，我们的判断是，出于地缘政治和竞争方面的原因，这笔交易不会完成。一方面，Arm 股东没让收购成行，赚了非常多的钱；另一方面，NVIDIA 本来可能拥有非常出色的 CPU 业务，特别是随着智能体、强化学习以及其他 CPU 密集型任务兴起，这会给它的云业务带来很大助力，也可能改变一些地缘政治格局。
太棒了，这是个好答案。Nathan，非常感谢你再次来节目，也谢谢你再次完成《State of AI 报告》。这工作量惊人，希望以后每年都能让你的智能体帮上忙。报告可以在 stateof.ai 上读，你们还配了一段视频，也是很好的资料。大家可以在 Twitter 上找到你。
对，可以找 Nathan Benaich，或者关注 @stateofAI。谢谢邀请，我每次来都很开心。光是过去一年发生的事就够离谱了。那我们纽约再见，看看明年能不能实现 AGI。
太好了。谢谢 Nathan。
谢谢。
嗨，我是 Matt Turck。感谢收听本期《The MAD Podcast》。如果你喜欢这期节目，欢迎订阅；如果还没订阅，也欢迎在你观看或收听的平台留下好评或评论。这些都能帮助我们把节目做好，也请来更多优秀嘉宾。谢谢，下期再见。