推理将成为 10 万亿美元市场：鲜为人知的真相

再过几年，我们就会面临能源不足。这只是个小波动，不是什么泡沫破裂。我们不把模型奉若神明，我们的思维方式是能源优先。

对我来说，智能的需求是无限的。我确实认为，未来十年硬件会是值得布局的地方。如果你是纯软件投资人，我会说你大概要倒霉了。十年内，推理市场将达到 10 万亿美元。我不会去想“天哪，AI 会杀光所有人”这种事——这是我听过最愚蠢的世界观。

当然。我也一直很期待。

能源供应一直很难建设，大家并没有真正意识到这一点。我见过一些行业估算，建造一吉瓦的电力设施大约要花 500 亿美元。大家说“吉瓦”时好像很轻松似的，但这可一点都不容易。作个对比，建一座半导体晶圆厂大概要 200 亿至 300 亿美元。所以从成本和复杂程度来看，建一吉瓦电力设施比建一座晶圆厂还贵。这很难。

我想过去 20 年里，中国的总发电容量超过了美国，我记得是在 2023 年发生的。20 年间，他们的建设速度是我们的 6 倍。他们起步时落后很多，但后来推进得又快又猛。我们曾批评他们使用不环保的手段，比如烧煤。这确实如此，但他们也在努力尽快发展。我认为他们现在也在回头治理一部分问题。与此同时，我们并没有真正投资能源基础设施，这会让我们吃亏，因为追上来需要时间。

有些问题很难谈，因为触及我们和他们文化的核心。我认为中国可以进行中央规划，我们不行。这两种方式各有优势。面对这类大型基础设施建设，中央规划无疑有优势。但在尖端创新方面，美国明显更强。AI 发源于这里，不是那里；这些最新创新也都来自这里。

我认为富余容量很快就会变得非常稀缺。即使按更保守的 AI 增长速度来看，未来几年我们也会很快用完能源。到时候不能简单地说“那我再找些容量来用”；现有富余电力会被耗尽。之后，我们就会受制于新增建设的速度。

我认为最关键的是：市场对 AI 服务的需求有多大，进而对 GPU 的需求有多大，再进而对新增能源建设的需求有多大。显然我身处这个行业，对 AI 很有信心。我认为需求会非常旺盛，我们甚至还没触及表面。AI 还有很多问题要解决，但未来几年我们会逐一解决，并由此打开今天还想象不到的新需求。

没错。治愈癌症很难，但几乎没有采用风险。我完全理解。不过，如果我们眼看着 18 个月后就要耗尽富余电力，这是不是说明今天的富余供应定价有误？可以这么说。我想那要由能源市场来定价和调整。至少从一些个案中，我看到了一些迹象。具体数字我说不上来，因为每一笔表后供电交易都是定制的，但用户每千瓦时付的钱远高于标准电网价格。

简单说，就是数据中心愿意为能源每千瓦时支付更高价格，因为利润结构好得多。假设我有一吉瓦的算力要出售，售价可能是电费的 5 倍——这是我随口举的数字，量级大致如此。所以我有很大的调整空间，可以多付 30% 或 40% 的电费……

……所以我可以多付 30% 或 40% 的电费。

有一点是，我希望早些知道：我们其实已经看不到多少物理效率提升了。可以把计算机的构建分成三个层面。第一层是物理层。假设我要把一个比特从这里传到那里，并且以更低成本完成。比如把 0 和 1 分别表示成两个状态，手机本身有一定重量；在两个状态间转换需要能量。如果手机更轻，所需能量就会变化。这纯粹是物理问题。

这意味着我们不再把模型当成不可侵犯的东西，而是以能源优先为思维方式：我们做的每件事都必须带来能源优势。听起来简单，但过去设计这些东西时，没有人这么做。大家一直追求速度。

ENIAC 是美国政府在 1945 年建造的，是最早的大型数字计算机之一。和所有机器一样，它有自己的用途：比其他办法更快、更准确地计算火炮弹道。当时的替代方案是由人手工计算。所以关键是要更快。下一代机器出来，也得比这一代更快。GPU 出现时，也必须比 CPU 更快地完成图形渲染。每一代都试图比上一代更快。速度提升在好几方面带来了效率……

……但在相同功耗下让东西更快，并不等于效率更高。与此同时，摩尔定律也一直在推进：我们从真空管走到晶体管，晶体管越做越小。如今物理层面的变化已不大，晶体管也没有好多少。但模型和架构层面仍有很大空间。

我认为你说得完全对。我比较擅长判断未来几年大家会把注意力放在哪里，我觉得这会成为一个重要方向。

是的。当然，这也和兴趣有关。对我来说，造一台更好的计算机是最有意思的问题之一。

我会想，如果我解决了一个问题，会产生什么影响？它会解锁什么？这有点像做科学研究。优秀的科学家善于提出一个一旦得到答案、就能引出许多新问题的问题。这几乎就是一篇好论文的标志。

还差得远，仍有很大空间。我认为原因在于，我们还没有真正让模型和物理硬件协同设计。你可以在标准 GPU 上只靠软件提出一个想法，获得比如 5% 的效率提升，这听起来不错。但你能利用一个想法的程度，受限于硬件本身的设计。

绝对如此。这甚至可以追溯到图灵最初的论文：他的目标就是造一台智能机器，这是他一开始明确提出的目标。之后我们沿着这条路走，把图灵机这个理论构造做成物理版本。我们造的任何东西都不是真正意义上“图灵完备”的机器，因为它们有有限内存之类的限制，但我们还是造出了非常有用的应用：可以用它们经营企业、编辑视频、图片和文本，完成各种很棒的事情。过去 60 年里，生产力因此大幅提升。

……最终我们会造出能够造任何东西的智能机器。

别把眼光放这么小。现在还早得很，市场还有 50 倍的增长空间。市场会非常庞大。英伟达显然执行得极其出色，才把行业带到了今天。2014 年我创办 Nervana 时，我们并不清楚市场会有多大，但我很明确，神经网络需要一种新的计算架构。这是一种描述计算的新方式，在我看来也是计算机最重要的用途。

我觉得下一个应该叫 Habanero，因为会更辣；再后来也许叫 Ghost Pepper。

我会问问他。其实我不认为芯片会商品化。我看这件事和生物演化是并行的。我对这一切的运作方式有个很简单的看法：智能的需求是无限的。智能没有需求上限，因为我们生活的世界、整个宇宙，本质上充满竞争。

我昨天请了 Modal 的创始人 Eric 来节目。我很喜欢他，但他什么都想做。我当时就在想，产品广度到什么程度会损害产品深度？

我们一直在考虑。聚焦非常重要。不过 AI 正在改变世界，我们可以承担更广的范围，探索的边界比过去更大。

我们第一颗芯片里做了一组耦合振荡器，有一个耦合矩阵，许多振荡器会彼此影响。以前比如在 AI 出现之前，我可能会问：如果不做全连接，噪声会如何传播？假设我把振荡器串联起来，开头有一定的噪声特性，我想看看经过四到六次传递后信息会如何衰减。

……现在我可以直接把问题交给模型，它会生成代码。我可以检查代码，和它来回讨论几轮，一小时就能得到答案。以前要花两周思考的问题，现在一小时就解决了。因此单位时间里，我能思考更多事情，这都是 AI 带来的。

我认为我们仍有一个问题。我昨天刚发帖说，我们有 AI 垃圾内容的问题：模型产出的东西太多，其中很多很糟糕，也很难验证。有些不错，有些不行。我们得想办法大规模解决验证问题。不过 AI 让我做得更快、覆盖更广。

不是，不是。

对，那更像娱乐。不过说真的，英国人把自嘲式幽默做到了极致，比我们美国人强太多。

我知道。我们把这件事推到了新高度。毫无疑问，我不是说过我们很有创新精神吗？

如果你掌握验证层，就掌握了自动化层，因为你有可验证性，可以在此基础上推进自动化。是这样吗？我想验证是用 AI 开发事物的必要环节，但掌握验证层是否就等于掌握生产层？我不确定。我认为还必须掌握规格定义。要产出有用的东西，比如汽车或桥梁，你得能定义规格，确定自己要解决的问题是否有价值。然后，每一个产物都要验证是否正确、是否朝着规格前进，最后还得确认确实按预期实现了规格。所以这是端到端流程，不只是验证。验证只是其中一环。我不知道该如何单独衡量它的价值，我认为它是实现最终结果的整体过程的一部分。

我们确实还不信任。

我同意你的问题……

……我们会经过多年训练，才形成某一领域的判断力。比如成为神经外科医生，医学院毕业后还要接受七年训练，这是有原因的。学会缝合并没有那么难，我研究生时就做过。做外科医生难的不是机械操作，而是判断该往哪个方向做。你得见过足够多的病例、观察过结果、了解人们如何思考这些问题，才能建立判断力。

我认为有一天确实会这样。

是的，现在还没到。专业知识不会过时，只会以不同形式存在。我想象的未来是，我们会开始造某种“模型”——不过我觉得它不只是模型，而是整台机器。我认为智能的物理层和智能层是一个整体，无法分开。

是的。

我认为它会走向专业化。如果你专注于重要问题，就能拥有一个庞大且有防御性的市场。这又是技能的幂律分布。所有人都能学很多技能，但有些技能比其他技能更有价值。你建立的数据和训练课程也是如此。

不认为。数据最初确实像大宗商品，因为那只是大量收集观察数据。但随着你构建更高质量的数据集，比如用于编程或思维链的高质量数据，数据就会产生很大价值。从某种意义上说，模型几乎只是它学到的东西的一种体现。

我不确定它效率更高。实际上，如果按每单位算力或每单位资金能让模型进步多少来衡量，强化学习（RL）可能更低效。但它确实能推动模型继续进步。我们的目标是让模型在所有重要任务上都变得更好，所以我认为未来几年 RL 仍会非常重要。我们可能会在中间训练阶段、甚至预训练阶段引入专门化。未来范式很难说准，因为行业总是通过工程手段解决眼前的问题：从这里想到那里，就设计一种办法；到了那里，又想去下一个地方，再设计另一种办法。最后行业像在随机游走一样演进。

这就是问题。速度太快了，你必须紧跟进度。如果你是 OpenAI、Anthropic、Grok 或 Google，模型晚一个月都是灾难。所以它们还承担不起那些大风险。比如 Elon Musk 建立 xAI 时，基本上就是沿着现有范式去招人，马上就追到前沿，因为他有资源。这让我觉得，当时并没有特别深的创新，只是把现成要素组合起来，找一支懂得如何构建的团队快速执行。

有几个原因。想想我们如何学习，主要就是靠强化学习。假如我要教你一项新技能，比如发网球，你需要不断练习。先给你一个标准范例：告诉你发球应该是什么样，也许示范一下，或者给你看视频。这会让你在心里建立一个“什么算好、什么算优秀”的模型。然后你不断拿自己的表现和这个内在模型比较，判断自己有没有进步；如果没有，就寻求帮助。这就是 RL。

我确实认为我们会进入后 Transformer 时代。我不认为 Transformer 是终极答案。直到几年前我才真正理解这一点，因为 Transformer 把许多东西混在了一起。我们真正关心的是推理，也就是能够一步步思考并解决问题。有人说过一句话，我不记得是谁说的：“智能体现于你没有信息时如何行动，而不是你已经掌握信息时如何行动。”从机制或第一性原理出发推演问题，才是智能。

我认为基本原则没变，但对未来有判断、拥有愿景，可能比过去更重要。在 AI 之前，只要执行力不错，就能做个挺好的创业者，不必有特别出色的愿景，只要知道怎么执行。大公司行动缓慢、笨重，因此你可以创业，做出一家公司再出售，或者把它发展壮大。如今如果只有执行力，我认为走不了多远。

好问题。能源可以说已经是大宗商品，也就是说已经商品化了。我认为一定程度的智能也会开始商品化，我们已经看到了。比如六个月前的模型，包括中国的开源模型，仍然相当有用。六个月前的模型依然很不错，这就是商品化的标志之一。只有前沿模型重要的情况只适用于某些问题；再过六个月，前沿能力也会出现在开源模型里。

商品化不一定是坏事，只是利润率会大幅下降，但同时也意味着市场很大。番茄也是大宗商品，但我们仍然吃、仍然需要它。智能市场会很大，并且会继续增长，只是利润率未必很高。

……利润。

我们先拆解一下。推理市场商品化究竟是什么意思？这意味着运行推理的运营方会被商品化，我猜是这样？

对。你看它们的价值主张，它们做得很好：拿一个现成模型，比如开源模型，让它稳定运行、提供正常运行时间保障，并以相对低成本在基础设施上运行。所以这是一种基础设施业务，本质上是把模型映射到物理硬件上，并把这件事做好。

是啊。

如果你是纯软件投资人，我会说你大概要倒霉了，而且我很有把握。SaaS 恐怕不再是你获取利润率的地方。从 2010、2011 年左右一直到现在，我们经历了一段“糖分高涨期”：用 AWS 云服务很快就能搭出产品、测试市场、尝试不同方向，然后切入一个规模一两亿美元的市场。SaaS 带来了市场的大规模细分，因为产品交付变得容易、几乎没有摩擦。现在，应用开始更多地依赖智能层，我看不到 20 年后软件还会是一个巨大的市场。

对，我想你说得对。我刚才说的是 SaaS 的传统定义。不过，交付某种结果、通过软件和服务组合来实现的公司，当然会存在。我积极投资种子期创业公司，看到一批公司在做这样的事：用 AI 加上人工，更快、更便宜地完成长期存在、又必须准确完成的工程任务。

我觉得你说得对。

实际上是，但你投资的是更好的律所，仅此而已。

不过，我们已经看到一些大型律所直接投资 AI。所以从某种程度上说，Harvey 卖给律所，是因为律所有客户渠道。

我认为这有点过于乐观，因为想要构建并拥有自己的智能，得有一定规模。继续以律所为例：如果你是 Cooley 或其他大型律所，就可以投资并实现；如果你是内布拉斯加州的一家夫妻店，就做不到。你会用某种服务，也许用它增强律师的能力，再向客户提供服务。

……这很合理。也回到一个观点：世界上各个领域都有竞争，关键取决于你在和谁竞争。如果你面对的是另一家大型律所，而对方用 AI 大幅提升利润率，你也不得不这么做。夫妻店可能不会这么做，它们的竞争对手也不会，因此一段时间内它们会留在另一个领域。

我认为这个比例可能大致稳定，因为我们会遇到验证问题。最难的是培养人类判断什么是好的。开发者的价值不在某一天直接产出多少，也不是写了多少行代码，而在于代码质量。经验丰富、水平顶尖的开发者，也就是所谓的 10 倍开发者，已经形成了对好代码、审美和可行性的判断力，而且能很快把事情做成。在 AI 时代，这些知道什么是好的人可以验证模型输出，从而变得更高效。

……更多发布周期、更多改动。举一个物理世界的例子：如果今天建一栋摩天大楼需要两年，取决于一定数量、拥有不同技能的人力；突然间有机器人可以完成其中 80% 的工作，会发生什么？短期内体力劳动可能会受到冲击，但接下来你会发现，原来要两年的项目现在只需要八个月，因为 80% 的任务由机器人完成。

这个问题我非常看好机器人，所以我会强烈反对你的看法。你说还差很远，具体是多长时间？

好，那我们也没差那么远。我认为未来两三年内，一些任务会有可用的原型，五到七年内市场会出现。我觉得这个判断没错。

我们会进入一个很奇特的世界，发展周期呈指数增长，很难沿用旧模型来判断。这正是问题所在。

……它几乎没有上限，是一个数万亿美元的市场。十年前你要是问我，哪些是万亿美元市场，我会说基本需求：住房、食物、交通。你不会想到科技领域也会有万亿美元市场。我认为未来几年，AI 模型本身就会成为万亿美元市场；十年内，推理市场会达到 10 万亿美元。这个数字想起来很疯狂。

原来一个万亿美元的市场，现在会有更广的适用范围，潜在用途的基础会扩大十倍以上。这就是杰文斯悖论。所以我认为我们正处在一个能构建指数级技术、释放巨大价值和市场的阶段。我确实认为机器人市场会是编程智能体的 100 倍。

我们对智能如何作用于现实世界还只看到了冰山一角。到目前为止，我们基本没有把智能用于物理世界。我认为迄今的工业机器人并不真正智能，只是把人类已有的智能嵌入机器，让它们按固定程序执行任务，这不算新颖的问题解决方式。

我目前更关注技术栈，而不是应用层。我认为做模型的人还没完全想清楚这些模型最终会是什么样，这没关系。我不觉得价值只在模型本身。我确实投资了做模型的公司，但我认为它们最终可能会做端到端设备：造一台搭载模型、能把某件事做得非常好的机器人，并以这种方式销售。我的看法是，两者会结合在一起，不会彼此分离。

不太在意。我觉得自己应该把一部分财富投到这个重要且会高速增长的领域。传统风险投资人会说“太贵了”，但如果谈的是万亿美元级以上的市场，价格几乎无关紧要。

可能是 Physical Intelligence。我认为他们把智能当作一个模型来思考，还有几家公司也在做类似事情，比如 Roa 等。我觉得他们解决的是很基础的问题：如何定义一个任务并执行它，也就是把任务转化为运动输出。在我看来，这是当前物理世界需要解决的问题。除了我们正在做的新计算机，这是下一个重大问题。

我觉得钱不会改变你的价值观。资源仍然有限，你对不同事物仍然有自己的估值方式。有些东西上我还是挺节俭，虽然其实没必要。

要是问我妻子，她可能会说衣服。我会想，干嘛花这么多钱买一条牛仔裤？

投资方面，我改变了对进展衡量指标的看法。我们总把市场验证当成主要指标，我认为这是老办法，尤其是从 SaaS 领域沿袭来的。没有深层技术壁垒时，市场验证很合理：你做一个有用途的产品，关键就是验证市场。但如果你做的是一项显然有意义的深科技，比如治愈癌症，就不需要验证市场，只需验证技术问题取得了多少进展。

我会建自己的制造业，因为我想越来越靠近原材料来源。如今硬件生态系统有很多供应限制。如果我不受限制、什么都能建——说实话，这有点像 Elon 正在做的事——我会建自己的晶圆厂，把这一层完全针对自己的需求优化，而不是拿一个为上百种用途制造的通用商品，勉强改成适合我的东西。我会直接造自己需要的东西，做出更好的产品。

那种直接把一项标准的人类工作自动化的速成项目，是现在最糟糕的投资方向。我认为它被严重高估了。我也觉得智能体编程市场被高估，因为价值会转移到模型提供商那里。Cursor 的退出做得很好，这当然值得祝贺，但大部分价值来自模型本身，而不是外壳或 IDE。它们的用户黏性不强，我在自己公司也看到大家会很顺畅地在不同产品间切换。关键是模型，以及模型能提供什么能力。所以，除去模型提供商，我今天不会投资智能体编程市场。

我认为开源会占 80%。

这是个更好的问题。我认为情况可能很像手机市场：iPhone 大约占总市场的 20%，却占了 80% 的利润。AI 也可能类似。少数非常重要的问题需要前沿模型，人们会为这些问题多付钱；但日常任务会交给开源模型。因此支出大概会五五开，但 Token 数量方面，前沿模型可能只占 20%。

我先讲个故事。我创办 Nervana 以来，可能见过大约一千位投资人。到了第八百次，最初那一批会面已经不太留印象了。很早时我见过 Steve Jurvetson，他后来成了我的好朋友。我当时紧张得要命，听过很多关于他的传闻，觉得他聪明绝顶，会把我看穿。结果我们聊着聊着就开始讨论数字表示。我当时想，这人真的是投资人吗？我后来给他发了几篇论文，他在上面做批注、提问题，我再回复。这完全不是我对投资人的预期，他更像是在和技术同事交流。

没错。要下能带来回报的大赌注，你就必须持有非共识观点。共识本身已经是错的、过时的。

对，我完全同意。我觉得在美国，人们被允许把想法想得更大。

对，我完全同意。难点是，比如现在有一家公司做太空项目，正处于 A 轮，我完全不懂这个领域。团队很棒，但如果要投 2,000 万美元，那就是一只 4 亿美元基金的 5%。这笔钱可不能轻易亏掉。太空项目风险很高，我一点也不了解。

是的，我也很想说“不知道”，但你大概只有两三次会面。

我把 AI 看作一种工具和能力，它让我们能够对宇宙提出更宏大的问题。科学中有很多我们不了解的事，是因为这些问题难以触及：真正能思考并推进它们的人太少了。AI 会扩大我们能够着手解决的问题范围，这让我极其兴奋。

很有意思。我喜欢这种能畅谈许多不同话题的对话。