开场
大家好，我叫 Affaan，是 Jump Trading 计算交易业务的负责人之一。Jump Trading 是一家自营交易公司；这位是我的共同负责人 Alejandro。今天我们会聊聊计算资源交易的市场结构，以及计算资源……
什么是计算资源的暗池
……交易是什么，以及我们认为它可能会发展成什么样。我们先从宏观层面谈起，再看微观市场结构，最后聊聊政策方面的情况。
这场演讲的题目是“计算资源暗池”。在座有些人来自金融行业，可能会疑惑我为什么用这个说法。这里的“暗池”指的是一个不公开的市场。现在，大多数实体计算资源都是以大宗方式交易，通过私下报价和大量经纪人完成，签订的是长期双边合同。说到底，这些都是商业协议。我们用“交易”这个词，是为了观察各方如何达成交易。这些商业协议通常由主服务协议（MSA）、服务级别协议（SLA）和订单组成；每个订单针对具体集群和硬件，有各自的专门条款。
谈价格和其他指标时，讨论往往围绕芯片型号，也就是具体的芯片和底板，例如 H100、H200、B300 等。谈判大多在公众视野之外进行。目前还没有一个被广泛采用、人人都去查看并交易实体计算资源的交易所。这些交易是在聊天群里完成的，外界看不到。虽然有公开市场、价格参考和许多按需市场，但对于有期限的交易——在约定期限内提供一定容量、合同总价值固定——大家还是通过 Slack、X 和 Telegram 群聊沟通。这些都是场外交易渠道，分布在我想称作新型云经纪商的网络里……
Token 更便宜，使用量更大
……群聊。有些人可能熟悉大宗商品市场，知道很多沟通是在 ICE Chat、彭博聊天等平台上进行的。计算资源市场大致也是这样运作的。
我们来看看宏观市场结构和其中的参与者。这是 a16z 最近发布的一张图，有些人可能已经看过。我提到它，是因为大家可以去 a16z 的 X 账号上自己查看。图里显示，达到某种能力的成本已经大幅下降。当然，账单仍然取决于模型使用量、容量和其他因素；目前新一代编程类 ChatGPT 模型的速度也是一个重要因素。
Token 变便宜后，使用量就会增加，同一支团队用相同预算可以完成更多工作。我们看到很多团队只是在使用更多 Token。尚未满足的潜在需求还很大，人们会用原来的预算做更多事情。即使某个模型的成本更高，他们也会继续消耗更多 Token。
为什么 GPU 价格依然坚挺
一些过去贵得无法实现的应用，现在变得可行了。不过，支撑这些应用的计算容量仍需要建设和付费，即便某项任务的成本在下降。重要的是区分智能能力的价格、人们想运行的任务数量，以及满足这些需求所需的硬件规模。
这就引出了杰文斯悖论，以及我们最近观察到的一些现象。直觉上，人们可能会认为计算量和推理量会一起增长，二者高度相关。但从图表可以看到，它们出现了一定程度的脱钩：Token 价格继续下跌，计算资源价格却依然坚挺。该如何解释？可能的原因有很多，其中之一就是杰文斯悖论：尽管 Token 价格下降，而且新一代底板和 GPU 让推理服务的效率大幅提高，人们却因此消耗了更多资源，计算需求也随之上升。
即使每百万个输入 Token、缓存 Token 和输出 Token 的成本变得高效得多，人们也会使用更多 Token。让任务更便宜、鼓励更多使用，虽然节省了每项任务的资源，但对推理云来说，这意味着服务更多应用、处理更多 Token、扩大市场份额。对应用层的开发者而言，则意味着可以服务更多客户，也就是所有正在构建并使用 Token 基础设施的人。
芯片、电力、建筑与资本
宏观结构到底由什么构成？这里展示的是一个非常简化的图景：芯片——前面已经谈过；电力、建筑、电网接入；当然，还需要大量资本来推动这些建设。这也是今天演讲的核心。芯片、电力、建筑和资金必须汇集到一起，才能真正产出一小时可用的 GPU 计算资源。
国际能源署在 4 月的更新中预测，全球数据中心用电量将从 2025 年的 485 太瓦时升至 2030 年的 915 太瓦时。眼下很多讨论围绕建设和电网接入展开：我们会有足够的电网容量吗？能否利用其他能源？在哪里能找到适合建设的土地？因此，托管机房、数据中心运营商、为建设融资的机构以及贷款方，都在关注这些问题。所有这些……
市场里有哪些参与者
这些上游因素最终会传导到计算成本和使用情况中。那么，在一张报价单背后，宏观产业链的实际构成是什么？芯片和系统供应商提供 GPU 服务器及网络设备；数据中心场地和运营商提供电力、空间、组装和管理；设备则包括 GPU、内存、服务器和网络设施。
容量供应方包括超大规模云服务商、新型云服务商，以及以类似方式运营、转售裸金属容量的其他运营商。终端用户有哪些？初创公司、推理云、实验室、新型实验室，以及应用层和企业中从事开放权重模型工作的团队。
我把这些参与方画成了不同的方框，但同一家公司可能同时属于多个类别。比如芯片和系统供应商可能从头到尾完成整个建设项目，同时又成为所有这些资源的终端用户。因此这里存在各种不同的组合。
前面提到的推理云可能会租用一个集群，用它提供 Token 服务，再用收入支付集群费用。这就是推理云本身的一种使用方式。
中型市场的融资缺口
但超大规模云服务商、前沿实验室和大型新型云服务商可以做出大额承诺，因为它们有能力获得大量股权融资，也能承担更多债务。它们还能够签长期合约，比如签下十年期合约并把容量转包出去。中型市场的参与者却做不到。
谁愿意为一家 B 轮初创公司承保，让它签下三年、价值超过 2 亿美元的计算资源合同？它得融资多少轮？是不是要把整轮股权融资都拿去买集群，以至于没有剩余资金支付实际运营成本？
看看融资链条如何运作：贷款方会依据合同收入为建设融资，推理云也常常如此。贷款方希望为建设提供资金，也希望确信贷款能收回来。要如何为一家私人初创公司承保？它可能没有多少其他资产，不是上市公司，现金流、资产负债表和损益表都不充足，甚至还没有盈利或收入。贷款方关注的是：这家公司能否签下达到一定规模的合同收入？CoreWeave 的公开文件提供了大型基础设施融资的例子，其融资由客户的“照付不议”合同支持。这里的图展示了一个较小的示例。
矛盾在于，硬件融资方希望期限很长，但客户可能负担不起或不愿意签超过 36 个月的长期融资。客户还必须预付一笔资金。CoreWeave 表示，他们看到的预付款中位数是 15% 到 25%；若一套集群的合同总价值为 1 亿美元，就要先付 1500 万到 2500 万美元。这可能就是一家初创公司的整轮融资。
这里举个例子：你融到 4000 万美元，却需要签一份三年、价值 1 亿美元的合同。如果预付 30%，这里只是示意，那么还剩 1000 万美元经营公司。你可能会遇到阶梯式扩容：合同容量在增加，但实际需求低于容量。每次要接入新集群，都得再依赖一轮股权融资或其他资金；你可能因此达到上限，不得不拒绝客户。
你有哪些选择？可以拒绝客户，等下一轮融资，再付 30% 预付款来启动下一部分容量；也可以使用按需容量填补缺口、弥补短缺。这已经是一种选择。接下来要看经济账：另一种做法是找贷款方为预付款融资。如果融资预付款的收益率低于当时直接按需购买的成本——前提是你能买到所需容量——那样做划算吗？
下面是我们看到的一些运营模式。
自建、托管还是租用
一种方式是自建并运营完整的基础设施栈：硬件、场地，以及由自己的团队安排电力、许可、组装和管理。也可以在托管机房拥有服务器，由合作伙伴负责大部分组装和运营。另一端则是签订包销合同，购买明确约定的容量，由供应商持有并运营资产。
供应商可能不会给你完整的裸金属 root 权限，也可能根据你是单租户还是多租户，以及其他配置，分级提供访问权限。这些差异也会影响价格。
有些企业看重物理访问权，有些看重机密计算；还有些重视特定的拓扑结构，或重新配置系统的能力。如果这些对你的业务很重要，你可能会希望获得越来越多的控制权，自行建设和运营整套基础设施。考虑到租用容量所放弃的机会成本，自建的经济账可能更划算，因此你也可能愿意为此支付更多。
这是一张非常粗略的图，展示利用率变化时自有与租赁成本的比较。通常，包销合同的成本已经接近自己建设并融资一套集群。如果你要在三年内花掉 1 亿美元，那么在经济上说得通的情况下，或许直接收购计算运营商更合算，当然还要考虑时间成本和运营成本。
这里存在一个平衡点：自有成本要高于租赁成本，而租赁成本应低于自有成本。但如果你的利用率足够高，且需求呈现这种变化幅度，自行拥有整套基础设施可能更合适。
我们看到一种新的动态：计算资源采购会影响成长型公司的实际资金跑道。
计算资源采购与资金跑道
这也让投资者开始关注计算资源采购。我们看到，获取容量的渠道和付款条件会影响投资组合公司的资金跑道。从风投角度看，帮助一家公司买到合适的容量，可能提升这项底层投资的价值；两者关系紧密。投资者能够帮被投公司采购、找到并资助计算容量。
这也把宏观结构带入了微观结构中的另一个问题：谁来帮助配置容量？如何比较不同报价？这些合同能转移哪些风险？
谁来配置容量
围绕每 GPU 小时的市场，有许多不同的参与者共同塑造它。首先是价格发现参与者，例如提供指数、数据和基准的人。我们现在都在查看和引用这些基准；将来可能会基于它们推出期货，具体要看相关合同规格及审批情况。
然后是实体撮合场所、拍卖和聚合平台，也就是能撮合容量的机构。我们看到按需计算资源的去中心化市场、提供类似流动性池服务并把容量拆分出售的计算资源池，以及它们各自的标准化合同。还有裸金属转售商、新型云服务商的大宗容量销售，以及裸金属转售领域的个人经纪人和运营商。
交易台和经纪人会查看双边报价并促成交易。他们可能认识很多人，行动很快；他们能在一个地方看到规格相近的报价，也可能知道有位买家现在对价格极不敏感，急需计算资源。经纪人若能及时拿到 RFS（请求方案），就可以收取不错的价差。接下来他们负责与资源来源方谈判、承接并配置风险，还可能需要替客户运营集群；这项工作必须值得所收取的价差。
再看金融市场：围绕 GPU 小时建立的交易所正在出现，还有期货和衍生品。人们可能会用它们对冲风险、探索更多金融结构，比如对冲资产负债表风险。我们也看到预付款融资安排开始出现。市场参与者正在使用或有意使用期货及其他期权，以对冲账面上已有的风险。
买方还在寻找灵活合同。他们会问：“如果我签下三到五年的合同，等新芯片推出时，能不能升级？能不能把合同展期？或者让我把容量转卖给你？”
为什么每笔交易都是定制的
另外还有信用融资，包括设备贷款方、租赁方和专业信贷机构。我们目前看到的情况是，每笔交易都要单独定制。规格表和格式各不相同，物料清单可能与实际交付不一致；如果缺件或零件缺货，交付内容还可能变更。有些 OEM 和 ODM 供应商的交货周期也非常长。
谈判很快时，同一个术语可能有不同含义。比如有人说“内存”，指的是显存（VRAM）、CPU 内存，还是额外存储？具体指什么，会显著影响最终用户能运行哪些负载，也会影响价格和交付日期。大家需要大量来回沟通，才能真正比较不同方案。
这就涉及“非同质化”：哪些部分可以互换，哪些部分——例如倾斜度（skew）——影响最大？还有哪些部分仍像电商商品一样交易，价格只适用于特定集群？
因此价格可能每天更新，甚至更快。报价仍是很好的起点，但情况变化时，报价可能被撤回或修改。还有各种潜在的隐性因素，所以我们称之为一个“暗市场”。
这些是一些公开的 H100 参考价，是今天刚截取并更新的。大家可以到对应网站查看。这里只是一个例子，展示今天 H100 的公开按需或现货价格。
应对风险错配的结构
你可以看到这里有各种价格。人们可能会用这些公开数据，也可能依据自己的内部观察，估算在自家集群规格下应该如何定价，并把其他影响因素都考虑进去。
为什么需要这些新结构？这些微观市场结构有什么意思？主要是为了解决错配：衔接容量、提供更灵活的承诺、赋予转售权，以及保护参与者免受价格波动影响。
从推理云的角度看，你可能以固定价格销售服务，但 GPU 账单会浮动，这就带来价格风险。锁定多年容量可以解决其中一部分问题，但也可能造成闲置时段的风险，除非你一直能把容量用满。转售剩余容量只有在确实有人愿意购买这些时段时才有帮助。金融对冲可以针对参考价格，却无法通过现金结算把集群交付到位，也不能保证利用率。因此，实用的结构必须从企业实际需要管理的特定风险出发。
政策与出口管制
……所以，适用的结构必须从企业需要管理的具体风险出发。
我会快速讲一下政策部分，因为时间不多了。Affaan 刚才谈到的一切，都处在一个受监管、受政策影响的体系之中。一个例子是出口管制。今年 1 月，美国商务部将符合条件的 H200 类芯片对中国和澳门的许可审查改为有条件的个案审查。
此外，开放权重模型把政策议题和我们一开始谈到的美国经济联系起来。美国《AI 行动计划》明确鼓励开源和开放权重 AI，并建议改善计算资源金融市场，让初创公司和学术界能够获得大规模算力。
机会在哪里
我在这里做个总结：机会在哪里？中间市场正在成长。我们需要能衔接买方和供应商需求的资产负债表，也需要一定程度的标准化，包括标准容量合同、通用规格、条款和定义。
有需求、有承诺的成长型公司，签不了超大规模云服务商和前沿实验室能够签下的合同。这些公司有真实的工作负载，我们希望它们成长，但仍面临融资、时间和规格方面的问题。供应商可能希望客户为建设作出长期承诺，买方却希望随着需求逐渐明朗、尤其是在需求曲线前端波动很大的时候，分小批扩容。买方需要一种办法，避免为暂时用不上的容量付费。
因此，能够帮助弥合供需缺口的参与者，需要资产负债表稳健、与市场相关性低，并具备评估风险的能力和良好的信用状况。要做到这一点，不能只报出 GPU 小时价格，还要了解交付、工作负载等所有情况。这样的市场参与者为数不多。一个很适合的参与者，可能是一家与市场相关性低、资产负债表稳健、信用评级良好，并拥有大量高性能计算硬件人才的公司。
所以，我在这里发出邀请：让我们一起把它建起来。非常感谢大家来听我们的演讲。