搭建并融资全球算力网格
这里是硅谷与华尔街连线的 Palo Alto Studio,我是 John Furry,和我的搭档 Dave Volante 一起主持。欢迎来到 theCUBE,我们在纽约的 Wired 演播室,当然也通过 Palo Alto Studio 连起硅谷和华尔街。这是我们的 AI 工厂系列,我们会采访那些投资建设、运营下一代基础设施的领军者。建设这类设施,资金必须到位,还要有最好的产品、GPU、CPU、内存和存储,所有这些都缺一不可。这是一场系统战,真正的热闹就在这里。今天来到现场的是 Jasper Zhang,Hyperbolic 的创始人兼 CEO。他的公司正处在未来 24 个月最重要的一场讨论的中心:这些设施怎么融资?怎样拿到最好的产品,又怎样让它们在系统里真正运转起来?Jeff,感谢你来参加我们的 AI 工厂系列,很高兴请到你。
谢谢邀请。
先介绍一下 Hyperbolic 做什么吧。我们之前请过你们的财务负责人参加我起名叫“专家混战”的圆桌,算是个双关。当时我们聊到 AI 工厂建设和 AI 整体需求正在增长,融资也成了新问题。过去有一些融资办法,如今正被用在新的范式里。但这次规模大得多。说说你们现在在做什么,以及你们在其中扮演什么角色。
我们的目标是把异构、分散的算力聚合起来,变成统一的 AI 平台,让算力统一起来、提高利用效率,也能像商品一样流动。
这是什么意思?
我们做两层。底层是建设第一个全球算力网格。算力是推动 AI 时代发展的下一种能源,基本上可以类比电力。现在很多人在建新云(NeoCloud),相当于发电厂;他们有 GPU 集群,就像发电机。看看电力市场就知道,围绕电网已经形成了很多金融化机制。如果金融世界和物理世界无法连接,就会出现很多基差问题,交易量也上不去。所以我们认为,最重要的是先为 AI 算力搭建第一张电网。这样,AI 公司和企业就能弹性调取算力;有闲置算力时,也能卖回市场。这会成为基础,让人们有真实数据来建立算力指数,进而开发期货、期权等衍生品。
你们做的事正好碰上我最关注的两个点,而且两者不同又相互关联:一个是让智能变得可以按需消费;另一个是电网。你刚才提到电力、设施。我上个月写过一篇文章,说 AI 工厂是一个生产智能的完整系统,就像石油或电力。我还说,“数据中心”这个词也许会消失,我们应该把它看成工业中心。
还有电网。
对,可以把它看成一种公用事业。很多年前“效用计算”是个流行词,现在又有点回到现实了。就像云计算让软件即服务变得弹性一样,把算力也做成弹性的,这很好,我很喜欢。另一个有意思的问题是:怎么给它融资、怎么管理现金流?价值会发生变化。算力可以按需调高调低、用多少付多少,但资金问题还在。两件事怎么连起来?统一算力这部分我已经被说服了,不过融资同样关键。
搭建并融资全球算力网格(续)
融资同样关键。和任何大宗商品市场刚起步时一样,流动性肯定不足。很多人只愿意给合同做承销,不想承担风险。客户这边却会说:“我只需要这批算力三周”,或者“我只想按需使用,不想签三年合同,因为我不知道一年后会用多少算力。”供需两边自然就错配了。回顾石油或土地等市场的历史,理解高风险、高回报,也看重流动性的人会进场提供流动性。他们愿意承担风险,开始提供按需服务和短期租赁。我们在搭建基础设施,让这些人能进来,为整个市场提供流动性。除此之外,我们自己也开始做这件事,我们把它叫作“算力做市”。我以前做证券销售和做市,所以能看到这里的需求。
所以你们在做市,而且先把产品做出来;这正是市场想要的。
Forge 控制平面与 GPU 虚拟化
对,这就是市场想要的。
这更像是试验场、测试厨房,还是已经是实际产品?你们看到这两件事一起运作了吗?我喜欢你们聚焦市场这一点,它能带来稳定性和可扩展性。你们的优先事项是什么,优化重点又在哪里?
我们把自己看作基础设施公司和金融科技公司的结合体。我们做的产品会成为 AI 时代的基础。我展开说说:首先,我们有一个统一控制平面,叫 Forge。它能把任何裸金属 GPU 集群接入我们的控制平面;我们也有虚拟化方案,可以把 GPU 集群虚拟化,让它在全球范围内以多租户方式共享。我们还在做研发,缩短资源配置时间。想象一下,你把台灯插进插座,却要等 25 分钟它才亮起来,这就是现在算力领域的情况。
就像按下开关,吹风机却没反应一样。
没错。现在裸金属算力启动需要 25 分钟。更不用说前期准备周期很长:要花几个月取得土地、电力和建筑,再采购 GPU 集群并完成安装。建设并运营这类设施,意味着要把场地变成一台计算机,它已经不是传统的数据中心,而是一种新模式。
然后你们通过虚拟化把这些资源聚合起来。虚拟化是理解这套系统的关键词,Kubernetes、云原生、混合云、分布式计算,都是标准做法。听起来你们是在把这些设施、算力节点或 AI 工厂节点接进一个统一层。它是抽象层,还是实际的控制平面?怎么解释虚拟化这一块?
我们的控制平面基于 Kubernetes,可以把指定资源分配给客户。虚拟化就是把大型 GPU 集群拆分开,为不同用户提供隔离环境,让他们使用不同节点。比如有一个 128 节点的集群,客户可能只要两个节点,也可能只要 16 张 GPU,用两周。系统需要把它切分出来,这由一种叫 hypervisor(虚拟机监控程序)的技术处理。我们也在这方面创新:很多 hypervisor 需要几分钟才能调度出节点,我们内部研发已经实现了 10 秒,最终目标是把配置时间缩短到亚秒级,让它真的像台灯一样,按下开关就能用。
Hyperbolic 的起源与算力动态定价
你提到的这部分很有意思,企业和 AI 原生初创公司应该都会喜欢。AI 工厂建设的合同期限和客户需求存在错配,这其实就是公用事业式计算。九十年代就有“网格计算”这个说法,不过当时指的是另一种概念。我们不妨在今天重新定义它:假设我是一家公司,有一个工作负载,懂 Kubernetes、hypervisor 和虚拟化,本地也有这些工具。我来找你,说:“给我这项工作负载所需的算力,我可以先测试,也可以直接上线。”这就是使用场景,对吧?你们提供服务,我付钱。价格是多少?
这就是我们的目标。价格取决于供需和流动性。
也取决于能源价格、智能的价格。
没错。我以前做量化交易,也管理过金融对冲基金。我们还在招聘量化研究员来建立动态定价模型,了解网格系统里的供需情况,合理定价,就像电力系统一样。
你们做这件事多久了?我觉得方向很对,也很喜欢你们在做的事。你怎么走到这一步的?你的背景显然让你理解对冲和金融,这部分对金融科技很关键。它基本上是一套技术和金融的全栈。最初是什么时候开始的?发生了什么?
我先说说自己的背景。我学数学,也做过量化研究,从小参加数学竞赛,在中国和俄罗斯的数学奥林匹克竞赛中拿过几枚奖牌。之后我去了中国最好的大学之一——北京大学学数学,是年级第一,以最高荣誉毕业。后来我到加州大学伯克利分校读数学博士,研究拓扑学和双曲几何,所以公司叫 Hyperbolic。我两年就读完了博士,据说是伯克利历史上最快完成博士学位的人。
除此之外,我也一直在接触 AI,曾在 AI 研究实验室工作,第一次体会到 GPU 短缺是在 2019 年。当时我们实验室在导师手下只有大约 30 到 40 张 GPU。这让我意识到,大多数 AI 创新都会被算力卡住,这个想法也在我心里扎了根。毕业后,我去了 CO Securities 做量化研究,负责做市。
这下就串起来了。
是的,我了解市场如何运作,什么是流动性,以及怎样提供流动性。后来 THRP 出现,大家开始关注算力,它成了 AI 人才面临的最大问题。他们开始思考怎么获取算力,也要处理采购、风险管理、资本和现金流管理等问题。我意识到自己同时懂 AI 算力和金融,正好能把两个领域的技能结合起来解决这个问题,于是有了这个想法。我们四年前创立 Hyperbolic,一直在迭代技术。早期我们很关注推理,后来发现资源利用率才是更大的瓶颈,所以开始做编排层。
你在伯克利读书也很重要。加州大学伯克利分校有很多优秀的人在做很酷的事,声名远扬。我女儿也从那里毕业,是一名“金熊”,Go Bears!你的经历让我想起 Steve Jobs 那段著名的故事:他从大学辍学后偶然选了书法课,虽然当时觉得那门课很奇怪、只是自己喜欢,却对后来字体设计产生了巨大影响。
很好。
优化算力获取、成本与风险
这也让我想到数学背景的重要性:Citadel 做市、GPU、数据都需要转化成数学来处理。机器学习离不开数学,到了 GPU 时代,数学更是整个新系统的主角。这家公司把你的经历串了起来。接下来发生了什么?从四年前到今天,最大的突破是什么?
我们一直在摸索大家面对的核心问题,后来意识到资源利用率会成为瓶颈,就像电力一样。一个家庭不会签三年期购电协议(PPA),也不会在自家旁边建变电站;需要电的时候,接上电网就行。
是啊,直接接电网。
大型工厂可能会有一些表后供电安排,但还是要接入电网,需要电时用电,不需要时还能卖回去。现在很多初创公司依赖长期 PPA 合同来锁定算力,肯定会造成大量浪费。如果我们认为算力会成为一种公用事业,就应该尽可能让它流动起来。
现在做 AI 原生创业的人已经会对购买合同做看涨期权来对冲,而且确实有人做成功了。我昨天和洲际交易所的人聊过;能源期货市场也是个范本。类似做法以前就有:建风电场时,可以对冲前四年的收入,签五年合同,之后 50 年就都是净收益了。这是整个系统生产策略的一部分,智能就是 AI。你们也这么看吗?
我们在内部也这么做。所谓做市,就是先锁定长期合同,再转为短期销售,这自然会形成多头头寸。我们正和不同的做市商合作,研究如何对冲。对冲既是风险管理,也是融资工具。
所以你们能从中获利?
我会说,我们是在为市场提供流动性。
你们没有亏损?
会有一定风险敞口。
但你们会管理风险,也知道怎么做。
对,关键就在风险管理,以及如何提供流动性。
有人也这么做。我采访过做药物研发的人,他们面临的一个大约束是专利期限从研发开始就开始倒计时。他们会用对冲来维持研发资金,把它当成利润中心,为开发提供资金。等药物准备好上市时,就不用担心专利时间已经耗尽。GPU 也类似:要对冲能否拿到现金、能否顺利销售服务的风险。
这和航空公司一样,他们会对冲原油。只要你的业务暴露在大宗商品价格里,就得想办法对冲。大家都希望靠自己提供的价值赚钱,而不是靠商品价格波动赚钱。
我们昨晚也聊过这个。没有人对冲飞机本身,对冲的是燃油价格。
把算力变成公用事业来变现
对,汽油。现在能源非常关键。如果把数据或算力看成一种公用事业,它更像石油还是电力?先拿石油来说:你对冲的是钻井平台、地下的石油,还是开采石油的能力?如果 GPU 是钻井平台,那 GPU 应该对应什么?用石油和 GPU 打个比方。
从根本上说,我认为 GPU 更像电力,因为它不像石油那样可以一直储存。电力一旦到了使用时点,就不能留到以后;GPU 算力也是如此。
所以电力是更好的比喻,因为资产本身的性质相似。那人们现在怎么对冲电力?
有交易所市场,基本上就是用期货对冲。
这就成了稳定、可管理的工具。再说说另一件事:很多创业者会想在非主流城市或缺少知名品牌的地方建数据中心。像 CoreWeave 会和大型前沿模型公司签合同,其他新云可能拿到微软、OpenAI 的合同,这些都很有信用。但除此之外,还有很多创业者会有想法、有干劲,想拿着“我在爱荷华州有五个数据中心”这样的情况去融资,可能还是个没名气的创业者。我们认为这轮建设会发生,你怎么看它会如何发展?我预计会有很多人创业去争取更多算力节点,再由你们的统一层把复杂性抽象掉。这正是大家需要的,得有更多人把资源接进来。那些想亲自铺设 AI 铁路的人,该怎么做?
首先得有数据,知道收益大概会是什么样。最基本的做法是接入我们搭建的电网,看到“我能创造这么多收入”,然后用这些数据向融资方展示。
所以你们会提供一个仪表盘,让他们看懂这门生意的经济账。
扩大 AI 基础设施、融资与分发
这不只是一个仪表盘,也是他们真正变现、销售算力的渠道。
而且你们会把这套东西交付出来。假设我是 theCUBE 的一家公司,想启动 API 和 AI 引擎,从你们这里购买一些智能服务,该怎么做?
你只要进入平台,就能使用需要的服务。这是我们正在建设的第二层:多云编排平台。我们知道,AI 公司要的不只是裸 GPU,还要完整的云服务,包括推理、训练、沙箱等。现在已经有很多开源框架和开源模型,智能体也很有能力。
他们基本上要的是一整套软件栈。
对,我们会提供这一整套。最终,客户只需说:“我要完成这项工作,不管是什么工作,我希望在这段时间内完成,预算是这么多。”然后系统会跑一个巨大的优化问题,找出合适的算力分配方式。
聊聊公司的进展吧。全世界都需要解决 AI 基础设施建设和融资问题。有哪些进展可以分享?给不熟悉你们的人讲讲近期的成功和例子,也给公司做个介绍。
我们的平台已经吸引了 25 万名开发者,还会继续服务更多 AI 公司。很多 AI 原生公司都在用我们的平台。我们的目标是到今年年底实现超过 1 亿美元的年经常性收入,明年继续扩大规模。
恭喜你,Jasper。感谢你来做客,你们处在很好的位置。你们一共融资多少?
总共融了 5000 万美元,最近刚完成一轮 3000 万美元融资。
资本状况不错,没有过度融资,而且团队很精干。
我们是一家轻资产公司。
确实轻资产,几乎没有资本开支。这是很好的生意。感谢你来到 theCUBE,下一轮融资有消息或需要再融资时告诉我们。
希望大家都把股权留给员工。
好主意。恭喜你。我是 John Furry,theCUBE 的主持人。AI 工厂是我们这一代最关键的领域之一,因为 AI 工厂生产智能。它是一整套系统,还要把产出的智能分发出去,就像电力需要输送一样。如何创造和分发智能、如何融资、谁能获得报酬、价值归谁,这些讨论都会推动未来五年向前发展。theCUBE 也在尽自己的一份力,感谢收看。