开场
我觉得,靠大量专用推理模型,有机会做出一家千亿美元公司。市场会有回调,我能接受,因为长期机会实在太大了。
今天非常高兴请到 Modal 联合创始人兼 CEO Erik。他们刚刚实现了 10 亿美元的年经常性收入,完成了由 Accel 领投的 7.5 亿美元融资,估值达到 157.5 亿美元。今天我们会聊推理市场、接下来会发生什么,以及有哪些大家应该看到却还没看到的趋势。
顶尖实验室挖走了我们的一些应届毕业生,开价两千多万美元。这些人确实非常出色。
我不想卖掉这家公司,因为我大概会转头再创办一个 Modal 2。
我准备好了。
Erik,欢迎来节目。刚才我们在楼下聊天时,我就觉得这期肯定会很精彩,因为大家都很自然。刚才那段聊天特别好,我想我们会聊得很开心。谢谢你来。
能来这里我也特别兴奋。我听过好多期节目,现在真的坐在这里,感觉有点不真实。
太棒了。就像我刚才跟你说的,你创业时本来可以给我发条消息,说不定我现在就更有钱了。
可你那时大概还不认识我。
确实。不过我肯定愿意投另一家 Suite。先从童年聊起吧。我昨晚和 Zach Frankle 聊到你小时候的事,也聊到一个人早年有哪些成功和天赋的信号。你是怎么爱上科技的?作为投资人,看到你童年的哪些经历会让我觉得你很特别?
Erik 八岁时爱上编程
我大概是 1992 年开始写代码的,那时八岁。我一下就迷上了,因为我发现自己可以控制电脑。我有一台 Mac Plus,内存大概 1 MB 吧。我开始做游戏,做得很糟,但回头想想,我真的很感激那段经历。小时候朋友收集冰球卡,那是他们的爱好;我的爱好是编程。现在我靠它赚了不少钱,想想挺不可思议的:从八岁起的兴趣,后来竟成了谋生之道。我很庆幸自己爱上了科技和编程。十六七岁时我还参加编程竞赛,特别有意思。
Modal 是你的第一家公司吗?为什么隔了这么久才创业?
我人生里一直有个模式:对自己不够有信心。我欠缺的主要是信心,也有一点钱。直到三十六七岁,我才创办 Modal。我以前也没特别想过一定要创业,只是看到市场里有个很大的机会,心想:这么明显的点子,怎么没人做?后来这个念头就促使我开始了。
Erik 不认同“创业就像吞玻璃”的说法
进入市场话题之前,先聊聊我们刚才在楼下说的。大家常说创业就像吞玻璃,既艰难又痛苦。你怎么看?
我特别讨厌这种说法。既然每天都像在吞玻璃,为什么还要创业?难道是觉得忍到最后会有某种神奇奖励、一个大饼吗?我从来不这么想。我每天去上班都很享受。当然会遇到困难,也得进行艰难的谈话、甚至裁员,但放在人生里看,这就是生活的一部分,而我喜欢生活,也喜欢建设一家公司。我不是想着哪天把公司卖掉。我希望能在这里做二三十年,甚至四五十年,我现在就乐在其中。我不想卖掉公司,因为卖了我大概又会去创办 Modal 2。
你真的不想卖?
不想。
有意思。我也有机会把 20VC 卖掉。节目一直很成功,有人出价 8000 万美元买下全部股份,而我持有 100%。对我来说这是一大笔钱。我妈妈曾和我散步时问:“你明天会做什么?”我说:“我会再创办一个 19 分钟 VC。”她就说:“那就别卖。”你会怎么做?
钱不一定能让人快乐。当然有钱挺好,但过了某个程度,快乐还是来自做东西。我喜欢打造产品,喜欢科技,也喜欢写代码,太有意思了。
你真是个可爱的人(笑)。这算瑞典式的心态吗?
可能吧。你说得有道理,我确实没那么看重钱。我觉得瑞典人的心态可能更重视自我实现:做自己喜欢的事,在某种意义上就是最高级的成就感。可以是音乐、诗歌,做什么其实都行。
那你做什么事情是不喜欢的?
Erik 不喜欢融资
那你有什么不喜欢做的?
我其实挺讨厌融资的。遇到合适的人时当然也不错,但过程很难,你得拒绝很多人。虽说这算是个幸福的烦恼,但总的来说……
你得拒绝很多人啊,Erik。
我知道,这真是件糟糕的事。
Larry,你只能投 1000 万或 5000 万美元。你从来没做过融资路演材料,对吧?
Erik 从来没做过融资路演材料
我从来没做过融资路演 deck。每一轮融资之前,我都会提前和投资人建立关系。最近我们宣布了 Accel 的一轮融资;我和 Rich、Gonzalo 已经聊了一年多。后来某个时候我们觉得,或许可以融点钱,就开始讨论条款。因为关系早就建立好了,整个过程推进得很快。
创始人不该总把估值推到最高
有了这层关系,你怎么看融资定价?目标就是拿到最高估值吗?
我不这么看。到了后期,钱本身可能更像一种商品;但早期有几个原因,不该一味追最高价。首先,激励并不一致:风投总想投远超公司所需的钱,你就得承担更多稀释,对股东并不好。其次,我认为最好留有余地:少融一些、估值低一些,让投资人对下一轮仍然有兴趣。
可这一代公司不是资本密集型吗?你需要的钱可能远超预期。你说 VC 想投的钱比公司需要的多,但我以为 AI 终于成了风投资金的消纳口,确实需要那么多资本。
市场上有些时候公司会受资本约束,但 Modal 大部分时间并没有。我们一直非常节省资本,每月只烧几百万美元——虽然这当然也很多,我很珍惜这笔钱。
你们每月烧几百万?
我是说到去年为止。现在我们得在算力容量上花很多钱。
现在每月烧多少?
很多。按损益表算我们其实是盈利的,但现金流相当负,因为要花大笔钱买 GPU、扩充容量。这代表公司进入了一个不同阶段,我们对资本的看法也变了。我不想把资本称作护城河,因为大家滥用这个词,而我对护城河有很严格的定义。不过现阶段,资本确实有帮助。
早期创业公司其实谈不上护城河
你说的护城河,定义是什么?
我说的护城河,是《七种力量》这类书里讲的东西。书不错,但很多人读完就开始自我膨胀,觉得自己的新公司已经有一堆护城河。创业早期根本没有护城河。
Google 当年想做什么都行。
是啊。但《七种力量》具体讲哪些我都记不清了,大概有掌控稀缺资源、市场力量之类。这些东西往往要公司做十年后才会出现。我总会想起 Ben Thompson 写 Snap 和“姜饼人策略”的那篇老博客。你知道那篇吗?大意是 Snap 没有护城河,只是跑得更快,像姜饼人一样。我觉得这对如今几乎所有初创公司都很贴切:你就是得比别人跑得快。
AI 基础设施领域,品牌越来越重要
我觉得现在投资时看三件事:第一,团队是不是顶尖的百分之一;第二,产品决策速度,具体说就是像 Instinct 这样的产品,功能推出得特别快;第三是品牌。这三样合起来,才是我眼里的防御力和护城河。
我不确定会不会把它叫护城河,但品牌价值确实大幅上升。Modal 的品牌做得怎么样?我觉得还不错,它和开发者体验、产品、网站、视觉识别都连在一起。我们在包装方式、活动和整体视觉上花了不少心思。
你觉得 Modal 的品牌比 Baseten 和 Fireworks 更强吗?
我觉得我们口碑很好。我几乎一直在线,网上聊 Modal 的人更多,社区感也更强,大家对我们的氛围评价不错。不过我对竞争对手很警惕,会盯着他们的动向。当然,品牌很重要,因为大家都想加入一个社区。大家都想复制 Jeff,但没人愿意穿着一件粉色毛皮大衣上台,疯疯癫癫地讲“Jevolution”。对我来说,那才是品牌:这个人完全在另一个层次上玩这场游戏。今天的公司必须认真想这个问题。
你觉得他为什么能脱颖而出?因为他真实、与众不同吗?
我觉得你得为公司塑造一种个性,找到公司的性格,并且始终如一地表达出来,形成一种运动感和社区感。让人觉得这是件很酷的事,大家会因为你是很酷的产品之一而想用你——“你试过 Modal 吗?挺酷的。”
那 Modal 做了什么,才建立起这种品牌?
我们从开发者体验起步,产品本身有很明确的自下而上的产品增长路径,用户直接注册就能用。我来自 Spotify 的消费产品背景,这对我打造一家现在卖技术的 B2B 公司很重要。这个行业本来挺枯燥,但有个性、有点锋芒,是营造运动感、兴奋感和与众不同感的重要部分。我希望用户打开网站、试用产品的那一刻,就能感受到它不一样,感受到那个“魔法时刻”。
推理会成为新的云计算
推理市场上有很多人发表看法。展望未来五年,你觉得它会怎么发展?
首先,我认为推理会成为一个极其庞大的市场,基本上就是新的云计算。但我不觉得只做推理就够了。我很确信,它必须搭配一整套其他产品:后训练、沙盒、智能体相关工具,以及各种推理服务,比如低延迟推理和批量推理。要把平台搭起来——顺便说,我们已经做这件事五年了——这是一项很难打造的产品和技术基础设施。
只卖推理会沦为商品生意
为什么产品线必须这么广?否则你们不就只是一个压缩层吗?
是啊,否则你卖的就是同质化商品。要是只卖“花钱买 token”,用户没有任何切换成本,随时能换供应商,最后只会陷入价格战。但如果你把沙盒、后训练、强化学习等产品都整合进来,就能提供一整套工具。没人想买一个只会单一功能的产品,用户想要的是一套工具,能让他们在上面构建出很棒的 AI 应用。再加上底层基础设施,就能形成差异化和长期竞争力。这些产品所需的基础设施很难复制。
推理业务的毛利将来自哪里
推理市场里有什么显而易见的事,是大家没看到或很少谈到的?
长期来看,这个领域有很大的毛利空间,因为可以围绕推理打造很多东西:沙盒、智能体工具、工作流、后训练和强化学习。如果这些都做起来,赚钱的机会非常大。
这会成为软件毛利生意吗?传统玩家目前的毛利大概在 25% 到 40%。随着你们掌握的环节越来越多,会不会升到 70%?
我觉得现在几乎没有公司还能像十年前硅谷的软件公司那样做到 90% 以上毛利,这种时代基本结束了。原因几乎是架构性的:今天的供应链有应用、模型、基础设施、云、Nvidia 等许多层。客户在顶层花一美元,要流经多层,每一层可能都拿走 20% 到 30% 的毛利。所以这里有很大的毛利和赚钱机会,市场也足够大,但收入得分摊给整条供应链。我认为 Modal 长期有机会做到 40%、50% 甚至 60% 毛利,但不会达到过去那种软件毛利。
推理市场会分化出各种专门产品
对推理市场,你有什么很多人可能不同意的大胆预测?
市场会分化成很多不同领域。过去一段时间推理市场变得太大了,连我在内,恐怕谁都没料到它会大到这个程度——比我原先想的高出十倍甚至一百倍。这就意味着会出现大量专业化需求:低延迟、高延迟、各种微调和后训练,也会有一些古怪的新技术,让人用少得多的资源完成推理,还会有新硬件,等等。
抱歉,这难道不和你刚才说的相矛盾吗?你说平台要掌握广泛产品,现在市场又大到需要真正专业化。
我说的是产品层面的专业化:市场会分化出很多产品,而我们可以把其中许多产品都做出来,放在 Modal 这个平台上。这让我很兴奋。不同公司会需要不同东西:一个产品需要低延迟推理,另一个需要批量推理,还有产品需要我们已经提供的沙盒;有些公司会预训练自己的模型,比如某类专用音频模型。我们做的远不止语言模型推理。这给了我们重新思考 AI 时代云计算形态的机会:把传统云拆开,再为软件新时代重新搭建。
你刚才提到要用 GPU 扩充容量。
对。
现在做这件事是什么情况?真像报道里说的那么疯狂吗?
GPU 市场像露天毒品交易场
这确实挺疯狂。三月我去圣何塞参加 Nvidia 的 GTC 大会,感觉就像一个露天毒品交易市场,只不过交易的不是毒品,而是 GPU。你在人群里跑来跑去,找五百家不同的云厂商谈:“你们有 GPU 吗?拜托给我弄一些。”最后谈成一堆交易。我们必须练出这种能力。Modal 的价值之一,就是客户不用操心这些;我们在幕后干这些脏活,和 25 家新云厂商合作。现在我们掌握的算力可能只占全球的 0.1% 左右,具体数字我也不确定。我的长期设想是,随着我们掌握越来越多全球算力,就把供给和需求聚合起来,高效调度。这是我们认为自己能填补的一大空白。
Modal 想聚合全球算力
成为聚合层能让你们做什么?
我们很多基础设施都是自己搭建的,没有用 Kubernetes、Docker 这类工具。我们自己做了容器文件、文件系统、容器运行时、调度器,以及管理算力的系统。这让我们能把全球算力当成一个大资源池。
我们已经有数千名付费客户,而且还在增长。每个客户的工作负载都很不一样,可能一天里忽高忽低、突然爆发,单看每家都很难预测;但把所有客户放在一起,总需求就平滑得多,我们能更高效地管理。Modal 的价值不仅是能随客户扩容。客户不用做容量规划,只要来找我们,我们就能给他们 100 张 GPU。
比如 TypeSafe,我记得他们正式发布前很久我们就聊过。后来他们某天在 Modal 上线,我们甚至没注意到,却自动为他们扩上了大量 GPU。这种体验很有价值:我们能在很短时间给客户很多 GPU,也能处理需求波动。客户不用提前锁定三年固定数量的 GPU,也不用准确预测需求;他们按用量付费,随时扩缩容,按 GPU 秒计费。
Modal 如何预测 GPU 需求每月增长 34%
你们怎么买 GPU、怎么预测需求?毕竟不能囤一堆过剩的设备压在账上。
现在 GPU 交货周期是三到四个月。我们会把所有客户的总体需求汇总起来做线性或指数外推。客户群相当多元,所以总需求其实很好预测。过去十二个月,月环比增长大约是 30% 到 40%;把这个增速外推三四个月,需求就会变成现在的两三倍。于是我们去买相应的算力,并确保容量能及时上线。
你们真的买得到这些算力吗?
买得到。我觉得有种误解,认为算力已经彻底没了。Nvidia 每个月都在出货大量 GPU,我也不知道有多少 Blackwell 机架正在安装。价格肯定涨了,同样数量的 GPU 现在更贵。但我不想说这是有效市场;只要你愿意比别人多付钱,还是能拿到很多 GPU。
有没有贵到不划算的价位?
我觉得目前还没有。实际上我们的 GPU 供给比需求更充足,因为可以提高客户价格。市场价格会变,而且我们的模式是签较长期的算力预订,再以稍短的周期租出去。如果底层价格上涨,客户也愿意付更多。
GPU 价格未来会怎样变化?
明白。GPU 价格长期会怎么走?H100 原本应该会折旧、降价。
我也不知道。
你都不知道,那我还能指望知道什么(笑)?我昨天看到 Jensen 在伦敦,有人问他这个问题。他说,供给迟早会追上需求,之后再看价格会怎样;可能一年,也可能五年。他说得跟我平常讲的一样:硬件价格长期看就像重力一样,总会往下走。眼下供给短缺,所以价格涨了,可能还会再涨一两年,甚至五年,我不知道,但最终一定会降下来。
AI 算力需求仍处在非常早期
我在 Instinct 上跑着 100 多个自动化,做的事非常夸张:买演唱会门票、规划节目,还帮我处理母亲的用药。我的算力使用量简直是杰文斯悖论的 100 倍。若社会上很多人都这样,那我们到底还处在多早期?
确实很早。你说的也是同一件事:这些工具通过 WhatsApp 就能用,需求一直潜伏着,等变得容易获取后就释放出来了。最终我们会碰到新的资本约束:利率可能上升,数据中心也没法建得足够快。也许这反而能避免过度建设。但我也不知道需求这么大,我们到底能不能建过头。
我觉得未来五年不可能建过头。
可能确实不会。但市场里也有很多公司现在还没收入,却已经消耗大量 GPU。它们最终得开始赚钱,只是这个收入兑现的滞后期可能很长。比如 Instinct,据说现在还没收费或产生收入,但显然未来能赚很多钱。这种滞后会是市场的一种动态,而且我们也可能因此遇到约束。
专用 AI 芯片会威胁 Nvidia 吗?
你提到推理市场会专业化,芯片市场也出现了越来越多专用芯片。Nvidia 现在的业务比以往更强,还是随着市场被 Cerebras、Etched、Olix、Fractile 这类新玩家分化,反而变弱了?
我觉得这不是非此即彼。Nvidia 会继续增长,继续推出很棒的芯片;Cerebras、Etched 等公司也会推出专用芯片,也会增长。不同市场都能存在。
那 Cerebras 为什么跌了 30%?
我不知道,我不太关注股市。
你不看股市?
我基本上是被动投资,主要买指数基金;我没精力盯股市。
CUDA 并不是 Nvidia 真正的护城河
CUDA 到底是不是大家说的那种护城河?
我觉得大家有点夸大了。CUDA 本身不是护城河,它的编程模型其实挺难用的。但 Nvidia 的整个生态确实有优势:各种内核优化,以及 PyTorch 等框架对 Nvidia 的支持,都比其他平台好得多。开源推理引擎也优先支持 Nvidia,所以如今一切都是 Nvidia 优先,这种情况大概还会持续。
过去十五年我一直说,明年就会是非 Nvidia 加速器的天下,但一直没发生,我总是判断错。Nvidia 在维持领先、主导市场方面确实做得非常出色。话虽如此,Trainium、TPU、AMD 等产品看起来都不错,也在追赶,但我仍觉得它们差得挺远。
新云厂商能成功向上进入推理层吗?
新云厂商既是朋友,也是竞争者吧?你们和其中很多家合作,我记得你说过有 25 家。但 Nebius 的创始人来节目时说,他们要进入推理市场、做全栈。我完全理解。它们到底是朋友还是对手?
创业圈里大家好像都是亦敌亦友。我觉得一些领先的新云厂商,包括 Nebius,都想往技术栈上层走,我个人有些怀疑。要做好核心业务,同时进军另一个市场,很难。
为什么难?它们进入推理层的利好是什么?
我有偏见,但我们花了五年打造极其复杂的基础设施,复制起来非常困难。
最难的是什么?是代码,以及文件系统、容器运行时、调度器这些东西吗?比如每分钟调度数百万个沙盒、在数千张 GPU 上扩缩容,同时让数十万个任务并发运行?
对,这些都是非常难的工程问题。我是基础设施极客,很喜欢做这些,但确实很难。
Nebius 是比 CoreWeave 更好的生意吗?
我不知道。他们两家执行得都非常好,我很尊重他们。最让我佩服的其实是财务工程,他们很擅长这一套。
为什么这么说?
快速建设新云厂商,很多约束在财务端。你得先签长期客户合同,再以合同为基础融资、买芯片、交付设备,然后在几年里偿还债务。这种资金运作很有意思,CoreWeave 做得特别好。这是一场资本游戏,也是一场财务游戏。
前沿模型越来越便宜后,开源模型还有什么价值?
我们刚才说到 Jev 和 Modal 合作。开源社区发展很快,令人兴奋;但 Haiku 和 Anthropic 的新模型性能强、价格也很低。如果前沿模型已经这么便宜高效,开源模型还有什么优势?
开源领域仍然会不断出现优秀模型。也要记住,很多所谓开源模型正在转向许可授权模式,更善于把模型价值变现,这也能为训练更好的模型带来更多资金。我很希望美国和欧洲也能有自己的模型。我不认为现在有这么多中国模型是理想局面。我非常尊重中国实验室,它们做得极好;但世界权力分散一些会更好。
回到问题本身,总会有人想微调模型、更好地控制模型、调整参数,让它适应低延迟、高吞吐量等需求。开源在这方面会发挥重要作用。
就像 Windows 和 Linux?
欧洲能做出有竞争力的开源模型吗?
恕我直言,你觉得欧洲能做出有竞争力的开源模型吗?
我很喜欢欧洲,也在瑞典长大。但欧洲确实不擅长汇聚大量资本,这方面做得不如中国和美国。中国很善于积累大量人才;美国则很善于筹集巨额资金、训练超大模型。我不知道欧洲有没有办法做到这两点。
Nvidia 为什么支持美国开源模型生态
如果 Nvidia 在美国拥有开源模型这一层,比如 First Pool,然后又有 Reflection,这重要吗?
Nvidia 把重点放在构建生态上,非常聪明,其中就包括支持许多开源模型。这些公司极度消耗资源和资本,我觉得 Nvidia 看到了机会,收购其中一些并实际资助它们,从而打造美国本土模型。
顺便我想收回刚才说的一点:欧洲其实有海量人才。我认为欧洲真正不擅长的是把这些人才聚在一起,让他们进入同一家公司。美国在这方面做得很好。
还有营造雄心勃勃、追求巨大规模的心态。我想到你之前说自己缺乏自信。如果你在美国,周围的人可能会鼓励你更早创业。
是啊,不过也可能走向另一个极端。
对,四岁时就有人鼓励你创业、退学,觉得上幼儿园都没意义(笑)。
专用模型也能成长为巨型生意
我完全同意。说到模型和 Jev,我们是不是正在按功能拆分模型?Jev 显然特别擅长某些任务。
我觉得是,这和我前面说的一样:推理市场足够大。市场只有十亿美元时,不会有太多细分;但当它达到百亿、千亿美元,就会出现许多子市场。Jev 的分类、回归等任务做得非常好,而对应的市场也足够大。
Jev 达到千亿美元估值的看涨逻辑
好,欢迎你加入 20VC 基金,今天是你成为合伙人的第一天。我们正在投委会,大家都准备投 Jev 的新一轮。你认为 Jev 值 1000 亿美元的看涨逻辑是什么?
我之前说过,我觉得它周围的品牌、社区和整个运动都非常了不起,在这个新时代是巨大的资产。再说推理领域有这么多专用模型,我认为确实有机会造出一家千亿美元公司。
你会在 85 亿美元估值时投吗?
会。我觉得它的上限很高,可能被收购,也可能成为上市公司,谁知道呢?但上行空间很大。
我很想看到他在纽约证券交易所敲钟。
他真是个了不起的人。
你觉得他很棒吗?
他的个人魅力很强。品牌需要有个性和视觉识别。当然这套视觉风格不是我会选的。
但我觉得你也应该更高调一点,Erik。
Modal。
不是,我是说……我觉得 Modal 还没有那种围绕创始人的个人魅力。
这是合理的批评。我确实可以更常露面。我会发推,也试着写博客,不过最近做得不太好。
现在没人关心博客了。
也许我该在 Twitter 上更放飞一点。其实早期 Modal 的增长,很大一部分来自有趣的营销。我经常发我们在做什么,也会在 Twitter 上联系别人,让他们试产品;其中一半后来成了 Modal 的天使投资人或支持者。创业早期要发挥自己的长处,我当时很擅长发一些搞笑、荒诞的帖子。
我在粉丝还不到五万时,会给每个新关注者发一条亲自写的感谢消息。
太厉害了,你自己打字?
每晚凌晨一点到两点半,我亲自写。我会说“看到你来自瑞典,我很喜欢 Grand Hotel,来伦敦时告诉我”,每晚发五十到一百条。
这太投入了。
这就是获客飞轮。他们第二天到办公室会说:“这人亲自给我发消息了,你也听听他的节目吧,挺不错的。”我很欣赏你打造媒体品牌的方式。
Modal 如何从单一产品扩展成平台
Neil Ma 有个很棒的想法:怎么把客户体验提升十倍?那我们也来玩个游戏,怎么把 Modal 客户体验提升十倍?
最大的关键是给 Modal 增加更多产品。任何构建 AI 应用所需的东西,都应该能在 Modal 里找到。另一个方向是多招客户经理和销售人员。我承认这方面我们落后了,应该多安排人主动联系客户,比如看到有人开始用 Modal、在做生物科技,就直接问怎么帮忙、提供蛋白质折叠等生物领域示例。我们已经服务了不少类似公司。
我不是怀疑,只是觉得产品野心很大。你们是 B2B 公司,会不会担心摊子铺得太宽?像 Nebius 为什么不能做你们做的事?你们深耕多年,但每个细分领域都有做了多年的老玩家。
我觉得你说得对。不过我认为很多竞争者做得也没那么好。更高层次上,资源分配和确定优先级始终至关重要,不能什么都同时做。多产品策略很难掌握,什么时候进入第二、第三个产品?我们花了四年,第二个产品才成功。
那就是沙盒?
对。
四年才做成第二个产品。
我们五年前创业,到现在年收入达到十亿美元。是的,沙盒是第二个产品。
Modal 的沙盒业务达到 3 亿美元年化收入
我们 2023 年推出沙盒,早期有一些成绩,但它在收入中占比很小。直到 2025 年夏天,模型像 4.5 这样的版本开始特别擅长写代码、构建完整应用,沙盒业务才突然爆发。现在这块业务年化收入达到 3 亿美元,约占我们收入的三分之一。这段历程很疯狂。
现在我们在考虑第三、第四个产品。我们刚推出训练产品,我特别兴奋;还在做批处理、强化学习等许多东西。成为平台的方向一直都在。回头看 Modal 最早的内部构想和市场图谱,想法都在,只是最后做出来的产品和当初想象的不一样。对我来说,重要的是聚焦一个品类和一组解决方案,而不是只做一个单一小工具。
基础设施产品可能多年后才找到杀手级场景
关于沙盒市场,有什么是你现在才知道、希望最初推出产品时就知道的?
基础设施的好处和坏处都在于,你得相信自己的判断,识别重要的基础能力,然后把积木搭好。我们提供的是基础积木。要理解工程师需要什么,但不能逐字照单全收,因为他们会提出各种零散要求;你得提炼出真正重要的基础模块。
我们 2021 年推出无服务器函数,2023 年生成式 AI 推理让它成功。2023 年我们看到很多人用 LLM 写代码,于是做了沙盒产品,直到 2025 年才迎来成功。后来真正带来爆发的场景包括强化学习、氛围编程、后台智能体,未来可能还有别的东西;这些都不是我们预先想到的。基础设施常常如此:做无服务器函数时,我们没预料到 Stable Diffusion 会成为杀手级应用,它只是后来碰巧出现了。
所以关键只是坚持足够久,等时机到来?
有时确实如此。我们很幸运,2021 年创业、推出产品,2022 年 Stable Diffusion 和 ChatGPT 就出现了,时机很好,需求一下子涌来,我们也恰好准备好了。但基础设施产品也需要你相信它们未来会有用,依据自己的经验判断哪些东西一直是你想要的,再相信自己的直觉。
Modal 曾低估开源模型推理
你刚才说到资源分配很重要。回头看,你们把资源投错在了哪里?
我们应该更早把更多资源放到语言模型推理上。之前有一段时间我们在场外观望,没有意识到开源模型推理会有这么大规模。我们以为那会变成价格战、沦为商品。后来 DeepSeek 出现,我们立刻意识到必须快速行动,于是马上扩团队:最初只有一两个人,十二个月后就有三十人。现在我们已经是前三大服务商之一。
开源模型推理的高峰已经过去了吗?
我朋友 Jason Lanin 每周四和我一起做节目,他总说开源大语言模型的推理使用量已经见顶了。前沿模型公司会提供极其便宜的产品;美国企业又不愿用中国模型,这两点会让前沿模型胜出,开源模型推理的使用量就会减少或停滞。
我觉得这是把市场当成固定大小的思维。我认为两边都会增长。未来十二个月,两个领域都可能增长五倍、十倍、二十倍;未来几年还会增长好几个数量级。很难说哪边会更大,但我觉得两者都会大幅扩张。
对,确实如此。
Modal 年化收入达到 10 亿美元
你们刚刚达到 10 亿美元收入,恭喜!
谢谢。
感觉怎么样?
感觉很棒。我就是个在瑞典长大的普通人,对我来说这些数字太夸张了,但确实很开心。
这可是一大笔钱(笑)。Erik,你比我预想的更讨人喜欢、更酷。
这些数字后面有好多零。我都不知道十亿有几个零(笑)。
Modal 未来十二个月能做到多大?
十二个月后你们会到什么规模?
我不知道。过去十二个月我们增长了 50 倍,你可以自己外推。市场终究会变得很大,增速也会放慢,但现在没有放缓,我们每个月增长 30% 到 40%。也许能到 40 亿美元。
我也希望远超这个数字。恕我直言,如果你们认为明年收入能到 40 亿美元,比如利润有 12 亿美元,那 157.5 亿美元估值似乎很便宜:按年末利润算大概 14 倍,按收入算三倍。
对,确实挺便宜。
感觉很便宜。
我也觉得便宜。如果我不相信公司能成长为世代级公司,就不会这么做。我认为上行空间非常大,这是史上最大的市场机会之一。算力和 AI 应用的需求会极其庞大,而它们都需要运行的地方。我希望很多应用会运行在 Modal 上。
Modal 下一批重要收入机会
你们现在还没有、或规模很小,但你觉得三五年后会变得很重要的收入线是什么?
训练是我们刚推出的产品,可能会很大;我希望未来六到十二个月年化收入能到 1 亿美元。后训练和批处理任务也有机会。我还很看好传统的数据仓库、数据库、工作流编排、特征库和向量数据库。做这个领域时会发现许多相邻机会彼此契合,这正是我兴奋的地方。
我的问题是想法太多,Modal 有很多想做的事,比如持续集成、智能体运行框架,甚至训练模型,大概有五千个方向。我这个多动症脑子什么都想做,但必须狠下心排优先级,一次只做一两件事。
你妻子还会找你做决定,真是厉害(笑)。
她一定会收到特别不连贯的答案。
她可能只是想挑窗帘。
窗帘就随便挑一款吧。我会想起《辛普森一家》里 Rainier Wolfcastle 当总统那段,人家问他选 1 到 7 哪个,他说:“我天生是来领导的,不是来读书的。”然后选了 4 号(笑)。
后训练的重要性会有多高?
我们看到业界的重心和资源配置,从预训练明显转向后训练。你怎么看?这会成为新常态吗?
我不确定。后训练有效,是因为很多现实任务有相对明确的反馈机制。编程就是个很好的例子:可以用强化学习训练模型,在沙盒里运行代码;很多实验室正是为此使用 Modal 的沙盒。网络安全也是一个领域,数学也很适合,比如 Lean。前几天 OpenAI 的一些证明成果很惊人。法律或许也能在一定程度上用评测来做。
现在大家特别关注后训练,因为许多过去只有人类能做的任务,智能体和大语言模型已经有能力完成。但我不知道它能不能扩展到反馈周期更长的任务。很多人问我,长期来看软件工程师会怎样。我认为智能体能在 24 小时或一周内完成的工作,大概都会被自动化;但工程师的工作周期更长,反馈回路也更长,所以强化学习可能会遇到一些局限。不过我错过很多次了,也许我这次仍然错,技术会继续发展,最终能对需要人类六个月才能完成的任务做强化学习训练。我也说不准。
AI 智能体不会让软件工程师消失
三年后,工程师的一天会是什么样?
我对软件工程非常看好。我写代码三十年,见过编程语言、云、各种框架不断变化。每次我们让程序员效率更高,软件需求反而都会增加。世界上很多领域都急需软件,所以我非常看好软件和软件工程师。
外界最大的误解之一,是觉得开发者的工作就是把英语翻译成代码。软件工程师真正要做的,一开始是弄清需求,成为人与技术之间的接口:最终软件是给人用的,工程师要理解人们到底需要什么,再把它转化成流程和工作方式。
抽象层级一直在上移:上世纪六十年代我们写汇编、打穿孔卡,后来有 COBOL、C++、Python,现在是智能体。这是我三十年来见过最大的变化,但软件和计算机历史上也有许多类似变化。正因如此,我觉得未来十到二十年软件工程师都会很好。
Modal 每月在编程智能体上花约 50 万美元
Modal 每个月在编程智能体上花多少钱?
大概 50 万美元左右。
你们有多少工程师?150 人?
对。
天哪,这样算下来还挺让人担心的。你们应该尽量多用 token,支出得是现在的十倍。
也许吧,我不知道。
Brandon 说过,McCor 在推理上的支出是工程师工资的三倍。
我们还没到那一步。不过 Modal 的软件工程师非常积极地用智能体,我自己也一直用智能体写代码。你刚才提到 Anthropic IPO——放心,我不会像 Bloomberg 那样突然把你拉来问 IPO 看法,我也讨厌那种采访(笑)。
模型越便宜,编程智能体支出会越高吗?
大家都在关注。我觉得最肥的一块是 Claude Code,年收入 600 亿美元,大体支撑着 2 万亿美元的估值。Mark Benioff 说他们在 Claude Code 上花的钱是工程师工资的 5%,现在是 3 亿美元。如果效率提升、成本大幅下降,这会成为挑战吗?还是说它会占据越来越多工程师的工作流,支出反而增长?
支出只会继续增加。历史上每当某种东西变得更高效、更强大,都会解锁五种新用途,最后需求反而上升。这就是过去五十年计算机和软件行业的发展规律。我本来就非常乐观,否则也不会创业。我热爱软件和计算机,觉得这个行业会继续增长。
AI 训练数据如今是利润丰厚的市场
数据市场很有意思,很多玩家规模增长得特别快。
是啊,太惊人了。
如果我二十岁,只想赚很多钱,我会创办一家数据环境公司,把数据卖给前沿实验室。这里的钱多得惊人。
要更具体地说,我觉得眼下需求最大的还是编程。如果能把代码运行环境卖给实验室,可以赚很多钱。
是啊,我经常见到这样的创业公司,也投过好几家,都是非常好的生意。
我的建议是:这些公司现在很赚钱,但你想不想踏上风投驱动的增长跑步机?我不确定它们长期还能不能赚那么多。不过这有什么关系?现在能赚大钱就是好生意。市场里有数据交易平台,也有数据和服务商。领先的供应商起初只是获取数据、把数据卖给你;现在则发展为全周期服务,包括部署、实施、评测、监控和企业级支持,像专业服务团队一样,陪客户把方案完整落地。
这样才能提高毛利,也才能长期维持生意。
没错。长远看这门生意可能不容易,但现在卖这些服务的现金流非常好。
每家公司都需要拥有自己的智能吗?
说到和伙伴紧密合作,Fireworks 的 Lynn 也谈过“拥有自己的智能”的重要性。你能解释一下这具体意味着什么吗?企业专用模型的成败还没有定论:Harvey 说效果很好,Lora 则觉得荒谬,因为底层模型更新太快,这不是正确策略。
有些场景适合自己拥有模型,有些不适合。我有很多客户在 Modal 上运行专有模型,他们的客户也直接用这些专有模型。我不觉得每家公司都需要拥有自己的智能。
那什么情况下适合?
某些场景可以拿开源模型微调,取得很好的效果。好处是你知道微调所基于的模型是什么,它不会突然被拿走;底层模型也不会变,你可以持续调整。前沿实验室有时会改变底层模型,这种稳定性很有价值。我支持这种做法,但对用户来说还有很多其他重要因素:延迟、成本、性能、可定制程度,以及周边平台服务。“拥有自己的智能”只是其中之一。
这不是和你的生意相矛盾吗?
我不这么认为。
我欣赏你的坦诚,但你完全可以说“每家公司都需要它,我们可以帮你”。
其实不然。比如 TypeSafe 用 Jev,这是一个专有模型;它运行在 Modal 上。我很支持这种模式。Modal 的优势一直是通用平台,支持很多不同的东西。客户想用开源模型,我们就帮他们;他们可以微调、做强化学习,也可以搭配沙盒和训练服务。还有很多公司——比如 Suno、Runway、TypeSafe——把自己的专有模型部署在 Modal 上,为自家客户提供服务,而这些客户并不关心底层跑在哪里。这让 Modal 处在很好的位置。
模型路由是一门有防御力的生意吗?
快问快答前我还想问两个问题。美国人说的 model routing——英国人会怎么说?
Rooting?
就是 rooting。我们英国人原本的语言被美国人拿去糟蹋了(笑)。认真问,这是价值链里一块有防御力的业务,还是大家都会自己做的同质化产品?
我觉得模型路由可以成为一门成功的生意,如今独立产品也能做。但长期看,它可能需要成为更完整平台的一部分。企业最终需要模型评测、微调、对延迟和吞吐量等性能的控制。这类业务现在做得很好,我个人也投了 OpenRouter,它取得了很好的结果。我甚至觉得它独立发展还能做得更好。不过长远来看,我认为 AI 里的许多品类都应该纳入更全面的工具平台。
Erik 为什么会劝 OpenRouter 不要卖掉
假设你是 OpenRouter 的董事会成员,有人提出收购,你会怎么劝他们?
OpenRouter 的增长、收入和品牌都很强。市场里有五百个竞争者,但整个领域发展很快、收入机会也很大。我会建议他们继续做下去。
最后一个问题:你相信什么事情会对自己的生意不利?比如我认为现在种子轮投资已经死了,“投 200 万拿 10%,然后慢慢做 18 个月”这种模式不行了。
如果你想赚钱,这种模式可能不太好;但如果你想和创始人建立关系,那就很不错。
可那和我的业务相冲突。
我不是说反对建立关系。我是说种子投资、“200 万换 10%”再慢慢做 18 个月这种模式已经死了。
明白。那对你来说,什么是不利因素?
Erik 预计 AI 市场会回调 20% 到 30%
我想到的一点是,AI 现在增长这么快,股市总有一天会从现在的高点回落 20% 到 30%,到时所有人都会惊慌,觉得世界末日来了。我几乎可以肯定这种情况会发生。但我依然非常看好,因为回调之后,行业还会继续发展。我能接受回调,因为长期机会实在太大了。
员工股权二级出售有助于争夺 AI 人才
说得完全对。你会做二级出售吗?
我个人做得很少。
为什么?
我自己不需要很多钱,生活挺满意,也够用了。但我支持员工做二级出售。作为创始人,让股权尽可能有价值很重要。让未来候选人相信这不只是账面上的钱,而是真金白银,一个方法就是建立员工二级出售的先例。你可以告诉候选人,上一轮允许员工出售多少股份,比如最高 10%。当然要有边界,不能让员工卖太多,必须保留足够股权,让他们仍然有强烈动力把公司做好。但二级出售能把股权变成流动性高、真正硬通的资产。
完全同意。人才市场的竞争越来越激烈……
顶尖 AI 实验室给优秀应届生开出两千万美元
人才竞争确实非常激烈,夸张吗?
非常夸张。我们有应届毕业生被一些实验室挖走,对方开价两千多万美元。这些人确实非常出色。
什么样的应届生算特别出色?
就是特别聪明的人,一眼就能看出来:他们充满干劲、非常勤奋,对技术了如指掌。
他们都去大实验室吗?
大实验室确实给得很多。还有少数几家,不过大家都知道它们愿意付特别高的薪酬。
Modal 不会给那么多?
我们也愿意很激进,目标是给到市场前 5% 的薪酬。有些公司可能还会多给一点,但我觉得我们股权的上行空间大得多。回到刚才说的员工二级出售,让股权变成真正有价值的资产,也会让我们的 offer 更有吸引力。再加上股价看起来很便宜、潜在空间大,我们不一定要完全匹配实验室的现金薪酬,但可以有力地说明我们的整体薪酬方案更好。为了吸引最优秀的人才,我们愿意投入很多。
好,我们来快速问答,不然我可以跟你聊一整天。你的天使投资组合不错,有 OpenRouter,也提过 Lovable。如果只能选一个投全部的钱……
Erik 会投资 TurboPuffer
我喜欢 TurboPuffer。我很了解 Simon,他是丹麦人,我们有北欧渊源。他是特别出色的创业者,我很喜欢这门生意。
这门生意能做多大?
这是个好问题。它现在比较专门,做向量数据库,但我觉得整个品类可以非常大。如果我经营这家公司,我会想到五百种向数据库、数据仓库及其他查询系统相邻领域扩张的办法。这个品类有机会做得很大。
Erik 对沙盒市场的判断发生了什么变化
过去十二个月,你最改变看法的是什么?
大概是沙盒市场的规模。我觉得它大得离谱。我看着收入一直往上走,心想“现在总该停了吧”,好像我在对收入施展反向心理,它却不停增长。我反复判断错了,而且是往好的方向错。这个市场现在已经大得惊人。
Erik 不愿投资哪些 AI 公司?
你觉得现在 AI 里最过热的品类是什么?
我不知道,我不觉得有什么真的过热。但我会担心那些必须不断注入股权资金才能活下去的公司,我不会投这类公司。如果风投市场回调,它们可能很难继续融资。每一轮融资都应该按“可能是最后一轮”来规划,并且要有一条真正走向商业化和收入的路径。
你有两个孩子。做个好爸爸和做好 CEO,最大的经验是什么?
有时我觉得两者有点相似。你是想问怎么平衡,还是怎么当个好爸爸?
做个好爸爸需要什么?
要为孩子未来成功做好准备。我一直在想,该把孩子推到什么程度。我不是虎爸,但觉得得稍微推他们一把,让他们接触更多东西。我不希望他们长大后说:“你当年应该让我做某件事。”但也不想他们二十岁时抱怨:“你为什么逼我做那件事?”所以要适度推动。我让孩子学钢琴,也说不上为什么,只觉得他们二三十岁时可能会感谢我;他们现在不太喜欢,但有些事确实要稍微坚持,不能推得太过。
我父母管得很松。我开始学数学和编程时,他们还问我为什么不出去跟其他小孩玩。所以某种程度上,我希望他们当年再推我一点。不过我自己已经很努力了,也就无所谓。总之,关键是把握推动的分寸。
你是怎么让自己这么努力的?你来自一个不鼓励出风头的国家。我忘了那个词,我以前有个瑞典女友——Jantelagen?就是那种“别觉得自己很特别”的观念。
我不确定这说法对不对,对北欧文化可能有很多误解。我觉得人们其实尊重追逐梦想的人,不管是做音乐、写书、做家具、搞艺术,还是创业。北欧文化尊重自我实现、追随梦想;这种宽松文化的另一面,就是鼓励人追求理想。我当年的梦想就是数学和编程,我很喜欢,所以就一直做下去了。除非你来自挪威,那里的税制基本让人不可能创业。
挪威确实有些问题(笑)。他们工作也很少。
这倒是真的,不过我们有主权财富基金。
对,他们很有钱。
谢天谢地。
也许那是第一个后经济社会。我不知道。
这句话的好几个意思都说得很准。
Erik 最期待 AI 药物发现
最后一个问题,你最期待什么?可以是任何事情。我自己会想到慢性病药物发现,我妈妈……
药物发现确实是我觉得最酷的应用之一。我等不及想用 AI 生成的药了。我年纪也大了,皮肤越来越差;每次喝啤酒,第二天都难受。把能吃的 AI 生成药都给我吧。我想活得久一点,也想健康地生活。
你觉得这样的未来现实吗?
我觉得可能,但 FDA 审批等因素会让它还要等一阵子。现在 AI 辅助药物设计已经有很多惊人进展,有太多有意思的成果了。
这期节目太棒了,我真没想到你会这么有趣、坦率又有魅力。你表现太好了,非常感谢。
谢谢你邀请我,聊得很开心。