别先问是不是泡沫,先看聪明的钱在做什么
控制算力的国家会控制 AI,而没有能源就不可能有算力。我们将通过生产更多算力、做出更好的 AI,向经济中增加更多劳动力。这在人类经济史上从未发生过。如果 OpenAI 或 Anthropic 今天获得两倍的推理算力,我认为一个月内它们的收入几乎也会翻倍。算力需求是难以满足的。
上一次节目是当年表现最好的一期,所以这次完全没有压力。现在世界变化得比以往更快,很多人都想知道自己在新市场里处于什么位置。你怎么看当前市场?我们是不是处在泡沫里?
如果一个问题反复问,却始终得不到可靠答案,也许应该换个问题。与其问“有没有泡沫”,不如问“聪明的钱在做什么”。Google、Microsoft、Amazon 和一些国家都在继续加码 AI;每次公布新的资本开支,下一次只会更高。
Microsoft 曾在一个季度部署大量 GPU,随后决定不把它们放到 Azure 出租,因为自己使用比出租更赚钱。这说明市场里有真实收入。AI 市场更像早期石油勘探:大量枯井,少数喷油井。据我听到的数据,大约 35 到 36 家公司贡献了 99% 的 token 支出或收入。市场极度不均匀。
这意味着大家还在凭直觉找油,甚至可以叫“氛围投资”。有直觉的人赚大钱,其他人输得很惨。等行业变成科学、结果可以预测时,回报也会下降。现在总量上创造的钱可能多于投入的钱,但很多个体仍会亏光。
AI 已经创造真实价值,四小时把客户功能推上生产
超大规模厂商不断提高资本开支,是因为它们相信终点有东西。但回报终究必须转化成真实收入,否则是不是“七巨头”都没有意义。
没错,但它们的动机不只是一张财务模型。我在阿布扎比参加 Goldman Sachs 的活动,现场有五十多位管理至少 100 亿美元资产的人。我问:“谁能百分之百确定,十年后 AI 做不了你的工作?”没有一个人举手。超大规模厂商的心态也是这样:如果不花钱,可能被彻底挡在自己的行业之外。为了保住领先位置,它们当然会像醉酒水手一样花钱。
AI 已经带来巨大价值,只是应用层回报分布很不均匀。Groq 有位客户提出一个功能需求,我只给了非常高层、很“vibe”的规格。几位实习生用 AI 编程,四小时后功能就上线生产;没有一行代码由人手写,也没有人工调试,几乎全靠提示和自动化流程完成。
六个月后,这件事可能在客户会议结束前完成。那不只是节省了几个工程师小时,而是质变:你能当场解决需求,就会拿下竞争对手拿不到的订单。
为了留在“七巨头”中,是不是每家公司都必须进入芯片层,做全栈垂直整合?
很多人会尝试,但成功者不会多。大家只看到 Google TPU 成功,却不知道 Google 同时做过大约三个芯片项目,只有一个真正胜出。Tesla 的 Dojo 也被取消。说“我要造 AI 芯片挑战英伟达”,有点像看见 Google 搜索不错,就说自己也复制一个。难度和优化深度远超外界想象。不过,多家公司同时下注,至少给买方提供了可选项。
英伟达与 OpenAI 的“资金闭环”并非空转
英伟达向 OpenAI 投资 1000 亿美元,OpenAI 再拿钱买英伟达芯片。这不是无限循环的资金游戏吗?
如果资金没有离开闭环、没有产生真实资产,才是空转。但建设基础设施需要向晶圆厂、内存、网络、电力和数据中心供应商付款。假设 40% 的支出真正进入外部供应链,那至少这 40% 创造了生产性结果;剩下部分才回到英伟达。它是部分闭环,不是虚假交易。
更重要的是锁定效应。拿到算力,就能拿到客户;拿到客户,就可能保住长期收入。所以一家公司会愿意为当下稀缺的算力支付极高价格。
你说 OpenAI 或 Anthropic 的推理算力翻倍,收入一个月内也可能接近翻倍。为什么?
因为它们现在并不是没有需求,而是无法供应。Anthropic 会限速,OpenAI 也会把服务变慢来调节使用。它们已经有客户,只是缺少把需求变成收入的计算资源。
推理速度也不是一个无关痛痒的技术指标。消费品的毛利往往和有效成分起效速度高度相关:香烟比咀嚼烟草快,软饮料比水更快产生即时刺激。速度会形成直觉性的愉悦和品牌亲近感。软件里,每缩短约 100 毫秒,都可能带来约 8% 的转化提升。
有人说可以把提示扔到后台,过会儿再看答案。但那错过了“即时反馈”本身的价值。就像网页加载,用户并不会把等待时间当成抽象数字,而会直接感觉产品迟钝。
为什么延迟、芯片控制权和 HBM 都如此关键
OpenAI、Anthropic 和云厂商真的都会造自己的芯片吗?
会。造硬件很难,造配套软件更难,之后还要不停追赶模型变化,但自研芯片能给公司一种“掌握命运”的能力。它甚至不必比市场上的芯片更好,只要能减少被单一供应商卡住的风险,就有战略价值。
我在 Google 时见过一个 AMD 实验室,里面大约有一万台服务器。后来 Google 又在拆掉其中的 AMD 芯片。表面上看这是失败,但它也可能帮助 Google 与 Intel 谈判,获得价格和供应上的控制力。自研或扶持替代芯片的意义,不只在于最终部署多少。
英伟达现在对 HBM 供应拥有近似买方垄断的力量。晶圆端也许能做出约 5000 万颗 GPU die,但受 HBM 与先进封装限制,最终能交付的完整 GPU 可能只有几百万颗。真正的瓶颈不是单一芯片设计,而是整条供应链。
超大规模厂商一说要发展自研芯片,英伟达的分配就可能改变。拥有自己的芯片,即便更贵、性能稍差,也能把关键决策掌握在自己手里。系统层面,一个很小的性能差异会被巨大的部署规模放大。
HBM 厂商当然想分散客户,但英伟达会提前两年以上预付产能。内存厂商需要投入巨额资本,又经历过周期性崩盘,因此扩产非常谨慎。高毛利、预付款与长期锁定,让供应很难迅速松动。
芯片怎样回本:先收回资本开支,再覆盖运营成本
OpenAI 和 Anthropic 融到的巨额资金,是不是主要拿去买芯片?
不只是芯片。数据中心建筑、土地、供电、冷却和网络的摊销周期可能是十年;芯片通常按三到五年考虑。算总生命周期时,设施本身每年的成本可能比芯片还大。超大规模厂商每年 750 亿到 1000 亿美元的资本开支,买的是未来很多年的容量。
Groq 的芯片迭代更快,所以我们用更短的回收模型。第一阶段是部署后收回资本开支并获得合理回报;第二阶段是在资本已经回收后,只要收入仍高于运营成本,旧芯片就可以继续运行。
很多人会说硬件可以跑五年,但这不应该被当成无风险假设。模型会变化,新芯片会提高效率,电费也会改变。有些长期合同还引入第三种计算:继续履约亏多少,违约又要付多少。
H100 已经接近五年前的产品,今天仍能以不错的价格出租,原因不是它在今天最适合新部署,而是算力短缺。若今天从零建集群,很少有人会主动选择旧一代;但既有设备只要收入高于运营成本,仍然有价值。
Groq 向客户销售时,最有力的卖点是什么?速度还是成本?
我们通常从速度讲起,但最后客户最在意的往往是“你有没有货”。有客户需要的总算力大到任何单一供应商都无法满足。算力能换来客户,而客户又有锁定价值,所以供给本身就是产品。
Groq 真正的卖点,从速度变成了六个月交付
GPU 供应链要求客户提前两年写支票。Groq 的供应链不同:如果客户订购一百万颗 LPU,第一批芯片大约六个月后就能开始交付。这中间有约十八个月的差距。
我曾和一家超大规模厂商的基础设施负责人谈速度、成本和各种优势。他听得都很平静;当我说我们能在六个月内开始供货时,他立刻停下来追问。那是他唯一真正关心的点。
但模型变化这么快,提前两年规划芯片还有意义吗?
Sarah Hooker 写过《硬件彩票》。我的简化理解是:模型开发者会围绕现有硬件设计模型。可能存在比 attention 更好的架构,但 attention 在 GPU 上运行得很好,所以它获得更多研究和工程投入。既有硬件反过来塑造了算法方向。
这对领先者是优势,对新进入者却是难题。如果你要两年后才交付,今天没有人会为你的未来芯片设计模型。新进入者必须缩短反馈循环。Groq 能更快交付、也更快迭代,才有机会进入市场。
如果 OpenAI、Anthropic 都有自己的芯片,英伟达怎么办?
英伟达仍会卖光所有能生产的芯片。现在的需求远超供给,新增替代品不会立刻让它失去订单。
硬件彩票:模型会反过来适配既有硬件
数据中心行业过去十年一直低估需求。规划周期长达两年、三年、四年甚至五年,但每一次预测都建得太少。于是大家提高预测、试图超额建设,结果还是不够。
AI 与 SaaS 的经济模型不同。传统软件产品的质量主要由工程师一次性写出的代码决定;AI 产品可以在每次查询时花更多钱,运行两次提示再选择更好的答案,或者给更高价值的客户分配更多推理。支出增加会直接提高产品质量。
所以有些公司的 token-as-a-service 账单几乎接近收入,并不一定意味着商业模式坏掉,而是它们发现更多推理能带来更好的产品和更多收入。未来,产品会根据用户价值动态决定要投入多少计算。
OpenAI 最近强调效率、推出更便宜的产品,并不说明算力不再重要。它们要进入印度等价格敏感市场,例如每月约 99 卢比、约 1.13 美元的产品,就必须大幅降低服务成本。
市场常把中国开源模型当成“用极少资源就做出同等能力”的证据。你认同吗?
这里混淆了训练成本、销售价格和实际推理成本。低价不等于低成本,开源也不等于运行便宜。
中国开源模型便宜的是价格,不一定是推理成本
在一些可比任务上,中国模型的推理成本可能比 GPT OSS 高一个数量级。它们可能被优化为更便宜地训练,而不是更便宜地推理。外界看到低报价,就误以为底层成本也低,这是错误推断。
中国公司可以在本土市场补贴价格,也能建设大量能源设施,包括核电站。但当模型进入能源有限的海外市场,芯片效率和每 token 成本会重新变得关键。
美国最大的优势之一,是拥有更多计算资源,可以在训练阶段做更艰难、更昂贵的工作,以换取更低的推理成本。只要美国与盟友行动足够快,我认为仍有两到三年的领先窗口。
模型本身是不是持久护城河?
模型未必是持久优势,品牌、分发、工具链和用户习惯可能更重要。OpenAI 的品牌已经很强。Anthropic 可以考虑把上一代模型开放出来,让低成本用户使用,同时保持提示词和工具兼容;当这些用户需要更高能力时,再自然升级到付费模型。
开源还允许基础设施提供商针对模型做编译和系统优化,从而降低实际成本。复用提示词与生态工具,也会提高模型迁移的黏性。真正的竞争不是“谁把权重放出来”,而是谁能把整个使用成本压下来。
开源、能源与欧洲的 AI 竞争力
如果能源是 AI 的核心约束,欧洲是不是已经输了?
不一定。核能重要,但不是唯一答案。可再生能源也可以高效。盟友可以把计算部署到能源便宜、稳定的地区,再通过网络服务其他市场。
挪威的风电利用率很高,又有水电作为稳定调节。如果把风、水、核能组合起来,它能够提供大量稳定能源。欧洲的问题不只是资源,而是恐惧、审批和行动速度。
美国往往不愿承担“遗漏风险”,担心没有把足够容量建出来;欧洲则更能容忍遗漏,转而希望通过监管和数据驻留建立竞争力。但监管不能制造 token,数据主权也不能代替算力。
日本是一个有意思的反例。它做决定很慢,可一旦决定就执行得很快:建设 2 纳米晶圆厂、投入约 650 亿美元支持 AI,并重新考虑启动核反应堆。欧洲也需要类似的决断。
资金不是绝对障碍。超大规模厂商、主权基金和其他国家都可能出资。沙特提出“数据大使馆”式结构:数据由主权方监督,计算利用当地能源完成。欧洲也可以设计类似合作。
控制能源与算力的国家,才有可能控制 AI
沙特短期内规划的算力规模可能达到 3 到 4 吉瓦。与之相比,很多项目最大的阻碍是手续。美国核电项目的许可和合规成本,有时甚至能达到电站本身成本的数倍。
我最想强调的一句话是:控制算力的国家会控制 AI,而没有能源就没有算力。欧洲不是没有机会,它有约五亿人口,也有法国、韩国等拥有核能和工程能力的伙伴。它需要一个类似“曼哈顿计划”的能源与算力工程。
欧洲夏天越来越热、冬天又需要供暖,增加能源供给本身就有广泛价值。如果继续拖延,它可能真的变成主要依靠旅游和既有财富的经济体。
只要拥有欧洲自己的模型,比如 Mistral,不就有主权了吗?
模型主权只解决“别人不能关掉你”的问题,不解决“你有没有足够算力”。一个稍差的模型,如果获得十倍算力,可能胜过一个更好的模型。Mistral 仍需要足够计算资源。CoreWeave 很好,但它也受可获得 GPU 数量限制。
推理增长不会削弱英伟达。所有 GPU 仍会售出,而更多推理又会产生更多数据、收入和训练需求,形成正向循环。
算力是最可预测的进步旋钮
AI 以语言作为界面,让人机互动突然变得非常简单。我原本预计它会更早发生、但发展更慢;现实却是来得稍晚,随后进步快得惊人。
全球大约已有 10% 的人口每周使用 GPT 类产品。阻碍更大规模普及的因素,主要是算力、成本和语言覆盖,而不是人们没有需求。
AI 进步有三个支柱:数据、算法和算力。改善任何一个都有效,但算力是最容易预测的旋钮。研究突破无法按季度订购,数据也有边界;更多计算却通常能稳定带来更好的结果。
工业革命中,多造一台机器不一定继续改善产品;AI 不同。更多计算可以服务更多用户,也可以让同一个答案更好。我们还没有看到“有用算力”的明确上限。
那么 AI 对经济最大的影响是什么?
它可能不是让所有人失业,反而可能造成劳动力短缺。因为计算将转化成新的认知劳动,创造以前无法存在的公司和岗位。
AI 可能带来的不是失业,而是新的劳动力短缺
我预计有三个同时发生的效果。第一是巨大通缩:机器人、自动化供应链和更好的生物技术,会让咖啡、住房、食品和服务更便宜。第二,一部分人会因为生活成本下降而选择少工作。第三,大量今天无法成立的行业会出现,它们仍需要人。
农业曾经吸收绝大多数劳动力,后来降到极低比例,但社会并没有因此永久失去工作。软件工程师、内容创作者、网红,甚至今天所谓的 vibe coder,在一百年前都难以想象。
这和主流“数百万人会失业”的叙事完全相反。
人们总会低估技术改善后经济结构的变化。一百年前也有人预测人口增长会导致大饥荒,因为粮食不够;他们没预见农业技术、物流与生产率的提升。
政策层面呢?
Trump 政府对 AI 的一些方向是有帮助的,尤其是减少许可障碍、推动能源和基础设施建设。真正的竞争不是发布多少政策文件,而是谁能把电站、数据中心和芯片真正建出来。
Vibe coding 会像识字一样变成基础能力
Vibe coding 最终会像识字。过去,写字是书记员的专业技能;后来人人都必须识字。未来,绝大多数知识工作者都需要能用自然语言指挥软件和智能体,即使他们不把自己叫作程序员。
但“能生成代码”不等于现实系统没有复杂性。我认识一位咖啡连锁店老板,他用 vibe coding 做了库存系统,随后遇到门店、供应商、退货、断货和异常数据的各种边界条件。AI 降低了进入门槛,却没有让现实世界停止产生边界情况。
公司把 AI 接进产品后,毛利可能下降。应该担心吗?
企业最终必须盈亏平衡并产生现金。毛利的作用之一,是给波动留出缓冲,让公司在需求或成本变化时还能活着。高毛利也会给竞争者机会——“你的毛利就是我的机会”。公司要在稳定性和护城河之间做选择。
我希望 Groq 拥有获取高毛利的能力,但尽量把这部分价值让给客户。需要时可以提高价格,平时则用更低价格帮助客户建立业务。真正重要的是拥有定价能力,而不是永远把毛利拿满。
低毛利、客户信任与杰文斯悖论
一位 CFO 候选人曾建议我们提高价格,直到供给与需求相等。从经济学角度完全合理:价格上升,需求下降,供给就够了。但这也像在消耗品牌资产。既然客户信任你,为什么不卖给他们一些不够好的东西?因为信任本身有价值,而且会复利。
我希望毛利尽可能低,只要公司仍然稳定。低毛利让客户知道自己得到好交易,双方目标更一致。现金流可以通过扩大销量获得,而不是通过在稀缺时期榨取每一分钱。
算力行业最吸引我的地方,是需求近乎没有上限。这是杰文斯悖论:当单位计算成本下降,人们不会只节省预算,而会使用更多计算。如果我们能生产十倍算力,并持续降低成本,就可能获得十倍销量。
Canva 等公司增加 AI 功能,会不会伤害毛利?
成功企业不该只盯着利润表,而应盯着客户问题。如果 AI 让一个原本难用的产品变得人人能用,市场规模会扩大。两年前 Photoshop 对很多人很难;今天只要描述想要的图片。即使每张图收费更低,总用户和总收入也可能更高。
如果你只是和别人做同样的事情、比较谁成本低一点,说明你没有解决独特问题。真正的好生意是解决客户此前无法解决的问题;客户满意,现金流随后才会出现。
标普 7000 点:价值称重机与人气投票
标普指数接近 7000 点,“七巨头”价值高度集中。很多人觉得市场见顶,但听你说又像一切才刚开始。怎么同时理解这两件事?
市场有两个部分:称重机和人气投票。有些资产更像纯人气比赛,例如加密货币。我从没买过比特币,因为我不擅长预测什么会流行。我能做的是判断价值。
AI 已经交付真实价值。私募股权公司都来找我们,希望获得便宜的 AI 算力,因为更多低成本算力能直接改善被投企业的利润。PE 机构追逐的不是潮流,而是底线变化。
高估值可能来自真实价值将来会累积,也可能来自纯炒作。不同参与者可能因为完全不同的理由得出相同价格。站在“称重机”的角度,经济中最有价值的东西是劳动;AI 通过更多算力和更好的模型增加可用劳动,这是前所未有的价值来源。
但如果英伟达、Google、Microsoft 同时遇到减速,价值集中会产生巨大的连锁反应。你担心吗?
担心。这与 AI 长期价值可以同时成立。市场像控制系统,会过热、超调、回落,甚至跌到应有水平之下。下行阶段会杀死很多好公司,但历史上最强的公司也常在低谷中诞生。
下行周期、人才大战与 Google 的反击
未来一年会有下行周期吗?
我无法预测。只要“预测本身会改变结果”,系统就不可预测。若发现小行星且无法阻止,轨迹可以预测;如果预测会促使人们研发拦截技术,结果就会被预测改变。金融市场只需移动资金,就会对预期产生极快反馈。
我现在看到的最大风险,是优秀工程师可以凭名声融资 1000 万、2000 万,甚至 10 亿美元,于是他们不再加入现有 AI 公司,而是各自创办公司。关键人才无法聚集到足够大的团队里。不过 AI 同时又提高了每个人的生产率,所以这是一场我们从未经历过的实验。
人才战争有多疯狂?
科技行业前所未有,但体育早就如此。二三十年前,明星运动员薪酬和今天顶级工程师很像。区别是体育联盟只有有限球队,还可能有工资帽;科技行业可以无限创建新“球队”。如果任何人都能成立一支足球队,球员工资和球队估值也会失控。
哪家传统公司最让你刮目相看?
Google 的反击最强。它的文化优势是工程师能产生好想法,只要管理层别挡路。Gemini 的采用数据不错,但嵌入 Gmail 等消费产品时仍显得零散、半成品。不过这不应过早判死刑;Google 愿意先承受批评,再通过真实使用迭代。Chrome 也曾源自失败的 Google TV 相关尝试。
OpenAI、Anthropic 与工具的低切换成本
Google 的问题在于,OpenAI 已经建立了覆盖全球约 10% 人口的分发。创业公司会不会在传统巨头完成创新前,先完成分发?
现在很难想象 OpenAI 消失。至少从此以后会有两个强大竞争者长期存在。Google 与 OpenAI 都做通用聊天与多种产品;Anthropic 更专注编程,所以它在形成不同定位。
Groq 的工程师最近从 Anthropic 工具转向 Codex,但这种变化几乎按月发生。我们不指定工具,只要求工程师必须使用 AI,否则无法保持竞争力。他们会在 Sourcegraph、其他编码工具、Codex 之间来回切换。
如果切换成本这么低,这些工具有持久价值吗?
尖端工程师会追逐当月最好的工具,但大多数企业不是这样。企业会签长期合同,围绕安全、采购、工作流和培训做集成,然后继续使用一年前选择的产品。个人开发者的低切换成本,不等于企业市场没有黏性。
OpenAI 估值 5000 亿美元,Anthropic 估值 1800 亿美元,你投谁?
两个都投。我认为它们都被低估。你把它们想成在有限市场里争夺固定份额,但它们的研发正在扩大市场本身。
AI 实验室会把“七巨头”扩成九巨头、十一巨头
把 AI 实验室的牛市情景展开说说。
今天的科技巨头可以继续增值,同时 AI 实验室追上它们目前的体量。那时“七巨头”本身也会更大。结果未必是谁取代谁,而是七巨头变成九巨头、十一巨头,甚至二十巨头。
AI 实验室会不会进入应用层,吞掉大部分客户?
成功科技公司的自然倾向就是向上游移动,开始做客户做的事情,再由新一代公司建立在它们之上。Sam Altman 曾坦率说,只在 OpenAI 上做一点薄封装的公司会被碾过去。这不是恶意,而是平台扩张的规律。
Groq 选择画一条线:我们不训练自己的基础模型,因此客户可以相信,我们不会用基础设施去和他们竞争。这也许是错误决定,我们可能被某个客户整合掉;但它给生态提供了可信承诺。
你们刚融资多少?
7.5 亿美元,估值接近 70 亿美元。原本只计划融资 3 亿美元,最后需求远超计划。硬件业务的好处是,卖出设备时就能确认正毛利;软件服务的毛利取决于具体模型、利用率和硬件寿命。
你从没卖过一股自己的股票?
没有。
你显然不懂这游戏怎么玩,回头我教你。
Groq 融资 7.5 亿美元,为何仍坚持低毛利
最热门模型在新一代芯片上已经有正毛利。有些模型收入超过运营成本,但尚未达到我们对资本回报的保守标准。硬件寿命不确定,所以不能只看某个季度的毛利。
未来毛利会走向哪里?
我还是同一个答案:在公司保持稳定、不产生致命波动的前提下,毛利越低越好。高毛利的必要性,是需要时能快速产生现金。只要拥有在稀缺时提高价格的能力,就可以在平时把价格压低。
算力需求太强。如果客户急需某种容量,而我们恰好有货,他们愿意支付更高价格。这种选择权让我们有资格以更低常态毛利经营。
五年后,芯片市场会是什么样?
我预测英伟达仍会获得超过 50% 的收入,但卖出的芯片数量可能只占少数。它也许拿到 51% 的收入,却只占 10% 的芯片数量,因为品牌与可靠性允许它收取更高价格。
“买英伟达没人会被开除”是一种强大优势。但当 35、36 个大客户贡献 90% 到 99% 的支出时,买方会更有能力做技术判断,不再只靠品牌。它们会采用其他芯片,因为其业务规模足以承担集成成本。
五年后的芯片市场:英伟达赚走多数收入,却未必卖出多数芯片
五年后英伟达市值超过还是低于 10 万亿美元?
如果五年后英伟达还不到 10 万亿美元,我会感到意外。更该问的问题是:Groq 有没有可能也达到 10 万亿美元?理论上可能,因为我们没有同样的供应链约束,可以生产更多当前最稀缺、市场愿意支付高毛利的资源——算力。
市场最不理解 Groq 的是什么?
答案每个月都在变。过去大家认为我们的架构不能支持多用户,后来我们在同一硬件上演示了多用户。现在最常被问的是:SRAM 明明比 DRAM 贵,Groq 为什么还能更便宜?
简化来说,SRAM 是芯片内部存储,DRAM 是外部存储。SRAM 每 bit 需要更多晶体管,还部署在更昂贵的先进制程上,因此单位容量可能贵十倍。
但不能只比较单位 bit。假设 Groq 用 4000 颗芯片运行 Kimi,而 GPU 方案每个实例用 8 颗 GPU。我们芯片数量多 500 倍,但 GPU 侧为了获得同等并行吞吐,也需要复制约 500 份模型与外部内存。即使 SRAM 单位容量贵十倍,DRAM 方案可能使用了数百倍内存。必须比较整个系统,而不是一个存储单元。
SRAM、DRAM 与从芯片视角升级到全球系统视角
这是典型的“芯片视角”误导。Groq 从一开始就在做系统级优化,现在进一步升级到全球级优化。我们已经有 13 个数据中心,分布在美国、加拿大、欧洲和中东。
全球部署后,调度不再只是某个数据中心内部的问题。不同地区可以放置不同模型实例,针对输入或输出做不同编译优化;有些模型甚至不必在每个数据中心存在,可以跨区域负载均衡。我们的优化对象是整个世界的算力网络。
如果你不害怕,你会在哪增加风险?
我们可以把供应链订单翻倍。六个月供应周期让我们比其他人更快响应,但“翻倍”未必够。有客户一次要求我们现有总容量的五倍;如果只扩两倍,仍然拿不到订单。风险不在于有没有需求,而在于是否一次建得足够多。
这轮融资实际可以募得更多,认购需求约是已融资金额的四倍。但更多资本也意味着更多稀释。我需要在投资者稀释和提前建设算力之间做选择。
降价 50%,客户可能就会买两倍 token。它们的总支出未必下降,因为多花的计算会提高输出质量。我们关注的不是“客户是否节省预算”,而是单位计算能否创造更多价值。
会考虑上市吗?
现在唯一重点是执行、满足算力需求。上市是另一场游戏。
为什么现在再创办一家 AI 芯片公司已经太晚
快问快答。对英伟达最大的误解是什么?
认为软件是它不可攻破的护城河。CUDA 对训练确实很强,但对推理未必构成同样锁定。Groq 已有约 220 万开发者注册,而英伟达宣称 CUDA 开发者约 600 万。
如果今天才创办 Groq,英伟达已值约 4 万亿美元,AI 热潮全面展开,你会怎么做?
我不会做芯片。船已经开走了。芯片从设计到量产,即使一切顺利也要约三年,而第一次流片直接成功的芯片可能只有约 14%。也就是说,每次都有约 86% 的概率需要重新流片。
我们做 V2 时甚至提前排好了重流片计划,结果第一版居然成功,连我们自己都吃惊。英伟达一颗芯片常需三到四年,只是并行推进多代产品;Groq 现在把节奏缩短到一年,V2 后一年是 V3,再一年是 V4。
怎么看 Larry Ellison 和 Oracle 的再加速?
他们做了聪明的商业决策,并且愿意快速行动。多数人不断问 AI 是否过热、要不要加码;Oracle 直接冲了进去。当其他人恐惧时应该贪婪,当其他人贪婪时应该恐惧。现在看似遍地贪婪,实际上只是少数聪明而激进的人行动很快。
那我该在哪里贪婪?
有护城河的地方。Hamilton Helmer 的“七种力量”就是一个框架。问题在于早期投资时护城河还没出现,你必须预测它是否会形成;一旦明显,估值可能已经是十亿美元的 pre-seed。
聚焦、xAI、微软与“心智的望远镜”
过去十二个月你改变了什么看法?
与其说改变结论,不如说改变资源配置。我们每个月都更聚焦,对更少的事情说“是”,业务反而做得更好。我过去最看重保留可选性;现在更看重聚焦。早期可选性让我们发现最适合的位置,但到了现在,必须集中火力。
Elon Musk 能靠 Grok 和 xAI 成功吗?
可以,但会以不同方式成功。新市场出现时,很多公司以为自己争夺同一个终点,其实会分化。Anthropic 最聪明的决定之一,是不再试图做所有事情,而把重点放到编程。xAI 有社交网络和分发,可以把聊天机器人嵌进去,但这不等于它会成为深度研究或编程的首选。没有差异化就会死亡。
Google、Microsoft、Amazon 中,买一个、卖一个?
取决于期限。Microsoft 短期会因为与 OpenAI 的关系调整受到影响,但长期问题不大。它部署了巨量算力;即便 OpenAI 把任务转向其他供应商,Microsoft 仍然拥有这些“像黄金一样”的计算资源。Amazon 有算力,但 AI DNA 相对不足;Google 和 Meta 一直有这种 DNA,Microsoft 则通过 OpenAI 买到了时间。
未来五到七年,你最兴奋的是什么?
最让别人害怕的事情,反而最让我兴奋。Galileo 推广望远镜后惹了大麻烦,因为望远镜让人类看到宇宙比想象中更大,也让我们感觉自己非常渺小。后来我们接受了:人类或许很小,但宇宙宏大而美丽。
我认为 LLM 是“心智的望远镜”。今天,它们让我们觉得自己很渺小;一百年后,我们也许会意识到,智能比我们想象的广阔得多,并因此感到它非常美。
每次和你谈话,我都会记下大量笔记。谢谢你来录这期节目。
节目片尾介绍 YouTube 频道,并包含 Coda、.tech 域名及 AngelList 等赞助商口播,本文不逐句翻译。