开场剪辑:有钱、有算力,仍可能无法交付
更具体地说,今天有很多 AI 实验室不缺现金,也不缺算力,却仍然交付不了真正的成果;随后你会看到人才开始离开。我的判断是,问题往往出在文化。
如果领导者不再用行动证明自己真的认同曾向团队和外界宣示的使命,组织文化就会开始松动、磨损,最后连资源再充足也无法弥补。
在进入本期节目之前,感谢听众持续点击、收听和订阅。正因为有足够多的订阅者,节目才能在不依赖广告的情况下持续制作 AI 工程、科学与行业内容。
我唯一想请大家做的免费支持,就是点击订阅。这个动作对制作团队意义重大,我们也会继续努力把节目做得更好。现在进入正题。
节目开场与嘉宾介绍
我们现在位于 Periodic Labs,今天的嘉宾是 AMP 创始人兼 CEO Anjney Midha。欢迎来到节目。
谢谢邀请,很高兴来聊这些问题。
为什么 AI 算力正在被浪费
先从集群利用率谈起。你常说很多 AI 算力并没有被真正用好,具体该看哪些指标?
通常至少看两类指标:一类是节点分配率,也就是数据中心里到底有多少卡正在被占用;另一类是 MFU,也就是模型 FLOPs 利用率。
节点利用率如果连 95% 都不到,通常没有什么好借口。我的联合创始人 Seb 来自 Google,参与过 Borg、GQM 一类调度系统;在 Google,95% 甚至可能被视为接近事故水平,96% 左右才应当成为常态。
许多单租户集群并没有达到这个水平。至于 MFU,今天表现最好的系统大概能做到 60% 到 70%,但大量集群仍显著低于这个区间。
所以这不只是工程优化问题,也是领导力问题?
对。根本上是 alignment:出钱的人、部署集群的人、运营集群的人,以及最终衡量产出的人,是否真的朝着同一个目标工作。
理论上大家都说目标一致,现实中资本到集群管理再到研究产出的链条太长,隔了太多层。就像两条线在起点只偏几度,延伸到很远的地方,距离就会被成倍放大。
很多前沿实验室一开始有正确的北极星,也有想把事情做好的团队;但组织被要求一次性极速扩张,而不是逐步 bring-up、逐步验证,于是很小的偏差会在规模化过程中迅速复利成巨额浪费。
半导体和专用加速器行业早就知道怎样逐步拉起复杂系统。AI 有新的能力,不代表可以抛弃这些常识;“这次不一样”可以用于描述能力跃迁,不能成为基础设施失控的理由。
AI scaling 反而让常识更重要,因为误差空间更小、浪费成本更高。
没错,而且浪费不只是经济损失。我过去是投资人,现在经营 AMP 这样的 AI 基础设施公司,越来越清楚每一个低效决策还会转化为能源、土地、供应链和社会成本。
我喜欢黑客精神和创业者的 hustle,但它们不能替代稳定系统。Meta 当年从“move fast and break things”走向强调稳定基础设施,就是因为规模越大,破坏性试错越昂贵。
今天需要的不是停止快速行动,而是快速行动同时建设负责任、可审计、可持续的基础设施。
也就是说,AI 的速度不能成为降低基础设施标准的借口。
负责任的基础设施与数据中心反弹
当数据中心进入一个社区,居民会问:它到底给本地带来了什么,而不只是消耗多少电和水。
Stanford 的一次课堂上,General Matter 创始人 Scott Nolan 谈到能源瓶颈,并提出一个很直观的方案:假设算力的边际价格约为每小时 4 美元,可以把价格提高到 4.50 美元。
多出来的 50 美分不要留在供应链里,而是直接以现金、补贴或电费减免的方式回到承载数据中心的当地社区。
作为算力客户,我愿意付这笔溢价。因为社区能明确感受到公共利益,数据中心获得支持,算力供应也会更可靠。
你提到美国今年可能有相当比例的数据中心项目面临社区反弹。
我听到的估计一度高达 20%。这个数字可能被过度报道,需要进一步核实,但风险本身是真实的:很多项目可能拿不到建设所需的社区支持。
居民关心的不只是新增岗位,还关心电网压力、环境影响、许可流程,以及生活成本会不会被推高。
如果行业能提出一份新的 AI 社会契约,例如数据中心落地后直接降低当地居民电费,社区就会觉得自己是合作伙伴,而不是被外部公司抽取资源的一方。
现在这种利益共享普遍还没有发生。未来一定会有审计和调查,监管到来只是时间问题。
那些以 AI 进步为名“快速行动、打破东西”的运营者,必须为后果做好准备。AMP 采购算力时,更愿意和拥有长期记录、信用历史和稳定运营能力的伙伴合作。
很多可靠供应商并不自称 AI 公司,也不需要包装成“neo-cloud”新物种。他们可能已经经营数据中心二十多年,懂土地、电力、建设和周期管理。
他们未必在 NeurIPS 办派对,也未必使用最时髦的叙事,但他们是成年人,能把土地、电力和合同真正运行起来。
这些人经历过互联网行业的繁荣与萧条,是值得信任的长期基础设施伙伴。相反,算力层现在存在太多短期思维,迟早会反噬整个行业。
所以“负责任的基础设施”不仅是道德口号,也是确保长期算力可用性的工程条件。
AMP Grid:让 FLOPs 像兆瓦一样流动
谈到激励一致,很多人会认为最好的办法是把模型、数据中心和算力全栈放在同一家公司里,比如 xAI 或 OpenAI。AMP 作为独立基础设施层,为什么反而可能更对齐?
系统设计大致有两种路线:一种是集成,把多个流程折叠进同一个节点;另一种是池化与共享,把某项资源从单个节点中抽出来,让多个节点共同使用。
AMP Grid 选择的是第二条路。我们希望为算力做电网曾为电力做的事,建立跨云、跨芯片的池化和利用率层,而不是再造一家垂直一体化公司。
目标可以概括为:让 FLOPs 像兆瓦一样流动。今天各地存在大量搁浅算力,但不同资源之间缺乏可替代性和统一接口,调度和交易都非常困难。
AMP 目前从调度层和经济层开始,让不同资源可以被统一安排。随着项目逐渐公开,越来越多团队来告诉我们,他们正在解决栈中某一层的算力可替代问题。
我们希望这些团队都能接入 grid。有人问 AMP 是不是 neo-cloud,我的回答是否定的:neo-cloud 更像电网的供应商或用电方,而 AMP 想扮演独立系统运营商,也就是 ISO。
电网历史表明,当工厂发现共享发电机比每家后院放一台半负荷机器更划算时,就需要一个中立机构协调发电、输电和工业需求。
最持久的电网运营者往往不拥有发电资产,而是依靠互不相关的长期锚定需求。例如钢厂夜间用电高,鞋厂白天用电高,组合起来就能提高全城利用率。
每个参与者都获得有保障的基础负载,再通过调度错开峰值。美国东北部的 PJM Interconnection 就是经典的独立系统运营商案例。
因此 AMP 在经济角色上更像中立协调者,而不是拥有所有资产的云厂商。
对。技术上我们从调度层起步,因为 Seb 和 Mihai 曾在 Google 构建过相关系统。
团队里也有 Discord 背景的人。Discord 是全栈自建的另一种系统架构案例。
我在 Discord 负责开发者平台,内部基础设施主要由 Mark Smith 等人领导。Discord 自己构建 WebRTC 语音和视频基础设施,没有依赖第三方通信栈。
那种架构通过汇聚全球两亿多月活跃游戏用户的需求来提高利用率,说明全栈集成也能成功;关键是理解何时该集成、何时该抽象和共享。
共享调度、基础负载与独立系统运营者
系统设计反复出现的概念是 abstraction 与 composition、bundling 与 unbundling,以及垂直化与水平化。AMP 选择水平化的独立系统运营者角色。
我们从可信伙伴汇集供应,四年尺度上的需求管线约为 1.3 吉瓦;同时从一些世界级研究实验室汇集长期需求,Periodic Labs 就是其中一个锚点。
每个实验室在 grid 上获得有保障的基础负载,同时可以按研究需要在更短时间内向上或向下调整算力。
这与我在 a16z 设计的 Oxygen 计划相似,也与 Google 内部 Borg、GQM 一类调度系统的思路相似:基础工作负载要有保障,研究突发需求则可以迅速获得额外容量。
几年前 Google 基础设施中的关键创新之一,是 interruptible demand,也就是可中断需求。大量作业先进入队列,再通过信用额度或竞价机制动态调整优先级。
例如某个研究负责人愿意为 Nano Banana 2 的任务投入十个 credits,而 Genie 3 只值五个 credits,那么前者可以获得优先级,低优先作业则被暂停。
Google Brain Marketplace 确实做过类似的内部市场,我们也在节目中和相关负责人讨论过。
但这种机制也有批评:有时候组织需要中央命令,集中全部资源攻一个方向;完全依赖 credits 的“内部资本主义”未必能选中真正重要的项目。
有人甚至认为,Google 当年正因为资源分配过于分散,错过了 GPT 式的集中突破。
这个批评成立。市场机制不是万能答案,独立运营者仍然需要清晰的治理和使命优先级。
AMP 的目标不是把所有决策机械地交给竞价,而是让基础保障、弹性容量和战略优先级同时存在,并让各方看得见规则。
真正困难的是在规模化时保留紧密反馈,而不是在“中央计划”和“自由市场”之间做简单二选一。
Foundry、前沿实验室与研究囤积
AMP 的组织结构有点像 Alphabet:上层是 AMP Holdings,下面既有基础设施业务,也有名为 Foundry 的资本业务,用来孵化和投资新的前沿 AI 实验室。
我们投资 Periodic Labs,也在今年早些时候从基金向 Anthropic 投入了数亿美元。Foundry 的作用,是在研究者与原有大组织失去一致性时,为他们提供新的资本和组织出口。
在 DeepMind 这样的实验室里,研究者可能完成了从零到一的关键工作,但控股公司随后出于商业优先级,决定放弃某个优秀的 omni-model,转而集中做编程或其他方向。
Sergey、Demis 当然有权经营自己的业务,但世界不应该只能等待他们决定何时把研究成果释放出来。
DeepMind 过去十年产生了大量杰出研究,其中相当一部分从未真正见到天日;有些只停留在论文,没有进入产品。
更严重的是,有时论文也不再发表。内部可能存在六个月审查窗口,只要业务团队认为成果具有商业价值,就会被长期 embargo。
于是出现逆向选择:真正重要的研究被留下,能够公开的反而可能是不够关键的部分。NeurIPS 社区对此有长期抱怨。
我理解企业需要保护商业利益,但研究被囤积会对整个生态产生负外部性,这本质上是一种市场失灵。
Foundry 想做的,就是让被组织边界锁住的研究者、想法和能力,有机会在独立环境中继续推进并转化为现实价值。
所以资本业务和算力基础设施不是两条无关的线,而是在共同解决“研究无法被释放”的问题。
吉瓦级算力与终末期预测
仅靠 AMP 也无法解锁所有研究。我们所说的 1.3 吉瓦需求管线,折算成云支出大约是 400 亿美元,但对整个前沿生态仍然不算多。
1.3 吉瓦是一个很大的新数字。你们已经全部锁定了吗?
还没有。这是我们已经开始 securing 的需求规模,并不是已经全部交付的容量;今年实际确认的数字也还没有完全公开。
长期希望达到什么状态?
理想稳态是始终有 1.3 吉瓦基础负载池。为了让所有团队在未来四年持续推进前沿,我估计还需要约 6 吉瓦的峰值容量。
这些团队做的并不只是大语言模型,也包括室温超导体发现,以及我们正在研究的一项医疗投资:终末期预测。
这和我的个人经历有关。我在 Stanford Medicine 读过生物信息学硕士,之前在经济学、计算机科学和 Mathematical and Computational Science 之间换过方向,本来还考虑读博士。
后来我离开学术界去工作,但曾跟随 Stanford 的 Nigam Shah 教授学习。他研究如何利用临床数据预测患者生命终末期。
Stanford 拥有美国少数大规模纵向患者数据集之一,当时称为 STRIDE,覆盖至少约 1200 万患者;美国退伍军人事务部 VA 的数据集规模更大。
要对 STRIDE 做深度学习研究,必须是 Stanford Medicine 的关联人员,这也是我进入生物信息学项目的重要原因。
当时深度学习还很早期,但 Nigam 已经看到:如果能更准确地预测终末期,就可能帮助医生和患者更早做出安宁疗护决策。
至少在当时,美国 Medicare 和 Medicaid 支出中有超过 30% 用于生命末期照护,而其中很多治疗并没有改善患者最后阶段的生活质量。
我在印度 Chennai 长大。印度教、佛教等亚洲传统往往把死亡看作生命旅程的一部分;在 Chennai,有些葬礼会伴随鼓乐和街头送行,象征逝者从此生责任中解脱、进入下一段旅程。
到美国后,我发现医疗系统更倾向把死亡视为必须尽量推迟的终点。这种文化差异会直接影响临床决策、家庭选择和资源配置。
医疗预测、科学使命与可验证价值
医生如果只能告诉患者“你可能还有六个月到六年”,这个范围太宽,患者很难据此做决定。
对。误差区间越大,人们越会在不确定中退回文化和信仰。如果文化默认死亡是必须延迟的坏事,患者就会倾向于“把所有治疗都试一遍”。
医生之所以保守,也有制度原因。终末期判断存在不确定性,如果给出错误建议,医生可能遭遇医疗事故诉讼,甚至失去执业资格,职业代价极高。
在一些诉讼压力较小的国家,医生往往更愿意给出明确意见:文献显示平均还剩多少时间,你是否可能是异常值,以及哪些个人因素可能改变结果。
更清晰的建议会赋权患者。患者可以在信任医生的基础上,用自己的遗传史、身体状况和价值偏好,科学地安排剩余时间。
而在美国,医生常常只能说“我们都试试”,于是患者进入一连串药物和治疗方案。
结果可能是患者最后几周一直躺在医院,而不是和家人做自己真正想做的事。患者体验更差,医生也痛苦,纳税人还承担巨额支出。
Nigam Shah 当年告诉我,如果要找一个真正重要的问题,就是终末期照护。我们尝试在 STRIDE 数据上训练模型,判断 AI 能否比人类更精确地估计终末期患者剩余寿命。
技术本身其实能工作。拿到足够好的数据后,强化学习可以做,回归模型也可以做,很多时候甚至不需要特别复杂的神经网络。
真正的瓶颈是监管:错误临床判断的责任无法简单从医生转移给 AI 系统。十二年前我没有资源影响监管,因此一度非常失望。
如今我的位置和资源不同了,所以正在重新投入这件事:训练更精确的终末期预测模型,让患者拥有更明确的选择权。
这个问题一直没有离开你的脑子?
十四年来几乎没有一天忘记过。这是我愿意长期投入、甚至愿意“死在这座山上”的问题——当然,最好不要真的死。
这也解释了为什么你把医疗、算力和公共政策放在同一套系统里思考。
从医疗应用回到算力系统
我认为美国至少有两个本应跨党派的问题。第一,怎样用科学和 AI 帮助终末期患者做出更好的临床选择,同时减少不必要的公共医疗支出。
第二,怎样建设 net-positive data centers,也就是让数据中心对承载它的社区产生净正收益,而不是只消耗能源和公共资源。
这两件事其实位于同一条 scaling bottleneck 曲线的两端:要训练足够好的医疗模型,需要可靠算力;要扩大算力,又必须获得社会许可。
AMP 因此被设立为 public benefit corporation。我们不希望只讨论商业收益,也希望把医疗、教育和基础设施使命写进组织结构。
我妻子的家族长期从事教育和物理研究。对我来说,在 Stanford 开课也是一次学习如何成为教育者的尝试。
如果不经营公司,我可能会在政策领域、医疗研究实验室或其他机构继续推动这两个问题。
如果听众对终末期预测、患者赋权或净正向数据中心有热情,我很希望听到他们的想法。
我们会在节目说明中提供联系方式,也欢迎政策、医学和研究方向的人加入这些使命。
Frontier Systems、output maxing 与 alignment
你在探索的学科有不同名字:frontier systems、one-person frontier lab。它的共同使命到底是什么?是不是可以概括为“反浪费”?
从工程角度,我会叫它 output maxing,也就是让已有资源产生最大的有效产出。
这不只是节省 GPU,也包括避免浪费人才、医疗预算、能源和时间。目标是追求最优结果,而不是只追求某个单一指标。
当下公共讨论越来越缺乏细微差别。比如“bitter lesson 成立”并不意味着把五十万张 GB300 扔给一个次优模型,就自动得到最优系统。
反过来,同时维护五十种架构、完全没有标准化,也未必更聪明。Anthropic 能快速推进的原因之一,就是早期选定 Transformer,并在简单架构上集中投入。
今天资金更充足,可以支持更多替代架构;但在资源有限的阶段,过度分散会阻碍 scaling。output maxing 要求根据约束选择正确的集中程度。
如果在 Stanford 建一个新系,技术化一点可以叫 Department of Output Maxing;抽象一点,也可以叫 Department of Alignment。
alignment 已经是一个被过度使用的词。
但它仍然是一个真正困难的问题。任何组织和系统想做到 full-stack alignment 都非常难。
以风险投资为例,LP、创造价值的创始人、最终持有上市公司股票的公众,如果能长期保持一致,这套系统就会不断产生价值。
小规模组织反馈回路很短,天然更容易对齐。规模扩大后,分工和专业化增加,每增加一层 abstraction 或 API,都会产生沟通损耗。
工程上的理想问题是:能否既 scale up 又 scale out,同时不发生 lossy transmission,不让使命和信息在接口处衰减?
标准化是一种办法。
对。另一种办法是创造全新的能力。例如室温超导体会成为近乎无损的能源传输机制,带来足够大的新增容量,很多旧约束都会被重写。
因此要么建立能够无损沟通的协议和 API 标准,要么创造巨大到足以改变约束的新能力。现在我大部分时间都在思考这两条路。
算力市场、SF Compute 与非 NVIDIA 芯片
凡是想把基础设施规模化并追求最大产出的团队,最后都会遇到市场和标准问题。SF Compute 正在尝试为算力建立标准化期货合约。
我很欣赏 Evan 和 SF Compute。交易所最难的是冷启动,因为参与方之间同时存在信任边界、资本市场和运营效率问题。
基础设施栈的一层往往不愿向另一层提供可见性;供需双方也缺少标准合约和共同的信用机制,导致很多本可成交的资源被搁置。
如果能向系统注入一大批确定的算力需求或供应,就可能启动飞轮。未来 SF Compute 有闲置容量时,可以接入 AMP Grid,立刻获得我们的需求。
反过来,如果它有大量需求却缺少供应,也可以通过同一双向协议接入我们的容量。这不应只是单向采购关系。
今天的工作版本主要连接一组实验室、大学和可信伙伴,大家对目标有基本一致性;长期希望把它变成任何人都能接入的开放协议。
接入者既可以提供需求,也可以提供供应?
两者都可以。不过过去六周需求增长太快,我们原以为年底会有的剩余容量已经全部消失。
我的短信里全是已经融资数十亿美元的旧友和创始人,问未来几周能不能匀出十五个节点。算力短缺依然非常具体。
那非 NVIDIA 芯片还有多大空间?替代架构能增加性能和供应,但会不会破坏标准化?
不一定。Reiner 是很好的例子。他的芯片公司选择遵循 NVIDIA 数据中心 reference architecture,因此可以直接进入已有 NVIDIA bring-up 方案的站点。
从 I/O 和机架占地看,它与 NVIDIA rack 保持兼容;创新集中在系统协同设计和逻辑 die,而不是重新发明整个数据中心。
创办芯片公司已经有太多难题,不能在每条战线上同时作战。团队要明确自己真正解决的瓶颈,然后把其他部分交给生态伙伴。
代价是新的 abstraction:芯片公司依赖数据中心伙伴托管硬件,才能把性能交付给客户。每多一层边界,就可能多一层损耗。
参考架构、兼容性与新芯片机会
既然新增抽象可能造成损耗,芯片团队怎样降低风险?
Reiner 的答案是直接采用 NVIDIA 标准,借用已经成熟的协议和 reference architecture,而不是和生态兼容性对抗。
NVIDIA 已公开大量参考设计。Jensen 先完成了最艰难的系统工作,反而让其他团队可以在兼容框架内创办新的芯片公司。
我并不把这些团队简单视为 NVIDIA 的竞争者。当前算力需求远大于产能,NVIDIA 自己也无法满足所有生产需求,市场首先需要的是更多芯片。
明智的策略是不要在数据中心设计上重复创新,而把研发资源放到真正有差异的地方,例如逻辑 die、内存路径或软硬件 co-design。
当一家公司能沿用成熟标准,同时在新瓶颈上创造性能,就会形成健康的生态分工,而不是无意义的碎片化。
信任边界、软硬协同与研究者 CEO
对做 co-design 的芯片团队来说,最大的瓶颈常常不是电路本身,而是 trust boundary。
芯片 tape-out 可能需要两年。如果团队不能尽早看到下一代模型架构,等芯片上市时模型已经改变,整套设计就可能失去价值。
在 Google 内部,芯片团队坐在 Gemini、PaLM 等模型团队旁边,软硬协同反馈非常紧密;离开大公司创业后,他们立刻失去这种内部可见性。
我愿意帮助芯片团队重新获得可信连接,因为我从早期参与过 Anthropic,也在 Mistral 董事会,并参与 Black Forest Labs 等多支团队。
你现在参与了多少团队?
大约六七个。我更喜欢一次深入帮助一个团队,而不是在很多公司里只做浅层参与。
你曾经是 LM Arena 的创始 CEO 吗?
不是。那是五个月的行政性补位。当时创始人正从博士毕业,我帮助招募工程、产品和设计负责人;Anastasios 始终是公司的真正 CEO。
Anastasios 既善于表达,也有很强的数学和量化能力,这种组合很少见。
更重要的是他的 output。博士毕业时,他的论文和引用已经超过很多年长研究者,同时还把 LM Arena 做成数百万人使用的副项目。
风投常把人静态地装进盒子:这是研究者,所以不是 CEO。可人是动态 agent,过去的科研身份并不能决定未来的领导能力。
Dario 本身也是科学家,却在几年内把 Anthropic 从零带到极大规模。名义上当 CEO 不难,成为好 CEO 很难,而顶尖科学家早已证明自己能在高度竞争环境中长期输出。
能在 Berkeley、Meta、Google 等环境获得资源、建立信任、推动论文和系统落地,本身就需要领导力。Waylon、Anastasios、Robin、Guillaume 都是类似例子。
我很愿意投资已经为领域贡献过成果的研究者。他们像“头脑运动员”,已经证明自己能在最高水平竞争。
当然,也有研究者只想继续发表论文、不想承担 CEO 工作,那同样合理。关键是诚实判断自己的使命和意愿。
研究者领导力与组织判断
AMP Grid 会把一部分剩余算力捐给非营利机构和大学实验室,我们曾划出数千张 H100,因为大学里仍有大量重要研究。
但如果研究者选择做 CEO,就必须愿意在科学之外直面冲突。优秀科学家会为架构判断据理力争,优秀 CEO 还要在招聘、团队、客户和资本等每一层坚持判断。
我在自己的工作里也能感到一点这种压力,但很难想象 Dario 经历的赌注有多大。
赌注是个人尺度上的 scaling vector。对你来说很自然的沟通,对另一个人可能就是极高压力的任务。
你能通过访谈让嘉宾说出比其他节目更多的东西,本身就是高水平能力。过去两周我上了十几档播客,这一点很明显。
所以不要假设世界级公司领导者承受的压力一定与普通人完全不同。很多问题在人的尺度上非常相似,只是资源和后果被放大。
领导力的核心不是表面上的职位大小,而是能否在自己的尺度上处理不确定性、关系和责任。
正是如此。科学训练能提供严谨性,但还需要情绪感知、信任和持续沟通,才能把个人判断转化为组织行动。
AI Coachella 与第一性原理思考
我们之所以能聊得深入,是因为多年见面形成了基础信任,而且彼此知道对方做过功课。
信任来自一致性。我们第一次见面可能是在 New Orleans 的 NeurIPS,一场由 Raiko 组织的午餐会上。
当时介绍得并不好,我甚至不知道你是谁;听到你的口音、发现我们都和新加坡有联系之后,气氛才真正打开。
这正说明 context 很重要。科学共同体里有些人没有得到足够的 EQ 辅导,却需要影响同事、组织和公众;沟通能力会直接决定科学影响力。
课堂嘉宾包括 Sam、Satya、Jensen,几乎像 AI 领域的 Coachella,头部人物都来了。
去掉媒体和 Twitter 上的表演性叙事后,大家仍然只是试图理解世界、与他人合作的人。AI scaling 和 bitter lesson 正迫使很多领导者重新检查旧假设。
最近在 Texas 的活动上,有人问我怎么看 real-time action prediction models。这个提问让我很高兴,因为它说明对方真的做了功课。
如果只问“你怎么看 world models”,往往还停留在过于宽泛的抽象层;world model 至少包含多种不同路线,标签不足以描述真正的问题。
我们也采访过 General Intuition,他们专注的就是其中非常具体的一类问题。
真正深入工作的团队,通常不会把所有相邻公司视为敌人。他们知道自己解决的是哪个精确瓶颈,也知道可以从相似方向的人那里学到什么。
比如 Pim 会欣赏 Black Forest Labs 和 Flux 的工作,因为他理解技术边界,而不是把所有人粗暴归类成“world model 公司”。
研究者最关心的往往不是营销上的竞争,而是自己有没有浪费时间、方向是否真实、能否获得新的实验信息。
当技术复杂性被压缩成商业标签后,VC 才会不断追问“你和另一家 world model 公司有什么不同”,并制造虚假的同类竞争。
做过细致工作的人之间,frontier research 的同侪感依然很强。真正的精确性会带来合作,而不是只带来排他。
第一性原理思考要求先问清楚具体系统和瓶颈,而不是从现成类别反推结论。
对。AI 时代最稀缺的不是更多标签,而是有能力穿过抽象层、重新检查假设的人。
从第一性原理转向前沿竞争
可一旦话题进入这种深度,要向没有同样背景的人解释,常常连从哪里开始都很困难。
这正是错位的来源。人们使用同一个标签,却可能在完全不同的抽象层讨论问题;如果不先澄清假设,所谓竞争和分歧很容易只是语言造成的。
在前沿 AI 中,领先比赢更重要
媒体和投资者总喜欢把前沿 AI 写成一场竞赛:谁领先、谁落后、谁最终会赢。你怎么看这种框架?
我不太喜欢“赢”这个词。更有意义的目标是领导并推动 frontier,让技术和科学继续向前,同时获得足够价值来维持下一轮创新。
公司当然需要商业回报,但如果为了捕获尽可能多的价值而背叛最初使命,所谓胜利本身就失去意义。真正困难的是在使命、资本和长期创新之间找到稳定平衡。
这也解释了为什么同一场讨论里,不同技术领袖听起来像在互相反驳。
对。比如 Jensen 和 Dwarkesh 的一段讨论,被很多人理解为双方对 AI 系统有根本分歧;其实他们常常只是在不同层级说话。
Jensen 习惯把产业看成大约五层的完整技术栈,从能源、数据中心、芯片到系统和应用;另一个人可能只在训练系统或模型循环内部讨论效率。两种说法可以同时成立。
问题在于,人们喜欢从类比出发,又忘了类比背后藏着哪些假设。只要一个隐含前提改变,整条推理链就可能失效。
所以现在反而是第一性原理思考者最好的时代。
完全同意。很多 VC 仍在使用上一个时代形成的启发式规则,并把这些 heuristic 当成不可动摇的 axiom。
公理是你推理的基本前提;启发式只是过去某些环境里有效的经验。把经验规则误当成公理,是技术转折期最危险的错误之一。
Anthropic 早期就常被这种旧框架误判。有人说他们不过是在训练模型,最终会变成某种 B2B SaaS 公司,因此缺乏真正差异化。
但模型能力一旦跨过某个阈值,产品形态、市场结构和组织优势都会重新排列。旧时代的估值类别无法提前描述这种变化。
我认为 Anthropic 大约在前一年十月出现了真正的 takeoff。我们在 Cognition 看过一个 checkpoint,已经能感到能力发生质变;到十二月,经过 post-training 的版本公开后,外界才大规模看到结果。
也就是说,真正的领先不是新闻榜单上的一周名次,而是团队能否更早识别能力拐点,并围绕它重新组织产品和研究。
正是如此。领先意味着持续把 frontier 往前推,而不是在一个静态排行榜上宣布永久获胜。
Anthropic 如何破解编程能力
Anthropic 到底是怎么把 coding 做出来的?这只是一次幸运的骰子,然后优势不断复利吗?
我想到自己在 Rishi Valley 上学时的一位老师。他告诉我一句话:运气偏爱有准备的头脑。
我小时候很容易拿高分,有一次考了 95 分,就误以为自己理所当然能一直保持;下一次没有认真准备,结果当然没有重复同样成绩。
老师的意思不是否认运气,而是说好运只有在你持续准备时才能被识别、利用并重复。否则一次好结果只是偶然。
Anthropic 在大约四年里一直是为这个时刻准备得最充分的公司之一。他们持续建设模型、评估、基础设施、安全机制和开发者理解。
当合适的 context、训练数据和真实开发者 diff 出现时,他们不是临时转向 coding,而是已经拥有能吸收这些信号的系统和团队。
所以“幸运”发生在长期准备之后。
对。早期的困难反而迫使他们提高效率,把有限资源集中在最重要的问题上。
与 OpenAI 相比,Anthropic 很长时间里的 burn 更克制、更高效。这不只是财务特征,也塑造了工程纪律。
当能力窗口真正打开时,他们已经知道如何把模型能力变成开发者每天愿意使用的产品,而不是从零寻找方向。
这听起来像技术、数据、产品和组织准备共同构成的复利。
是的。运气可以决定某个具体 checkpoint 何时出现,但只有准备好的组织才能把一次突破变成持续领先。
文化、困难时期与 Anthropic 的 P0
如果数据本身不是最终护城河,那么更持久的东西可能是团队和文化。
文化很重要,但文化也非常脆弱。它不是公司成立时写下一组价值观,就会永久存在的资产;它需要不断被行动补充。
Ben Horowitz 曾来我们的 CS183 课堂。我问他,为什么今天有那么多 AI 实验室拥有足够的钱和算力,却仍然无法交付真正的产品。
a16z 墙上有一句我很喜欢的话:文化不是一组信念,而是一组行动。它借用了武士道和日本哲学的表达。
组织可以反复宣称自己相信安全、科学或用户价值,但如果领导者的招聘、资源分配和产品决定不再证明这些承诺,文化就会开始磨损。
所以文化更像一座每天都要照料的花园。
对。你不能说四年前已经种过一次,因此今天不需要浇水。每一次艰难取舍都会告诉团队,哪些价值是真的,哪些只是宣传。
真正可信的创始人,会在短期代价很高时仍做出强化使命的决定。文化正是在这种时刻形成,而不是在顺风期形成。
Anthropic 的基本判断是:随着能力扩展,系统仍具有随机性和误差区间;模型进入关键场景后,interpretability、可靠性和责任问题会变得现实。
到 Claude 1 的阶段,一些风险论述可能在外界看来过度谨慎,但回头看,模型确实越来越多地用于编码、企业流程和其他 mission-critical 场景。
一旦系统开始承担真实责任,bug、失败模式和潜在 liability 就不再是抽象哲学问题。
Anthropic 长期重复安全、测量和 accountability,并把它们转化为评估、产品和组织流程,这种一致性本身逐渐构成了护城河。
创始人控制是否让这种长期取舍更容易?
是。创始人控制并不自动保证正确,但它能让团队在资本市场不理解时,仍然为使命承担艰难代价。
Anthropic 早期经历的拒绝和资源约束也很关键。困难迫使团队说明自己愿意在哪座山上战斗,并不断证明优先级。
反过来,如果公司过早获得过多资本,所有方向似乎都能同时做,团队就可能永远没有被迫形成真正的 P0。
使命一致性、组织脆弱性与文化磨损
所以并不存在一条没有困难、却能直接复制 Anthropic 文化的捷径。
对。早期被投资者拒绝,甚至因为对方已经投资 OpenAI 而被拒绝,对 Anthropic 来说反而是一种 feature。
它迫使团队明确:如果只能选择一个最重要的问题,那个问题是什么?从第一天起,他们的 P0 就是 coding。
他们相信,如果能安全地破解 coding,就能加速几乎所有计算机工作,并把模型变成推动研究和生产力的工具。
选择 P0 的另一面,是必须对很多同样有吸引力的事情说不。文化也由这些被拒绝的机会构成。
Periodic Labs 的 P0 显然不同。
完全不同。Periodic 的使命是超级导体和基础科学,而不是自己做 coding model;团队直接使用 Claude 等工具帮助工作。
使命会决定招聘、实验、基础设施和产品边界。如果没有这个约束,组织很容易把资源分散到每个流行方向。
太多资金来得太快,会让公司在还没有找到 P0 时就扩张。表面上规模很大,内部文化却可能非常脆,最终到不了真正的 takeoff。
所以资本不是越多越好。正确的问题是:这些资源是否强化了使命,还是替团队逃避了必须做出的选择。
Periodic Labs、物理约束与硅谷雇佣兵
把这种“困难塑造文化”的框架放到 Periodic Labs,会发生什么?
Periodic 面对的最终约束不是市场叙事,而是物理现实。实验结果不会因为融资或品牌而改变。
Liam 是 ChatGPT 的共同创造者之一;Doge 曾在 DeepMind 为 Demis 工作,并参与 GNoME 等项目。团队有很强的 AI 背景,但使命是让模型真正进入科学实验循环。
我自己作为 Stanford 物理系的 visiting scientist,测试过前沿模型处理物理和科学任务的能力。它们总结论文已经不错,但面对凝聚态实验室的真实数据分析,仍然很弱。
十二个月前,这个使命并不热门。有些候选人曾承诺加入,后来因为别处给出更多钱而离开。
当团队做出技术突破、系统达到 state of the art 后,其中一些人又想回来。我拒绝了,因为早期选择已经暴露了他们与团队原则的关系。
这听起来很严厉。你不相信第二次机会吗?
我相信,但信任需要时间重新建立。关键岗位不能只因为市场风向改变,就假设先前的承诺从未发生过。
我二十四五岁第一次创业时,也经历过背叛和各种戏剧性事件。那些经验让我理解,团队在压力下采取的行动,比顺风期说的话更可靠。
Silicon Valley 同时极度 missionary,也极度 mercenary。这里既有愿意为使命投入多年的人,也有随最高报价移动的人。
大笔金钱会让人失去尺度感。对基金来说不算巨大的数字,对个人却可能足以改变一生,而很多人从未受过如何处理这种选择的教育。
因此,创始人不能假设每个人天然拥有相同价值观。要通过结构、沟通和真实取舍,把使命变成可观察的行动。
技术突破会吸引人才,但真正的文化是在突破发生前、回报尚不确定时建立的。
没错。愿意在问题还不流行时留下的人,通常更清楚自己为什么在这里。
Rishi Valley、新加坡与金钱作为度量
你对金钱和困难的看法,似乎与成长经历有关。
我在 Rishi Valley 长大,那是一所由 Jiddu Krishnamurti 创办、生活非常简朴的学校。我们睡硬石板和很薄的床垫,物质条件并不奢华。
后来我获得新加坡政府奖学金,去了 St. Andrew’s Junior College。最初住在 Boon Keng 附近的临时宿舍,因为 Potong Pasir 的校园还没有建好。
那不是人们想象中的精英宿舍,更像旧式移工住房。一个很小的房间里塞了多张双层床,有人爬上去时整张床都会摇。
但我非常喜欢那段生活。我的室友来自中国,是排名很高的 Dota 玩家,几乎不会英语,我们还是找到了相处方式。
新加坡吸引来的奖学金学生非常优秀,我们也许应该更好地对待他们;很多人后来会为社会做出巨大贡献。
那段经历让我知道,幸福并不需要很多东西。舒适当然很好,但它不是意义的必要条件。
金钱可以是一种度量,帮助你理解市场是否认可某种价值;但 Goodhart 定律提醒我们,一旦度量本身成为目标,它就会失去原本的信息价值。
也就是说,财富可以反馈成果,却不应该取代使命。
对。钱最好被当作资源:让你获得时间、人才和实验能力,继续追求真正重要的事情。
如果把数字本身当成人生目标,人就会开始优化指标,而不是优化意义;这与公司只追求 GPU 数量、却忘记最终 output,是同一种错误。
从 Rishi Valley 的石板床,到新加坡宿舍,再到今天讨论吉瓦级基础设施,这条路径似乎一直在提醒你区分资源和目的。
是。资源可以放大行动,但无法替你决定为什么行动。使命必须先于规模。
当个人和组织都能保持这种区分时,金钱和算力才会成为工具,而不是把文化带偏的目标。
结尾思考
我们会在第二部分继续。我还想深入聊你的 setup、投资组合和 AMP,但今天时间已经到了。
那我们先去吃鸡饭吧。
明天正好是我的生日聚会。
那我能得到邀请吗?
当然。你正式受邀参加一场新加坡式生日聚会。
谢谢你今天来,也谢谢你把基础设施、研究、文化和个人经历连接在一起。我们下次继续。