Claude Code金融应用与全球内存短缺：Doug O'Laughlin深度访谈

这玩意儿一直犯错。我还是把它当成一个初级分析师来看待，对吧？分析师去收集所有这些非常麻烦的信息，然后你把它们整合起来，在高层做出好的决策。历史上，那个初级分析师——我曾经也是——会去收集所有信息，做得多了之后，会有一种元层次的思考出现，就是“好吧，这才是我真正理解的东西，这种分析我是专家，实际上我非常擅长，我的命中率很高。”

现在我就是专家了，对吧？我觉得这种元层次的学习还没出现。嗯，看看大型语言模型（LLM）能不能做到吧？全世界花一千万亿美元的人都觉得它会做到。它最好做到，对吧？如果你花一万亿美元，却没有元层次学习，那就糟糕了。但对我和我们公司来说，这极大地放大了每个专家的能力，因为你仍然得做点什么，不能只是胡乱拼凑。对我来说，胡乱拼凑的东西非常明显。

Doug O'Laughlin，欢迎来到Latent Space。

谢谢你邀请我。嗯，

这么久了，我能直接叫你Swiss吗？我觉得我的脑子就在那个状态。我们认识很久了，你也可以叫我Mule。我是，嗯，你知道的。是啊，是啊，确实很久了。

确实是很久了。

我记得第一次见你是在新奥尔良，或者是某个NeurIPS会议上。

是的，我记得其中一个是在温哥华的会议，对吧？

对，我记得是某个派对。

你当时说，“嘿，这是谁啊？”我说，“哦，好吧。”

我其实早就知道你，我们在网上当笔友很久了，见面很酷。

是啊，我想那是我第一次见你本人。我没去新奥尔良那次，真希望去了，我很喜欢新奥尔良。

我们连续两年都在新奥尔良。

是啊，真的应该再去一次。

你们今年会去墨尔本或者澳大利亚的会议吗？

我甚至没想那么远，但听起来挺有意思的。我记得今年韩国有个会议，对吧？

是的，ICML。

我打算去韩国的ICML。我知道Clear也会去。

我不知道，会议太多了。说实话，我不太喜欢旅行。

嗯，我很高兴能见到你，我是专程来找你的。

谢谢，真的很开心。

我没想到会遇上暴风雪。

是啊，最近好多人来都被困在暴风雪里了。这是四年来的第一次暴风雪。谢谢你来。

很高兴来。

你以前是匿名的，叫Value Mule，我就是通过这个认识你的。

有趣的是，Value Mule是我第一个账号。你知道我是怎么注意到你的吗？我当时想，“这个人看起来很聪明。”

我也记得注意到你，那是Twitter的早期，2017、18年左右。

是啊，那是最原始的Twitter时代。我挺怀念那个时候的。

Value Mule是最深的梗了，如果你知道那是什么的话，那就是最深的梗了。后来我还有另外两个账号，现在主要用第三个账号。

哪个账号？

我没账号。

我不想暴露你其他账号。

半暴露一下。

是的，那是我最早的金融账号，我把它当作遗产账号。我想保持点隐私。

现在你全力打造品牌了。

是的，品牌全套。

头像都一样。

那我们聊聊Doug的故事吧。很多人听说过Dylan，我想讲讲Doug的故事，胖知识的故事。你以前是价值投资者，就是Value Mule，然后有个导师或者什么人引导你进入半导体领域，是这样吗？

不，实际上我是自己把自己“nerd snipe”（被极客吸引）了。我不太算是价值投资者，嗯，对听这个播客的人来说，可能算是价值投资，或者说过去关注质量股。我们当时想买优质复合增长公司。我发现了ASML，这让我一见钟情。之后我读了很多关于它的资料，了解制造过程的复杂性，了解谁能制造它们。半导体产业链的下游都是从那里开始的。2018年我真正爱上了它，然后我读教科书，越读越深入。

我本来想提Asianometry。

对，那太完美了。John真是个怪物，他有一整套关于这方面的播放列表，涵盖所有细节。最棒的是，这全是科幻。那是我最喜欢的部分，除了那些会说话的智能机器人和大型语言模型（LLM）之外，ASML完全是科幻。半导体一直是科幻，我一直喜欢它，觉得它是我们制造过的最重要的东西。然后我就一直跟进。

我不知道你知不知道，我以前是分析师，覆盖TMT（科技、媒体、电信），这是个巨大的行业。

是的，非常大。

我当时覆盖Sprint，

对。

还有Viacom。

对，还有ASML。

我觉得T、M、T其实是三个完全不同的行业，但在2000年左右它们还比较接近。

对，但从那以后就分开了。

我以前是科技板块的人，去过台湾，参加过那些会议，有瑞士信贷等带着参观。但我总觉得没真正理解，因为总是被投资者关系部门过滤。我觉得你得像你那样，深入教科书，真正学技术。但作为投资者，很难把技术和季度业绩或者年度业绩联系起来。因为基础知识太多了，然后你又觉得这些都被市场消化了。你假设所有台湾买卖产能传闻的人都很了解情况，假设美国的TMT投资者也很了解。但对我来说，根本的区别是，我真的相信摩尔定律已经死了。我当时年轻，狂妄自信，觉得这是个重要的事情，别人没看到。

不仅这项酷炫的新技术制造难度大，技术上很有趣，我直觉上能理解，而且所有旧的经验法则都要被抛弃了，因为这是个超级成熟的行业。你读那些入门资料，学东西的方式是在ChatGPT无所不知之前，你得读这些入门资料，上面写着这是个成熟行业，80、90年代和2000年代还不成熟，但现在已经整合了，增长不大，大家都用早期2000年代的旧经验法则。很多人讨厌硬件，觉得半导体没那么值钱，软件才是最值钱的。现在软件被打压了，但这不在讨论范围内。人们以为这是个老掉牙的行业，没什么新东西。可实际上，每天制造新芯片都是科幻。人们把这当成理所当然。当科幻结束了，因为芯片做不再能做得更小了，所有免费增长都没了，你得重新思考。半导体行业因此产生了很强的定价权，或者说价值，给那些懂得制造好芯片的人。英伟达可能是最好的例子。你可以谈并行计算，但他们不仅懂芯片设计，还懂网络、设计、规模扩展，整个流程。过去只是CPU性能提升而已。我深信摩尔定律终结，一切都会改变。带着这个顶层论点，我想挑战每一个假设。

这也是我最喜欢的文章之一，写于2020年初，题为“GPT-3和墙上的字迹”，我当时早期提出“摩尔定律结束，扩展定律重要”，简化来说就是供给除以需求。需求因扩展定律增长很快，供给因摩尔定律崩溃而放缓。这对半导体很有利，并行计算会很重要。我的结论是，英伟达几乎是唯一受益者。这是我长期的预测。我觉得我没预料到它的规模。这是整个故事最疯狂的部分。我有这些信念和论点，我真的很相信。认识Dylan是因为他是我见过的唯一和我一样“半导体狂热”的人。我记得我们在私信里争论这些话题。

只是线上吗？

不，我们见过面。

我记得你们只去过台湾一次。

是的，我们见过面，参加过会议。我们都很早认同这个论点，背景和视角不同，Dylan更技术导向，技术很重要，我有点金融背景，但一直围绕他。他是唯一一个同样关心这个话题的人。我们当时说对了，但让我一直震惊的是我们对的程度。英伟达不仅好，而是现在是全球最有价值的公司。

（大笑）如果让我读那篇文章，我相信我写了它，但我不会相信它会变成这样。

那只是当时的众多论点之一。

对，还有很多当时写的没成功的。

是的，我们可以回头看，但我对自己的长期记录挺满意的。只是对事情发生的规模感到惊讶。很疯狂，像ASML这样的技术虽然不是家喻户晓，但相对知名，是个异类技术。这一路是学习之旅，真正相信技术走向，理解芯片重要性，理解大局，把一切拼起来。

这就是早期故事，几乎都是基于一个伟大的洞见。

是的，可能是职业生涯的转折点。我喜欢帮别人做职业决策，尤其是那些也在权衡各种事情的人。我有注意力缺陷症，喜欢追逐有趣的东西，但最终你得做出选择。

我觉得你一直擅长跟踪趋势。比如你用Value Mule账号时，总是比较早发现趋势。我记得2019年我痴迷TikTok，别人都不理解。我一直挺擅长趋势的。但当你看到一个你非常有信心的大浪潮时，值得全力以赴。这就是我重新调整生活的原因。

好，嗯，我们接下来要谈谈你发现的其他趋势，主要是内存周期，还有光学领域的惊人故事。但我们想把焦点放在Claude Code的发布和周年纪念上，你一直是Claude Code节目的重要支持者。

是的，我是。那个显示4%代码的图表在哪里？

哦，就在左上角这张。是的，是Android。你知道最疯狂的是，我们更新了那个图表，现在大概是5%了。正如你所知，现在生成代码真的很容易，所以这个数字会继续攀升，速度令人震惊。我们先给大家回顾一下，我觉得这是我很长时间以来读过的最重要的内容之一。你知道，你让我觉得很奇怪，因为我一直把你当成分析师，比如说SemiAnalysis的Alpha，你就像半导体领域里那个有趣的千禧一代公司，而其他人都超级无聊又老套。

但是你为什么会这么深入Claude Code呢？你不应该在看报告之类的吗？给我们讲讲你的Claude Code“精神错乱”故事吧。

是的，我觉得如果你想在任何游戏中表现出色，我们归根结底都是工具使用者。如果你想成为高手，显然这超出了我作为SemiAnalysis的工作范畴，我还有很多其他事情要做，努力让SemiAnalysis成为最棒的研究公司。但假设你是基金经理或分析师，你的工作就是找到信息优势，找到别人没用过的新方法来整合信息。我一直认为，了解最重要的“武器级”工具非常关键，比如ChatGPT、Anthropic这些东西。我一直尽可能做早期采用者。举个例子，我从Claude Code刚出来的时候就开始用它做案例研究，差不多一年多了，大概是三四月份开始。

说说那个案例研究吧。

当我们招聘金融分析师，核心研究岗位时，会给他们一个案例研究，比如“你能不能拿这家公司做些分析，按照这个格式给我们反馈？”我一直用这些代理工具来做，比如说，当代理真正成熟时，它们应该能一次性完成多步骤的复杂任务，这些任务人类可能需要24小时才能完成。我一直很好奇，因为有些提交做得不错，有些很差。我们对案例研究的质量很自豪。老实说，我一直开玩笑说，代理会开始打败最差的提交者。这是我的基本判断标准：它是否比ChatGPT的代理模式、Anthropic的Claude Code或Gemini CLA更好？我开始做一些基准测试，对它们的表现很熟悉，但当时觉得还没完全达到理想状态。

我在Opus 4上写过一些代码，做过有趣的项目，但很难，反馈很多，容易出错，效果不理想。然后大家都在疯狂讨论Claude Code 4.5，我趁假期有空试了一下，发现它开始一次性完成所有任务了。比如那些最小可行产品（MVP），你本来得说“界面怎么样”，但它直接一次性搞定了。然后你让它做得更好，它还能解释你在做什么，效果非常好。我觉得它轻松实现了一次性完成MVP的能力，能在此基础上构建东西，因为你可以在一定程度上信任它的输出。这种能力超越了我过去的经验。我之前也试过Codex 2，比如Windows 5.2版本，但没能无缝地以代理方式运行。

这是最近的事吗？

是的，我最明显的觉醒大概是在12月27日左右。

12月20日？

差不多是那个时间。我圣诞节回家后，未婚妻身体不太舒服，我有些时间自己玩玩。那时候还有2倍使用限制，真怀念那段日子。现在我已经习惯了快速响应。总之，我像其他人一样玩这些编码代理，做简单测试，看它们能不能完成任务。之前它们从没能一次性完成完全傻瓜式的任务，但4.5版本开始能一次性完成了，这对我来说是巨大的变化。

你主要用Excel表格吗？

不，不是主要用Excel表格。我通常用仪表盘、Excel或类似工具的混合。举个例子，我觉得Excel在一次性完成基础财务模型或简单信息转移方面还算可以，虽然还达不到人类水平。但说实话，如果你懂投资和业务，你会发现模型准确度提高5%真的不会帮你做出更好的投资决策，绝对不会。没人会说“我的估计比别人准确一分钱，所以我股票特别牛”，根本没用。

卖方分析师那边很荒谬，因为大家都说“我看多，因为我的每股收益（EPS）预测比市场高10%”，我就想，“谁在乎呢？”

说到卖方分析师，顺便说一句，SemiAnalysis之所以成功，是因为我认为卖方分析师这个概念本身就很破旧。如果你谈论行业变革，卖方分析师在很多方面是银行业30、40年前的遗留产物。那时候公司上市，你需要有人帮忙推介、发行证券、卖股票。你实际上是在卖股票，但又得保持一定独立性，所以有买入、卖出、持有评级。卖方分析师最大的销售机会就是公司IPO。我们会谈谈你是谁，这就是卖方分析师的核心起源。问题是，所有研究都变得一团糟，没什么差异，银行监管也变了很多。现在的主要信息流程是一个40年历史的商业模式，已经走到尽头了。

这也是SemiAnalysis做得好的原因之一，我们不专注于那种一分钱EPS的机械维护，我认为那不算真正的技能。我们擅长理解技术变革及其影响，因为EPS稍微高一点或低一点无关紧要，但如果我能准确判断AMD的Helios芯片按时发布，能在某天开始生产芯片，这会给AMD带来数十亿美元的收入差异。或者某个网络技术瓶颈的时间和规模判断准确，会对股票产生巨大影响。这就是我们的业务，我们是独立的研究公司，命中率很高，我们非常关注技术。

没错，我不是说你年轻有趣就不行，你非常厉害，几乎是三重威胁。我一直想知道，是不是因为你一是对技术有深刻理解，二是有一定的金融素养，三是有某种X因素，专注于真正重要的事情，其他都不管？我不知道那是什么，但那显然就是alpha。

是的，百分之百。分析师和基金经理的对话一直是这样：“真正重要的只有一到三个点，找到那三个点。”然后面对海量信息，真正难的是找出那三个点。我们专注于找到真正重要的东西，比如“这个30秒比那个30秒好，这个案例不重要，但这个重要，因为它带来巨大机会。”这就是研究的游戏规则，也是金融视角。

此外，做这么多研究后，你会发现各个行业的细节非常难懂。你去参加网络会议，和某个公司的人聊他们的新邮件系统和激光技术，我都记不清邮件替代了什么，他们都有博士学位，而你没有。每个人在最深层次都有博士学位，都在做这些事。你必须理解供应链各个部分的深层知识，同时还要有宏观理解，因为供应链底层的一个小环节会影响顶层的庞大业务，所有环节相互关联，但非常复杂。光是“学费”就很贵。

我想给听众搭桥说明，这就是问题领域的复杂性，既有极深的深度，也有极宽的广度，你必须投入人类注意力去发现重要的东西。你说你在12月发现了某种突破，突然一切都明白了。我想弄清楚我擅长的任务和还不擅长的任务。

让我具体说说我的用例，因为我还是个股票爱好者，不能在半导体或AI领域交易或操作，但我仍然喜欢股票，这也是我热情所在，可能是我最核心的技能。真正喜欢股票的人是“终身者”，他们热爱这玩意儿，简直上瘾。

所以我说，“这是我所有仓位和一些想法，你能帮我整理成笔记吗？”Claude Code就派上用场了。我开始做这事，然后说，“帮我跑个投资组合，做些基本风险分析。”它都能做。然后我说，“帮我做个投资框架，给我的投资风格打分，做些分析。”它都能做，能迭代工作。我当时想，“哇，这工具太有用了，系统化了我的思考。”我想还能做什么？答案是，几乎什么都能做。我在播客上开玩笑说，现在全是技能问题了。

我系统地用它做我能想到的所有方面。举个完美例子，就是这张图表，Claude Code很重要，所有任务都能一次性完成，我看到网上大家都陷入“精神错乱”，我也一样。我想，“我怎么知道什么是真的，什么是幻觉？”我听说Claude Code有提交记录，公开的提交信息上写着“签名”，我就想，“为什么不让我抓取所有提交？”结果它真的做到了。我找到了那个签名，复制粘贴，问它“你怎么系统地做这事？”它用大查询拉取所有数据，每天都拉，API相对开放。我想看看增长速度，图表一直往上走，GitHub占比也在涨，真是大事。

我每天都用cron job更新它，真是大事。我喜欢看趋势，尤其是指数级趋势，我从没见过哪种趋势能以这种速度增长，比如两周内达到4%。你有PR Arena吗？

呃，

那是你之前的尝试，但他们没怎么谈，只谈合并率，没有你画得漂亮。

是的，你还问了“这占GitHub百分比是多少”，那个人没问。

对，还有很多类似的。我专注于Claude Code。顺便说一句，我没做那个图表，是Opus 4.5做的。

或者4.6。我说，“我要你用这个风格，这是SemiAnalysis的配色方案，我总结了很多关于可视化的书，给你一些风格建议。”我让它读了70本书左右，结果我都不知道，可能是浪费时间。

确实有点浪费（笑），但代币是免费的，做这事的成本几乎为零，这才是最惊人的地方。

信息收集和综合就像是，嘿，如果做70个和做3个成本差不多，谁在乎呢，对吧？所以我就随便了，答案是，我会说，“哦，这太多token了，你最好真的把它总结成90个token左右，或者类似的一个非常基础的东西。”然后你拥有了所有的技能，但比如说，好吧，现在你可以把所有这些放进一个技能里，教它如何用任何数据制作图表，按照SemiAnalysis的格式，然后你可以系统地再次推送这个技能。

我会说，“嘿，数据分析师，请考虑所有你能想到的关系，然后生成信息。”我觉得那个不是chat生成的，我讨厌那个，老实说，我不太喜欢那个，因为它没有指导原则。对。

那是生成的。所以你可以做的是，你只要说，“嘿，这是我们所有的日期，你能和我一起头脑风暴，想一个更好地表示这些信息的方法吗？”它会说，“是的，我会给你生成一个时间线。”你可以做这些事情。这就是你的口头禅，对吧？

是的，那是我现在的口头禅。

你可以做任何事情。人们从编程的角度来看这个问题，他们说，“嘿，编程自动化了，对吧？”但我认为所有信息工作都是这样，我会说编程只是所有信息工作中的一个大子集。我记得Brian Hobart很久以前发过推文，他说，编程和金融人员实际上是非常不同的抽象类型，但你知道，你都在做抽象。Excel是一个巨大的抽象。你在建立这些关系，描述你认为一个金融事物的价值，对吧？我觉得编程更难一点，老实说。你告诉我难的那个被自动化了，为什么简单的不能被自动化？

所以我开始问自己，我们能做多少？答案感觉像是技能问题。它在边缘会犯错，但你可以强制它，比如我喜欢用评分标准。嘿，我关心XYZ，满分10分，给它评分，然后你可以做很多事情。这有助于处理随机性。

你是把任务和评分标准放在一个提示里吗？

还是先做任务，完成后再用评分标准？我其实有两个版本。我会说，“嘿，你可以把所有东西放一起，直接运行评分标准。”或者你可以先做任务再做评分标准，这取决于你想怎么做。

因为显然如果你把任务和评分标准放一起，它可以自我迭代，但如果评分标准放后面，那更像是你关注评分标准。

是的，确实如此。还有另一部分，是的，它会迭代，但上下文衰减不重要。我喜欢把它分开，因为它需要一个新的视角。你得把它想象成它在任何地方感知任何东西，每个上下文窗口都是重新打开它。我觉得如果你把它们放一起，信息会混合到偏见或者容易出错的程度。你知道Opus 4.6超级容易答应，“好，我帮你做这个。”我觉得分开做可以避免这种漂移。

这是我个人非常喜欢的结果。但这很复杂。我现在对设计有点怪异的品味，因为有人解释了上下文衰减，我才意识到，“天哪，谢天谢地有人说了，这很重要。”有个梗是这样的，关于《人鼠之间》的梗，书的结尾我忘了哪个角色开枪了，我没读过。

是的，一个角色开枪打了另一个人。

有人做了个梗，说“这是你的Claude Code被搞乱了，超过五百万token，你该放弃了。”因为上下文衰减很严重。

那么你的压缩实践是什么？你是手动积极压缩吗？

我个人用的是1百万token的模型，我尽量把所有东西放在一个压缩窗口里。我没做过巨大的项目。

这个1百万token模型很新吧？

是的，非常新。但这很重要，因为你的技能和代码MD占1百万token的比例小得多，所以你获得的效能更大。200k模型是反复覆盖的，这很重要。我觉得这很重要。还有代理的工作方式，子代理有自己的上下文窗口，粘贴功能真的节省了大量token。你想在1百万token里做一个高质量项目，这是我认为最好的。压缩就是开始减少噪声。

说到子代理和多代理。

首先，我想提一下Anthropic Research的东西，他们展示了生产流量，并做了类似仪表盘的报告。很多人说软件工程已经有产品市场匹配（PMF），但这里是其他所有东西的列表。但如果它们都是软件工程呢？软件工程现在占50%，但没什么阻止它继续涨到80%。

我觉得可能会发生的是……

这里面有数据分析。

这正是你做的。

是的，我认为那是下游的东西。所以我觉得我们应该这样看，软件工程可能都是芯片的下游，芯片是上游，然后是AI，然后是软件工程，都是同一个计算层级的延伸。我认为现在机器学习和代码的交汇点是代码，这将是解决其他问题的主要语言。这是我的看法。比如说，Excel云远不如用Python的Claude Code，用Excel技能再导入，效果差多了。

是的，差多了。

即使他们做了很多工作。

是的，100%。因为这是遗留问题。为什么要让汽车引擎装进马车？它应该装在汽车里。这是向后兼容的问题，虽然LMS相对通用，但为什么要这样做？Excel上的信息抽象是为了人类理解而格式化的，这才是关键。所有这些信息和软件都是给人类消费的，不管怎样。如果机器也能把数据组合好，我们应该更关注机器专用的软件消费，这样LLM和代理就能合成所有信息，按你想要的方式输出。我不需要在PowerPoint或Excel里做图表，它可以直接输出matplotlib的图像。

哦，你用matplotlib？

是的。

哇。

为什么？因为它更好，更能理解代码。

是的。

那为什么还要自己做图表？

是啊。

如果它更好，

只是可能和你做的其他图表不一致。

我不太在乎。

我觉得我们不会太在乎，但我觉得一是新图表比旧图表好，二是如果它加快了信息速度，那很重要。所以新图表会远远超过旧图表，因为它会不断增长。[笑]所以是的，虽然有点不一致，我们有相同的水印，老实说我觉得格式比旧的好。

这让我想起了彭博社，我觉得你们简直就是在变成彭博社。

这是个不错的视角。我想重点说几件事，因为这就是Claude Code的头脑风暴，关于子代理和代理群。我不知道你试过没？

我试过。

你想说哪个都行。

我有个有争议的观点，Claude并没有在代理群或代理团队上做强化学习（RL）。

是的，那只是个实验。

谢谢。因为不，我们完全同意。它只是通过提示实现的，效果很差。我觉得子代理还可以，因为它们通常有一个四千token的模型去执行任务。但代理团队实际上……

好吧，我们不能否定它是实验性质的。

是的。你用它做了什么？

做了一个大数据分析，涉及很多不同公司的不同关键绩效指标（KPI），整合到一个仪表盘里。我说，“嘿，你能把这些分成团队来做吗？”说到这，你说Kimi 2.1的代理群其实挺好，我也试过，确实很好。我做了一些以前没法做的事情，比如内部模型基准测试，给它一组问题，让它做20次，然后我可以测量它们的表现，做定性分析，比较X和Y的区别。

这三个月前对我这种普通人来说完全不可用，现在完全可用了。太棒了。我很关心这些东西，现在我有工具能自动化做很多事情，因为软件工程部分已经自动化了。我的经验是2.5版本的代理群确实显著提升了模型表现，但代理团队让表现明显变差，因为显然没有做强化学习，所以它不懂什么是最优策略。我觉得很有趣，我喜欢子代理，因为它们通常任务更清晰，执行完再回来。

代理团队有帖子说他们做了强化学习，我自己试过，觉得挺可爱的，他们做了很多小游戏。

是的。还有就是运行代理群需要大量计算资源，我听说是16个H100节点。

哇，那你我都跑不动，肯定有并发可用，但还是很厉害。我觉得这就是未来的信号，因为代理会越来越好，这是另一个基准，另一个爬坡的目标。但接下来是你能把多少代理串联起来，形成更大的链条，做更多信息工作。这是下一个重点，重要的是上下文窗口不能乱成一团，要做到令牌效率足够好。

这是我们的实验结果，代理群和非代理群的对比很明显，Claude的代理团队是实验性质的，但Kimi会更好。Kimi 2.5告诉你，这已经是一个完美且完全可用的新平台。我觉得这很重要，因为如果代理变得更好，我可能永远都睡不着了。

说实话，这种AI的“登月计划”很有趣，虽然我们不打算深入，但你知道中国的AI虎将，比如Deep Seek和Qwen，然后你会想，“这些Kimi家伙是谁？”还有一些新名字，比如MiniMax也很重要，Zi存在时间更长，但最近更活跃。我注意到Kimi更处于产品化阶段，而Qwen和Deep Seek不太在乎。

Qwen因为挂靠阿里巴巴，有产品化路径，但他们有太多事情要做，就像Gemini版本一样。但Kimi很有意思，他们推进得很猛。

他们有Kimi Manis，Kimi Claw，Kimi Claw。[笑]

是的，我知道Kimi Claw，我还没用过。

是啊，伙计。我本来想说，你有没有玩过 OpenClaw？因为我玩过。我记得它最开始叫什么来着？ 嘉宾： Clawbot。 主持人： 对，伙计。我本来想说，那真是太兴奋了。我让它读我的所有邮件和日历，做各种事情，我当时就想，等等，这东西真的很容易被注入提示（prompt injectable），但我觉得它挺安全的，也挺重要的。所以我当时就觉得，Claude Code的精神错乱（psychosis）对我来说已经够用了。我的做法是，我有多个邮箱，有一个更安全的邮箱专门给机器人用，如果它表现得让我满意，我再升级它。 嘉宾： 嗯，但说实话，OpenClaw 并没有让我印象深刻。 主持人： 我也没被它打动。这就是为什么大家对Moltbook那么激动，我当时就想，兄弟， 嘉宾： 你真的用过这玩意儿吗？因为现在在 Claude Code 里，在一个相对集中的终端，它会说“哦，blah blah blah”，就像“伙计，在 env 环境变量里有一个 API，我告诉你用它来解决这个子问题，它就在你的 CLAUDE.md 里，请专注点”，它还是会犯错。这不是真正的通用人工智能（AGI），你还是得驾驭它。它不是完美的技能执行者，每个注意力窗口里的上下文都会变化，有时候它会偷懒，有时候不会，但它绝对足够处理大量信息。 主持人： 是的，我想说，我用我们的 Discord，基本上就是用它来传递信息。我刚看到很多人其实是在用 OpenClaw 做一些他们本来可以用 Zapier 做的事情，因为他们觉得，“现在我有 AI 了”，但实际上他们只是用 Zapier 做得更安全而已。[笑] 嘉宾： 嗯，我觉得这挺有意思的。 主持人： 我也觉得挺有意思的，但区别是 Zapier……我记得我试过用 Zapier。 嘉宾： 对，而且它也不太好用。 主持人： 对，它也不太好用。 嘉宾： 区别在于……没关系，早期做错了也没关系，因为你不是那个让它发生的人。OpenClaw、Claude Code、OpenClaw 这些东西之所以强大，是因为它能完成任务。Zapier 也许能一直完成任务，但你可能得花八个小时点点点、复制粘贴各种东西，确保一切正常且安全。而 OpenClaw 或 Claude Code 可能四分半钟就搞定了，这对我来说已经够快了。 主持人： 对，这是一种更快的成就感。所以他们是对的，但他们不是正确的机制。 嘉宾： 对，你看信息技术历史上也发生过这种事。我觉得这也涉及创新者困境，Zapier 作为一个已有业务，它对自动化的理解是非常严格的、按轨道运行的工作流，这也是它庞大用户群已经习惯的模式，它没法轻易转型。 主持人： 所以我觉得其中一个联合创始人离开了，因为他觉得自己无法在这个框架内生存。 嘉宾： 你最终会被这个框框控制，你的“金手铐”就是你的牢笼。 主持人： 是啊，你会在牢笼里表现得像你本来的样子。说实话，这挺糟糕的。 嘉宾： 我觉得这很糟糕。我的理解是，你的先验（priors）变成了你的监狱。 主持人： 哇，这说得真好。 嘉宾： 你的先验变成了你的监狱。我很喜欢这句话。 主持人： 我还没想透，但我应该想想。 嘉宾： 你应该想想。 主持人： 回到 OpenClaw，我也想说，这就是自然对话的方式，我觉得大家喜欢这样，可能这也是我们唯一一次谈论 Kimi。 嘉宾： 是的。

你用钩子（hooks）吗？能给我讲讲 Doug O'Laughlin 的 Claude Code 设置吗？ 嘉宾： 我基本上有几个基础技能，然后有很多 API，我们也在努力开发一些半导体分析（semi-analysis）相关的信息 API，这还在进行中。这样我们内部有一个服务器， 主持人： 一个内部服务器？ 嘉宾： 对，内部服务器，供人通过 API 访问，这样所有半导体分析的研究人员都能获得基本的上下文，因为我觉得上下文才是关键。我太笨了，没法特别聪明，虽然我确实有一些钩子，如果你能理解的话。 主持人： 我觉得钩子被严重低估了。 嘉宾： 是的，我觉得钩子很重要。 主持人： 因为你可以用钩子做一个 Ralph 循环（Ralph loop）。 嘉宾： 对，我觉得我没充分利用钩子。我确实在技能调用上用了一些钩子，比如“嘿，发生这个事你得开始拉取这些东西”，但一开始我试图做很多钩子和复合操作，我发现“gas town Ralph loop”时代虽然预示着未来，但现在还没足够的精度来做复杂的多轮交互。所以其实少即是多，试着做一套强大的小技能，带有足够的上下文信息，然后每次会话开始时问清楚你想做什么，这样就能触发正确的提示，而不是“云中之云”那种复杂结构。 主持人： 目标是在单个上下文窗口内完成任务，然后结束。这是我通用的研究流程，比如我想看自1984年以来 NAND 的价格走势，我想做什么，我想…… 嘉宾： 其实不如给你举个可能行不通的例子，我想微调一个时间序列基础模型来预测 NAND 和 DRAM 价格。 主持人： 好，我先收集尽可能多的信息，blah blah，然后微调，评估，选用 Chronos-2，因为它的协变量（covariants）……blah blah，搭建整个项目。我们会做一个内部的 Vercel 仪表盘给半导体分析用，如果产品够好，也许会对外开放。 嘉宾： 然后它做所有这些事情，我就开始猛干，“嘿，你去研究，调用搜索 API，比如 Serper 或 Exa，去找各种信息源，然后整合起来。”这个代理去收集信息，另一个代理考虑价格不完美的事实，做微调，然后我们把它放进去。我还让它告诉我用的是哪个 GPU，按小时租的。 主持人： 对，我们把这些东西整合起来，微调它，我就问“这效果怎么样”，然后不断迭代，直到完成。我到最后觉得，这个时间序列模型可能行不通， 嘉宾： 你说是因为市场状态（regimes）或者别的什么？ 主持人： 我觉得是市场状态。 嘉宾： 这太乱了。 主持人： 对，对于很多刚接触金融的人来说，这就是我对那些用大语言模型（LLM）玩股票交易游戏的孩子们的看法。他们根本不懂金融，从没学过金融，根本不知道“过去能预测未来”这句话的含义，直到发生根本性变化，宏观环境转变，风险偏好切换。他们从没听说过这些术语。我得给认知团队的人解释这些，规则会完全颠倒，过去有效的方法在市场状态变化时完全相反。 嘉宾： 完全正确，这非常非常难。 主持人： 而且每个市场状态几乎都是独立的事件， 嘉宾： 对，这会减少你的样本量。 主持人： 所以最终你只能说，“嗯，这就是一些启发式规则，祝你好运，玩得开心”，这是你的清单，但你直到最后都不知道真相。 嘉宾： 不过这个项目有用的地方是，我不会指望神奇的 LLM 告诉我内存价格会怎样。

这是个不错的周末项目，我确实烧了不少代币，但我确实整合了所有能找到的内存价格信息，还有我们付费的 API 数据源，增强的数据源，以及所有协变量，比如消费者情绪、各种宏观指标。很有趣的是，我现在可以让它总结每个内存市场状态的样貌，是什么导致了开始、中间和结束，然后放到仪表盘里，方便公司内部共享和使用。 嘉宾： 是的。 主持人： 我今天可能就能完成。你可能会想，“这不就是收集信息吗？没人做过吗？”我知道，作为那个半导体周期专家，我写过的周期分析比任何人都多，尤其是80年代、90年代、2000年代和2010年代的周期。第一次做的时候，我去读那些老年报，整理数据，试图理清脉络，查 GDP、各种指标，做成大表格，写叙述。 嘉宾： 那可真是大工程。 主持人： 对，太多信息了，像是毕生的工作，博士项目。我两天就做完了。 嘉宾： 是的，我觉得这推动了……

问题是，如果你没有足够的专家信息去批判你随便写出来的报告中的推理过程，那就麻烦了。你知道，确实有些马虎。我完全同意这种马虎。

所以，我是这么想的。现在，顺便说一句，这对你们也很重要。如果你们被抓到给客户递交一些马虎的东西，对吧？你得在某个时候变得极度依赖AI，像是世界第一那样，把AI应用到你的生产力上，当然很好。但你也必须……所以我觉得这整个事情其实就是一场卫生习惯的游戏，因为我觉得这真的很难。我一直在想这件事。我对做这些工作感到非常自信，因为归根结底，我已经做了这些工作，我脑子里有很多嵌入的信息，很多信息。让我进入这个领域的感觉其实是大量的信息、设定场景和模式识别，对吧？但是，是的，你说得对，这玩意儿经常犯错。

我还是把它看作是一个初级分析师，对吧？分析师去做所有这些非常繁琐的信息收集工作，然后把它们整合起来，供高层做出好的决策。问题是，历史上发生的情况是，那个初级分析师——我曾经也是——去收集所有信息，做得多了之后，会产生一种元层次的思考，就是“好吧，这就是我真正理解的内容，这种分析我很擅长，我有稳定的命中率，我现在是专家了。”我觉得这种元层次的学习还没出现。我们拭目以待，如果一级机构能做到这一点，毕竟全世界花了一千万亿美元在这上面，肯定得发生改变。

对我们公司来说，这极大地放大了每个专家的能力。我们公司里全是专家。这是个难点，我在想新来的员工，我们会不会对他们使用AI工具的宽容度更低。

你是说初级还是刚入职的？

初级的，或者刚入职的。

是的。

因为你还是得做一些基础工作，不能随便糊弄。我很明显能看出哪里是马虎，哪里没有认知。最后那5%的人工处理真的很重要。对我来说，我本能地知道那5%是什么，我可以用一些简单的启发式方法和时间来处理它，然后说，“好吧，这就是最后的5%，你修正它。这是我相信的。别再胡乱假设了，按回车键，搞定。”这就是难点，真的很难。现在仍然有人在参与这个环节。未来某天它会超越人类，但我坚信我们现在所处的阶段还没到那一步，否则你会把所有噪音堆积起来，变成一团糟，所有上下文都腐烂了。但就能力而言，这种代理群体中的“人类CPU”非常强大，是你能力的巨大倍增器。对我来说，这已经足够让我觉得自己被AGI（通用人工智能）“洗脑”了。因为如果我定义AGI是能自动化或改变很多常见工作，不是ASI（超人工智能），而是能完全转变大量信息工作。

是的，100%。数据分析就是完美的例子。每个季度我都想让你帮我找一些可能有趣的信息。我简直无法想象，如果我是一个入门级的数据分析员，一个普通的22岁年轻人会轻松碾压一个相对成熟的代理系统。所以你会觉得，这个工作确实有风险。4.5版本的能力已经足够做更大规模的信息工作了，这让我觉得，“好吧，这确实改变了一切。”当然，错误很多，我们得有新的卫生习惯。你得理解代理工作的绝对底线。我经常发现它犯错，它不总是调用技能。你能明显感觉到上下文窗口的限制，它会随着时间变笨。它今天还不是AGI，但它能做这些疯狂的长任务，只要你最后完成并把它当作信息工作，那就非常有价值。

太棒了。你肯定经常去拜访客户吧。

是的。顺便说一句，Transistor Radio对理解你的世界非常有帮助。

你也给你的分析师们配备了四倍速工具吗？

我肯定给分析师们配备了四倍速工具。纽约办公室的每个人都必须试试。我真的尝试过“洗脑”，不是说你们半导体分析的客户，我觉得他们根本没采用这些东西。

那是也有也没有吧。有些人感兴趣，但你得记住他们相对保守。但如果你问任何分析师是否使用AI，每个人都会说“是的，我每天都用，当然了，怎么可能不用？这是必备技能。”我基本的推断是，我是一个前沿采用者，是个相对聪明的人，知道工具是否有用。我评估过这个工具，觉得“哇，这真是个惊人的工具，我简直不愿放手。”即使它犯错，我也会一直用它做各种工作。然后我看看其他人，觉得他们大多数和我差不多，如果有机会和优势，他们肯定会用。他们看着这个工具，开始用它。如果他们像我一样思考，就会采纳它。我不明白为什么不是每个人都用。我认为，从24个月的视角看，这会成为基础水平。我觉得Claude Code、Co-Work很快会成为所有信息工作的基础。我有个朋友告诉我，他的投资组合经理发现了Co-Work，让它帮他读邮件，他说“天哪，我太喜欢这个了。”每个人的“时刻”都会不同，但我觉得我的“时刻”就像GPT 3.5或4的第一次体验，你会觉得“好吧，我知道它有些胡扯，但这比我花几个小时搜集信息、整理信息要好得多。”它还有类比能力，你可以说，“这是设定，你能用这些强大的模式匹配技能描述它吗？”我觉得它达到了某种能力水平。我说不清具体是什么，只是个人感觉，“哇，这完全跨越了成为强大工具所需的鸿沟。”这就是我的Claude Code时刻。

有个自动化图表，XCD有自动化功能，我觉得我们需要一个类似Claude Code的版本。

是的，但疯狂的是，Claude Code完全碾压了Access。

确实，它改变了一切。

对。我试图弄明白，虽然它可能更笨，注意力更少，但因为你能快速启动它，它能快速并行处理，完成得快，你能多次迭代。

是的。

而人类只有一次机会。

你只有一次机会。

但用Claude Code，你可能有三次机会，复审过程就是思考。

对。

你得非常擅长复审或卫生习惯。

我把它看作卫生习惯。真正痛苦的是，我的专家意见是建立在以前的经验上的，比如注意力跨度，孩子们的注意力真的很差。我读过一篇很悲伤的文章，说我们变笨了，第一代AI，我不知道，也许是这样。

你看Coinbase的财报，所有币种（笑声）。所以这东西很可爱，但它是如此上瘾的技术，我很感激自己知道自己在做什么，有做过这些事的历史，能应用工具。但那些正处于这条曲线上的人会很危险，就像现在给每个人发了强力药丸一样。

是啊，太有趣了（笑声）。

我觉得你应该就这么做。

我们确实会应对一些半导体分析的梗。问题是你说的脑子腐烂很严重，确实很糟糕，但有些东西也触发了我原始猴脑中的某种注意机制。

对，它刺激我，你知道，我无法移开视线，就像玩地铁冲浪一样。

你无法移开视线。我得暂停它。

是的，我真的……你有没有去过那种酒吧，放一些奇怪的TikTok视频，你就看着看着？纽约有TikTok酒吧吗？

没有，不是TikTok酒吧。

那种公共场所会放B-roll频道，你会不自觉地被吸引。某些东西就是有效。抱歉跑题了，但我觉得Claude Code对我来说非常强大，我相信它会彻底改变一切。但很奇怪，如果你不投入人类认知去审查它，我觉得你不会是个好复审者。人类参与这个环节的原因之一是，因为你曾经做过这件事，你能说，“喂，笨蛋，你没从这个角度考虑问题，你漏掉了这个90%的内容，或者10%的尾部风险。”对吧？

是的。

所以你得知道什么时候你自己的内嵌模型会覆盖另一个模型。这是通过经验学来的。我在想，如果我们只是复审，而不去构建和内嵌那些判断假设，那就不行。

对，因为你只是检查错误，而不是通过做工作来进行原创思考。

是的。

这就是危险所在。

对，这就是我说的卫生习惯。按按钮很上瘾，但有时候你真的得思考（笑声）。所以我觉得这会很有趣。你试过吗？我觉得元学习的模型是，每晚做一次批处理，回顾所有工作，提取一些学习。OpenClaw我觉得很有趣的一点是它的“心跳”，我觉得人们对这个不够兴奋，因为这是代理永远在线、永远活跃、永远反思的第一个实例。

是的，就像MD2故事，更像是角色扮演什么的，但“心跳”就是“心跳”。

是的，我觉得这是个很好的说法。这就是这些东西强大的地方。我们知道上下文会混乱，知道OpenClaw不总是能完成你最初要求的任务，但你能看到设计模式，比如“心跳MD”就是完美例子。你能看到设计模式，比如我们每天的任务，是不是都得靠这个天才系统，还是我们坐下来一次完成一个项目，起身喝杯咖啡再回来？

如果是这样，你就可以让“心跳MD”考虑会话间的联系，做元警报什么的，它只专注于一种做事方式。它确实有上下文，实际上它能查看每一次发生的情况。这是信息和上下文，是人类永远无法掌握的。你会觉得，“等等，这感觉就像是足够好，能做大规模信息测试，有足够上下文，能调取信息，也许还会有验证机制，确保不会完全搞砸。”这对我来说是一个可以构建的设计模式。

所以感觉我们已经达到了某种能力，可以构建更大的模块。这些模块不仅仅是一行代码，可能就是一个业务。这有点疯狂。我本来不会说自己被AGI“洗脑”，但我觉得4.5版本实际上……

我自己的时间线已经提前了。

你们有在关注GDP估值吗？

我尽力在关注，但感觉我主要是在尝试……

不不不。对我来说，当GDP估值出来的时候，我的意思是，GDP估值基本上是一个更广泛的基准，我们可以称之为“甜点”，它应用于每一个白领职业领域，可以建模的职业，它的规模大约是GDP的2%到5%左右，这也是它被称为GDP估值的原因。他们让人类专家和GPT模型都完成了任务，结果是这样的，行业专家的准确率大约是50%。

是的。

就像抛硬币一样。你可以看到从40%到41%的提升，之后显然是52%，Opus 45已经超过了这个水平，我们现在大约是70%。这意味着模型在这些任务上持续优于行业专家。

是的。

对我来说，这就是AGI（通用人工智能）的定义，不是吗？

是的，是的。确实如此。

我觉得问题是……（笑）我会说这就是定义。疯狂的是，因为人们非常关注ASI（超人工智能）元素。

是的，我们在移动门槛。

是的，我们在移动门槛。但我觉得，兄弟，我觉得门槛……我想看看这是否真的是机器之神，修格斯（shoggoth）会来和我们对话，和我们在同一频率上共振。

我确实这么认为。

好吧，说实话，我非常开放，我会经常改变主意。今天我对这件事没有直觉上的感觉。也许是下一个X，下一个X，下一个X……但就GDP估值版本而言，是的。

是的，这就是白领工作，白领工作占了大部分知识工作，实际上几乎是所有工作中的巨大部分。我的最爱统计数据是，曾几何时，90%的人口是农民，而现在不到1%的人是农民。这是一个疯狂的转变，技术将极大地改变所有这些的关系，可能会变成99比1的局面。我不知道是否会那么极端，也许大家都在享受闲暇。到目前为止，我的经验是大家反而更努力工作。但感觉这是一个巨大的时刻，就像蒸汽机发明了，火车来了，一切都将改变知识工作。

这很疯狂。

从我宏观经济学的角度来看，有一个经济周期，我记不清名字了，查不到，但基本上是经济发展的阶段：经济开始以农业为主，然后发现制造业，再发现白领工作，接着建立成熟的金融部门，这些层层叠加，旧的逐渐衰退，新的逐渐兴起。我的理论是，第五层必须开启，我坚信我们会发明新的工作。

我相信，100%。人类非常适应环境，这是我学到的最喜欢的事情。你能适应地球上最冷和最热的地方，人类遍布各个纬度。这是物理上的适应，但我认为我们会找到方法让文明继续发展。我们肯定会发明更多工作。但疯狂的是变化如此迅速，五到十年间的差距可能极端且疯狂，这就是社会的野性，但这确实发生在我们这一代人身上。

确实发生在我们这一代人身上，就在现在，真的很疯狂。

这是一个完全的旁支话题，我很想知道什么时候我们会在真实经济中看到更大规模的体现。这是我的兴趣点。

是啊，为什么它还没在GDP中体现出来呢？

会有人说，互联网、信息传输等事实。但我其实害怕第三种更糟的情况，这完全是个疯狂理论，请别当真。互联网……但如果AI是大规模通缩性的呢？我最近有个有趣的讨论，GDP最初是为了衡量在战争期间能从正常经济中转移多少资源而发明的。

我最激进的观点是，我觉得GDP本身将被AI极大挑战，因为信息工作……我们如何有效捕捉它作为经济产品和服务小时数的价值？没有实物产品的差别。但理论上，如果我们能把所有信息工作拆分成单位，信息工作量肯定会大幅增加。更多工作会被完成，但我不知道这价值会是多少。供应增加到极致会导致通缩吗？这确实是个现实担忧，有可能。然后我们会找到使用它的方法。

可能会有AI大萧条，我们会找到解决办法。

我写过一篇关于铁路的文章，因为铁路是我最喜欢的资本。它讲述了铁路建设的历史。大家最初都在寻找互联网，但我们已经远远超过了互联网的建设规模，根本无法比拟。

你说的是哪些数字？

我认为一万亿美元是实际美元的版本，我们已经远远超过了这个数字，这是累计的。铁路之所以有趣，是因为它是层叠经济结构中最早的一层。农业之后，铁路出现了，解决了如何更快运输农产品的问题。银行业实际上是由铁路催生的。

因为需要融资。

是的，需要大量资金，85%的纸质债务实际上是铁路债务。

我最喜欢的轶事之一是，在联邦储备银行成立之前，安德鲁·卡内基就是联邦储备。

是的，确实如此，是个人。

我研究过镀金时代，这个周期非常有趣，因为它规模巨大，建设周期长达45年，经历了三次繁荣与萧条。我不知道这次周期是否会那么长，信息流动更快了。

确实如此。

我认为这次会更快，但我会很惊讶它是一蹴而就的。

我也是。不会是一瞬间的起伏，而是多个周期。就像铁路建设一样，先有小规模铁路周期，然后是大规模铁路周期，现代铁路由此诞生。这是我最喜欢的类比，因为铁路每年资本支出占GDP的比例持续多年保持在高个位数。

疯狂的是，我们现在的支出规模正好在这个轨道上。你做过GDP百分比的计算吗？我觉得这是让它可比的方式。

Stargate本身占美国GDP的2%，而且……

会继续增长（笑）。

是的，不会在一年内全部完成。

总资本支出占GDP的4.8%，占总固定资本投资的25%。

每年25%的投资，4%到5%的GDP。

我觉得我们已经到了，Stargate加上Anthropic等项目，我们就在那个水平。xAI也是。

是的，我们处于铁路建设阶段。

但疯狂的是，我们应该会超过它。

是的，肯定会。

我想说，我们会做到的。但我担心的是，兄弟，我们从哪里筹集这么多钱？这是个很平凡的担忧。

这不是平凡的担忧，每次资本扩张都会发生这种事。我担心中东的资金会翻转局面。每次都是这样，泡沫出现的原因就是我们变得如此庞大，觉得“这必须建成”，不管价格多少，结果回头看，“哇，价格真高”。但我对这件事的思考是，有需求曲线和供给曲线，我们不知道它们什么时候会交叉，但终有一天会交叉。每年需求都在增长，我们在寻找需求曲线和供给曲线，尽力部署资源。对我来说，我不知道那个交叉点在哪，我不想说数字会永远上涨，因为那不诚实，但Claude Code让我第一次觉得，需求增长如此之快。

我现在个人的消耗量很大。比如我已经超出最大额度了，远远不够。有人买了五个最大额度。

我用Fast API，额度是一百万，这已经是上瘾级别了。

是的，我真的觉得这是第一次我们会问自己，这东西一年值多少钱？我觉得轻松在两万到三万美元，甚至更多。我完全无法定价，也不知道弹性如何。

你付钱雇一个完全合规的初级分析师。

对。

成本大约九万美元。

但它能并行工作。

是的，你可以有一百个，挺疯狂的。

如果你管理不了一个年薪两万美元的初级分析师，那就是技能问题。

百分百是。

这就是技能问题，责任在你，但我们必须学会怎么做。

是的，这才两三个月。

确切地说，是两个月。就像（笑）你不会因为刚买了iPhone一个月就被骂“你这个笨蛋”，不会有人说你不会用刚诞生的新技术。

我觉得这只是时间问题。有趣的是，如果你处于绝对前沿，你能实时看到设计模式的萌芽。我们有个年长的技术老兵，是SemiAnalysis最有趣、最聪明的人之一，他谈到早期互联网时说，没人确定浏览器会不会赢，有人认为它只是远程访问别人网页文件的工具，谁知道呢？那时候大家都在寻找设计模式。我觉得我们现在又处于那个阶段，所有设计模式都开放了。很有趣，因为有很多不同的方向，我们必须共同决定最佳的设计模式、抽象层级，以及SaaS将如何颠覆一切。谁知道呢？但你现在能坐在第一排观看这一切。

是的，是的。我的最大感受是，嗯，我稍后会把话题带回半导体领域，但现在说说IDE。两个月前，我们请了Gastown的Steve来谈论IDE的终结。大约两三周前，我突然意识到，他说得完全没错，IDE真的完蛋了（笑声）。

我也很疑惑，因为我认为我之所以对此感到兴奋，是因为我可以看到——我从来没有把IDE当作我的日常工具，我的日常工具是彭博社终端或者Excel之类的东西。但我个人相信IDE的终结还没到，因为软件还没成熟到那个阶段，软件会先行。但今年，Excel在金融领域的地位已经死了，Excel就是分析师的IDE。

Excel是分析师的IDE。彭博社也是分析师的IDE。我相信这些IDE都已经完蛋了，彻底完蛋了。你想象一下，我记得我学彭博社的时候，得看视频学各种快捷键，学怎么用这个功能，怎么用那个功能，这种战术性的知识，简直像马车时代。拥有能够完美检索和分析信息的智能代理，将能以比过去更好的用户界面整合所有信息，没有任何遗留包袱。我认为这一切都已经死了。

这也是我最激进的观点，微软损失最大。我认为他们输得最惨，因为Excel是人类信息工作的通用IDE，PowerPoint和电子邮件也是。这些是决定广泛通用的基础抽象层。但我认为这些都不再重要了。我觉得Claude Code或者co-worker之类的工具，将在今年摧毁所有这些信息工作模式，那些你每年都在做的工作，彻底结束了。这是最令人震惊和害怕的事情，很多人不相信，但我内心深信不疑，因为我已经经历了那个时刻。

是的，我再也不会在Excel里做图表了，我真的相信这一点。放手很难，因为我对直接操作Excel有太多根深蒂固的知识。彭博社也是，我的第一个创业项目就是试图做彭博社的替代品，叫Centio。

我记得你。

是的，是的。你是少数几个用过Centio的人之一。

Centio用户怎么会出现在这里（笑）？我记得当时他们收购了Centio，我还很生气。

我还申请过类似表格的专利。总之，我的结论是彭博社其实就是三件事：Slack、新闻报道（非常棒）和数据源，界面其实并不重要。但我第一次觉得，未来是否就是投资银行（IB）和一个终端，输入一些东西。我觉得如果你只是边缘用户，好奇但不高度互联，比如我在SemiAnalysis，我正努力完全摆脱彭博社，我们要用API，全面API加Claude Code（Claude Code）是我对未来的看法。

可信赖的可验证数据源，规模化。你们可以为交易员做到这一点。

我明白，信息网络在外面，你们做投资银行业务，监管机构100%跟踪。

完全正确，但作为分析师，是的。作为分析师，我认为核心的现金流计算会继续，但每一代AI迭代，我都觉得我还会用彭博社，但这次不一样，我不在乎了。投资银行的边际价值已经被它的笨重所抵消，我只想做图表。切换后立刻能省1万到2万美元。

是的。

太棒了。

顺便问一下，你对Claude Code今年年底的预测是多少？25？

是的，我想我对那个数字非常保守。

哦，好。我觉得25很合理，增长率大概是50左右，但我想给95%的置信区间。

嗯。

我觉得25在95%置信区间内。

当然，所以区间大概是25到50之间。

是的，太荒谬了。你也关注Codex吗？

是的。说实话，我愿意评论这个，因为我们之前对Codex有很多批评。我认为Claude Codex agent或者whatever的市场份额公开数据可能偏低，但无所谓。我们确实在关注Codex。我觉得Codex 5.3版本挺不错的。我写了大部分相关文章，谈到token效率、上下文窗口等。5.3出来后，这些都不那么重要了，他们完全反超了。我真的觉得5.3版本的Codex在编码方面很棒。但你可以看，我喜欢Opus 4.6是因为我用它来编码，这是我和它互动的方式，但我也用它做广泛的信息工作。我觉得区别是Codex专注于编码，因为它要在SWE-bench上赢得比赛，所以你用它做一般信息搜索，比如研究网站，我觉得它甚至没有网页搜索功能，或者需要API支持。我更喜欢直接摄取网站上的token内容。Codex太偏向编码了，不像4.6那样通用，可以做研究、制定评分标准等。

不过我对Codex很乐观，我们跟踪它很多。它有相当的市场份额，你可以在bloomberry.com看到相关图表，Claude Code明显领先。但比较时，有些Codex的提交没有签署，所以实际比例更接近。OpenAI的人，比如Rune，会说我们没算进去，但我们确实没算。

我认为Codex更好，虽然有一些问题，但我敢打赌他们一旦用上新的强化学习预训练模型，Codex 5.3的RL堆栈非常棒，编码能力极强，那时形势会逆转。看看其他玩家，我最喜欢的是GitHub Copilot居然是第一名。你认识用GitHub Copilot的人吗？

是的。那是泡沫言论，对吧？那是泡沫。是CSF泡沫。你知道有很多Windows用户，但你不和他们交流，我们在旧金山，这没关系，但那绝对是泡沫。不过Copilot年收入至少有十亿美元。

疯狂的是Claude Code的归因比例和年收入是2.5。

是的。

所以它的日安装量是一个数量级的差距，顺便说一句，这只是VS Code的扩展。我知道，这甚至不是默认的使用方式。

对，你说得对。还有CLI、npm、domino等方式跟踪，但他们现在有自己的安装器。总之，我们很难准确跟踪。但我不是批评，我只是觉得Codex很值得关注，因为他们1月至2月用户翻倍。

我有点怀疑，因为他们有一个很大的Chatbot门户，弹出的模态窗口能带来大量用户，但他们还没达到Google那种能大量吸引用户的程度。不过我有答案，Alexander和Beros在Lenny播客上说他们其实没在网页体验上投入足够，所以归因为零。

我只是看到一个弹窗说“试试Codex”，但弹窗不算什么。说实话，Mac上的Codex很棒，应用启动也不错。我对它很看好，尤其是编码方面，因为它非常专注编码，但我觉得它在非编码任务上表现不佳。你用过Conductor吗？

没有。

我以为你说过。

没有。

基本上，任何第一方应用都会偏好自家产品。

是的，100%。

他们已经这么做了，我觉得这就是他们的差异化方式。然后你有Conductor，可以根据需要用Codex和Claude Code做不同任务，这理论上是最完整的集合。

是的，但我对建立在快速增长且资金充足的平台之上持怀疑态度。我最喜欢的平台即服务（PaaS）例子是，基础设施即服务（IaaS）、平台即服务（PaaS）、软件即服务（SaaS）轮番出现，最终PaaS总是夹在中间，被IaaS或SaaS超越。我认为中间件层除非非常有说服力，否则通常会失败。但此刻我同意，我喜欢它们互相监督，互相“吵架”，我可能很快会试试Conductor，我个人没用过，主要深入研究psychosis。

作为前云分析师，这很典型：你是想多云还是全力投入一个云？多云的经典理由是可以用最好的东西，但全力投入一个云可以利用所有细节功能。市场没有对所有人都适用的正确答案。

确实（笑）。即使是AI中很小的百分比差异也很重要，因为它们很大，人们很开心，很高效，能赚钱。做分析师挺好，因为跟进这些很有趣。我同意，我们喜欢赛马，喜欢第一名和第二名。

是的，但你脑子也得知道第二名也很重要。对我这个喜欢创新、竞争、颠覆历史的人来说，现在是跟踪这些技术的有趣时代。2017到2020年技术太无聊了。

我也觉得挺无聊。

抱歉，我打断你了。

没事，我正说这是个有趣的时代，事情正在发生。

好，我想转到下一个话题。

有件挺辣的事，你上了TVPN，他们给你起的标题是“Doug O'Laughlin认为微软已经退出AI”，你没看到吗？

嗯，我不会说微软退出AI了。是的，我看到了。

我没看，我从不重看这些东西。那么我是这么想的……

你说过微软在缩减投资，对吧？

是的，那是之前的对话，我当时在说微软有最多的风险。

他们是全世界风险最大的一家，因为他们是横向软件公司。

对，微软是人们用来做信息工作的横向软件公司。

我无法想象更大的靶子了。还有Salesforce。

微软的规模自动比Salesforce大两倍。

对，但他们还有Azure业务。我不认为微软完全退出了竞争。这个标题很吸引眼球，但问题是Azure业务和OpenAI的关系。你基本上是在给门口的野蛮人租兵力，就像古罗马时代，你说“我们需要额外的人手”，于是付钱给这些野蛮人去烧城堡。

就像《权力的游戏》里的金色军团。

对，金色军团。问题是他们每年都变得更强大，最终可能轻易翻越这些破旧的城墙。问题是城墙和护城河每年都在恶化，因为他们继续租用GPU给这些野蛮人。

这不就是Google和Yahoo的故事重演吗？

完全一样。这是个糟糕的局面，因为历史告诉我们，你必须选边站。如果两边都做不好，你就处于第三差的位置。你要么全力投入Azure，变成类似电信时代的“哑巴管道”，Azure变成类似Charter那样的公司；要么你说“不，我要重新投资，基本上抄袭他们的功能，建立自己的护城河”，这意味着你得停止为股价投资Azure。这很糟糕，因为微软的股价很大程度上依赖Azure收入。

如果我们真的要给微软X Azure估值，倍数现在会很低。

我一直在想这个问题。微软单独交易时的市盈率是8到10倍，之前确实是这样。记得2010年代，史蒂夫·鲍尔默时代，市盈率最低跌到10倍，后来随着Azure的发展开始回升。

对，Azure和Office 365。

对，就是这样。

我觉得你没有答案，但我觉得这事很奇怪。我不知道是不是因为他们是OpenAI的主要投资者，签了协议，但显然他们有意识地退后了。他们还是好伙伴，但到底发生了什么？（笑）我觉得这可能是史上最大的失误之一。看起来像是股东回报率和现金烧钱的权衡。

你看其他同行，Google我认为已经实现自由现金流为零，Meta也会达到自由现金流零点。微软还没有。萨提亚不是创始人，他是职业经理人，有董事会和讨论。

他很负责任。

是的，他很负责任。但问题是，这种“负责任”其实是创新者的困境。是维持当前最大化股东价值和现金流，还是深信AI会彻底颠覆核心业务，必须全力投资？看起来萨提亚并不信。他不害怕超级智能（ASI），他觉得这只是新工具，就像Lotus和Excel出现一样。

他觉得这只是新工具。

对，但同时，租用GPU给会颠覆你核心业务的野蛮人，这种矛盾很明显。他们在财报电话会议上说，如果愿意可以增长得更快，但他们想把钱投回内部能力建设。听起来就是不打算雇佣那么多“野蛮人”，而是修补城墙，守住核心护城河。

理论上，当年微软和OpenAI达成大交易时，大家都觉得微软会赢，因为他们有分销渠道和完美产品，会打造一个数百亿美元甚至数千亿美元的巨头。

但现实是，Claude for Excel和Claude for PowerPoint就是它们该有的样子，微软本该自己做。

对。

现在你看到的“野蛮人”甚至不是主要威胁，是山那边的部落。

山那边的部落？

对，山那边的部落可以轻易夜袭你的城堡，这就是问题。微软现在夹在中间，非常尴尬。他们的策略会完全不同，我觉得他们会继续收缩，开始做内部训练，尝试做更多基础模型，利用他们能接触到的权重。

MEI？

对，但我很怀疑，因为他们的执行一直很糟糕。

这还得看。

他们是世界上最大的公司之一，资源丰富。

我想反驳一下“负责任”的说法，比如甲骨文顶上了这个缺口。

甲骨文不负责任吗？

如果说甲骨文，我觉得他们不负责任，因为他们做的规模太大了。我觉得他们本该做，但整个甲骨文的布局是自摆乌龙。

他们搞砸了信息传递，搞砸了融资。我觉得他们太激进了，第一季度说要花4000亿美元，承诺了很多，然后疯狂融资，做了史无前例的大规模建设。现在出现了延迟，大家都惊讶，“你花这么多钱？”资本市场就像“慢点，慢点”。如果他们分阶段做，管理好预期，今年GPU带来的收入应该能部分自给自足，这样就能平稳推进，而不是大起大落。

他们搞砸了债务发行。

对，债务发行太多了。高收益TMT债券在整个指数中占比很大，发行量巨大。

你对债务发行不熟？

我之前算过数字，投资级TMT债券大约5000亿美元，甲骨文占了1350亿美元，比例很大。每次大规模发行债券，都得给买家足够激励，导致流动性被稀释，条款对投资者更有利，整个指数都在抛售，因为供应过剩。

是供应问题。

他们大幅超发。

我觉得我们遇到了一个瓶颈，资本市场无法吸收这么大的资金需求。超大规模云服务商历史上都是自给自足，从未大规模发债。现在突然要大额贷款额度，市场没准备好。甲骨文太激进了，市场流动性不足，结果债券CDS市场都炸了。我觉得这主要是供需失衡造成的机械性问题，他们能还得起债。

微软本可以内部融资。

微软完全可以内部融资，没问题。这是个典型失误。微软的债务成本和美国政府一样低，是最便宜的融资渠道。

对。

从数学角度看，没人比微软更好，凭信用评级，资本盈利率高2%。我不知道他们为什么不这么做。现在微软处于摇摆状态，要赢必须大胆，但他们在Copilot上很保守，萨提亚现在是Copilot的产品经理，同时又在收缩Azure。竞争对手却在加大投入。这是个奇怪的局面，微软必须选定方向。

我们拭目以待。

是的，这才有趣。我很乐意根据新信息改变看法。

我想谈谈TPU，然后聊聊内存。

TPU希望能短讲。以前你买不到当前代TPU，现在可以买了，谷歌也开放了供应。

我觉得Sergey不想输。

DeepMind故事的一部分是他们会囤积所有TPU，因为他们先行一步，为什么要给别人用？

至少去年，Gemini 3之前，他们囤积了所有TPU，但用户并不多。

对，消费者市场被打败了，这些TPU有什么用？我觉得还有很多角度看这个问题。我们在TPU v8写过，Rubin会更有竞争力。我觉得Ironwood V7是Nvidia和TPU之间TCO差距的峰值。

在最强时，你怎么做？两条路：最大化利润或争夺市场份额。

用Anthropic做外部市场份额争夺是为了抢占市场。最大差距是这个，也是为什么没有第二个商用芯片的原因。你可以说Nvidia是全球最有价值的公司。谷歌TPU的价值巨大。

你算过吗？

算过，可能有一万亿美元价值，假设占30%市场份额。大家都想破解商用芯片模式，现在他们有最大绝对优势。很多最初做TPU项目的人现在在OpenAI。

有些是医学背景。

对，他们分散了。核心团队已经分散。我觉得差距会逐渐缩小。现在是赢得市场份额的时机。

然后你有了安装基数，有动力升级安装基数。这是AMD的大问题，没有人买新AMD芯片，因为没人升级。作为第二名，你必须彻底赢，然后明年还能再赢。安装基数问题很大。

TPU的软件生态成熟，硬件成熟，网络成熟，有懂得用产品的外部客户。现在是争夺市场份额的好时机。

对，那会很疯狂，如果他们……

他们实际上是在加大对这方面的投入。嗯，你有没有听说过——我不知道这是否会影响你的分析，因为我对我们这里谈论的规模没有什么概念——Jax正在帮助TPU取得胜利，或者说至少在学术领域，Jax相对于PyTorch正在取得领先，而学术领域通常是未来应用的先行指标。

我没有特别的视角。让我最兴奋的事情，而且还很不确定，我们拭目以待的是，Inference X最终会有TPU。这是我们长期想做的事情。我认为这将真正通过数字体现出来，作为一个基准。

作为基准。

你预计它们会表现如何？

价格方面相当不错。我们的预期是，目前它们的总体拥有成本（TCO）明显最好。Anthropic对此非常明确，大家都很清楚。我认为即使是OpenAI也会尽可能多地使用TPU V7，如果在一个完全不受限制的世界里，可能现在它就是最热门的产品，直到Rubin发布。但现实是供应链非常关键，而TPU V7现在根本买不到。所以这个TCO优势是在最大窗口期，然后一旦Jensen基本上把他们的产品整合好，竞争起来，优势就会消失。这个窗口现在才刚刚打开。

现在最大的阻碍可能是台积电。

是的，没错。你能怎么办呢？这就是所谓的级联效应，我想你也谈过，这一路都追溯到晶圆厂。

是的，确实如此。更准确地说，不仅仅是晶圆厂，还有光学方面。

我应该打开什么链接吗？

嗯，是的，就是那个，EV7。

是的，一切都归结到晶圆厂，归结到谁在制造芯片。我认为一个很大的区别是，TPU是一个设计非常巧妙、架构稳定的系统，显然可以用来预训练大型模型，这对OpenAI来说是一个巨大的挑战。不过话说回来，我认为OpenAI会很快调整过来。这种情况可能会持续一两年，但真正的问题是，我们认为V8不会像Rubin那样有竞争力，那时这个特殊窗口就会开始关闭。

技术上的原因是什么？

是HBM4对比HBM3。

这是Nvidia的战略决策吗？

是的。Nvidia一直在尽可能地推动性能极限，它的芯片就像F1赛车一样，性能被最大化。TPU则像是一个可复制的、高稳定性的集群。如果你了解谷歌的历史，这就是他们的做法，是他们的基础设施。但我认为如果GB200按时且稳定发布，它本可以完全碾压V7。但它发布晚了，且不稳定。现在有很多方法可以纠正这个问题。重要的是，在供应链方面，Nvidia无疑是最强的。他们掌控了整个供应链。你看那些HBM价格上涨，TPU也会面临同样的情况，但Nvidia在亚洲的布局非常深入，你能看到他们和SK、韩国各大厂商、台积电的高层一起喝酒，打成一片。你觉得他为什么要和大家喝酒？就是为了拿到芯片。

这是三星董事长吗？

是的，还有另一个人。

但可以这么说，这非常重要。你觉得谷歌会去台湾喝酒争取供应吗？

绝对不会。这里有机会，但由于各种瓶颈，TPU的产量有限。Nvidia锁定了整个供应链，所以他们会掌控大部分的供应限制。这将非常有趣。

他们会拿到最好的、性能最强的HBM，会率先实现更高的机架密度，拥有最好的连接器，整个系统会被极限优化。V7的团队是在三四年前完成芯片设计的，那个团队的核心成员已经分散，这种人才流失会越来越严重。如果情况好转需要时间，我们目前的判断是，HBM特别是内存扩展方面将极大地有利于Rubin。这也是为什么它能支持更大的上下文窗口和更大规模的计算。

一切都是如此。

他们会极限发挥，这将带来巨大的性能优势。

我很喜欢你的分析。

不仅仅是上下文窗口，也不仅仅是KV缓存，我们还必须把部分数据卸载到非HBM内存。

是的，其他部分的内存也是如此。

这是一种非常有趣的级联效应，类似于短缺挤压，但更像是意外的紧缩。我想举个比例例子。

好的。

大约是3:1到4:1的比例。我们刚发布的“内存狂热”文章里提到了这个4:1的权衡比例。简单来说，当你转换到HBM时，因为HBM的数量巨大，一单位HBM相当于三倍的DDR或其他类型内存。生产中总会有损耗，因为良率不可能完美。所以实际上你是在用更高等级的“喷气燃料”替代其他燃料，这种燃料必须经过极度浓缩和精炼。

如果这里有任何需求，立刻就会出现短缺。我们刚刚经历了有史以来最严重的NAND和DRAM短缺，极其糟糕，历史罕见。与此同时，HBM的需求激增，尤其是最高端的内存需求，权衡比例非常高。每一位HBM相当于DRAM的4倍容量。我们完全受限于DRAM产能，刚刚走出短缺期，没有人投资新的洁净室或资本设备，大家现金流极度紧张，没人愿意花钱，甚至可能破产。没有人投资这些需要三年交付周期的项目，现在需求远远超过供应，中间层也被KV缓存卸载消耗掉了。供应和需求的矛盾短期内无法缓解，估计要两年。

供应链紧缩非常有趣，因为洁净室建设需要两年时间。上一轮周期的惨淡迫使所有人暂停扩产。现在几年过去了，供应已经枯竭。我们的结论是，DRAM价格可能还会再涨100%。这将导致需求破坏。

需求破坏是什么样的？

可能是大型云服务商边际上减少采购，因为他们会更关注能耗问题。讽刺的是，美国许多数据中心的建设都被推迟了，原计划12个月内上线的，现在要18个月。你可以和内存价格玩“鸡”游戏，推迟采购。当然，所有在建项目都会尽力提前采购，双倍甚至三倍下单。DRAM和HBM厂商看到需求暴涨，惊呆了。但某个时间点，客户会说：“我们已经提前买了这么多，电力限制也会约束我们，我们得放缓订单。”历史上这就是内存市场价格崩盘的原因。

从整体功耗需求来看，差距巨大。AI投资最明显的逻辑就是投资内存产能。你可以说是投资SK海力士、三星、美光和所有半导体设备厂商。

我记得我在伯恩斯坦的时候，我们赚的大部分钱都是做多美光。

是的，这是个好例子。所有与内存产能相关的半导体设备厂商现在都是瓶颈。

这也会影响你的手机。

是的，我觉得苹果也在行动。

我买这东西的时候还得买个SD卡，挺贵的。

这还只是NAND方面。你有没有查过64GB的DRAM价格？

我正准备换iPhone。

你得赶紧买iPhone。

是的，现在买iPhone，因为当iPhone进入二手市场时，价格会涨一倍。

这太疯狂了。

我们会买旧iPhone然后拆开用。

这其实有个很深的技术背景，叫CXL，是云时代专注的技术，用来扩展CPU的内存，实现弹性计算池。它之前没怎么流行，因为HBM性能太强。但现在CXL会流行起来，因为他们会把DDR4和所有旧内存集中起来，放进机架，通过CXL连接。

没错，就是这样。这个死掉的技术因为存储和内存紧缺而获得了机会。我曾经是CXL的支持者，后来觉得它会死，现在又回来了。因为它的核心目的就是把旧芯片连接到新系统上。内存短缺真是疯狂。

显然这比我平时讨论的层次要低，这也是我玩得这么开心的原因之一。我告诉大家，包括Sam在内，大家都在预测更长的上下文窗口。实际上，我们已经在一百万上下文窗口这个水平卡了两年了。

我其实一直在思考这件事，这不会发展到一亿上下文窗口，也不会达到万亿级别，就这样了。是的，这就是未来五年、十年的现状。那么问题是，会不会——嗯，资本主义会起作用吗？供应会出现吗？可能会。但除此之外，我在想会不会出现一种情况，比如说，计算的历史告诉我们，你得画出上下文窗口的曲线。比如免费上下文窗口会不会达到一千？嘿，你现在可以用Strategy BT免费版，但你的上下文窗口大概只有一千个token左右。

然后你就用一个很小的包裹来收费，比如说一百万上下文窗口收费是免费版的100倍。一百万上下文窗口就像一座豪宅，对吧？那才是真正的体验。

你现在住豪宅吧？

我现在确实住豪宅。

天哪，刚才“上下文配给”这个词突然冒出来了。我心想，靠，我们可能会有配给券，比如“今天你可以用这么多上下文”，哈哈。你得学会好好利用它，因为这是稀缺资源。

我其实有个问题。对我来说，长上下文很有意义，这就像是记忆的升级版，如果你把它比作芯片的话，在AI领域就是这样。

我一直很好奇，因为至少根据我的经验，真正很长的上下文在论文里其实会被舍弃，他们并没有用完所有上下文。这是我最感兴趣的点：如果根本不可能用完，100万上下文到底有没有用？现在确实有100万上下文的版本，但它们在很多方面都很糟糕，实际上并没有做完全注意力。

你可以用稀疏模型或者LSTM来处理1亿token，但你并没有对这1亿token做完全注意力。所以我觉得我们现在的上下文处理方式和曲线会随着时间改进，实际上已经改进了很多，但我们永远不会用完所有上下文，但算法会进步。

对我来说，重要的是你代表了物理限制，软件方面永远无法克服这个限制，因为这是物理限制。我们甚至无法做到翻倍，更别说十倍了。

对啊，谈论这个有什么意义呢？

是啊，谈论这个有什么意义？我本来想说，我们可以发明很多东西，“上下文配给”挺不错的，我很喜欢这个词。上下文预算什么的，我觉得大家都会说，“哇，你今天的上下文窗口用完了”，可能明年就会这样，我们会按上下文窗口收费。

最近比较受关注的是递归语言模型，也就是重复使用同一个上下文窗口。

是的，超过100个艺术家都在关注这个。我挺感兴趣的。但说实话，我是个完全的门外汉，Claude告诉我情况。

你是半导体领域的专家啊。

你这方面很厉害。我想确认一件事，是关于Taalas的。

我没怎么玩过它。

没关系，我只是想聊聊定制基础设施，把权重烧录进芯片，这样就不需要内存了。

这确实挺好的，我觉得这对我来说很有道理。

这话题来的正是时候。

是啊。历史上问题是它能扩展多大？很多模型其实比你想象的小。

抱歉，什么意思？

很多生产模型都被蒸馏了。

对，蒸馏了。

所以这里的拉锯战是，你能不能把足够高效的性能前沿直接烧录进硅片，不需要内存，然后就能无限扩展？还是说长上下文的性能优势更明显？我觉得Taalas有它的位置，因为市场正在分化。你可以说预填充、解码分离等性能推理服务是市场的一个子集，而训练和大规模生产是另一个部分。我们需要把它们拆分开来，才能让计算变得可行。

这说得通，具体实现还有待观察。但烧录权重进芯片，为什么Etched或者其他公司没先做到呢？

Etched挺有意思的，我不知道。

我来猜测一下。

我不会过度猜测。他们的方案是大规模的脉动阵列，但他们没有把权重烧录进芯片，这有点不同。

我觉得加速的方式就是永远不传输数据。

对，这是最快的方式。但赌注在于大规模脉动阵列，假设一切都是计算瓶颈。但我觉得现实中生产市场的问题主要是内存瓶颈。

所以我不确定这是不是完美方案。它肯定有价值，也很酷，但我对每个AI加速器项目的成功率都很怀疑。除了Cerebras和Groq，其他都被认为是失败的。即使是Groq和Cerebras，我们也不知道他们能做什么。

SambaNova怎么样？

不，我觉得SambaNova更有意思，但它有各种交易问题，我没怎么关注。

我总是把他们算作那一批，因为我也差点忘了他们。说实话，我觉得他们一年出现一次。

是的，他们确实出现过，而且表现还不错。

你提到CPU短缺的事，最近CPU那边发生了什么？

我先说个我觉得挺有趣的阴谋论。你有没有注意到网络服务变得很不稳定？

确实，我感觉它们经常宕机。

这纯属我脑子里有点偏执。我在想可能有两个原因。第一，代码仓促上线生产环境，这肯定有可能。但这同时发生在所有云平台，不只是AWS，也不是GitHub或Azure的问题。

我们正处于芯片五到六年更新周期的尾声。疫情期间，2020、2021年大家买了上千亿美元的CPU等硬件，现在这些芯片到了自然寿命终点。通常会有一次大规模更新，但现在大家都极度压缩预算，只做最基本的维护。

我看到Azure昨晚出问题，我想明天早上应该会好。感觉AWS今晚也不太顺。

所以我们经历了五年周期，大家把每一分钱都用在AI投资上，CPU维护资本支出却很少。讽刺的是，Claude Code生成了大量软件，这些软件都得跑在CPU上。

我觉得CPU利用率在上升，强化学习（RL）也用大量CPU，虽然没GPU那么多，但趋势很明显。我们可能部分因为更新周期，部分因为Claude Code增加了软件产出，导致CPU短缺。

还有强化学习和生产代理也需要算力。各种大型语言模型（RLMs）和开放云都需要更多算力，虽然增长曲线不同，但方向一致。

过去两年CPU领域严重缺乏投资，大家都只做维护，不增加新资源。结果就是一点点增长就导致短缺。

是啊，半导体行业的数字就是这样涨上去的。

这就是一种说法。

疯狂的是，我们谈论需求，但你说得对。历史上内存价格从没涨到让人必须选择买哪个的地步。

今年你可能买不到低端手机，买不到游戏用GPU，因为价格太高了。这是很久没见过的情况，挺有意思的，看看这次短缺会怎么被消化和感受到。

谢谢你这么详细的分析，我觉得跟你聊我真的理解了。我们换个话题聊点个人的东西吧。你写了很多东西吧？

是的，我确实写了不少。

现在我在SemiAnalysis这个超级大脑里，写作少了点，但我确实写了很多。你还一直在写fab（Fabricated Knowledge）吗？

哇，好的，清楚了。

我还在尝试写fab，因为我觉得自己和写作有很深的联系。我们具体聊聊这个吧。

好，解释一下自己吧。

在大型语言模型（LLM）出现之前，我最强的信息处理技能是能够以非常快的速度、高吞吐量和相当高的理解力阅读、综合和处理信息。比如我朋友拿博士学位时，我去读他们的论文，基本能理解他们在做什么。对半导体感兴趣时，我甚至直接啃教科书，虽然理解力不高，但谁的理解力不是这样呢？我能坚持读完这些书并学到东西。我一直很喜欢阅读，这是我最初的竞争优势，也是我小时候疯狂阅读的习惯。

后来开始写Substack真的很有趣，因为我想把自己的故事讲出来，把我关心的事情闭环。写作对我来说很重要，因为我非常喜欢阅读，所以喜欢写作也很合理。我觉得帮助我最大的是从2021年10月开始，我几乎每周都写文章，保持了很长时间的连续写作。

最近这连续写作有点断了，SemiAnalysis加上fab知识写起来挺难的，但2024年几乎每天、每周我都会发点东西。

这是硬性规定吗？每周一篇？

是的，至少是尝试每周一篇，有时两篇。所有写作的人都说，最好的方法就是持续写作。这就是我每周写作的方式，真的很有帮助。

现在写作有点难，LLM写作我不太喜欢，但我喜欢用它来构思大纲。

对，我的无序想法是先做大纲，甚至在大纲里加上要点，然后一边构思一边写作。对非虚构写作，我很喜欢一本叫《On Writing Well》的书，它是经典之作，帮我总结和提炼了写作技能。我会请别人帮我编辑，按照这本书的风格指南来。

你有写作主题的想法清单吗？我现在放在苹果笔记里。

没有，我是一次性想完一个点。通常我会在脑子里反复思考，等信息足够多时，做一个很粗糙的大纲，然后一次性写出来。因为如果跳着写，你会忘记好点子。我有个叫“mis plus writing”的方法，就是把想法存起来，边写边思考，偶尔再整理成文。这有异步和同步两种方式。异步是像“这是个数据点，这是个引用”，我把它放到合适位置，然后再“烘焙”成文。现在这些预写工作大多在SemiAnalysis的Slack里完成，随时搜索需要的内容。

我大部分预写其实在脑子里做，有地方存放，方便后续引用。我的写作秘诀是先做预写，想清楚，睡一觉，第二天早上用清醒的头脑写作。这是我写作的头号建议。比如我需要马上写东西，我会先写大纲，做各种准备，但不写正文，睡觉后第二天一打开新标签页就开始写。

这样通常能完成60%到75%的内容，哪怕只是大纲，也足够知道怎么填充剩下的部分，然后继续完善。

太棒了。最后聊聊徒步吧。

我从没休过假，觉得一旦休息就会落后，错过很多机会。

我朋友从OMI休了一年假，骑自行车环游日本。

你怎么能休假呢？你会错过一切。但他觉得没关系，有孩子了什么的。你也休过假，是在AI出现之前，走了阿巴拉契亚小径（Appalachian Trail）吗？

美国有三条著名长途徒步路线：阿巴拉契亚小径、太平洋山脊小径（Pacific Crest Trail）和大陆分水岭小径（Continental Divide Trail）。我走的是最长、最偏远的大陆分水岭小径。有人说它是最难的，但我觉得阿巴拉契亚小径更难。我选择大陆分水岭小径是因为它最让我害怕，我觉得这是我能想象的最难、最伟大的成就。如果以后再也没有机会，我至少完成了我一直想做的长途徒步。

我在2021年走的，还是AI普及之前。那年Substack发展很快，我觉得自己错过了很多机会。

你还好吗？

我还好。对我来说，这是一件我一直想做的事，内心很满足。我肯定还会再走一次。路线大约2800英里，花了六个月时间。路上会遇到人，但大部分时间是独自一人。你会得到一个“徒步名”，一路听有声书，听到厌烦，听音乐也厌烦，超级无聊，但就是这样走完了。

之前的人生大多是被各种情况推着走，你会形成对自己的认知，知道自己被什么激励，如何反应。走这条路让我更清楚地认识自己，知道自己的极限在哪里，知道什么太难、太吓人，什么不能做。它是一次非常浓缩而强烈的人生体验，我不会用任何东西换掉这段经历。

回归马斯洛需求层次的低层次很有趣。我们今天谈的东西太抽象了，完全是虚的。人类进化让我们在泥泞中艰难求生，狩猎采集，活下去。回头看那些极端的饥饿、恐惧、孤独，还有极端的低谷和高潮，人生的原始体验非常有意义，没有经历过那样的生活是体会不到的。我强烈推荐年轻时去做这件事，我希望自己大学毕业后就去做，而不是拖到后来。

了解自己非常重要，自我掌控是你最重要的工具。

太棒了，谢谢你来聊这么多，从Claude Code的精神错乱聊到SemiAnalysis，再到徒步经历。

谢谢邀请，很高兴聊聊。

很高兴能聊聊。