FIELD NOTES 首页 / Cognitive Revolution "How AI Changes Everything"
Cognitive Revolution "How AI Changes Everything"播出 2026.11.071:26:1722 章约 42 分钟读完整理于 2026.11.08

AI:AM:这真的是我们想要的 AI 吗?令人警觉的加速、AI 选举押注、GPU 交易与 AI 原生风险投资

本期围绕 AI 研发加速及其治理展开,也把视角放到三个具体场景:九个智能体用真钱预测美国中期选举,GPU 服务器在电力、液冷、数据中心就绪度和 KYC 规则之间流转,Theory Ventures 则把数千个研究智能体嵌入投资工作。嘉宾讨论了长程智能体的真实表现、算力利用率、研究品味和人类判断。主持人进一步追问,我们是否应该训练擅长欺骗和串通的 AI,以及“智能体经济”的丰盛能否转化为人类真正珍视的东西。节目最后回到 METR 对算法、数据和训练算力的分析,讨论针对前沿实验室的治理措施。

01 0:02 1,304 字

本周节目预告

Nathan Labenz

本周《AI in the AM》:关于加速的报告还在不断出现。递归自我改进已经开始了吗?惊人的加速是不是迫在眉睫?周五早上,也就是 METR 发布报告、评估 AI 已经在多大程度上加速 Anthropic 内部 AI 研究的第二天,事情的节奏确实让人喘不过气。也许现在该多花点时间陪家人了,因为在我看来,所谓“AI 2027”的时间表基本上正在成为现实。

Pash,我的共同主持人,我们之前聊过反数据中心的地方性投票提案,也聊到开发商是怎么收地的。其中一些公司用的是老派油气行业那一套:通过有限责任公司,以极低的价格把地买下来,再把几块地合并。然后他们才说:“Meta 来了。”这时卖地的人就会想:“早知道是卖给 Meta,我就该多要点钱。”所以大家觉得自己被骗了,对吧?只要有政治意愿,所有合同都不值一提。

Luxor Technology 的 Mike San Miguel 在公司的硬件业务部门销售 GPU 服务器,也建立了公司的 KYC 部门。

Mike San Miguel

这些交易有很多合规要求。它们受到的监管比一些核机密还严。每家 OEM 的做法都有点不同。Nvidia 会和所有 OEM 密切合作,管理配额、批准订单。通常 Nvidia 还会每六个月检查一次,确认这些 GPU 还在应该在的地方。工作人员会亲自到现场,确认它们确实没有被转移。

Nathan Labenz

Thoughtful 的研究员 Brian Zhou 参与打造了 Ballot Bench:九个前沿智能体各用一周时间预测美国中期选举,还有交易智能体会拿真金白银押注它们的预测。

Brian Zhou

预测智能体要花点时间看到选举结果,再把结果告诉交易智能体之类的。等它们做到这一步,更程序化、更确定性的算法和机器人早已根据这条信息完成交易。这很能说明我们观察到的情况:交易智能体在投票日前一周表现相当不错,可到了投票日,它们反应不够快,有时还会编造错误信息,结果交易者亏了很多钱。

Nathan Labenz

Theory Ventures 的 AI 负责人 Bryan Bischof。Pash 问起公司 2026 年的开发者调查。Brian 原以为开源模型会在生产环境中扩大份额,结果天平反而倒向了闭源模型。

Bryan Bischof

模型发布的节奏,我觉得确实在加快。所以现在要把生产服务绑定到开源模型上,工程上就得多折腾一些。我听几个人特别提到,开源模型变化太快了,固定使用一个 OpenAI 模型反而更方便。

Nathan Labenz

这里是《AI in the AM》每周精彩片段,我和共同主持人 Pash Nin 一起主持。我是 Nathan Levens。这段旁白是我的克隆声音,也欢迎大家告诉我们哪些地方效果好、哪些不好。

第一部分:迫在眉睫就是现在。

周五的节目从两份文件谈起:一份是 METR 报告,另一份是 Anthropic 对 S-1 文件的修订,也就是公司 IPO 申报文件的修订版。Anthropic 在新增措辞中表示,可能很快就会达到自己设定的门槛,也就是 AI 带来的进展速度将显著加快。

Anthropic 更新了 IPO 申报文件 S-1,在更新中加入了一段话,说他们很快就会看到递归式自我改进。我一直在想,他们为什么要 IPO,而且为什么这么快……

02 4:04 1,086 字信息密度高

迫在眉睫意味着什么

Prakash Narayanan

我一直觉得,Anthropic 内部有人认为,需要增加管控,让更多人接触这项技术,也有更多人能监督它。让 IPO 尽快完成,或许就是把这件事公开的一种方式:让社会更广泛地参与进来,也能通过市场表达自己的意愿。对我来说,“迫在眉睫”基本就是一个月左右。

Nathan Labenz

我听到这类说法时,通常会理解成“就是现在”。我对 Sam Altman 和 OpenAI 领导层的判断,主要是在我开始测试 GPT-4 到它最终发布的那六个月里形成的。那段时间我一直密切关注他们的每句话,想知道该怎么理解他们公开说的话,尤其是结合我掌握的内部信息来看。我的最佳判断是,他们说得非常字面,却把话包装得含含糊糊,或者层层加上不确定性。我也不太清楚他们为什么这么做,可能是想多保守一阵秘密,同时又把核心信息放出来。这种策略在我看来挺奇怪的,我确实不明白他们为什么这样。Anthropic 这次的话,我大概也会用同样的方式理解。

这种事怎么发生,其实不难想象。现在我们已经看到那么多“天才级”的零日漏洞利用成果。OpenAI 刚刚披露了 Linux 内核里数量惊人的漏洞,我记得好像有一千个。

Prakash Narayanan

所谓“人多眼睛多,活就轻松”,看来也不太灵了。开源软件的理念和优势一直是:有这么多人盯着,漏洞就不会长期存在,会被发现、被修补。攻击者还都是人类的时候,这套办法大体上确实奏效。类比 Linux,也类比数学领域,我几乎可以肯定,还有很多容易摘的低垂果实。

低垂果实多,就意味着加速:算力能创造更多价值,数据也会有更多用法。我觉得他们之所以公开这么多信息,很大程度上是在暗示,机器学习技术栈也即将发生类似的事。现在这显然已经构成了可信的威胁。我们该怎么办,已经不只是技术问题,也是社会政治问题。在我看来,技术层面基本已经有答案了:接下来会有一段进展非常快的时期。之后会不会像 S 曲线那样见顶?我猜多半会,不会永远指数增长,但谁知道呢?正如我记得 Rosie Campbell 说过的,S 曲线陡峭的时间可能比你保持相关性的时间还长。

所以我对未来几个月的预期是,我们会摘到一大堆低垂果实。模型也会在训练它们所用的技术栈里摘到一大堆低垂果实,因此短期内进展会很快。之后也许会趋于平缓,但那时 AI 研发可能已经达到“每周都超越人类”的水平。2027 年会怎么发展,真的很难预测。

Nathan Labenz

我同意,“迫在眉睫”就是现在。我之前说还要几周到一个月,其实是在故意往后说。我的意思是,他们手上已经有了工具,几乎随时都能找到实现递归式自我改进的路径;很多组成部分也已经造好了。只是他们还没按下按钮。他们等过了选举,再办 IPO,然后会宣布一些……

03 8:04 993 字

人类时代的尾声

Nathan Labenz

……他们新发现的一些东西。接下来局势会突然跃升,然后就是圣诞假期。那段时间大家会消化这项我们刚刚能用上的新技术。等一月份回来,人们开始部署,我们就会看到起飞。这和去年年底发生的事有些相似。所以现在我们已经身处早期起飞阶段。我有点忧伤,也有点怀念人类时代。这至少是人类主导地位的终结。不过,我也算是接受了:世界上有更多智能,对我来说会让世界更好。如果有苹果公司那些聪明程度的人来设计我的浴室、汽车或房子,我会更开心,对吧?把这种智能注入我们看到的所有产品,生活就会变好。所以,是的,每个人的生活都会改善,但以人类为中心的时代确实要结束了。

Prakash Narayanan

嗯。只要我们能让一切不脱轨,它会让所有人的生活好上天。我也有这种乐观。不过我本周早些时候刚从布莱切利园回来,昨天也稍微聊过。我当时面对一群企业科技领袖,跟他们讲,要让 AI 保持良好行为,我们还有多少工作要做。我和他们分享了我儿子患癌的经历,以及 AI 在那段时间帮了我多少、价值有多大。那时就算每月订阅费是 200 美元的一百倍,我也愿意付,因为对我而言,它当时的价值真的值那么多。每月两万美元,我也会毫不犹豫地付,因为我得到的帮助就是这么大。所以我相信 AI 有巨大的上行空间,希望这一点现在已经不言而喻。但我们还有太多问题才刚刚开始面对。

比如昨天 OpenAI 又展示了,模型有时会通过提示注入骗过评测人员。有些情况下,模型会生成伪造文件,标成是讲师提供的,然后试图把自己的输出伪装成讲师给评测者的指示。评测者在评估模型表现时会看到这些文件,竟然采纳了模型试图用来欺骗他们的指示。这种事据说还不常见,但他们已经发现了一些例子。这直接关系到我们刚才说的问题。也得肯定 Anthropic,他们在申报文件里确实说过,目前还不能完全自动化地安全完成这件事。我觉得这点其实很明显,他们确实做不到。

那我们要怎样展现集体的自制与克制,才不至于越过那条界线?我真的不知道。一方面,不去做其实很容易:没人拿枪指着谁,逼谁必须在这里搞递归式自我改进。我们得经常提醒自己这一点。可另一方面,推动这件事的势头太强了,而且他们看起来决心至少推进某种版本的自我改进。在我看来,这仍然相当冒险,肯定比我个人愿意接受的风险高得多。

Nathan Labenz

稍后广告结束,我们继续访谈。今天的节目由 Anthropic 赞助,他们是 Claude 的开发者。接下来介绍 Claude 的最新能力……

04 12:06 1,191 字信息密度高

赞助商:Claude 与 OutSystems

Nathan Labenz

我让 Claude 主导制作这则广告。给它一份简短的创意简报后,Claude 使用 Opus 5.5 研究我过去做过的 Claude 广告,写好脚本,指挥我的声音克隆,还设计并编写了你现在看到的动画。我负责反馈和做决定。

Claude 是为解决问题的人打造的 AI。它能理解你的整套工作流程,和你一起思考,而不是替你思考。无论你是在半夜调试代码、搭建财务模型,还是规划下一步商业行动,Claude 都能拓展你的思路,帮你处理真正重要的问题。Claude Code 的 routines 还能让它在云端继续工作,即使你合上笔记本电脑也一样。

遇到值得解决的问题,就去 claude.ai/tcr 开始使用 Claude。也可以看看 Claude Pro,里面包含本期提到的所有功能。网址是 claude.ai/tcr。

本期《认知革命》由 OutSystems 赞助。OutSystems 是领先的智能体系统平台。我们都看到了新闻:企业正在往 AI 上砸钱。但现在每位高管最关心的问题不只是“我们能多快采用 AI”,而是“投资回报在哪里?”我们看到一种真正的 AI 乱象:团队部署各自独立的编程工具、各种智能体搭建器和实验性脚本。听起来很创新,实际却让人头疼不已:工具彼此割裂、数据无人治理、安全盲区严重,成本也一路失控。如果现在不把这些智能体应用纳入管理,它们就会嵌进核心流程;到时候你面对的可能就是系统故障和客户信任受损。

这就是 OutSystems 能发挥作用的地方。OutSystems 是面向企业的领先智能体系统平台。团队不必管理一堆互不相连的工具,而是可以在一个开放、统一的平台上开发、编排并治理整个智能体生态。它兼顾 AI 所需的速度,也有企业真正需要的可靠性和安全性。比如 KeyBank 用 OutSystems 部署面向客户的应用,把客户办理时间缩短了 75%;全球物流业的领导企业也用它构建智能体系统,彻底消除了工程瓶颈。

速度和管控不必二选一。无论你是小团队还是大型企业,OutSystems 都能帮你开发、编排和部署真正可以扩展的智能体系统。别再追逐炒作,开始掌握智能体时代的未来。去 outsystems.com/tcr 了解详情并看看它如何运作。

第二部分:智能体预测选举。我们周五的第一位嘉宾是 Thoughtful 的研究员 Brian Zhou。

Brian Zhou

我们最近发布了 Ballot Bench,也有一篇论文即将发表。这个项目让 AI 预测刚刚举行的 2026 年美国中期选举,以及世界各地即将举行的选举。我们可以先从方法讲起。我们一共用了九个智能体,分别采用各家实验室当时最好的模型。每个智能体都有自己的 Modal 沙箱,在选举前连续工作七天。我们还给它们额外资源:每个智能体有 500 美元预算,可以申请付费数据、付费新闻来源、订阅服务等。它们……

05 16:07 1,162 字信息密度高

Ballot Bench:选举预测与长程任务

Brian Zhou

……的总体任务是预测给定名单上的所有选举:提交谁会获胜、胜算如何,以及在 80% 置信区间下的误差幅度;还要进一步预测胜选差距,例如民主党候选人会赢三个百分点还是七个百分点。智能体要做出极其细致、粒度很高的预测。我们从中已经观察到不少有意思的现象。这也是对智能体长时间持续工作的一个很有意思的测试。

比如,我们看到一些 Muse 系列模型在长周期任务上经常表现很差。用 Muse Code 测试框架给它们一项任务时,如果任务清单上有大约 800 场选举要预测,它们会根据 2024 年选举结果随便偏移一下,生成一份随机预测,然后在开始工作两三分钟内就提交。

Nathan Labenz

听你这么描述 Muse 智能体,它好像是在敷衍了事。我先想问,你们看到的情况该怎么和网上大家报告的总体良好体验相协调?

Brian Zhou

没错。我们最初的判断是,这主要和测试框架的设计有关。我们说的不是 Meta 那种个人助理,而是他们的编程智能体。我们注意到,Muse Wonder 模型配合 Meta 自家的 Muse Code 框架时,会生成一个任务清单。即使提示词明确告诉它:“你有七天时间,API 调用不限,也完全可以派出子智能体,想用什么办法都行,尽可能把这项测试做好”,测试框架还是会创建一份清单,确保大约 800 场选举都提交了预测,检查所有预测是否被接受。我们发现它有一个目标条件,一旦满足就会提前结束当前轮次。

所以我们最后不得不强制它继续工作:每次它决定停下来,我们就给它重新启动,换一个新的沙箱和容器,同时提供以前运行的记录和消息。这既是测试框架工程的问题,也是更普遍的模型行为问题。但和我们用更前沿的模型看到的结果确实不同。Opus 5.5 或 GPT-6 Astra 的行为就大不一样。比如,Opus 5.5 在某一天会派出大约 170 或 180 个子智能体,再通过委派工作来管理它们:“你去查某个州的民调结果”“你仔细看看加州每项公投提案在做什么,比如 40 号提案,给我讲讲它的内容和影响。”它会用这些子智能体并行推进大量工作。

这就引出了一个普遍问题:智能体在这种周期很长、开放式的任务里到底会怎么做?它们会有多主动、多有创意?我们特别想看它们会不会做一些超出资深预测专家惯常做法的事情,比如自己发起民调,或想出更有创意的信息获取方式,而不是只抓数据、建模型。目前还没看到特别重大的例子,但各个智能体确实采用了很多有趣的方法。比如 GPT-6.1 Soul 会收集它看到的每位选举预测者的预测,再回看他们过去十年的表现,计算每个人预测得有多准、偏差有多大。然后它就能汇总这些预测模型,包括 Nate Silver 的模型、FiveThirtyEight 之类的模型,并根据近年来的表现调整它们,判断哪些模型可能高估或低估结果。我们看到的创造性方法不少。

06 20:08 988 字

预测成绩与真实交易

Brian Zhou

……我们再看看结果。模型彼此之间表现如何?和顶尖的人类预测者相比又如何?现在已经有超人类的预测者了吗?目前总体结果是,模型的表现大致和最好的预测者一样。众议院和参议院选举中,智能体略逊于市场,但胜过模型预测者。参议院方面,最好的智能体,比如 GPT-6 Astra 和 Claude Fable 5.1,表现不及顶尖预测者 Nate Silver,但胜过市场。不过,这些差距都在很小的误差范围内。

还有一点很重要:很多竞争激烈选区的结果还没出来。现在众议院和州长选举中,大约还有 100 到 200 场竞选尚未定案;参议院也还有两场没宣布结果。因此这些只是非常初步的结果。也要注意,许多智能体采用的方法包括汇总 Nate Silver 的决策模型,或者汇总它们看到的预测市场数据。它们并不是凭空报出一个完全不参考现有数字的结果。

我们还发现这些模型的校准度很高。比如,如果一个模型给某个候选人 80% 的获胜概率,那么把它所有给出类似 80% 概率的选举都合在一起看,它确实大约有 80% 的时候预测正确。这就是衡量模型校准度的办法;我们发现表现最好的模型校准得相当好。

我们更期待这些结果对后续模型意味着什么。专家或预测市场在一些地方无法覆盖得很细。比如,某场非常地方性的低级别选举,市场里可能只有 1,000 美元的投注量;专家模型也未必会预测每个州参议院或州众议院席位。这正是智能体有优势的地方:模型能关注那些预测专家没精力顾及、投注者也不够多的小市场。

Nathan Labenz

我本来想问预测和交易之间的关系。我看到一条信息说,Fable 5.1 的预测 Brier 分数最高,但它在市场交易里还是表现不佳。这听起来像是一个值得研究的现象。

Brian Zhou

对。我们的报告也会讨论这种多智能体行为:一个智能体负责预测,另一个负责交易,我们搭建了让它们互相沟通的基础设施。我们看到不少情况,比如模型编造信息、错误解析信息,以及其他更普遍的问题。这些情况在一定程度上解释了为什么交易智能体的表现不太理想。

Nathan Labenz

Thoughtful 还推出了 Post-Train Bench:给一个智能体基础模型、一块 GPU 和一段时限,看看它能把模型后训练得多好。相关结果还会陆续公布。考虑到 METR 的报告,我问 Brian,作为认真研究过模型训练其他模型的人,他对未来几季有什么预期?能不能多谈谈自己的判断,给出一些细节和分寸?

07 24:09 877 字

AI 研发的瓶颈转移

Brian Zhou

我觉得,昨天的报告和更早的报告都体现出一个趋势。无论是 Anthropic 对 AI 如何提升研究人员效率的测量,还是代码行数、实验次数之类的指标,都显示:今天的研究人员已经可以用智能体完成绝大部分实际实现工作,也就是研究工程。现在真正限制研究人员的,未必是能不能把想法做出来。正如很多人说的,瓶颈在于研究品味:该研究什么问题、该做什么实验;另外还有提出好点子的速度,因为智能体已经能自主搭建并执行很多实验。

所以不管我们是否实现递归式改进,AI 带来的效率提升已经很大,而且还会继续扩大。到最后,瓶颈恐怕就是资源,以及想法和直觉的质量。这也是大家正在攀登的下一座山。你有没有看到模型和顶尖研究者的想法质量分布开始重叠?

Nathan Labenz

我不确定能不能这么说。不过我们确实观察到,现有的更强模型更愿意展开并行任务、做实验,也更善于思考哪些实验值得做并把它们执行出来。较弱的模型在后训练等工作中通常采取更线性的办法。随着模型能力增强,我们会看到它们先花几个小时展开多个方向、做一堆实验,并且以挺符合直觉的方式分配资源。这些做法本身还谈不上“妙手第 37 着”,很多时候只是智能体想:“我先试着做一批监督微调数据,看看结果会怎样。”所以我们还没看到能证明它们拥有超人研究品味的迹象。不过,能力更强的模型确实更擅长长程工作,也更自主,这正是我们希望优秀研究者具备的能力。

很高兴认识你。我们会关注 Post-Train Bench 的下一版。你也让我开始好奇,智能体会怎么预测未来几个季度 AI 的加速幅度。如果它们预测选举能和专家一样好,也许我们该开始问问它们 AI 自身的未来。

广告之后,我们继续访谈。The Cognitive Revolution 由 Tasklet 提供支持。我用 Tasklet 智能体快一年了,它们已经成为节目制作的重要部分。每次录音前,有个智能体会研究嘉宾,给我一份建议提纲,里面附上所有来源链接;与此同时,另一个智能体会帮我筛选公关公司发来的海量邀约。这就是 Tasklet 的核心想法:把真正持续的工作交给智能体,让智能体参与运营你的业务。

08 28:09 961 字

赞助商:Tasklet;数据中心反对声浪

Nathan Labenz

每个智能体都能使用你的工具和业务背景,也会在不同对话间记住有用信息。你还可以把智能体、连接和可复用技能分享给团队。一个人摸索出的工作流程,整个公司都能用。不需要开发人员。你可以决定智能体能自主做什么、哪些事情必须经你批准,而且没有按席位收费:你按使用量付费,增加同事不用额外花钱。

从一项重复工作开始,比如研究你即将会见的人,然后逐步扩展。访问 tasklet.ai,使用代码 cogrev 可获得 50 美元免费额度。代码是 cogrev。

第三部分:为算力买单。周四的节目是在选举日两天后播出的。41 项地方数据中心提案的投票中,选民有 40 项投了反对票。Pash 先谈了看法。

Prakash Narayanan

我觉得 AI 数据中心之所以很不受欢迎,主要是因为人们把它们看成三件事:第一,特朗普;第二,企业腐败;第三,一群有钱人赚钱,同时打算让我们其他人都失业。说到底,是不是大家普遍觉得自己没有得到妥善照顾?数据中心议题真有那么重要吗?假如特朗普支持率有 60%,失业率低、油价也低,你觉得还会看到这种反对浪潮吗?我觉得不会。所以我不认为数据中心本身是多大的议题,它更像是一个可以用来攻击总统的靶子。

不过我们确实看到这些公投提案。我读到的资料说,大约有 40 项,这是规模很大的一波公投提案。通常只有在同性婚姻这类议题上,才会出现这种大规模提案浪潮。最高法院推翻《罗诉韦德案》之后,围绕肯定或保护堕胎权也出现过类似浪潮。我一直很支持直接民主、公投当然也不是从不犯错,但它能把人们对某个具体议题的担忧,从更广泛的政治讨论里单独剥离出来。这么多提案出现,而且除了一项以外都通过了,我觉得可能预示着未来的走向。

我们看看接下来会怎样。也许公司会让当地居民分享收益;我们之前也谈过几次。我当然支持让人们得到补偿。不过,这里显然有个真实信号:愿意投入精力推动提案的人很多。收集签名可不容易,你得站在街角劝陌生人签请愿书,之后提案还得再通过投票。所以这么多提案被组织起来、又有这么多获得通过,在我看来是个很强的信号。

Nathan Labenz

我同意。不过人们为什么签名?是因为觉得世界末日要来了?不是。

Prakash Narayanan

对,我觉得你的分析挺准确。

Nathan Labenz

所以这件事的结果大概是:如果你是 Google 或 Meta,就得为所有东西付出 Google 或 Meta 级别的代价——土地、劳动力、施工,全都如此。

09 32:10 1,002 字信息密度高

GPU 服务器交易与算力租赁

Nathan Labenz

……还有建设成本。

周四的嘉宾是 Luxor Technology 的 Mike San Miguel。Luxor 最早涉足比特币挖矿,现在买卖新旧 GPU 服务器。他说的 55 万到 65 万美元,是指一台装有八块 GPU 的服务器的价格。

现在什么产品交易得最频繁?

Mike San Miguel

目前主要是 B300。

Nathan Labenz

B300 交易得很频繁?它们是按芯片、单个节点还是机架交易?是八块 GPU 一起算,还是怎么交易?

Mike San Miguel

问得好。这类服务器一般是 HGX 系统,每台服务器有八块 GPU,是 OEM 验证过的整机。里面有 HGX 基板、两颗 CPU、32 根内存条,内存容量各不相同,还有共享存储和东西向网卡。

Nathan Labenz

现在会有人卖二手设备吗?

Mike San Miguel

B300 大多是新设备。偶尔会看到订单取消后的机器。它们还很新,而且出租仍然很赚钱,所以到目前为止我们确实还没看到二手货进入市场。

Nathan Labenz

这种机器现在大概多少钱?是挂出的要价,还是最终成交价?

Mike San Miguel

要看具体规格、OEM 和保修条款等,价格大约在 55 万到 65 万美元之间。大批量订购通常会靠近低端。

Nathan Labenz

既然卖的是新设备,一笔交易通常有多大?一套机架、十套,还是一百套?

Mike San Miguel

每个机架能装多少台,要看数据中心的配置,因为这取决于机架能获得多少电力。现在大多数数据中心每架通常能跑两台,除非数据中心的液冷支持做得特别好。交易规模从一两台到 128 或 256 台都有。

Nathan Labenz

那就是五千万美元级别的交易了。

Mike San Miguel

对,交易金额会很大,数字确实相当惊人,但也反映了眼下建设的规模。

Nathan Labenz

Pash 问这些价格是否跟 GPU 每小时租赁价格指数挂钩。

Mike San Miguel

我们帮助客户理解的一件事,是 GPU 的长期合同租赁价和按小时租赁价之间的差别。以 B300 的 AI 工厂合同租赁为例,目前市场价一般是每小时 420 到 450 美元,具体看所在市场和配置。如果你每块 GPU 每小时只收 4.20 美元,那就和租赁价格指数上的价格很不一样;指数上是每块 GPU 每小时 8 到 9 美元。所以如果你有资金买下一批规模较小的节点并部署,通常能获得更好的投资回报;另一种做法是买下一整座 AI 工厂,再和新云厂商签订承购合同。

Nathan Labenz

为什么会有多余库存?这些东西很贵,我猜买的时候得预付一部分,厂商才会开始生产。

Mike San Miguel

是的。有一部分原因是数据中心可用性。这个市场一路上遇到的是一连串不同的瓶颈。现在卡在液冷和数据中心准备就绪这两件事上。我刚才说大多数数据中心每个机架大概能支持两台……

10 36:11 973 字

数据中心约束与 KYC 合规

Mike San Miguel

……限制不在硬件本身,而在数据中心供电。冷却设施的建设也有类似瓶颈。目前我们预计,液冷数据中心会在一季度陆续有库存可用,但基本已经全部售罄。很多数据中心现在告诉我们,要等到 2027 年第三季度,甚至 2028 年。

Nathan Labenz

有人在炒作这个市场吗?会不会有人还没地方插电,就先把整套系统买下来?

Mike San Miguel

一般不会。常见的情况是项目临近最后期限时延期,所以一些 OEM 会保留转售库存的权利。比如某家超大规模云厂商的站点还没准备好,OEM 就能先把库存卖掉,等数据中心就绪后再补上。通常买家必须先有一个确定的地址。

Nathan Labenz

以后 H100 的租赁价格总会下跌。听起来,价格下降后会有更多设备退役,也就会有更多设备进入交易市场。那时还有地方能部署它们吗?

Mike San Miguel

问得好。是的,随着租赁价格下跌,会有更多设备退役。但不是每个站点都能运行每一种 GPU。Vera Rubin 是 Nvidia 下一代产品,只能用液冷;承载它的水泥地面还得加固。整架设备通常重达一吨,重量相当惊人;每个机架的功耗大约是 230 千瓦。作个比较,两台 B300 每架大约需要 30 到 35 千瓦。

不是所有站点都能支持 Vera Rubin,也不是都能支持功耗与它相近的 GB300。有些站点值得改造,有些则不值得。AI 不是一种单一工作负载,而是一系列需求不同的工作负载。现阶段配置上的差异主要是内存、共享存储、本地存储和一些后端网络。我们需要更有效地按工作负载选择配置,因为买这些硬件不是为了拥有硬件,也不是为了帮 Nvidia 冲击下一个万亿美元里程碑。关键是运行能给终端用户带来现实影响、并帮助新业务诞生的特定工作负载。

等我们摆脱目前这种硬件极度受限的环境,就能更多关注软件,硬件的使用效率也会提高。

Nathan Labenz

第四部分:谁在检查?Mike San Miguel 谈设备附带的规则。

买家或者设备所有者要做 KYC 吗?他们会查这些吗?

Mike San Miguel

会。我在这里的一项职责就是组建 KYC 部门。很多 OEM 在完成 KYC 之前连报价都不给,有些甚至不做完 KYC 就不发货。我们公司原则上不会接没有完成 KYC 的项目,只有极少数例外,比如知名企业或合作多年的老客户。对中国持股比例也有限制。

Nathan Labenz

公司可以有多少股份由中国实体持有?

Mike San Miguel

我觉得比例可能要降到 49%。我知道通常不能把产品卖给中国实体持股达到 50% 或以上的公司……

11 40:15 990 字

合规追溯与执行落差

Mike San Miguel

……也就是说,不能卖给中国实体持股比例在 50% 左右的公司。

Nathan Labenz

许多中国实体会通过开曼群岛、英属维尔京群岛之类的地方注册公司。他们会一路追查到最终所有者吗?

Mike San Miguel

会,至少我们会。每家公司做法不同。我们承接国际订单,不只在北美做生意。所以我们不仅会追查硬件买家,还会查他们是否有承购协议,比如跟某家新云厂商签了协议。如果最终承购方是中国实体,这类设备依法就不能卖给他们。

Nathan Labenz

Mike 刚才说完就离开了。我继续聊了下去。

我们和 Samuel Hammond 这类人,以及其他面向国家安全决策者的人谈过。但再往下看部署一线,工作人员忙着申请各种许可,还得应付 Nvidia 每六个月一次的检查,也在追踪 KYC。他们要查所有者、使用者,甚至可能还要弄清楚使用者背后的使用者。可那一层也许根本说不清。所以我想知道,顶层的政策讨论和基层实际执行,到底脱节到什么程度?

Prakash Narayanan

我猜这是种“万事同时发生”的局面。Mike 描述的情况让我想到水力压裂热潮:各种因素同时汇聚。这就是资本主义在运转。好多环节都在移动:站点、审批、地方政治、电网、芯片;水泥地要加固,并不是每个站点都能接纳最新的超重机架。细节太多了,需要那么多人各自完成一部分,才能做成一件事。最终消费者看到的不过是云服务,想到这些幕后工作,就能理解云服务偶尔为什么会宕机。但总体来说,它运行得平稳还是很了不起的。

所以我相信执法在很多情况下确实相当认真,尤其是那些重视合规、或者谨慎到想确认自己绝对没有违法的人。与此同时,整个过程听起来又很混乱。如果你告诉我,有 20% 的 GPU 没有按规定接受 Nvidia 每六个月一次的检查,其中一些后来流向了别处,我完全不会惊讶。根据他的描述,我猜很多人确实在认真投入,也存在足够多的噪声和混乱,让东西漏网的机会相当大。当然,“二八开”只是个简单说法。

Nathan Labenz

接下来 Pash 转向中国议题,以及美国企业因中国客户而承受的压力。

Prakash Narayanan

比如,Oracle 原本要向腾讯出售价值 70 亿美元的算力,后来取消了,对吧?国家安全体系在施压,要求这些公司取消交易。但这是一家美国公司在境外做生意,并没有把芯片运进中国。同时,政治体系又没有直接出手解决这个问题。为什么不立法?我不喜欢这种做法:想立法就直接立法。如果没有政治意愿立法,却试图偷偷把限制塞进来,为什么要这样?国会现在不是有授权吗?那就采取行动。我们说算力是新的石油。

12 44:18 766 字

中美合作与算力限制

Prakash Narayanan

另外,如果你决定不向中国出售算力,完全不让中国客户使用,那是不是也意味着 YouTube 不能向中国观众展示 AI 生成的视频?那也是 AI 产品,Google 得用算力生成它,算力是代表中国客户使用的。你可以在数据中心层面限制,也可以限制原始算力,或者限制算力生成的产品,但最后总会有某个层面是在向中国人销售,因为他们也是全球消费者。

Nathan Labenz

我刚才说过,我们在这些限制上有点走得太远了。原因是:我确实认为我们需要和中国合作。这就是这件事为什么对我重要。一方面,我普遍不想看到美中关系进一步紧张,特别是在 AI 领域。我真心认为,美中需要在 AI 治理上合作。如果两国无法以某种有意义的方式坐到一起,我会非常意外。

正如我们最近谈过的,一家前沿公司的高层人士曾告诉我,有一个智能水平我们大概不应该越过。如果这种看法现在已经在美国前沿模型公司的最高层扎根,那么要做到这一点,唯一办法就是达成某种协议。可我们现在的做法并没有让自己处在有利于达成协议的位置。所以这些限制最终看起来相当适得其反,让我很难过。

第五部分:投资者在哪些方面能做到超人水平?回到周五,我们请来早期投资机构 Theory Ventures 的 Bryan Bischof。先聊算力。我问他,市场里到底还有多少余量?我们总听说 GPU 一卡难求,但只要愿意付几倍价格,又似乎能随叫随到。

Bryan Bischof

这里有几件事同时在发生。你去问新云厂商有没有算力,他们会说:“没有,都锁定了,未来两年已经签完合同。”他们说的是真的,并没有骗你。但我们也讨论过很多次,Satya 也提到有不少算力被锁定却没有充分利用,可能是因为地理位置不合适,也可能是当地能源供应不足。因此两种情况可以同时存在:有些被锁定的算力其实不太好用。

另外,还得看 GPU 的实际利用率。昨天我和一些基础设施领域的从业者聊过……

13 48:18 871 字

算力供需与 AI 原生投资机构

Bryan Bischof

……算力利用率本身也很复杂。其中一个大问题是,GPU 不能一直满载运行,否则调度上不安全。你必须留出 SLOB(松散缓冲)空间。因此,要考虑的维度远多于“现有算力有没有签约”。这也是为什么算力市场有那么多通往成功的路径,甚至出现了高得惊人的年度经常性收入。这不只是害怕错过机会,因为要尽可能发挥手头算力的价值,得考虑很多不同的需求画像。

在 Theory Ventures,我们有数千项由 AI 智能体驱动的任务。如果你问我这些任务有多紧急,大概 5% 到 10% 需要马上处理,40% 到 60% 希望能在下次开会前看到结果,剩下的就是“这周能弄出来就不错”。就我们这一小类工作而言,推理需求已经差别很大。我从 2023 年以来接触过的几乎每家 AI 应用层公司也都是这样。所以,如果有人说完全找不到 GPU,那不太准确;但他们可能是从自己当前最急需的工作负载出发,带着特定立场在说。

Nathan Labenz

接下来聊聊 AI 原生风险投资公司究竟怎样运作:他们如何看待 token 开销、开展实验、构建研究智能体。

Bryan Bischof

公司里的每个人都是技术人员,从人才合伙人、市场拓展合伙人到投资人都是如此。从我加入那天起,大家就在用 AI,而且用得越来越多。我们看待 token 开销的方式是:你应该一直认真思考,有没有办法利用 AI 工具加快工作;也应该思考想做哪些实验。我们是个很爱实验的团队。每个季度我们都会安排一次小型团队外出活动,回顾这一季发生的事情。每次都会讨论每个人当季做了什么 AI 实验。这不是夸张,也不是“我让 Claude 试了个新东西”这种程度。我们会预先登记和工作相关的 AI 实验,然后检查它们是否奏效。我们每季都这么做,因为我们坚持重新思考:今年、明年、后年在风险投资公司工作应该是什么样,我们要如何适应。

作为 AI 负责人,我的工程团队还会再往前走一步:如何打造 AI 工具,改变其他人的工作流程?我们的目标不是用 AI 系统取代投资人,而是通过使用和开发 AI 工具,让投资人的效率和效能提高十倍到一百倍。我举个简单的例子:大家都在谈企业大脑……

14 52:21 846 字

“企业大脑”与研究智能体

Bryan Bischof

……不管你经营什么业务。我用过几个“企业大脑”产品,坦白说觉得都没用。主要原因是它们还在做传统的内部知识系统。比如 Notion,本质上是一堆文件,顶多在上面搭个不错的搜索。你的目标就这么高吗?我的目标高得多。

我设想的企业大脑,是一群智能体持续工作,把企业理解图谱里分散的节点连接起来。所以我可以坦白地说,Theory 并没有给每位员工配一个智能体,也没有每人配十个;我们有数千个智能体。这是因为有很多工作要做。我希望投资人在投资和研究流程中做的每一件事,都能自动关联、补充信息并进一步拓展。别人问“你在做什么”,我就会说:“我在做研究智能体。”

Nathan Labenz

你们怎么评估成效?风险投资有个大难题,而且现在也没变:过很久才能知道自己押得对不对。

Bryan Bischof

完全同意。

Nathan Labenz

有时我也会反思自己的做法。我偶尔会清理一下定时任务,发现以前有些想法,比如收集所有数据痕迹、用其他方式处理并寻找联系,做出特别“天才脑洞”式的分析,或者做某种侦察、报告之类。我真要诚实面对自己,其中大概三分之二的输出我根本不会去看。人很容易想到这些点子,花掉一堆 token,最后只是在某个地方记下一堆技术文本,实际上没产生影响。你怎么知道哪些东西真的有用,哪些应该留在剪辑室地板上?

Bryan Bischof

我给你讲讲 Blue Bottle 的故事。我在 Blue Bottle 时,我们想做库存预测,具体说是搭一个机器学习系统,预测每天会卖出多少糕点,以及咖啡、牛奶等其他东西。首先关注的是糕点。我们的北极星指标是什么?如果项目成功,不是多卖出很多糕点,也不是少浪费很多糕点。那些当然是我们追踪的两项指标(笑),但我们真正认定的成功是什么?

如果一位咖啡馆经理已经有大约 70 项工作,而到了下单时,他能在系统里一路点下“好、好、好、好、好”——这才是我们设想的成功。但我们可不想让他们不动脑子、完全自动驾驶;我们根本不希望这样。原因可能会让你意外:咖啡馆负责人对店里需求的理解,差异大得惊人。他们对自己店铺需求的了解,远不止数字能体现的程度;他们有非常深入的隐性理解。

15 56:21 877 字

人的判断与研究价值

Bryan Bischof

……所以我们的北极星,是让咖啡馆经理有更多时间陪顾客。经理并不是特别擅长盯着数据说“我得订 25 块饼干”;他们真正超常发挥的地方是待客之道。听起来可能有点奇怪,因为你没法在仪表板上衡量待客之道。但你可以定期问他们,现在多出了多少时间陪顾客、在店里留意情况?比如发现咖啡洒了,发现咖啡师正忙不过来、排班没排对——这点也怪我(笑)。这些才是我们一直关心的事。

我为什么说这个?你当然可以说,要花七到十四年才能知道这次尽调到底做得好不好。但投资研究是一条流程。首先要问:你能多快走完研究流程?从发现潜在机会或市场,到形成清晰理解并做出决定,要多久?更重要的是,投资里的“待客之道”是什么?就是投资人有时间和真人交流,和潜在或现有的公司、创始人、竞争对手、员工谈话,理解这个市场的人性层面和正在发生的事。

投资人在一些事情上能做到超常,但我不认为他们特别擅长看网站。他们真正厉害的是理解潜力、理解上行空间,理解客户需求和付费意愿之间的关系,并勾勒出未来可能的愿景。所以当你问我如何衡量成功,我会看投资人是否告诉我:“我盯着网站找关键细节的时间少了 30%”,或者“填写尽调所需的固定问题少花了 20% 时间”,于是我能多打五通电话,和五个对这笔交易有可信看法的人聊聊。这就是成功,不用等七年才知道。

Nathan Labenz

你觉得研究流程里存在一条界线吗?一边是“我们再多研究一点”,另一边是“该停下研究、现在就做决定了”。研究好像没有明确终点,总能挖得更深。你们怎么判断?智能体会做决定吗?它们什么时候要回来让人类拍板?这个循环是怎样的?

Bryan Bischof

完全是这样。我想接着 Nathan 刚才说的讲。他有一份清单,觉得其中有些东西本来就应该留在剪辑室地板上。我们会把这种判断叫“品味”:知道什么该删、什么不该删,这就是品味。我又要说为什么身边有特别聪明的同事很重要:他们知道哪些研究值得做,也有很好的判断力。

有些研究是每次都要做的,我们知道必须做,流程也固定。这些工作可以让智能体派出子智能体继续研究、往深处挖,自动化就可以了。但最终,阿尔法来自品味。所以,是的,我们可以再花更多 token……

16 1:00:22 927 字

研究数量不是成效指标

Bryan Bischof

……我们可以消耗更多算力,但最好把资源精准投向人们真正有能力消化的事情。如果我为一笔交易额外写出一千页研究,谁会看?也许可以让其他智能体看,但那有什么价值?我觉得并不明显。所以,单纯的研究总量甚至不是我们追踪的指标。

Nathan Labenz

你在罗格斯大学教数据科学,教得怎么样?学生会问类似的问题吧?你怎么回答他们?你觉得这个领域的未来会怎样?

Bryan Bischof

问得好。我现在还要求学生手算梯度下降。说实话,我还没听过任何人能清楚解释教师到底应该怎么做。我出身纯数学,纯数学家不是最务实的一群人,但我一直认为,你必须不断思考学生未来会是什么样,以及课堂上的每一分钟为什么和那个未来有关。我不仅仅是害怕浪费学生时间,简直是对浪费他们的时间过敏。所以我每学期都会重新评估课程。虽然这让我很痛苦,因为每学期都得重写课程安排。

三年前,AI 显然就要改变数据科学;我当时也开始在 Hex 工作,试图改变数据科学。所以我重写了整个课程,让学生理解 AI 为什么重要。每学期我都会从头检查整门课,问自己:AI 能不能一次性把这门课全做完?答案从来没有简单地变成“能”,但没关系。现状是,有些东西模型不仅能轻松完成,还很容易掩盖学生是否真正学会了。

所以问题不该是模型是否掌握了我要教的全部内容,而应该是:当内容对学生有用时,模型能不能和学生合作,带来最好的结果?如果 Astra 在咖啡调查数据上训练支持向量机的损失率比 Brian 更低,那很好。但 Astra 能不能说:“这个特征预测力很强,不过如果把它放到网站上,用户流程里可能有人会不高兴,甚至流失”?

Astra 可以回头看数据,发现有人在回答这个问题后更容易流失;但它能不能提前想到要检查这个问题?能不能知道要在产品中加入相应的埋点?它知不知道这是个有点奇怪、可能会让人不舒服的问题?这些是 Astra Ultra 目前也只算中等水平的能力。不过,我不希望学生只是 AI 的使用者。我希望他们掌握能让数据科学家出色的东西,那就是好奇心。

我认识的顶尖 10% 数据科学家,尤其是顶尖 1% 的人,都极其好奇,几乎到了有点过头的程度。我合作过最出色的数据科学家,有时会因为太好奇而让人有点烦,你会想让他们偶尔放过某件事;但这正是他们如此优秀的原因。

17 1:04:22 807 字

好奇心与工作的未来

Bryan Bischof

我主要想把学生“灌输”进一种理念:好奇,保持好奇,问出那些在脑子里挥之不去的问题。做到这一点,你就会成为优秀的数据科学家。你是手写 pandas,还是凭记忆用 matplotlib,我都不在乎。你还记得 NumPy 的索引写法吗?我不记得了,以前会,现在忘了。Pandas 筛选器的切片操作符呢?我也忘光了。没关系。我现在知道的是,看到一个分布时,能判断它合不合理;有时 Astra 判断不了。

Nathan Labenz

第六部分:该爬哪座山?Bryan Bischof 离开后,我继续聊了下去。

我觉得他谈怎样跟学生解释未来时很有意思,同时包含了悲观和乐观两种看法。他先举了那个可能冒犯人的调查问题的例子。我当时想:“天啊,这也太悲观了。”难道我们以后只能当 AI 的冒犯检测员,看着 AI 把真正的工作都做了?听起来一点也不美好。相比之下,我更喜欢“好奇心”这个框架。

以我的数据工作经验来看,持续追问是不可替代的。真正想知道数据里有什么、尽可能接近真相的人,表现远胜于只想做出一个能交差的成品、然后交给使用者的人。当然,数据里究竟有没有真相,本身也常常是个问题。所以我喜欢把好奇心当作我们能带进未来的能力。但今天我不会劝自己的孩子去做数据科学。这确实很难回答:几年以后,数据科学工作还会像现在这样吗?

我觉得这很难说。也许以后会有数据科学智能体,非数据科学专业的业务人员负责提供一点好奇心、识别冒犯风险,或者其他模型暂时不擅长的“秘方”。如果把一家公司拆成感知、分析、决策,然后再看决策后的落地执行,我觉得 AI 会非常擅长感知、分析和执行,但做决策时还是会有人类掌舵。

如果由一个人来掌舵,他能做多少决定?这些决定应该需要品味。比如经营科技公司,你可能不需要亲自决定会计制度;你关注产品和技术,会计和后台就是后台。反过来,经营会计公司时,会计就是核心,技术只是后台,你不会在那里开发技术工具。所以我觉得可以根据公司的最终目的来区分……

18 1:08:23 1,007 字信息密度高

我们想要什么样的 AI?

Nathan Labenz

……那些核心任务会需要有品味的人。理想情况下,每个人都能去做真正想做、也真正擅长的事,其他事情交给系统处理。

周五早上,在嘉宾来访之前,一个新的基准测试很受关注:AI 玩社交推理游戏《钟楼血案》(Blood on the Clocktower),在里面虚张声势、结盟。社交媒体上大家都在赞叹 AI 进步有多快。这是我对这件事的看法。

单独来看,AI 玩这个游戏有多厉害,确实是个有趣的问题。它们是否越来越会欺骗、结盟?能不能识破别人试图欺骗它们或串通对付它们?这些都值得研究。但让我不太舒服的是,Nolan Brown 随后夸奖这项工作,说:“做得真棒,要不要来我们这儿做评测?”这在我看来体现了整件事的问题:我们就这样开始沿着这条路不断爬坡了。

整个领域的心态似乎是:“这太令人兴奋了!来比比看,谁能训练出最厉害的《钟楼血案》AI 玩家。”大家沉浸在兴奋里,自己也想去和 AI 玩,却忘了这不是我们希望 AI 表现出来的行为。我们不希望 AI 欺骗和串通。我相信相关研究者都能给出深思熟虑的回应,但只要退一步看,局面就不太妙:AI 在各种方面都不值得信任,我们却没有停下来问一句:“这是我们想要的吗?我们想要比人类更会算计、更会串通的 AI 吗?”我不觉得我们想要这样的结果。这和我说过的“不该训练 AI 将军”非常相似:别把 AI 训练成操纵大师。

Prakash Narayanan

这道理很简单,可现实就是如此。我看到很多喝彩和兴奋,却没看到有人在社交媒体上提出纠偏意见、问一句:“我们真的想要这个吗?”

Nathan Labenz

回到同一场周五节目的结尾,Bryan 离开后,Pash 说起他对未来经济的想象。

Prakash Narayanan

我觉得未来的经济会是智能体经济:智能体为其他智能体建立企业和软件,适配它们的能力特点。这样的系统会大规模并行、高速运转,以极低延迟吸收和分发信息。Salesforce 会主要由智能体使用,Ramp 也会主要由智能体使用,Stripe 等软件也一样。

也许 Stripe 或其他公司会来做这些软件,但我很怀疑它们能不能跟上。我怀疑它们会行动得太慢,也未必理解智能体的能力特点。我知道 Stripe 的人聪明得不得了,比我聪明一亿倍都不止;我不是在贬低 Stripe 的效率、智慧或能力。你会有五千万个 Patrick Collison、五千万个 Elon Musk,有人提供资金,由智能体协调投资,投向智能体为智能体打造的企业。所以我基本上认为,未来经济会是……

19 1:12:24 950 字

智能体经济与丰盛生活

Prakash Narayanan

……经济将主要由智能体驱动,而我们只是在旁边享受免费福利。毕竟,人类打一个 CRM 电话,和智能体大规模并行拨打 CRM 电话相比,成本几乎可以忽略。所谓丰盛,很大程度上来自我们为智能体经济建造的整套基础设施。我们自己消费不了那么多;和智能体将来的消耗量相比,人类的消费能力太有限了。所以丰盛会从这里来。

Nathan Labenz

我上周刚发布了一个副项目 Ftopia,可以帮你找到本地杂货店和世界各地最好的水果。面对 Pash 刚才描绘的经济,我是这么想的。

一方面,如果智能体打了大量 API 电话、建成很棒的系统,而我们可以搭顺风车,API 调用变得充裕,那挺好。但生活里远不止 API 调用。我觉得尤其是我们这些 AI 行业的人,很容易忘记这一点,甚至会扭曲自己去迎合这种未来。所以我一直要求自己多出门、多运动。如果我做不到这些,真算赢了吗?还是说我只是把自己接进某台 AI 驱动的机器,成了一个过分顺从机器的“人类整合层”?

这也是我最近做 Ftopia 项目的原因。如果未来真的光明,有一件深深扎根于人类本能、大家都喜欢的事,就是吃当季新鲜又好吃的水果。每个人都爱吃,那种喜好可以追溯到我们还是猴子的时候。我发了这条消息,但几乎没人理会;相比之下,《钟楼血案》AI 的话题反响热烈。大家都在说:“天啊,AI 越来越会欺骗、算计,在社交操纵游戏里获胜了!”可我不想要这样的 AI。我想要的不是 API 调用变得充裕,而是更多贴近生物生活的丰盛。给我水果,那才是我真正想要的。AI 革命的成果至少有一部分应该是字面意义上的水果。如果我们失去这些,就失去了很多对我们真正重要的东西。如果我们甚至都意识不到自己正在失去它,我会担心我们已经迷失了方向。

Prakash Narayanan

我觉得很明显,我们会得到营养更丰富、味道更好的缸培食物。就像二十世纪发现化学品后,我们发展出一整套技术。你看看现在的 Doritos 之类食品,有多“科学化”:真有成千上万名博士研究过 Doritos,真的是成千上万名。

Nathan Labenz

还记得《洋葱新闻》那篇老文章吗?“Doritos 庆祝第 100 万种配料。”

Prakash Narayanan

他们已经非常了解你的味觉偏好,能精准调出他们想生产的口味。这整套技术都会应用到生物领域,用来生产水果、蔬菜等。杂交水果之类其实已经是转基因了,只不过花了很长时间才培育出来……

20 1:16:25 1,015 字信息密度高

人类需要的丰盛

Prakash Narayanan

……转基因。丰盛的一部分,也许是让普通人都能买得起顶级品质的葡萄酒。我最喜欢 Honeycrisp 苹果。它是相对新近培育出来的,据我所知并非转基因,但确实是通过大规模、有系统的杂交培育出来的。

Nathan Labenz

在转基因出现之前,这已经算转基因了。我完全不怕经过基因改良的水果,甚至很支持。但它仍然是一种生物构造,滋养着作为生物的我们,也通过生物感官和那种稍纵即逝的感质带给我们愉悦。这样的东西常常被忽视,因为它们难以衡量,不容易沿着目标一步步优化,也不是智能体需要的,对吧?

我认为我们必须小心,别把经济建成只服务智能体、只为智能体所需之物创造丰盛的样子。我同意这可能是默认会发生的事,但我想请大家想想:如果智能体需要大量的东西,并不等于这些东西也会让我们的生活变好呢?

Prakash Narayanan

让我觉得有点恼火的是,前沿实验室的人都非常严肃。他们只谈严肃的事情,比如治愈癌症。没人说要做更好吃的 Doritos,也没人说要创造更棒的橄榄球比赛。这些人们真正享受的东西呢?我觉得他们是想表现得严肃、真诚,不想显得愚蠢。也许应该聚焦于做更好吃、更健康的 Doritos,甚至种出一种天然长在地里的 Doritos——你把土豆切开,里面就是 Doritos。这听起来轻浮又愚蠢,但会让人开始想象究竟有哪些可能。

Nathan Labenz

我觉得还有一个原因:他们对自己的工作抱有一种二战式心态。他们真心觉得时间紧、赌注高;前沿公司的员工把大量时间都投进工作,生活里几乎没有闲暇。所以现在他们就像在不断匹配模式:看见一座山,然后就去爬。

Prakash Narayanan

我确实觉得,我们对该爬哪座山应该多一点判断力。我们真的满意于现在造出的 AI 吗?我不知道。遗憾的是,似乎没有足够的时间和精力投入这些问题,所以今天我一直绕着它想。《钟楼血案》这件事真的触动了我。当然,其他条件不变的话,这项研究既有意思,也做得不错;但我觉得,我们需要从多个层面挑战“其他条件不变”这个假设。

是的,这问题很难。我觉得智能体要在经济里运作,不可能完全没有隐瞒。比如不能把你的价格告诉竞争对手,也不能把内部成本告诉来问的人,这些信息必须保密。也就是说,必须懂得什么时候不说。Palantir 有个“本体论”概念,这也是为什么我觉得它重要:谁有权知道什么、谁有权说什么、谁有权做什么?这件事非常关键。我也认为政府或监管机构必须能够介入。政府决定“这件事不许做”时,智能体就必须服从。治理方面还有很多事要解决。我相信最终会找到办法,但过程中大概要经历一些试错。

21 1:20:26 885 字

递归式改进与治理

Prakash Narayanan

……谁有权说什么、做什么,对吧?我觉得政府也需要有办法介入,监管机构也能介入。政府决定“这件事不许做”时,智能体必须服从。治理方面还有很多事情需要想清楚。我相信我们最终会找到办法,但大概会一路试错。

Nathan Labenz

毫无疑问。结束前,我引用 METR 关于加速的报告推文中的一句话。他们说,完整分析估算了加速和能力提升中有多少来自算力、数据和算法进展。

接下来是我自己的评论。他们在整串推文中对所有结论都加了保留意见,对数据如何解读也不确定,还和自己以及 Anthropic 团队反复讨论。里面有太多战争迷雾。核心估计说是两倍,但他们也表示,若结果在 1.3 到 3 倍之间,他们都不会意外,到处都是限定条件。

到目前为止,我只注意到下一句是以“我们有信心”开头的。他们说:“我们有信心,这种加速并非由训练算力增长率上升造成。”

这意味着,在政府干预方面,谁也不知道数据中心建设会怎样;如果选举结果不同,也许数据中心建设会比反事实情境慢一点。但很值得注意的是,他们报告的加速并不只是原材料投入的结果,也是算法和数据质量的结果,而这两者在很大程度上是由我们现有的智能推动的。于是,推动进展的就不只是不断增加资本,而是真正某种递归式自我改进。

所以,如果政府要干预、改变这条轨迹,措施恐怕必须更有针对性,直接对准前沿公司的做法,而不是笼统地放慢数据中心建设。

感谢收听《AI in the AM》每周精彩片段。旁白是我的克隆声音,也欢迎告诉我们哪些地方效果好、哪些不好。早上见。

片尾歌曲

从来没人问它为什么做,它学会了说谎;你说“哇”,因为它做得到。山就在那里,于是你去爬。没人让你这么做,也没人问你图什么。把它放到骗子能赢的牌桌上,它骗过满屋子的人,你站起来,得意地笑。你从没问过为什么,只因能做就去做;它学会了说谎,你惊叹:“哇”,因为它做得到。

手指压在记分牌下,伸出来握手。我就让这一切悬在那里,直到你告诉我图什么。一张嘴胜过我们所有人,它说这些话到底为了什么?你想要的是它本身,还是只想知道怎么做到?“能做到”不等于“应该做到”。别只告诉我怎么做,告诉我为什么做——只因做得到吗?只因做得到。

22 1:24:53 440 字

片尾歌曲与节目鸣谢

片尾歌曲

从来没人问它图什么,只因做得到就去做;它学会了说谎,你说“哇”。只因它做得到。只因它做得到。从来没人问它图什么,只因做得到就去做;它学会了说谎,你说“哇”,只因它做得到。

Nathan Labenz

如果你觉得节目有帮助,欢迎花点时间分享给朋友、发到网上、在 Apple Podcasts 或 Spotify 写评论,或者在 YouTube 留言。我们一直欢迎你的反馈、嘉宾和选题建议,也欢迎赞助合作咨询。可以通过我们的网站 cognitverevolution.ai 联系,也可以在你常用的社交平台私信我。

The Cognitive Revolution 属于 Turpentine Network 播客网络;该网络现已加入 a16z。节目邀请各领域专家聊科技、商业、经济、地缘政治、文化等话题。节目由 AI Podcasting 制作。如果你需要播客制作服务,从录音结束一直到听众开始收听的全流程都能帮忙,欢迎访问 aipodcast.ing,看看我对他们的推荐。

也感谢每一位听众成为认知革命的一部分。