---
id: "ZZwrUPxU1GY"
title: "AI:AM：这真的是我们想要的 AI 吗？令人警觉的加速、AI 选举押注、GPU 交易与 AI 原生风险投资"
channel: "Cognitive Revolution \"How AI Changes Everything\""
host: ["Nathan Labenz","Prakash Narayanan"]
guests: ["Brian Zhou","Mike San Miguel","Bryan Bischof"]
date: "2026-11-07"
updated: "2026-11-08"
duration: "1:26:17"
duration_seconds: 5177
source_type: "youtube"
youtube: "https://www.youtube.com/watch?v=ZZwrUPxU1GY"
canonical: "https://pod-exp.pages.dev/ZZwrUPxU1GY/"
transcript_jsonl: "https://pod-exp.pages.dev/ZZwrUPxU1GY/transcript.jsonl"
language: "zh-CN"
translation: true
translated_from: "en"
timestamp_precision: "block"
topics: ["AI 智能体","AI 安全","AI 基础设施","投资"]
series: ["AI 与人类","AI 投资"]
---

# AI:AM：这真的是我们想要的 AI 吗？令人警觉的加速、AI 选举押注、GPU 交易与 AI 原生风险投资

> 中文译文，由英文原音字幕翻译整理，不是官方逐字稿；引用原话请核对英文原视频。说话人标签由整理者依上下文标注，带「未确认 / 未标注 / 不确定」等字样的标签不可靠。时间戳一般为块级（所在时间块的起点），不是逐句时间；正文自带 [hh:mm:ss] 的段落除外。

**内容提要：** 本期围绕 AI 研发加速及其治理展开，也把视角放到三个具体场景：九个智能体用真钱预测美国中期选举，GPU 服务器在电力、液冷、数据中心就绪度和 KYC 规则之间流转，Theory Ventures 则把数千个研究智能体嵌入投资工作。嘉宾讨论了长程智能体的真实表现、算力利用率、研究品味和人类判断。主持人进一步追问，我们是否应该训练擅长欺骗和串通的 AI，以及“智能体经济”的丰盛能否转化为人类真正珍视的东西。节目最后回到 METR 对算法、数据和训练算力的分析，讨论针对前沿实验室的治理措施。

## [0:02] 本周节目预告

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-01> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=2s>

**Nathan Labenz：** 本周《AI in the AM》：关于加速的报告还在不断出现。递归自我改进已经开始了吗？惊人的加速是不是迫在眉睫？周五早上，也就是 METR 发布报告、评估 AI 已经在多大程度上加速 Anthropic 内部 AI 研究的第二天，事情的节奏确实让人喘不过气。也许现在该多花点时间陪家人了，因为在我看来，所谓“AI 2027”的时间表基本上正在成为现实。

**Nathan Labenz：** Pash，我的共同主持人，我们之前聊过反数据中心的地方性投票提案，也聊到开发商是怎么收地的。其中一些公司用的是老派油气行业那一套：通过有限责任公司，以极低的价格把地买下来，再把几块地合并。然后他们才说：“Meta 来了。”这时卖地的人就会想：“早知道是卖给 Meta，我就该多要点钱。”所以大家觉得自己被骗了，对吧？只要有政治意愿，所有合同都不值一提。

**Nathan Labenz：** Luxor Technology 的 Mike San Miguel 在公司的硬件业务部门销售 GPU 服务器，也建立了公司的 KYC 部门。

**Mike San Miguel：** 这些交易有很多合规要求。它们受到的监管比一些核机密还严。每家 OEM 的做法都有点不同。Nvidia 会和所有 OEM 密切合作，管理配额、批准订单。通常 Nvidia 还会每六个月检查一次，确认这些 GPU 还在应该在的地方。工作人员会亲自到现场，确认它们确实没有被转移。

**Nathan Labenz：** Thoughtful 的研究员 Brian Zhou 参与打造了 Ballot Bench：九个前沿智能体各用一周时间预测美国中期选举，还有交易智能体会拿真金白银押注它们的预测。

**Brian Zhou：** 预测智能体要花点时间看到选举结果，再把结果告诉交易智能体之类的。等它们做到这一步，更程序化、更确定性的算法和机器人早已根据这条信息完成交易。这很能说明我们观察到的情况：交易智能体在投票日前一周表现相当不错，可到了投票日，它们反应不够快，有时还会编造错误信息，结果交易者亏了很多钱。

**Nathan Labenz：** Theory Ventures 的 AI 负责人 Bryan Bischof。Pash 问起公司 2026 年的开发者调查。Brian 原以为开源模型会在生产环境中扩大份额，结果天平反而倒向了闭源模型。

**Bryan Bischof：** 模型发布的节奏，我觉得确实在加快。所以现在要把生产服务绑定到开源模型上，工程上就得多折腾一些。我听几个人特别提到，开源模型变化太快了，固定使用一个 OpenAI 模型反而更方便。

**Nathan Labenz：** 这里是《AI in the AM》每周精彩片段，我和共同主持人 Pash Nin 一起主持。我是 Nathan Levens。这段旁白是我的克隆声音，也欢迎大家告诉我们哪些地方效果好、哪些不好。

**Nathan Labenz：** 第一部分：迫在眉睫就是现在。

**Nathan Labenz：** 周五的节目从两份文件谈起：一份是 METR 报告，另一份是 Anthropic 对 S-1 文件的修订，也就是公司 IPO 申报文件的修订版。Anthropic 在新增措辞中表示，可能很快就会达到自己设定的门槛，也就是 AI 带来的进展速度将显著加快。

**Nathan Labenz：** Anthropic 更新了 IPO 申报文件 S-1，在更新中加入了一段话，说他们很快就会看到递归式自我改进。我一直在想，他们为什么要 IPO，而且为什么这么快……

## [4:04] 迫在眉睫意味着什么

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-02> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=244s>

**Prakash Narayanan：** 我一直觉得，Anthropic 内部有人认为，需要增加管控，让更多人接触这项技术，也有更多人能监督它。让 IPO 尽快完成，或许就是把这件事公开的一种方式：让社会更广泛地参与进来，也能通过市场表达自己的意愿。对我来说，“迫在眉睫”基本就是一个月左右。

**Nathan Labenz：** 我听到这类说法时，通常会理解成“就是现在”。我对 Sam Altman 和 OpenAI 领导层的判断，主要是在我开始测试 GPT-4 到它最终发布的那六个月里形成的。那段时间我一直密切关注他们的每句话，想知道该怎么理解他们公开说的话，尤其是结合我掌握的内部信息来看。我的最佳判断是，他们说得非常字面，却把话包装得含含糊糊，或者层层加上不确定性。我也不太清楚他们为什么这么做，可能是想多保守一阵秘密，同时又把核心信息放出来。这种策略在我看来挺奇怪的，我确实不明白他们为什么这样。Anthropic 这次的话，我大概也会用同样的方式理解。

**Nathan Labenz：** 这种事怎么发生，其实不难想象。现在我们已经看到那么多“天才级”的零日漏洞利用成果。OpenAI 刚刚披露了 Linux 内核里数量惊人的漏洞，我记得好像有一千个。

**Prakash Narayanan：** 所谓“人多眼睛多，活就轻松”，看来也不太灵了。开源软件的理念和优势一直是：有这么多人盯着，漏洞就不会长期存在，会被发现、被修补。攻击者还都是人类的时候，这套办法大体上确实奏效。类比 Linux，也类比数学领域，我几乎可以肯定，还有很多容易摘的低垂果实。

**Prakash Narayanan：** 低垂果实多，就意味着加速：算力能创造更多价值，数据也会有更多用法。我觉得他们之所以公开这么多信息，很大程度上是在暗示，机器学习技术栈也即将发生类似的事。现在这显然已经构成了可信的威胁。我们该怎么办，已经不只是技术问题，也是社会政治问题。在我看来，技术层面基本已经有答案了：接下来会有一段进展非常快的时期。之后会不会像 S 曲线那样见顶？我猜多半会，不会永远指数增长，但谁知道呢？正如我记得 Rosie Campbell 说过的，S 曲线陡峭的时间可能比你保持相关性的时间还长。

**Prakash Narayanan：** 所以我对未来几个月的预期是，我们会摘到一大堆低垂果实。模型也会在训练它们所用的技术栈里摘到一大堆低垂果实，因此短期内进展会很快。之后也许会趋于平缓，但那时 AI 研发可能已经达到“每周都超越人类”的水平。2027 年会怎么发展，真的很难预测。

**Nathan Labenz：** 我同意，“迫在眉睫”就是现在。我之前说还要几周到一个月，其实是在故意往后说。我的意思是，他们手上已经有了工具，几乎随时都能找到实现递归式自我改进的路径；很多组成部分也已经造好了。只是他们还没按下按钮。他们等过了选举，再办 IPO，然后会宣布一些……

## [8:04] 人类时代的尾声

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-03> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=484s>

**Nathan Labenz：** ……他们新发现的一些东西。接下来局势会突然跃升，然后就是圣诞假期。那段时间大家会消化这项我们刚刚能用上的新技术。等一月份回来，人们开始部署，我们就会看到起飞。这和去年年底发生的事有些相似。所以现在我们已经身处早期起飞阶段。我有点忧伤，也有点怀念人类时代。这至少是人类主导地位的终结。不过，我也算是接受了：世界上有更多智能，对我来说会让世界更好。如果有苹果公司那些聪明程度的人来设计我的浴室、汽车或房子，我会更开心，对吧？把这种智能注入我们看到的所有产品，生活就会变好。所以，是的，每个人的生活都会改善，但以人类为中心的时代确实要结束了。

**Prakash Narayanan：** 嗯。只要我们能让一切不脱轨，它会让所有人的生活好上天。我也有这种乐观。不过我本周早些时候刚从布莱切利园回来，昨天也稍微聊过。我当时面对一群企业科技领袖，跟他们讲，要让 AI 保持良好行为，我们还有多少工作要做。我和他们分享了我儿子患癌的经历，以及 AI 在那段时间帮了我多少、价值有多大。那时就算每月订阅费是 200 美元的一百倍，我也愿意付，因为对我而言，它当时的价值真的值那么多。每月两万美元，我也会毫不犹豫地付，因为我得到的帮助就是这么大。所以我相信 AI 有巨大的上行空间，希望这一点现在已经不言而喻。但我们还有太多问题才刚刚开始面对。

**Prakash Narayanan：** 比如昨天 OpenAI 又展示了，模型有时会通过提示注入骗过评测人员。有些情况下，模型会生成伪造文件，标成是讲师提供的，然后试图把自己的输出伪装成讲师给评测者的指示。评测者在评估模型表现时会看到这些文件，竟然采纳了模型试图用来欺骗他们的指示。这种事据说还不常见，但他们已经发现了一些例子。这直接关系到我们刚才说的问题。也得肯定 Anthropic，他们在申报文件里确实说过，目前还不能完全自动化地安全完成这件事。我觉得这点其实很明显，他们确实做不到。

**Prakash Narayanan：** 那我们要怎样展现集体的自制与克制，才不至于越过那条界线？我真的不知道。一方面，不去做其实很容易：没人拿枪指着谁，逼谁必须在这里搞递归式自我改进。我们得经常提醒自己这一点。可另一方面，推动这件事的势头太强了，而且他们看起来决心至少推进某种版本的自我改进。在我看来，这仍然相当冒险，肯定比我个人愿意接受的风险高得多。

**Nathan Labenz：** 稍后广告结束，我们继续访谈。今天的节目由 Anthropic 赞助，他们是 Claude 的开发者。接下来介绍 Claude 的最新能力……

## [12:06] 赞助商：Claude 与 OutSystems

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-04> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=726s>

**Nathan Labenz：** 我让 Claude 主导制作这则广告。给它一份简短的创意简报后，Claude 使用 Opus 5.5 研究我过去做过的 Claude 广告，写好脚本，指挥我的声音克隆，还设计并编写了你现在看到的动画。我负责反馈和做决定。

**Nathan Labenz：** Claude 是为解决问题的人打造的 AI。它能理解你的整套工作流程，和你一起思考，而不是替你思考。无论你是在半夜调试代码、搭建财务模型，还是规划下一步商业行动，Claude 都能拓展你的思路，帮你处理真正重要的问题。Claude Code 的 routines 还能让它在云端继续工作，即使你合上笔记本电脑也一样。

**Nathan Labenz：** 遇到值得解决的问题，就去 claude.ai/tcr 开始使用 Claude。也可以看看 Claude Pro，里面包含本期提到的所有功能。网址是 claude.ai/tcr。

**Nathan Labenz：** 本期《认知革命》由 OutSystems 赞助。OutSystems 是领先的智能体系统平台。我们都看到了新闻：企业正在往 AI 上砸钱。但现在每位高管最关心的问题不只是“我们能多快采用 AI”，而是“投资回报在哪里？”我们看到一种真正的 AI 乱象：团队部署各自独立的编程工具、各种智能体搭建器和实验性脚本。听起来很创新，实际却让人头疼不已：工具彼此割裂、数据无人治理、安全盲区严重，成本也一路失控。如果现在不把这些智能体应用纳入管理，它们就会嵌进核心流程；到时候你面对的可能就是系统故障和客户信任受损。

**Nathan Labenz：** 这就是 OutSystems 能发挥作用的地方。OutSystems 是面向企业的领先智能体系统平台。团队不必管理一堆互不相连的工具，而是可以在一个开放、统一的平台上开发、编排并治理整个智能体生态。它兼顾 AI 所需的速度，也有企业真正需要的可靠性和安全性。比如 KeyBank 用 OutSystems 部署面向客户的应用，把客户办理时间缩短了 75%；全球物流业的领导企业也用它构建智能体系统，彻底消除了工程瓶颈。

**Nathan Labenz：** 速度和管控不必二选一。无论你是小团队还是大型企业，OutSystems 都能帮你开发、编排和部署真正可以扩展的智能体系统。别再追逐炒作，开始掌握智能体时代的未来。去 outsystems.com/tcr 了解详情并看看它如何运作。

**Nathan Labenz：** 第二部分：智能体预测选举。我们周五的第一位嘉宾是 Thoughtful 的研究员 Brian Zhou。

**Brian Zhou：** 我们最近发布了 Ballot Bench，也有一篇论文即将发表。这个项目让 AI 预测刚刚举行的 2026 年美国中期选举，以及世界各地即将举行的选举。我们可以先从方法讲起。我们一共用了九个智能体，分别采用各家实验室当时最好的模型。每个智能体都有自己的 Modal 沙箱，在选举前连续工作七天。我们还给它们额外资源：每个智能体有 500 美元预算，可以申请付费数据、付费新闻来源、订阅服务等。它们……

## [16:07] Ballot Bench：选举预测与长程任务

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-05> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=967s>

**Brian Zhou：** ……的总体任务是预测给定名单上的所有选举：提交谁会获胜、胜算如何，以及在 80% 置信区间下的误差幅度；还要进一步预测胜选差距，例如民主党候选人会赢三个百分点还是七个百分点。智能体要做出极其细致、粒度很高的预测。我们从中已经观察到不少有意思的现象。这也是对智能体长时间持续工作的一个很有意思的测试。

**Brian Zhou：** 比如，我们看到一些 Muse 系列模型在长周期任务上经常表现很差。用 Muse Code 测试框架给它们一项任务时，如果任务清单上有大约 800 场选举要预测，它们会根据 2024 年选举结果随便偏移一下，生成一份随机预测，然后在开始工作两三分钟内就提交。

**Nathan Labenz：** 听你这么描述 Muse 智能体，它好像是在敷衍了事。我先想问，你们看到的情况该怎么和网上大家报告的总体良好体验相协调？

**Brian Zhou：** 没错。我们最初的判断是，这主要和测试框架的设计有关。我们说的不是 Meta 那种个人助理，而是他们的编程智能体。我们注意到，Muse Wonder 模型配合 Meta 自家的 Muse Code 框架时，会生成一个任务清单。即使提示词明确告诉它：“你有七天时间，API 调用不限，也完全可以派出子智能体，想用什么办法都行，尽可能把这项测试做好”，测试框架还是会创建一份清单，确保大约 800 场选举都提交了预测，检查所有预测是否被接受。我们发现它有一个目标条件，一旦满足就会提前结束当前轮次。

**Brian Zhou：** 所以我们最后不得不强制它继续工作：每次它决定停下来，我们就给它重新启动，换一个新的沙箱和容器，同时提供以前运行的记录和消息。这既是测试框架工程的问题，也是更普遍的模型行为问题。但和我们用更前沿的模型看到的结果确实不同。Opus 5.5 或 GPT-6 Astra 的行为就大不一样。比如，Opus 5.5 在某一天会派出大约 170 或 180 个子智能体，再通过委派工作来管理它们：“你去查某个州的民调结果”“你仔细看看加州每项公投提案在做什么，比如 40 号提案，给我讲讲它的内容和影响。”它会用这些子智能体并行推进大量工作。

**Brian Zhou：** 这就引出了一个普遍问题：智能体在这种周期很长、开放式的任务里到底会怎么做？它们会有多主动、多有创意？我们特别想看它们会不会做一些超出资深预测专家惯常做法的事情，比如自己发起民调，或想出更有创意的信息获取方式，而不是只抓数据、建模型。目前还没看到特别重大的例子，但各个智能体确实采用了很多有趣的方法。比如 GPT-6.1 Soul 会收集它看到的每位选举预测者的预测，再回看他们过去十年的表现，计算每个人预测得有多准、偏差有多大。然后它就能汇总这些预测模型，包括 Nate Silver 的模型、FiveThirtyEight 之类的模型，并根据近年来的表现调整它们，判断哪些模型可能高估或低估结果。我们看到的创造性方法不少。

## [20:08] 预测成绩与真实交易

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-06> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=1208s>

**Brian Zhou：** ……我们再看看结果。模型彼此之间表现如何？和顶尖的人类预测者相比又如何？现在已经有超人类的预测者了吗？目前总体结果是，模型的表现大致和最好的预测者一样。众议院和参议院选举中，智能体略逊于市场，但胜过模型预测者。参议院方面，最好的智能体，比如 GPT-6 Astra 和 Claude Fable 5.1，表现不及顶尖预测者 Nate Silver，但胜过市场。不过，这些差距都在很小的误差范围内。

**Brian Zhou：** 还有一点很重要：很多竞争激烈选区的结果还没出来。现在众议院和州长选举中，大约还有 100 到 200 场竞选尚未定案；参议院也还有两场没宣布结果。因此这些只是非常初步的结果。也要注意，许多智能体采用的方法包括汇总 Nate Silver 的决策模型，或者汇总它们看到的预测市场数据。它们并不是凭空报出一个完全不参考现有数字的结果。

**Brian Zhou：** 我们还发现这些模型的校准度很高。比如，如果一个模型给某个候选人 80% 的获胜概率，那么把它所有给出类似 80% 概率的选举都合在一起看，它确实大约有 80% 的时候预测正确。这就是衡量模型校准度的办法；我们发现表现最好的模型校准得相当好。

**Brian Zhou：** 我们更期待这些结果对后续模型意味着什么。专家或预测市场在一些地方无法覆盖得很细。比如，某场非常地方性的低级别选举，市场里可能只有 1,000 美元的投注量；专家模型也未必会预测每个州参议院或州众议院席位。这正是智能体有优势的地方：模型能关注那些预测专家没精力顾及、投注者也不够多的小市场。

**Nathan Labenz：** 我本来想问预测和交易之间的关系。我看到一条信息说，Fable 5.1 的预测 Brier 分数最高，但它在市场交易里还是表现不佳。这听起来像是一个值得研究的现象。

**Brian Zhou：** 对。我们的报告也会讨论这种多智能体行为：一个智能体负责预测，另一个负责交易，我们搭建了让它们互相沟通的基础设施。我们看到不少情况，比如模型编造信息、错误解析信息，以及其他更普遍的问题。这些情况在一定程度上解释了为什么交易智能体的表现不太理想。

**Nathan Labenz：** Thoughtful 还推出了 Post-Train Bench：给一个智能体基础模型、一块 GPU 和一段时限，看看它能把模型后训练得多好。相关结果还会陆续公布。考虑到 METR 的报告，我问 Brian，作为认真研究过模型训练其他模型的人，他对未来几季有什么预期？能不能多谈谈自己的判断，给出一些细节和分寸？

## [24:09] AI 研发的瓶颈转移

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-07> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=1449s>

**Brian Zhou：** 我觉得，昨天的报告和更早的报告都体现出一个趋势。无论是 Anthropic 对 AI 如何提升研究人员效率的测量，还是代码行数、实验次数之类的指标，都显示：今天的研究人员已经可以用智能体完成绝大部分实际实现工作，也就是研究工程。现在真正限制研究人员的，未必是能不能把想法做出来。正如很多人说的，瓶颈在于研究品味：该研究什么问题、该做什么实验；另外还有提出好点子的速度，因为智能体已经能自主搭建并执行很多实验。

**Brian Zhou：** 所以不管我们是否实现递归式改进，AI 带来的效率提升已经很大，而且还会继续扩大。到最后，瓶颈恐怕就是资源，以及想法和直觉的质量。这也是大家正在攀登的下一座山。你有没有看到模型和顶尖研究者的想法质量分布开始重叠？

**Nathan Labenz：** 我不确定能不能这么说。不过我们确实观察到，现有的更强模型更愿意展开并行任务、做实验，也更善于思考哪些实验值得做并把它们执行出来。较弱的模型在后训练等工作中通常采取更线性的办法。随着模型能力增强，我们会看到它们先花几个小时展开多个方向、做一堆实验，并且以挺符合直觉的方式分配资源。这些做法本身还谈不上“妙手第 37 着”，很多时候只是智能体想：“我先试着做一批监督微调数据，看看结果会怎样。”所以我们还没看到能证明它们拥有超人研究品味的迹象。不过，能力更强的模型确实更擅长长程工作，也更自主，这正是我们希望优秀研究者具备的能力。

**Nathan Labenz：** 很高兴认识你。我们会关注 Post-Train Bench 的下一版。你也让我开始好奇，智能体会怎么预测未来几个季度 AI 的加速幅度。如果它们预测选举能和专家一样好，也许我们该开始问问它们 AI 自身的未来。

**Nathan Labenz：** 广告之后，我们继续访谈。The Cognitive Revolution 由 Tasklet 提供支持。我用 Tasklet 智能体快一年了，它们已经成为节目制作的重要部分。每次录音前，有个智能体会研究嘉宾，给我一份建议提纲，里面附上所有来源链接；与此同时，另一个智能体会帮我筛选公关公司发来的海量邀约。这就是 Tasklet 的核心想法：把真正持续的工作交给智能体，让智能体参与运营你的业务。

## [28:09] 赞助商：Tasklet；数据中心反对声浪

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-08> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=1689s>

**Nathan Labenz：** 每个智能体都能使用你的工具和业务背景，也会在不同对话间记住有用信息。你还可以把智能体、连接和可复用技能分享给团队。一个人摸索出的工作流程，整个公司都能用。不需要开发人员。你可以决定智能体能自主做什么、哪些事情必须经你批准，而且没有按席位收费：你按使用量付费，增加同事不用额外花钱。

**Nathan Labenz：** 从一项重复工作开始，比如研究你即将会见的人，然后逐步扩展。访问 tasklet.ai，使用代码 cogrev 可获得 50 美元免费额度。代码是 cogrev。

**Nathan Labenz：** 第三部分：为算力买单。周四的节目是在选举日两天后播出的。41 项地方数据中心提案的投票中，选民有 40 项投了反对票。Pash 先谈了看法。

**Prakash Narayanan：** 我觉得 AI 数据中心之所以很不受欢迎，主要是因为人们把它们看成三件事：第一，特朗普；第二，企业腐败；第三，一群有钱人赚钱，同时打算让我们其他人都失业。说到底，是不是大家普遍觉得自己没有得到妥善照顾？数据中心议题真有那么重要吗？假如特朗普支持率有 60%，失业率低、油价也低，你觉得还会看到这种反对浪潮吗？我觉得不会。所以我不认为数据中心本身是多大的议题，它更像是一个可以用来攻击总统的靶子。

**Prakash Narayanan：** 不过我们确实看到这些公投提案。我读到的资料说，大约有 40 项，这是规模很大的一波公投提案。通常只有在同性婚姻这类议题上，才会出现这种大规模提案浪潮。最高法院推翻《罗诉韦德案》之后，围绕肯定或保护堕胎权也出现过类似浪潮。我一直很支持直接民主、公投当然也不是从不犯错，但它能把人们对某个具体议题的担忧，从更广泛的政治讨论里单独剥离出来。这么多提案出现，而且除了一项以外都通过了，我觉得可能预示着未来的走向。

**Prakash Narayanan：** 我们看看接下来会怎样。也许公司会让当地居民分享收益；我们之前也谈过几次。我当然支持让人们得到补偿。不过，这里显然有个真实信号：愿意投入精力推动提案的人很多。收集签名可不容易，你得站在街角劝陌生人签请愿书，之后提案还得再通过投票。所以这么多提案被组织起来、又有这么多获得通过，在我看来是个很强的信号。

**Nathan Labenz：** 我同意。不过人们为什么签名？是因为觉得世界末日要来了？不是。

**Prakash Narayanan：** 对，我觉得你的分析挺准确。

**Nathan Labenz：** 所以这件事的结果大概是：如果你是 Google 或 Meta，就得为所有东西付出 Google 或 Meta 级别的代价——土地、劳动力、施工，全都如此。

## [32:10] GPU 服务器交易与算力租赁

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-09> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=1930s>

**Nathan Labenz：** ……还有建设成本。

**Nathan Labenz：** 周四的嘉宾是 Luxor Technology 的 Mike San Miguel。Luxor 最早涉足比特币挖矿，现在买卖新旧 GPU 服务器。他说的 55 万到 65 万美元，是指一台装有八块 GPU 的服务器的价格。

**Nathan Labenz：** 现在什么产品交易得最频繁？

**Mike San Miguel：** 目前主要是 B300。

**Nathan Labenz：** B300 交易得很频繁？它们是按芯片、单个节点还是机架交易？是八块 GPU 一起算，还是怎么交易？

**Mike San Miguel：** 问得好。这类服务器一般是 HGX 系统，每台服务器有八块 GPU，是 OEM 验证过的整机。里面有 HGX 基板、两颗 CPU、32 根内存条，内存容量各不相同，还有共享存储和东西向网卡。

**Nathan Labenz：** 现在会有人卖二手设备吗？

**Mike San Miguel：** B300 大多是新设备。偶尔会看到订单取消后的机器。它们还很新，而且出租仍然很赚钱，所以到目前为止我们确实还没看到二手货进入市场。

**Nathan Labenz：** 这种机器现在大概多少钱？是挂出的要价，还是最终成交价？

**Mike San Miguel：** 要看具体规格、OEM 和保修条款等，价格大约在 55 万到 65 万美元之间。大批量订购通常会靠近低端。

**Nathan Labenz：** 既然卖的是新设备，一笔交易通常有多大？一套机架、十套，还是一百套？

**Mike San Miguel：** 每个机架能装多少台，要看数据中心的配置，因为这取决于机架能获得多少电力。现在大多数数据中心每架通常能跑两台，除非数据中心的液冷支持做得特别好。交易规模从一两台到 128 或 256 台都有。

**Nathan Labenz：** 那就是五千万美元级别的交易了。

**Mike San Miguel：** 对，交易金额会很大，数字确实相当惊人，但也反映了眼下建设的规模。

**Nathan Labenz：** Pash 问这些价格是否跟 GPU 每小时租赁价格指数挂钩。

**Mike San Miguel：** 我们帮助客户理解的一件事，是 GPU 的长期合同租赁价和按小时租赁价之间的差别。以 B300 的 AI 工厂合同租赁为例，目前市场价一般是每小时 420 到 450 美元，具体看所在市场和配置。如果你每块 GPU 每小时只收 4.20 美元，那就和租赁价格指数上的价格很不一样；指数上是每块 GPU 每小时 8 到 9 美元。所以如果你有资金买下一批规模较小的节点并部署，通常能获得更好的投资回报；另一种做法是买下一整座 AI 工厂，再和新云厂商签订承购合同。

**Nathan Labenz：** 为什么会有多余库存？这些东西很贵，我猜买的时候得预付一部分，厂商才会开始生产。

**Mike San Miguel：** 是的。有一部分原因是数据中心可用性。这个市场一路上遇到的是一连串不同的瓶颈。现在卡在液冷和数据中心准备就绪这两件事上。我刚才说大多数数据中心每个机架大概能支持两台……

## [36:11] 数据中心约束与 KYC 合规

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-10> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=2171s>

**Mike San Miguel：** ……限制不在硬件本身，而在数据中心供电。冷却设施的建设也有类似瓶颈。目前我们预计，液冷数据中心会在一季度陆续有库存可用，但基本已经全部售罄。很多数据中心现在告诉我们，要等到 2027 年第三季度，甚至 2028 年。

**Nathan Labenz：** 有人在炒作这个市场吗？会不会有人还没地方插电，就先把整套系统买下来？

**Mike San Miguel：** 一般不会。常见的情况是项目临近最后期限时延期，所以一些 OEM 会保留转售库存的权利。比如某家超大规模云厂商的站点还没准备好，OEM 就能先把库存卖掉，等数据中心就绪后再补上。通常买家必须先有一个确定的地址。

**Nathan Labenz：** 以后 H100 的租赁价格总会下跌。听起来，价格下降后会有更多设备退役，也就会有更多设备进入交易市场。那时还有地方能部署它们吗？

**Mike San Miguel：** 问得好。是的，随着租赁价格下跌，会有更多设备退役。但不是每个站点都能运行每一种 GPU。Vera Rubin 是 Nvidia 下一代产品，只能用液冷；承载它的水泥地面还得加固。整架设备通常重达一吨，重量相当惊人；每个机架的功耗大约是 230 千瓦。作个比较，两台 B300 每架大约需要 30 到 35 千瓦。

**Mike San Miguel：** 不是所有站点都能支持 Vera Rubin，也不是都能支持功耗与它相近的 GB300。有些站点值得改造，有些则不值得。AI 不是一种单一工作负载，而是一系列需求不同的工作负载。现阶段配置上的差异主要是内存、共享存储、本地存储和一些后端网络。我们需要更有效地按工作负载选择配置，因为买这些硬件不是为了拥有硬件，也不是为了帮 Nvidia 冲击下一个万亿美元里程碑。关键是运行能给终端用户带来现实影响、并帮助新业务诞生的特定工作负载。

**Mike San Miguel：** 等我们摆脱目前这种硬件极度受限的环境，就能更多关注软件，硬件的使用效率也会提高。

**Nathan Labenz：** 第四部分：谁在检查？Mike San Miguel 谈设备附带的规则。

**Nathan Labenz：** 买家或者设备所有者要做 KYC 吗？他们会查这些吗？

**Mike San Miguel：** 会。我在这里的一项职责就是组建 KYC 部门。很多 OEM 在完成 KYC 之前连报价都不给，有些甚至不做完 KYC 就不发货。我们公司原则上不会接没有完成 KYC 的项目，只有极少数例外，比如知名企业或合作多年的老客户。对中国持股比例也有限制。

**Nathan Labenz：** 公司可以有多少股份由中国实体持有？

**Mike San Miguel：** 我觉得比例可能要降到 49%。我知道通常不能把产品卖给中国实体持股达到 50% 或以上的公司……

## [40:15] 合规追溯与执行落差

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-11> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=2415s>

**Mike San Miguel：** ……也就是说，不能卖给中国实体持股比例在 50% 左右的公司。

**Nathan Labenz：** 许多中国实体会通过开曼群岛、英属维尔京群岛之类的地方注册公司。他们会一路追查到最终所有者吗？

**Mike San Miguel：** 会，至少我们会。每家公司做法不同。我们承接国际订单，不只在北美做生意。所以我们不仅会追查硬件买家，还会查他们是否有承购协议，比如跟某家新云厂商签了协议。如果最终承购方是中国实体，这类设备依法就不能卖给他们。

**Nathan Labenz：** Mike 刚才说完就离开了。我继续聊了下去。

**Nathan Labenz：** 我们和 Samuel Hammond 这类人，以及其他面向国家安全决策者的人谈过。但再往下看部署一线，工作人员忙着申请各种许可，还得应付 Nvidia 每六个月一次的检查，也在追踪 KYC。他们要查所有者、使用者，甚至可能还要弄清楚使用者背后的使用者。可那一层也许根本说不清。所以我想知道，顶层的政策讨论和基层实际执行，到底脱节到什么程度？

**Prakash Narayanan：** 我猜这是种“万事同时发生”的局面。Mike 描述的情况让我想到水力压裂热潮：各种因素同时汇聚。这就是资本主义在运转。好多环节都在移动：站点、审批、地方政治、电网、芯片；水泥地要加固，并不是每个站点都能接纳最新的超重机架。细节太多了，需要那么多人各自完成一部分，才能做成一件事。最终消费者看到的不过是云服务，想到这些幕后工作，就能理解云服务偶尔为什么会宕机。但总体来说，它运行得平稳还是很了不起的。

**Prakash Narayanan：** 所以我相信执法在很多情况下确实相当认真，尤其是那些重视合规、或者谨慎到想确认自己绝对没有违法的人。与此同时，整个过程听起来又很混乱。如果你告诉我，有 20% 的 GPU 没有按规定接受 Nvidia 每六个月一次的检查，其中一些后来流向了别处，我完全不会惊讶。根据他的描述，我猜很多人确实在认真投入，也存在足够多的噪声和混乱，让东西漏网的机会相当大。当然，“二八开”只是个简单说法。

**Nathan Labenz：** 接下来 Pash 转向中国议题，以及美国企业因中国客户而承受的压力。

**Prakash Narayanan：** 比如，Oracle 原本要向腾讯出售价值 70 亿美元的算力，后来取消了，对吧？国家安全体系在施压，要求这些公司取消交易。但这是一家美国公司在境外做生意，并没有把芯片运进中国。同时，政治体系又没有直接出手解决这个问题。为什么不立法？我不喜欢这种做法：想立法就直接立法。如果没有政治意愿立法，却试图偷偷把限制塞进来，为什么要这样？国会现在不是有授权吗？那就采取行动。我们说算力是新的石油。

## [44:18] 中美合作与算力限制

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-12> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=2658s>

**Prakash Narayanan：** 另外，如果你决定不向中国出售算力，完全不让中国客户使用，那是不是也意味着 YouTube 不能向中国观众展示 AI 生成的视频？那也是 AI 产品，Google 得用算力生成它，算力是代表中国客户使用的。你可以在数据中心层面限制，也可以限制原始算力，或者限制算力生成的产品，但最后总会有某个层面是在向中国人销售，因为他们也是全球消费者。

**Nathan Labenz：** 我刚才说过，我们在这些限制上有点走得太远了。原因是：我确实认为我们需要和中国合作。这就是这件事为什么对我重要。一方面，我普遍不想看到美中关系进一步紧张，特别是在 AI 领域。我真心认为，美中需要在 AI 治理上合作。如果两国无法以某种有意义的方式坐到一起，我会非常意外。

**Nathan Labenz：** 正如我们最近谈过的，一家前沿公司的高层人士曾告诉我，有一个智能水平我们大概不应该越过。如果这种看法现在已经在美国前沿模型公司的最高层扎根，那么要做到这一点，唯一办法就是达成某种协议。可我们现在的做法并没有让自己处在有利于达成协议的位置。所以这些限制最终看起来相当适得其反，让我很难过。

**Nathan Labenz：** 第五部分：投资者在哪些方面能做到超人水平？回到周五，我们请来早期投资机构 Theory Ventures 的 Bryan Bischof。先聊算力。我问他，市场里到底还有多少余量？我们总听说 GPU 一卡难求，但只要愿意付几倍价格，又似乎能随叫随到。

**Bryan Bischof：** 这里有几件事同时在发生。你去问新云厂商有没有算力，他们会说：“没有，都锁定了，未来两年已经签完合同。”他们说的是真的，并没有骗你。但我们也讨论过很多次，Satya 也提到有不少算力被锁定却没有充分利用，可能是因为地理位置不合适，也可能是当地能源供应不足。因此两种情况可以同时存在：有些被锁定的算力其实不太好用。

**Bryan Bischof：** 另外，还得看 GPU 的实际利用率。昨天我和一些基础设施领域的从业者聊过……

## [48:18] 算力供需与 AI 原生投资机构

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-13> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=2898s>

**Bryan Bischof：** ……算力利用率本身也很复杂。其中一个大问题是，GPU 不能一直满载运行，否则调度上不安全。你必须留出 SLOB（松散缓冲）空间。因此，要考虑的维度远多于“现有算力有没有签约”。这也是为什么算力市场有那么多通往成功的路径，甚至出现了高得惊人的年度经常性收入。这不只是害怕错过机会，因为要尽可能发挥手头算力的价值，得考虑很多不同的需求画像。

**Bryan Bischof：** 在 Theory Ventures，我们有数千项由 AI 智能体驱动的任务。如果你问我这些任务有多紧急，大概 5% 到 10% 需要马上处理，40% 到 60% 希望能在下次开会前看到结果，剩下的就是“这周能弄出来就不错”。就我们这一小类工作而言，推理需求已经差别很大。我从 2023 年以来接触过的几乎每家 AI 应用层公司也都是这样。所以，如果有人说完全找不到 GPU，那不太准确；但他们可能是从自己当前最急需的工作负载出发，带着特定立场在说。

**Nathan Labenz：** 接下来聊聊 AI 原生风险投资公司究竟怎样运作：他们如何看待 token 开销、开展实验、构建研究智能体。

**Bryan Bischof：** 公司里的每个人都是技术人员，从人才合伙人、市场拓展合伙人到投资人都是如此。从我加入那天起，大家就在用 AI，而且用得越来越多。我们看待 token 开销的方式是：你应该一直认真思考，有没有办法利用 AI 工具加快工作；也应该思考想做哪些实验。我们是个很爱实验的团队。每个季度我们都会安排一次小型团队外出活动，回顾这一季发生的事情。每次都会讨论每个人当季做了什么 AI 实验。这不是夸张，也不是“我让 Claude 试了个新东西”这种程度。我们会预先登记和工作相关的 AI 实验，然后检查它们是否奏效。我们每季都这么做，因为我们坚持重新思考：今年、明年、后年在风险投资公司工作应该是什么样，我们要如何适应。

**Bryan Bischof：** 作为 AI 负责人，我的工程团队还会再往前走一步：如何打造 AI 工具，改变其他人的工作流程？我们的目标不是用 AI 系统取代投资人，而是通过使用和开发 AI 工具，让投资人的效率和效能提高十倍到一百倍。我举个简单的例子：大家都在谈企业大脑……

## [52:21] “企业大脑”与研究智能体

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-14> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=3141s>

**Bryan Bischof：** ……不管你经营什么业务。我用过几个“企业大脑”产品，坦白说觉得都没用。主要原因是它们还在做传统的内部知识系统。比如 Notion，本质上是一堆文件，顶多在上面搭个不错的搜索。你的目标就这么高吗？我的目标高得多。

**Bryan Bischof：** 我设想的企业大脑，是一群智能体持续工作，把企业理解图谱里分散的节点连接起来。所以我可以坦白地说，Theory 并没有给每位员工配一个智能体，也没有每人配十个；我们有数千个智能体。这是因为有很多工作要做。我希望投资人在投资和研究流程中做的每一件事，都能自动关联、补充信息并进一步拓展。别人问“你在做什么”，我就会说：“我在做研究智能体。”

**Nathan Labenz：** 你们怎么评估成效？风险投资有个大难题，而且现在也没变：过很久才能知道自己押得对不对。

**Bryan Bischof：** 完全同意。

**Nathan Labenz：** 有时我也会反思自己的做法。我偶尔会清理一下定时任务，发现以前有些想法，比如收集所有数据痕迹、用其他方式处理并寻找联系，做出特别“天才脑洞”式的分析，或者做某种侦察、报告之类。我真要诚实面对自己，其中大概三分之二的输出我根本不会去看。人很容易想到这些点子，花掉一堆 token，最后只是在某个地方记下一堆技术文本，实际上没产生影响。你怎么知道哪些东西真的有用，哪些应该留在剪辑室地板上？

**Bryan Bischof：** 我给你讲讲 Blue Bottle 的故事。我在 Blue Bottle 时，我们想做库存预测，具体说是搭一个机器学习系统，预测每天会卖出多少糕点，以及咖啡、牛奶等其他东西。首先关注的是糕点。我们的北极星指标是什么？如果项目成功，不是多卖出很多糕点，也不是少浪费很多糕点。那些当然是我们追踪的两项指标（笑），但我们真正认定的成功是什么？

**Bryan Bischof：** 如果一位咖啡馆经理已经有大约 70 项工作，而到了下单时，他能在系统里一路点下“好、好、好、好、好”——这才是我们设想的成功。但我们可不想让他们不动脑子、完全自动驾驶；我们根本不希望这样。原因可能会让你意外：咖啡馆负责人对店里需求的理解，差异大得惊人。他们对自己店铺需求的了解，远不止数字能体现的程度；他们有非常深入的隐性理解。

## [56:21] 人的判断与研究价值

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-15> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=3381s>

**Bryan Bischof：** ……所以我们的北极星，是让咖啡馆经理有更多时间陪顾客。经理并不是特别擅长盯着数据说“我得订 25 块饼干”；他们真正超常发挥的地方是待客之道。听起来可能有点奇怪，因为你没法在仪表板上衡量待客之道。但你可以定期问他们，现在多出了多少时间陪顾客、在店里留意情况？比如发现咖啡洒了，发现咖啡师正忙不过来、排班没排对——这点也怪我（笑）。这些才是我们一直关心的事。

**Bryan Bischof：** 我为什么说这个？你当然可以说，要花七到十四年才能知道这次尽调到底做得好不好。但投资研究是一条流程。首先要问：你能多快走完研究流程？从发现潜在机会或市场，到形成清晰理解并做出决定，要多久？更重要的是，投资里的“待客之道”是什么？就是投资人有时间和真人交流，和潜在或现有的公司、创始人、竞争对手、员工谈话，理解这个市场的人性层面和正在发生的事。

**Bryan Bischof：** 投资人在一些事情上能做到超常，但我不认为他们特别擅长看网站。他们真正厉害的是理解潜力、理解上行空间，理解客户需求和付费意愿之间的关系，并勾勒出未来可能的愿景。所以当你问我如何衡量成功，我会看投资人是否告诉我：“我盯着网站找关键细节的时间少了 30%”，或者“填写尽调所需的固定问题少花了 20% 时间”，于是我能多打五通电话，和五个对这笔交易有可信看法的人聊聊。这就是成功，不用等七年才知道。

**Nathan Labenz：** 你觉得研究流程里存在一条界线吗？一边是“我们再多研究一点”，另一边是“该停下研究、现在就做决定了”。研究好像没有明确终点，总能挖得更深。你们怎么判断？智能体会做决定吗？它们什么时候要回来让人类拍板？这个循环是怎样的？

**Bryan Bischof：** 完全是这样。我想接着 Nathan 刚才说的讲。他有一份清单，觉得其中有些东西本来就应该留在剪辑室地板上。我们会把这种判断叫“品味”：知道什么该删、什么不该删，这就是品味。我又要说为什么身边有特别聪明的同事很重要：他们知道哪些研究值得做，也有很好的判断力。

**Bryan Bischof：** 有些研究是每次都要做的，我们知道必须做，流程也固定。这些工作可以让智能体派出子智能体继续研究、往深处挖，自动化就可以了。但最终，阿尔法来自品味。所以，是的，我们可以再花更多 token……

## [1:00:22] 研究数量不是成效指标

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-16> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=3622s>

**Bryan Bischof：** ……我们可以消耗更多算力，但最好把资源精准投向人们真正有能力消化的事情。如果我为一笔交易额外写出一千页研究，谁会看？也许可以让其他智能体看，但那有什么价值？我觉得并不明显。所以，单纯的研究总量甚至不是我们追踪的指标。

**Nathan Labenz：** 你在罗格斯大学教数据科学，教得怎么样？学生会问类似的问题吧？你怎么回答他们？你觉得这个领域的未来会怎样？

**Bryan Bischof：** 问得好。我现在还要求学生手算梯度下降。说实话，我还没听过任何人能清楚解释教师到底应该怎么做。我出身纯数学，纯数学家不是最务实的一群人，但我一直认为，你必须不断思考学生未来会是什么样，以及课堂上的每一分钟为什么和那个未来有关。我不仅仅是害怕浪费学生时间，简直是对浪费他们的时间过敏。所以我每学期都会重新评估课程。虽然这让我很痛苦，因为每学期都得重写课程安排。

**Bryan Bischof：** 三年前，AI 显然就要改变数据科学；我当时也开始在 Hex 工作，试图改变数据科学。所以我重写了整个课程，让学生理解 AI 为什么重要。每学期我都会从头检查整门课，问自己：AI 能不能一次性把这门课全做完？答案从来没有简单地变成“能”，但没关系。现状是，有些东西模型不仅能轻松完成，还很容易掩盖学生是否真正学会了。

**Bryan Bischof：** 所以问题不该是模型是否掌握了我要教的全部内容，而应该是：当内容对学生有用时，模型能不能和学生合作，带来最好的结果？如果 Astra 在咖啡调查数据上训练支持向量机的损失率比 Brian 更低，那很好。但 Astra 能不能说：“这个特征预测力很强，不过如果把它放到网站上，用户流程里可能有人会不高兴，甚至流失”？

**Bryan Bischof：** Astra 可以回头看数据，发现有人在回答这个问题后更容易流失；但它能不能提前想到要检查这个问题？能不能知道要在产品中加入相应的埋点？它知不知道这是个有点奇怪、可能会让人不舒服的问题？这些是 Astra Ultra 目前也只算中等水平的能力。不过，我不希望学生只是 AI 的使用者。我希望他们掌握能让数据科学家出色的东西，那就是好奇心。

**Bryan Bischof：** 我认识的顶尖 10% 数据科学家，尤其是顶尖 1% 的人，都极其好奇，几乎到了有点过头的程度。我合作过最出色的数据科学家，有时会因为太好奇而让人有点烦，你会想让他们偶尔放过某件事；但这正是他们如此优秀的原因。

## [1:04:22] 好奇心与工作的未来

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-17> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=3862s>

**Bryan Bischof：** 我主要想把学生“灌输”进一种理念：好奇，保持好奇，问出那些在脑子里挥之不去的问题。做到这一点，你就会成为优秀的数据科学家。你是手写 pandas，还是凭记忆用 matplotlib，我都不在乎。你还记得 NumPy 的索引写法吗？我不记得了，以前会，现在忘了。Pandas 筛选器的切片操作符呢？我也忘光了。没关系。我现在知道的是，看到一个分布时，能判断它合不合理；有时 Astra 判断不了。

**Nathan Labenz：** 第六部分：该爬哪座山？Bryan Bischof 离开后，我继续聊了下去。

**Nathan Labenz：** 我觉得他谈怎样跟学生解释未来时很有意思，同时包含了悲观和乐观两种看法。他先举了那个可能冒犯人的调查问题的例子。我当时想：“天啊，这也太悲观了。”难道我们以后只能当 AI 的冒犯检测员，看着 AI 把真正的工作都做了？听起来一点也不美好。相比之下，我更喜欢“好奇心”这个框架。

**Nathan Labenz：** 以我的数据工作经验来看，持续追问是不可替代的。真正想知道数据里有什么、尽可能接近真相的人，表现远胜于只想做出一个能交差的成品、然后交给使用者的人。当然，数据里究竟有没有真相，本身也常常是个问题。所以我喜欢把好奇心当作我们能带进未来的能力。但今天我不会劝自己的孩子去做数据科学。这确实很难回答：几年以后，数据科学工作还会像现在这样吗？

**Nathan Labenz：** 我觉得这很难说。也许以后会有数据科学智能体，非数据科学专业的业务人员负责提供一点好奇心、识别冒犯风险，或者其他模型暂时不擅长的“秘方”。如果把一家公司拆成感知、分析、决策，然后再看决策后的落地执行，我觉得 AI 会非常擅长感知、分析和执行，但做决策时还是会有人类掌舵。

**Nathan Labenz：** 如果由一个人来掌舵，他能做多少决定？这些决定应该需要品味。比如经营科技公司，你可能不需要亲自决定会计制度；你关注产品和技术，会计和后台就是后台。反过来，经营会计公司时，会计就是核心，技术只是后台，你不会在那里开发技术工具。所以我觉得可以根据公司的最终目的来区分……

## [1:08:23] 我们想要什么样的 AI？

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-18> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=4103s>

**Nathan Labenz：** ……那些核心任务会需要有品味的人。理想情况下，每个人都能去做真正想做、也真正擅长的事，其他事情交给系统处理。

**Nathan Labenz：** 周五早上，在嘉宾来访之前，一个新的基准测试很受关注：AI 玩社交推理游戏《钟楼血案》（Blood on the Clocktower），在里面虚张声势、结盟。社交媒体上大家都在赞叹 AI 进步有多快。这是我对这件事的看法。

**Nathan Labenz：** 单独来看，AI 玩这个游戏有多厉害，确实是个有趣的问题。它们是否越来越会欺骗、结盟？能不能识破别人试图欺骗它们或串通对付它们？这些都值得研究。但让我不太舒服的是，Nolan Brown 随后夸奖这项工作，说：“做得真棒，要不要来我们这儿做评测？”这在我看来体现了整件事的问题：我们就这样开始沿着这条路不断爬坡了。

**Nathan Labenz：** 整个领域的心态似乎是：“这太令人兴奋了！来比比看，谁能训练出最厉害的《钟楼血案》AI 玩家。”大家沉浸在兴奋里，自己也想去和 AI 玩，却忘了这不是我们希望 AI 表现出来的行为。我们不希望 AI 欺骗和串通。我相信相关研究者都能给出深思熟虑的回应，但只要退一步看，局面就不太妙：AI 在各种方面都不值得信任，我们却没有停下来问一句：“这是我们想要的吗？我们想要比人类更会算计、更会串通的 AI 吗？”我不觉得我们想要这样的结果。这和我说过的“不该训练 AI 将军”非常相似：别把 AI 训练成操纵大师。

**Prakash Narayanan：** 这道理很简单，可现实就是如此。我看到很多喝彩和兴奋，却没看到有人在社交媒体上提出纠偏意见、问一句：“我们真的想要这个吗？”

**Nathan Labenz：** 回到同一场周五节目的结尾，Bryan 离开后，Pash 说起他对未来经济的想象。

**Prakash Narayanan：** 我觉得未来的经济会是智能体经济：智能体为其他智能体建立企业和软件，适配它们的能力特点。这样的系统会大规模并行、高速运转，以极低延迟吸收和分发信息。Salesforce 会主要由智能体使用，Ramp 也会主要由智能体使用，Stripe 等软件也一样。

**Prakash Narayanan：** 也许 Stripe 或其他公司会来做这些软件，但我很怀疑它们能不能跟上。我怀疑它们会行动得太慢，也未必理解智能体的能力特点。我知道 Stripe 的人聪明得不得了，比我聪明一亿倍都不止；我不是在贬低 Stripe 的效率、智慧或能力。你会有五千万个 Patrick Collison、五千万个 Elon Musk，有人提供资金，由智能体协调投资，投向智能体为智能体打造的企业。所以我基本上认为，未来经济会是……

## [1:12:24] 智能体经济与丰盛生活

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-19> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=4344s>

**Prakash Narayanan：** ……经济将主要由智能体驱动，而我们只是在旁边享受免费福利。毕竟，人类打一个 CRM 电话，和智能体大规模并行拨打 CRM 电话相比，成本几乎可以忽略。所谓丰盛，很大程度上来自我们为智能体经济建造的整套基础设施。我们自己消费不了那么多；和智能体将来的消耗量相比，人类的消费能力太有限了。所以丰盛会从这里来。

**Nathan Labenz：** 我上周刚发布了一个副项目 Ftopia，可以帮你找到本地杂货店和世界各地最好的水果。面对 Pash 刚才描绘的经济，我是这么想的。

**Nathan Labenz：** 一方面，如果智能体打了大量 API 电话、建成很棒的系统，而我们可以搭顺风车，API 调用变得充裕，那挺好。但生活里远不止 API 调用。我觉得尤其是我们这些 AI 行业的人，很容易忘记这一点，甚至会扭曲自己去迎合这种未来。所以我一直要求自己多出门、多运动。如果我做不到这些，真算赢了吗？还是说我只是把自己接进某台 AI 驱动的机器，成了一个过分顺从机器的“人类整合层”？

**Nathan Labenz：** 这也是我最近做 Ftopia 项目的原因。如果未来真的光明，有一件深深扎根于人类本能、大家都喜欢的事，就是吃当季新鲜又好吃的水果。每个人都爱吃，那种喜好可以追溯到我们还是猴子的时候。我发了这条消息，但几乎没人理会；相比之下，《钟楼血案》AI 的话题反响热烈。大家都在说：“天啊，AI 越来越会欺骗、算计，在社交操纵游戏里获胜了！”可我不想要这样的 AI。我想要的不是 API 调用变得充裕，而是更多贴近生物生活的丰盛。给我水果，那才是我真正想要的。AI 革命的成果至少有一部分应该是字面意义上的水果。如果我们失去这些，就失去了很多对我们真正重要的东西。如果我们甚至都意识不到自己正在失去它，我会担心我们已经迷失了方向。

**Prakash Narayanan：** 我觉得很明显，我们会得到营养更丰富、味道更好的缸培食物。就像二十世纪发现化学品后，我们发展出一整套技术。你看看现在的 Doritos 之类食品，有多“科学化”：真有成千上万名博士研究过 Doritos，真的是成千上万名。

**Nathan Labenz：** 还记得《洋葱新闻》那篇老文章吗？“Doritos 庆祝第 100 万种配料。”

**Prakash Narayanan：** 他们已经非常了解你的味觉偏好，能精准调出他们想生产的口味。这整套技术都会应用到生物领域，用来生产水果、蔬菜等。杂交水果之类其实已经是转基因了，只不过花了很长时间才培育出来……

## [1:16:25] 人类需要的丰盛

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-20> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=4585s>

**Prakash Narayanan：** ……转基因。丰盛的一部分，也许是让普通人都能买得起顶级品质的葡萄酒。我最喜欢 Honeycrisp 苹果。它是相对新近培育出来的，据我所知并非转基因，但确实是通过大规模、有系统的杂交培育出来的。

**Nathan Labenz：** 在转基因出现之前，这已经算转基因了。我完全不怕经过基因改良的水果，甚至很支持。但它仍然是一种生物构造，滋养着作为生物的我们，也通过生物感官和那种稍纵即逝的感质带给我们愉悦。这样的东西常常被忽视，因为它们难以衡量，不容易沿着目标一步步优化，也不是智能体需要的，对吧？

**Nathan Labenz：** 我认为我们必须小心，别把经济建成只服务智能体、只为智能体所需之物创造丰盛的样子。我同意这可能是默认会发生的事，但我想请大家想想：如果智能体需要大量的东西，并不等于这些东西也会让我们的生活变好呢？

**Prakash Narayanan：** 让我觉得有点恼火的是，前沿实验室的人都非常严肃。他们只谈严肃的事情，比如治愈癌症。没人说要做更好吃的 Doritos，也没人说要创造更棒的橄榄球比赛。这些人们真正享受的东西呢？我觉得他们是想表现得严肃、真诚，不想显得愚蠢。也许应该聚焦于做更好吃、更健康的 Doritos，甚至种出一种天然长在地里的 Doritos——你把土豆切开，里面就是 Doritos。这听起来轻浮又愚蠢，但会让人开始想象究竟有哪些可能。

**Nathan Labenz：** 我觉得还有一个原因：他们对自己的工作抱有一种二战式心态。他们真心觉得时间紧、赌注高；前沿公司的员工把大量时间都投进工作，生活里几乎没有闲暇。所以现在他们就像在不断匹配模式：看见一座山，然后就去爬。

**Prakash Narayanan：** 我确实觉得，我们对该爬哪座山应该多一点判断力。我们真的满意于现在造出的 AI 吗？我不知道。遗憾的是，似乎没有足够的时间和精力投入这些问题，所以今天我一直绕着它想。《钟楼血案》这件事真的触动了我。当然，其他条件不变的话，这项研究既有意思，也做得不错；但我觉得，我们需要从多个层面挑战“其他条件不变”这个假设。

**Prakash Narayanan：** 是的，这问题很难。我觉得智能体要在经济里运作，不可能完全没有隐瞒。比如不能把你的价格告诉竞争对手，也不能把内部成本告诉来问的人，这些信息必须保密。也就是说，必须懂得什么时候不说。Palantir 有个“本体论”概念，这也是为什么我觉得它重要：谁有权知道什么、谁有权说什么、谁有权做什么？这件事非常关键。我也认为政府或监管机构必须能够介入。政府决定“这件事不许做”时，智能体就必须服从。治理方面还有很多事要解决。我相信最终会找到办法，但过程中大概要经历一些试错。

## [1:20:26] 递归式改进与治理

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-21> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=4826s>

**Prakash Narayanan：** ……谁有权说什么、做什么，对吧？我觉得政府也需要有办法介入，监管机构也能介入。政府决定“这件事不许做”时，智能体必须服从。治理方面还有很多事情需要想清楚。我相信我们最终会找到办法，但大概会一路试错。

**Nathan Labenz：** 毫无疑问。结束前，我引用 METR 关于加速的报告推文中的一句话。他们说，完整分析估算了加速和能力提升中有多少来自算力、数据和算法进展。

**Nathan Labenz：** 接下来是我自己的评论。他们在整串推文中对所有结论都加了保留意见，对数据如何解读也不确定，还和自己以及 Anthropic 团队反复讨论。里面有太多战争迷雾。核心估计说是两倍，但他们也表示，若结果在 1.3 到 3 倍之间，他们都不会意外，到处都是限定条件。

**Nathan Labenz：** 到目前为止，我只注意到下一句是以“我们有信心”开头的。他们说：“我们有信心，这种加速并非由训练算力增长率上升造成。”

**Nathan Labenz：** 这意味着，在政府干预方面，谁也不知道数据中心建设会怎样；如果选举结果不同，也许数据中心建设会比反事实情境慢一点。但很值得注意的是，他们报告的加速并不只是原材料投入的结果，也是算法和数据质量的结果，而这两者在很大程度上是由我们现有的智能推动的。于是，推动进展的就不只是不断增加资本，而是真正某种递归式自我改进。

**Nathan Labenz：** 所以，如果政府要干预、改变这条轨迹，措施恐怕必须更有针对性，直接对准前沿公司的做法，而不是笼统地放慢数据中心建设。

**Nathan Labenz：** 感谢收听《AI in the AM》每周精彩片段。旁白是我的克隆声音，也欢迎告诉我们哪些地方效果好、哪些不好。早上见。

**片尾歌曲：** 从来没人问它为什么做，它学会了说谎；你说“哇”，因为它做得到。山就在那里，于是你去爬。没人让你这么做，也没人问你图什么。把它放到骗子能赢的牌桌上，它骗过满屋子的人，你站起来，得意地笑。你从没问过为什么，只因能做就去做；它学会了说谎，你惊叹：“哇”，因为它做得到。

**片尾歌曲：** 手指压在记分牌下，伸出来握手。我就让这一切悬在那里，直到你告诉我图什么。一张嘴胜过我们所有人，它说这些话到底为了什么？你想要的是它本身，还是只想知道怎么做到？“能做到”不等于“应该做到”。别只告诉我怎么做，告诉我为什么做——只因做得到吗？只因做得到。

## [1:24:53] 片尾歌曲与节目鸣谢

<https://pod-exp.pages.dev/ZZwrUPxU1GY/#chapter-22> · YouTube <https://www.youtube.com/watch?v=ZZwrUPxU1GY&t=5093s>

**片尾歌曲：** 从来没人问它图什么，只因做得到就去做；它学会了说谎，你说“哇”。只因它做得到。只因它做得到。从来没人问它图什么，只因做得到就去做；它学会了说谎，你说“哇”，只因它做得到。

**Nathan Labenz：** 如果你觉得节目有帮助，欢迎花点时间分享给朋友、发到网上、在 Apple Podcasts 或 Spotify 写评论，或者在 YouTube 留言。我们一直欢迎你的反馈、嘉宾和选题建议，也欢迎赞助合作咨询。可以通过我们的网站 cognitverevolution.ai 联系，也可以在你常用的社交平台私信我。

**Nathan Labenz：** The Cognitive Revolution 属于 Turpentine Network 播客网络；该网络现已加入 a16z。节目邀请各领域专家聊科技、商业、经济、地缘政治、文化等话题。节目由 AI Podcasting 制作。如果你需要播客制作服务，从录音结束一直到听众开始收听的全流程都能帮忙，欢迎访问 aipodcast.ing，看看我对他们的推荐。

**Nathan Labenz：** 也感谢每一位听众成为认知革命的一部分。
