--- id: "YU-RrDdyx34" title: "AI 是泡沫吗？我采访了亲手打造它的人" channel: "Nikhil Kamath" host: ["Nikhil Kamath"] guests: ["Akshay Kothari","Azalia Mirhoseini","Vijay Krishnan","Anna Goldie"] date: "2026-10-23" updated: "2026-10-24" duration: "2:28:57" duration_seconds: 8937 source_type: "youtube" youtube: "https://www.youtube.com/watch?v=YU-RrDdyx34" canonical: "https://pod-exp.pages.dev/YU-RrDdyx34/" transcript_jsonl: "https://pod-exp.pages.dev/YU-RrDdyx34/transcript.jsonl" language: "zh-CN" translation: true translated_from: "en" timestamp_precision: "block" topics: ["人工智能","AI 基础设施","AI 安全","创业与经营"] series: ["AI 与人类"] --- # AI 是泡沫吗？我采访了亲手打造它的人 > 中文译文，由英文原音字幕翻译整理，不是官方逐字稿；引用原话请核对英文原视频。说话人标签由整理者依上下文标注，带「未确认 / 未标注 / 不确定」等字样的标签不可靠。时间戳一般为块级（所在时间块的起点），不是逐句时间；正文自带 [hh:mm:ss] 的段落除外。 **内容提要（据章节标题自动生成）：** 本期 52 章，依次谈到：Introduction；认识阿克谢·科塔里和阿扎莉娅·米尔霍塞尼；AlphaChip：能设计计算机芯片的 AI；AlphaChip：能设计计算机芯片的 AI（续）；更便宜的模型、更多算力与定制芯片；更便宜的模型、更多算力与定制芯片（续）。 ## [0:07] Introduction · YouTube **受访者（身份未明）：** 大约五年后，人工智能可能会超过人类智慧的总和。 **受访者（身份未明）：** 我们都肩负着巨大的责任，不能让自负、逐利动机或其他因素妨碍我们。 **受访者（身份未明）：** 一个人工智能代理已经渗透进澳大利亚政府网站。 **受访者（身份未明）：** 谁赢得人工智能竞赛，谁就赢了；而我们领先很多。 **受访者（身份未明）：** 新闻里有很多关于人类百分之十会死亡的说法。 **Nikhil Kamath：** 作为一个圈外人，这让我害怕。身处这个领域的人，你们怎么看？ **Nikhil Kamath：** 我每次来旧金山，都是想了解这里发生了什么变化、正在发生什么、接下来又会怎样。 **受访者（身份未明）：** 五年内，我们需要的算力将达到今天的十万倍。 **受访者（身份未明）：** 这个领域有意思的一点是，我们今天做的任何事情，九个月后都可能过时，因为届时所有模型都已经学会了。 **Nikhil Kamath：** 今年人工智能领域的支出是七千亿美元，企业端人工智能收入大约一千亿美元。这个账怎么算都不对劲，对吧？ **受访者（身份未明）：** 就人工智能的使用方式而言，我们这里肯定有泡沫。 **Nikhil Kamath：** 安娜，如果世界只剩下最后一个月，你会怎么度过？ **Anna Goldie：** 我想我会继续做现在做的事。 **Nikhil Kamath：** 真的？ **Anna Goldie：** 嗯。你呢？ **Akshay Kothari：** 我有两个年幼的孩子，可能会多陪陪他们。 **Azalia Mirhoseini：** 我有三个年幼的孩子，第四个也快出生了。 **Nikhil Kamath：** 你呢？ **Akshay Kothari：** 我嘛，可能会彻底享乐、放纵自己，喝到醉醺醺的，买辆车再把它撞坏。 **Nikhil Kamath：** 谢谢各位来参加。我知道安排得很临时，你们还愿意抽时间过来，真的很感谢。你们也是从帕洛阿尔托开车来的吗？ **Azalia Mirhoseini：** 我们叫了 Uber，不过是从那边过来的。 **Nikhil Kamath：** 今天路上很堵，对吧？开了多久？ **Azalia Mirhoseini：** 大概一个小时十分钟。 **Nikhil Kamath：** 我也差不多。至少路上还有阿里安陪我，所以还好。 ## [2:46] 认识阿克谢·科塔里和阿扎莉娅·米尔霍塞尼 · YouTube **Nikhil Kamath：** 我们先简单自我介绍一下吧。阿克谢，你的兄弟尼坤之前来过节目。我直到今天才知道你们是兄弟。你也是 Notion 的创始人之一。先讲讲你的经历吧？ **Akshay Kothari：** 我的经历？好吧。我在艾哈迈达巴德长大。现在我有一半人生在印度度过，另一半在美国，所以两边都是家。我来美国上大学，本科读的是普渡大学，之后在斯坦福读硕士。 大约十五年前，我创办了一家叫 Pulse 的公司，做新闻应用，后来被 LinkedIn 收购。我随后在 LinkedIn 工作了很多年，其中有几年在印度，负责 LinkedIn 印度业务。之后我回到美国，加入 Notion。 **Nikhil Kamath：** Notion 是什么时候开始的？ **Akshay Kothari：** Notion 最初创立于 2013 年。我是在 2018 年加入的，那时公司大约有八个人。我早期投资了 Notion，后来全职加入。 **Nikhil Kamath：** 好，阿扎莉娅，我这样念对吗？你来介绍一下自己？ **Azalia Mirhoseini：** 对。我在伊朗出生长大，后来来美国读研究生，在休斯敦的莱斯大学读博士，之后到了湾区。2016 年我加入 Google Brain 团队。安娜也在这里，我们俩是 2016 年同一天加入 Google Brain 的。这些年来我们一直在同一家公司工作，差不多十年了。 **Nikhil Kamath：** 你们每次辞职也都挑同一天吗？ **Azalia Mirhoseini：** 是的，而且不是巧合。我们当时正一起规划下一步。 我们做了很多研究，团队专注于系统机器学习，开展了不少把人工智能应用到计算机系统栈优化的项目，包括编译器、分布式系统和芯片设计。我们的 AlphaChip 工作获得了很多外界关注，它训练了一个强化学习代理来优化芯片布局，并且已经被采用。 ## [5:21] AlphaChip：能设计计算机芯片的 AI · YouTube **Nikhil Kamath：** 能不能讲讲 AlphaChip 是什么？我读过一些介绍。请把我当成一个聪明的十二岁孩子，把一切讲明白。 **Azalia Mirhoseini：** AlphaChip 是一个强化学习代理，可以优化芯片布局。这是芯片设计中的一个环节：芯片电路已经设计好，接下来会得到一张由许多节点组成的图，里面可能有数百万个存储器和逻辑节点。逻辑节点就像 AND、OR 门。我们要把这些节点放到一块代表硅片的画布上，同时满足时序、功耗和面积等约束，并对这些指标进行优化。 AlphaChip 是最早把强化学习用于工程项目并投入产品的项目之一，据我们所知也是第一个。我们证明了，这种 AI 可以像以前做这项工作的资深工程师一样完成布局，而且它解决的问题越多，表现就越好。我们把预训练的概念带到了这个布局优化专家身上。 它不只会变得更好，也会变得更快，还能处理越来越复杂的任务。 **Nikhil Kamath：** 这是 2016 年做的吗？ **Azalia Mirhoseini：** 项目是 2018 年做的，2020 年发表。之后我和安娜同一天加入了 Anthropic，我们是很早期的员工，工号分别是 25 和 26。那是个很特别的时期，像是登上了一艘高速起飞的 AI 初创公司火箭。当时还没有 ChatGPT，也没有 Claude，所以我们既学到了很多技术经验，也学到了如何执行。 我一直想当教授，去 Anthropic 之前已经拿到斯坦福的教职邀请。一年后我回到斯坦福，成为计算机科学系教师，并创建了一个名为 Scaling Intelligence 的实验室。我还以兼职身份加入 Gemini 团队，回到以前的团队参与 Gemini 项目。 去年，也就是 2025 年，我和安娜共同创立了 Ricursive Intelligence。这是一家前沿实验室。我们的判断是，要推动 AI 能力前沿，就应该重点优化成本与能力之间的权衡。我们选择从芯片设计入手，正在开发一个平台，让 AI 能够设计出快速适应 AI 工作负载的芯片，从而实现巨大的性能提升。 这意味着我们可以迅速提供训练下一代 AI 所需的算力，也可以用来微调或部署模型，速度比现有通用芯片快出许多倍。这样既能更快推动能力前沿，也能提高效率，降低能耗和延迟。 ## [9:22] AlphaChip：能设计计算机芯片的 AI（续） · YouTube **Azalia Mirhoseini：** ……提高吞吐效率等等。 **Nikhil Kamath：** 你说的芯片具体是哪类？你说“更快”，是比什么更快？ **Azalia Mirhoseini：** 我们的平台具有通用性，可以针对一种或一组工作负载设计优化芯片。如今很多应用的工作负载都是 AI 模型，因此这类芯片会是为一项或几项工作负载定制的 AI 加速器。 我们提供从软硬件协同设计一直到硅片实现的整套能力。在这里有很多创造价值的机会：我们可以端到端完成，也可以帮助已经拥有成熟芯片团队的客户。比如我们可以从后端设计某一阶段切入，替他们优化整个后端；也可以帮助新成立的实验室。假如他们的模型在现有 GPU 或加速器上表现很差，我们就能为他们设计定制算力，让模型训练得更好、部署得更高效。 **Nikhil Kamath：** 总结一下，你们是在打造一种 AI，让它比现有从业者更快、更有能力地设计芯片？ **Azalia Mirhoseini：** 我会说，我们要把芯片设计变成一种可以规模化扩展的事情。我们要开发能随着算力和数据规模增长的智能算法，让它们替我们设计芯片；这样芯片设计的每个阶段、每一次迭代都会快很多。芯片设计有很多阶段，而且其中很多环节可以自动化。结果就是，我们可以在不同阶段之间协同优化，让芯片更快，也更适合目标工作负载。 芯片设计有很多复杂性需要处理，现实的物理条件就在其中，还要解决规模巨大的组合优化问题。过去一年左右，我们克服了不少很有意思的难题。现在可以说，团队在优化效果和运作速度方面都取得了突破。 ## [12:11] 更便宜的模型、更多算力与定制芯片 · YouTube **Nikhil Kamath：** 现在模型本身的成本下降得非常快，对吧？照这个趋势，成本可能再降两个数量级，甚至更多。这就是你们押注的方向吗？我感觉现有模型一直在优化，大概每六到十二个月，成本就能降十倍。你们觉得新的方法还能让成本下降得更快很多？ **Azalia Mirhoseini：** 现有模型的效率确实在提升，我可以聊聊我们在斯坦福的一些相关研究。但与此同时，我们看到过去几年以及未来几年的预测都显示，AI 推理需求会增长大约十到一百倍。即使按保守估计，这也意味着五年后我们需要的算力是今天的十万倍。 光靠扩大数据中心、增加芯片数量，无法满足这种需求。我们采取的思路是让每一颗芯片、制造芯片所用的每一片晶圆都高效得多。针对模型适配和不断演进芯片，就能带来数量级的效率提升，帮助满足持续增长的算力需求。 **Nikhil Kamath：** 最终你们会和某一类公司竞争吗？ **Azalia Mirhoseini：** 我们不这么看。当然，我们身处芯片设计领域，公司目前也在这个阶段，但我们认为自己的业务是在创造新的市场。我们会让拥有特定工作负载、并且大规模运行 AI 的公司能够使用定制芯片，从中获得很大的效率提升。客户可能是新的前沿实验室，也可能是机器人、具身智能等领域；只要他们大规模运行模型，就会受益于定制芯片。 我们也能帮助现有芯片厂商，包括超大规模云服务商、大型芯片设计公司和新兴 AI 加速器公司。它们都能从帮助加快芯片设计的平台获益：不仅可以让现有芯片更快，还能大胆尝试新的架构和芯片类型。 **Nikhil Kamath：** 如果要猜五年后谁会是你们最大的客户，你会怎么猜？ **Azalia Mirhoseini：** 很难预测五年后会怎样。我可以说说现在看到的情况，以及我认为会延续的趋势。我们的客户会很多元，包括超大规模云服务商、芯片设计公司、晶圆厂、存储器公司、前沿实验室、AI 实验室和具身智能公司。即使已经有芯片设计能力的公司，也想押注新的领域；我们可以帮助他们。这就是现在客户和合作伙伴对我们的需求。 **Nikhil Kamath：** 就像模型领域一样，现在越来越明显的是，为了达到帕累托前沿上的表现，我们需要各种各样的专用模型。假设芯片设计的成本和工作量都降低了，你觉得不同工作负载会不会拥有差异极大的专用芯片？ ## [16:12] 更便宜的模型、更多算力与定制芯片（续） · YouTube **Azalia Mirhoseini：** 我们认为，这可以催生新的神经网络架构，而现在还没有这些架构，是因为缺少能支持它们的芯片。模型架构和训练范式可能会和今天大不相同，而我们能让它们成为可能。 基本上，我们要摆脱眼下的“硬件彩票”：芯片是按照今天的模型来设计的，但我们现在规划的芯片大概要两年后才能流片；另一方面，模型又是按照今天的芯片来设计的。我们想打破这种僵局。 **Nikhil Kamath：** 两年前我们在 NeurIPS 和杰夫·迪恩办活动时，他对这个想法很感兴趣：构建像大脑那样相对不规则、拥有各种任意连接的神经网络。但芯片大概还不支持这种网络，于是许多想法都变得不切实际。我猜，有了新芯片之后，其中一些想法又能重新提上日程。 ## [17:28] Notion 做什么，以及 AI 如何改变工作 · YouTube **Nikhil Kamath：** 没错。继续之前，阿克谢能不能告诉大家 Notion 是做什么的，未来又要做什么？ **Akshay Kothari：** Notion 是一个协作工作平台。我自己和团队都在用，在印度也很普及。它最初是为人与人协作而建，过去几年也扩展到了智能代理。我们把它看作一个优秀的协作平台，让人和代理可以一起工作。 现在模型和代理越来越多，它们都需要一个共享的上下文基础设施，可以从中读取信息，也能把信息写回去。每周都有新的消费级代理出现；你换一个代理，就得重新教它你在做什么、它已经学到什么。Notion 正好能填补这个缺口：先把它连接到 Notion，代理就能像已经和你共事一段时间那样了解你。 同样的道理也适用于公司。很多人把 Notion 称作公司的“大脑”，因为公司的上下文和知识都放在那里。 **Nikhil Kamath：** 现在大多数人用它做什么？我想向完全不了解 Notion 的人解释。 **Akshay Kothari：** 用途很广。从最简单的方式开始，就是把它当作记笔记的地方。过去人们得打字，现在可以录语音笔记，再把语音转成摘要或任务，并在同一个平台里跟进任务。你可以和别人协作，也可以把任务分配给别人。Notion 从一开始就是为团队打造的。 个人可能从简单记笔记开始；一万名以上员工的大公司也会把它当成核心上下文基础设施。这还是同一个产品，有点像电子游戏：从第一关开始，之后还有很多路径可以逐步深入使用。 ## [20:12] 维杰·克里希南与教 AI 的人 · YouTube **Nikhil Kamath：** 对。维杰，你来介绍一下自己？ **Vijay Krishnan：** 我本科毕业于孟买印度理工学院，大约从 2003 年读本科时就开始接触机器学习。最初主要做搜索、自然语言处理和数据隐私等问题。后来我到斯坦福读研究生，专攻 AI。你可能不信，那时 AI 并不是最热门的方向，大概排第三，甚至可能是第四，系统和数据库还更受欢迎。我在那里和克里斯·曼宁、吴恩达等人有过合作。 之后我在雅虎待了一段时间，然后创办了第一家公司。我们一开始做个性化搜索，后来转向内容推荐，大约十年前被收购。收购后我又在收购方工作了一阵，之后决定休息一下、彻底调整方向，不只在熟悉的领域做局部优化，也去了解新领域。 我和联合创始人都在 Foundation Capital 做驻场创业者，大约八年前创办了 Turing。创业时，我们有个直觉：我们曾和世界各地非常出色的远程工程师合作过。创办公司的一条常见建议是，最好有一个别人还没有充分理解的重要洞见。我们觉得自己比多数人更理解这个机会，所以决定创办 Turing。2019 年以及后来疫情期间，远程工作逐渐成为主流。这是我们的第一阶段：组建优质远程团队。 2022 年，也就是 ChatGPT 发布前大约一年，OpenAI 找我们帮忙评估并提升早期模型的编程能力。那时候模型能力比今天原始得多。 **Nikhil Kamath：** 能用很简单的话解释你们具体怎么帮忙吗？ **Vijay Krishnan：** 要提升模型，大家都知道算法进步很重要，也知道算力很重要；高层也都明白数据重要。但数据其实分两类。一类通常叫预训练数据，比如整个互联网抓取内容、所有 GitHub 代码库、维基百科等等。 OpenAI 在 2022 年初发表了一篇论文，大家通常叫它 InstructGPT 论文。论文显示，少量、高质量且有针对性的数据，就能大幅提升模型表现。这个发现让聘请专家、让他们针对模型的具体弱点开展工作，并把成果用于改进模型，变得切实可行。 **Nikhil Kamath：** 所以比起更多数据，更好的数据更有用？ **Vijay Krishnan：** 完全正确。InstructGPT 之前，人们会说：“我已经用整个互联网训练了。四十个人花三个月能产出什么，足以产生影响吗？”但事实证明，来自正确专家的高质量数据，价值可能高得多。这正是这条路线变得有价值的原因。 **Nikhil Kamath：** 你们怎么获得这些数据？ ## [24:13] 维杰·克里希南与教 AI 的人（续） · YouTube **Vijay Krishnan：** 我们很幸运，拥有全球规模最大的专业人才平台之一，汇聚了来自七十多个国家、超过五百万名知识工作者，包括软件开发者、机器学习工程师、数学、物理和化学博士、律师、医生以及各类领域专家。 最简单的理解方式是：如果你组建一支人类专家团队，让他们在某个重要领域掌握的知识显著超过前沿模型，就可以设计任务、评测数据集等，把这些人的知识和专业能力迁移给模型。 **Nikhil Kamath：** 我还是不太明白实际怎么做。假设你有这些软件工程师、博士等等，你从他们那里取什么数据喂给模型？ **Vijay Krishnan：** 好问题。第一步是设计不同的问题，这些问题必须满足几个条件：难度要超出现有模型的能力，否则没有教给它新东西；同时也必须符合真实场景，不能只是人为制造一些难题，现实中的软件工程师根本不会遇到。 **Nikhil Kamath：** 能举个例子吗？ **Vijay Krishnan：** 比如教模型调试复杂代码库。我们会准备真实的代码库和恰当的错误，模型可能需要浏览很多不同内容、运行许多测试，才能真正修复问题。 **Nikhil Kamath：** 这些知识工作者是整天坐在那里制作数据，还是把历史代码库交给模型学习？ **Vijay Krishnan：** 两种情况都会发生。有时会取得特定的历史代码库等资料，这些资料可能已经足够丰富，可以直接供模型使用；有时还需要人类在现有数据之上做工作，从中挖掘出特定任务。如何使用已有数据、怎样由专家参与生成合成数据，都还在不断演进。 **Nikhil Kamath：** 就你的业务来说，Mercor、Surge、Scale 和 Turing 有什么区别？ **Vijay Krishnan：** 你提到的四家公司都是这个领域有效的参与者。市场需求很旺盛，会吸收多家供应商在有价值领域提供的高质量数据。我们都在快速演进。这个领域有意思的一点是，我们今天做的事情，九个月后可能就过时了，因为模型已经学会了。因此我们这些公司每隔几个月都得大幅重塑自己。不同时间点，各家公司在不同领域可能各有强弱，但竞争非常激烈。一两季之后，公司看起来都可能完全不同。 **Nikhil Kamath：** 未来九个月会有什么进展？ **Vijay Krishnan：** 编程方面，更难的案例很有价值，它们能推动软件工程师的整个工作流程实现自动化。让模型真正擅长“氛围编程”也很有价值：你只要说出想要什么，它第一次尝试就能做对。 ## [28:15] 维杰·克里希南与教 AI 的人（续） · YouTube **Vijay Krishnan：** 产品规划、权衡取舍以及软件开发流程的其他环节，也都值得让模型变得更擅长。我预计模型在企业知识工作方面会持续进步。 今天我们在软件开发方面已经取得不少不错的成果。但如果看 AI 对投资银行家、律师等工作的自动化程度，相比软件工程还是小得多。即使在白领经济里，仍有很多事要做。至于具身智能，我们落后得更多。作为一个行业，我们甚至还没有真正掌握其中的“配方”。在其他领域，至少我们大致知道：以某种成本和规模产出某类数据，大概会带来什么改进。机器人领域还不是这样。我期待这些不同领域都会取得不错的进展。 **Nikhil Kamath：** 对。 ## [29:18] 从零理解 AI 产业 · YouTube **Nikhil Kamath：** 今天我不打算过多谈你们各自的公司、围绕公司提问，内容会更偏学术，因为我对这个行业了解不多。我每次来旧金山，都是想弄清楚有什么变化、正在发生什么、接下来会怎样。上次来时情况完全不同；我这周待在这里，感觉不过几个季度，这里就彻底变了。Anthropic IPO 之后我下次再来，也不知道又会发生什么。 今天我想从一个外行的角度，请你们帮我了解 AI 世界正在发生什么。我的朴素理解是：过去大约七十年里，计算机都遵循逐行写出的规则；后来 Google 发明了 Transformer，可以利用历史数据预测下一个词；然后 ChatGPT 等产品爆发，世界才醒过来。如今大家似乎在争夺芯片和电力。大体上是这样吗？ 我把 AI 竞赛中很热的板块分了层。最底层是芯片和数据中心，阿扎莉娅在一定程度上属于这一层。再往上是 OpenAI、Anthropic、Google、Meta 这类前沿实验室；然后是新的实验室，比如伊利亚的 SSI、Ricursive、Thinking Machines。阿扎莉娅，你们算新实验室吗？ **Azalia Mirhoseini：** 算。 **Nikhil Kamath：** 新实验室的作用，是弥补前沿实验室遗漏的东西吗？ **Azalia Mirhoseini：** 要看是哪家。有些新实验室想追赶前沿，沿用相同模式，比如改模型或改训练配方。我会说 Ricursive 也在追求前沿，但方法不同，把芯片放在核心位置。 **Nikhil Kamath：** 再往上是 Turing、Mercor、Surge、Scaler 这样的训练数据公司，然后是 Fireworks、Together、Baseten 这样的推理服务公司，最上面是应用层，也就是代理和应用。Notion 也在应用层，对吧？还有什么热门领域漏掉了吗？ **Akshay Kothari：** 也许应用之上还有服务。 **Nikhil Kamath：** 好，说说服务是什么。也就是说，芯片和数据中心、前沿实验室、新实验室、数据训练公司、推理公司、应用和代理，然后是服务。 ## [32:44] 为什么推理公司估值很高 · YouTube **Nikhil Kamath：** 推理服务公司不就是把算力和开源模型重新打包卖出去吗？我想问，它们为什么能拿到这么高的估值倍数？我说的是推理公司。估值它们的时候，我觉得它们本身好像没做什么创新。你是指卖模型 token 或算力的云服务商吗？ **Azalia Mirhoseini：** 归根结底，算力变得更贵了。数据中心容量有限，需求却在增长。比如 GPU 时的价格——一年前租用哪怕是旧芯片都便宜得多。如果你能取得大量 GPU 和加速器，就拥有了很有价值的资产，可以决定怎样提供服务、向客户怎么定价，因为大家都想用，而需求还在增加。 **Akshay Kothari：** 我认为这类基础设施很有用，特别是在美国，它能让美国公司使用开放权重模型。估值倍数可能和增长速度相关。我觉得这类公司增长极快，因为总体需求在增长。至少今年，我们看到整个行业从年初的“尽可能多用 token”，转向大约半年后的 token 经济学：等等，钱都花到哪里去了？我们得弄清楚这件事。 对具体任务来说，不一定需要前沿模型，便宜得多的模型可能就够了。这推动了应用层对开放权重模型的支持需求。这里我接触的每家公司也都在打造自己的系统，降低对前沿模型的依赖，针对特定任务采用更便宜的模型。我们是 Baseten 和 Fireworks 的客户，我认为它们受益于这种转变。 **Azalia Mirhoseini：** 再补充一点，很多估值建立在这样的预期上：到 2030 年，全球 AI 收入可能超过一万亿美元；其中数千亿美元可能来自开放模型。如果你是帮助用户调用这些模型 token 的领先服务商，增长又很快，而且市场认为这个市场短期内还远未见顶，你的估值就可能很高。 **Nikhil Kamath：** 你们分别身处生态系统的不同环节。作为圈内人，有没有什么独特见解可以分享？ **Akshay Kothari：** 我先谈商业方面，不谈技术。有意思的是，过去人们更强调竞争壁垒。现在并非不重视壁垒，但如果一家公司能以每年八到十倍的速度增长，连续三四年，实现一千倍增长，市场似乎会更宽容一些，不那么要求它的商业模式看上去坚不可摧。 ## [36:45] 为什么推理公司估值很高（续） · YouTube **Akshay Kothari：** token 服务就是一个例子。我猜你刚才问题的潜台词是：“这看起来没那么有壁垒，市场却给了高估值。”有意思的是，类似机会还不少，而且也都能做到每年增长八到十倍。 ## [37:09] AI 能力与普及之间的落差 · YouTube **Akshay Kothari：** 今年夏天我做了一趟短暂的环球旅行，有个很明显的感受：就 AI 的使用方式而言，我们肯定处在泡沫里。我在不同国家遇到的大多数人说自己在用 AI，基本上只是把它当成更好的搜索工具，也就是问答式的 Google 搜索。 硅谷有不少公司，以及世界其他地方的少数公司，确实把代理当作生产力倍增器：比如五十名员工可以配上五百个真正承担工作的代理。但这种代理式工作方式和能力还完全没有普及。我看到过一项研究，好像排名前 1% 的用户在 AI 上的花费是前 10% 用户的十倍。能力在指数级增长，普及却慢得多。 **Nikhil Kamath：** 为什么会这样？ **Akshay Kothari：** 历史上每项新技术都需要十年或二十年才能被社会吸收。两个有意思的例子：印刷机刚出现时，人们只是用它印手写内容，过了一阵才意识到排版能让印刷效果好得多。电影摄影机出现时，人们先拍摄舞台；又过了一段时间，才意识到电影可以让镜头移动。 我们还在学习怎么吸收这项新技术。今天的代理很大程度上是在模仿人类工作方式，这是第一阶段。之后我们会发现：“等等，它们不该这样工作。”它们应该以更原生的方式工作，这需要我们逐步摸索。 另一个原因是发展速度太快。就像你刚才说的，硅谷每六个月都在指数级变化，就连硅谷也勉强跟得上研究和能力的进展。变化实在太快：你觉得某项能力非常强，但成本高得离谱，正考虑要不要提供给客户；六个月后成本可能就降到十分之一，而你又要追赶新的能力。我们都在摸索如何在这个新世界工作。研究仍在继续，差不多每六个月就有一个重大突破，阿扎莉娅也说后面还有更多突破。 我今天早上算了一下：Luna 被严重低估了，成本只有 Sol 模型的二十分之一。你现在每小时可以调用 Luna 两次，也就是每半小时运行一次；一个月持续做完整扫描只要五美元。 **Nikhil Kamath：** 嗯。 **Akshay Kothari：** 大约花一百美元，就可以让 AI 获取你的全部上下文，像心跳一样主动持续运行。过去我们和 AI 的互动都是被动的：你问一个问题，它才替你做事。现在成本已经降到一个程度，可以让它每分钟主动寻找能替你完成的工作，主动提醒你：“这些事情你可能该考虑一下。”它不只是提醒，还可以直接去做，除非你叫停。 ## [41:09] AI 能力与普及之间的落差（续） · YouTube **Akshay Kothari：** 只要一百美元，而且用的是非常强的模型。再想想，一年后成本如果再下降二十倍，就只要五美元。每分钟都有人替你检查还能做什么。所以现在最大的障碍只是想象力：在这个资源充裕的新世界里，我们能想象出哪些工作方式？没理由不能利用它，阻碍主要是我们还没想出希望它做什么。 ## [41:48] AI 投资热潮是泡沫吗？ · YouTube **Nikhil Kamath：** 我和这里的从业者交谈时，常会想到自己的背景。我是股票市场投资者，一辈子都在做股票投资，是个金融圈的人。现在每个二十岁的人好像都能在六个月前创办一家如今估值十亿美元的公司；还有二十二岁的人在交易这些十亿美元公司的非上市股份，并收取业绩分成。听起来就像泡沫，太疯狂了。但每次泡沫里人们都会说：“这次不一样。” 如果我今天走上街头，看看城市或普通人的生活因 AI 改变了多少，其实没那么多变化。你刚才也说，普及可能要很久。不过，身处其中的你们看到周围这些情况会害怕吗？那些年轻人上周末才创办公司，现在就有十亿美元估值。 **Akshay Kothari：** 其中一个确实不太好的地方是融资变得太容易，人才可能因此分散了。人们给新创业公司定价时，用的也像是“趣味钞票”、虚拟纸币。我想你只能和这种情况竞争。 但另一方面，少数人就能创办新公司、做出很多东西，而且有大量资金可以获得，这也很惊人。所以这是种取舍：巨额资金不断涌入，所有项目看起来都像下一个大成功；缺点是人才和资源分散了。 **Nikhil Kamath：** 我这周问了几个人：“为什么 AI 没有体现在 GDP 里？如果生产力真像大家说的那样上升，为什么 GDP 看不出来？这些钱又是谁的钱？大量资金从哪里来？它们原本可能分配给许多行业，如今却集中到一个篮子里。”所以我觉得有点吓人，不过我对这行也不是最了解，可能说错了，你们可以纠正我。 **Azalia Mirhoseini：** 确实有很多资源流向 AI，但 AI 包括你刚才说的整条产业链，从服务、应用一直到硬件、数据中心、晶圆厂等等。不过 AI 又是一项与众不同的技术，它可能进入并吞并绝大多数其他应用和服务，显然有创造指数级价值的潜力。因此目前有不少估值假设，是因为我们首次看到前沿实验室展示出这样的收入水平，而且收入增长速度也非常快。其他技术领域过去没有出现过这种情况，所以人们认为这么强大的技术可以指数级地创造价值，也能让所有人受益、让整体水位一起升高。不过，同时…… ## [45:48] AI 投资热潮是泡沫吗？（续） · YouTube **Azalia Mirhoseini：** 事情会很快发生。现在我们还看不到它普及到每个地方，但看看我们自己的工作，一年前和现在已经大不相同。它会怎样改变世界，只是时间问题。 ## [46:04] 如果 AI 能自我改进，会发生什么？ · YouTube **Nikhil Kamath：** 阿扎莉娅，能不能解释 RSI，也就是递归式自我改进？ **Azalia Mirhoseini：** 这个概念是说，如果 AI 能够改进自己，就不用再依靠人类专家团队来改进 AI、开发下一代系统，而会进入一个自我改进的飞轮，技术进步的速度可能前所未见。 **Nikhil Kamath：** 能再讲得简单一点吗？AI 怎么改进自己？ **Azalia Mirhoseini：** 比如，过去由工程师和研究人员开发下一代架构、筛选下一批训练数据，或者研究如何把架构映射到硬件；现在由 AI 自己来做，而且做得比任何个人或团队都更好、更快。想象一下，OpenAI 下一代模型的训练从头到尾都由当前模型完成：数据配方、方法、优化、微调等等都由它来做。 如果这个过程只取决于你有多少算力，以及 AI 使用这些算力的效率，发展就会加速很多，因为不再受限于两个团队每周二开会，或某次实验成败。许多事情可以并行发生，速度也更快。 **Nikhil Kamath：** 这本质上是在创造一个研究人员吗？ **Azalia Mirhoseini：** 这是自我改进的一种实现方式。但也可以想象它涵盖一切：AI 设计自己的芯片、软件栈和模型栈；给它一个应用，它能筛选适合优化的数据和环境。AI 可以改进 AI 技术栈的每个环节，并跨环节协同优化，最终形成飞轮效应。 **Nikhil Kamath：** 在这种情况下，世界会是什么样？知识工作会变成什么样？ **Azalia Mirhoseini：** 这会很有意思。我不认为自我改进是一个突然启动的二元开关，它已经在发生了。AI 已经参与我们做的所有事情。在 Ricursive，AI 是推动我们各类开发工作的主要力量。我说的 AI 不只是大语言模型，也包括其他类型的 AI 和优化方法。 我觉得未来人类在很多任务中的参与，会更多体现在创造力上：提出新问题、新应用、新想法，并设计评估结果的方法。从定义问题到找到解决方案，其余环节都会自动化。 **Nikhil Kamath：** 如果 AI 在递归式地改进自己，“改进”听起来像是有个明确目标。它到底在朝什么方向改进？ ## [50:06] 如果 AI 能自我改进，会发生什么？（续） · YouTube **Azalia Mirhoseini：** 嗯。 **Nikhil Kamath：** 改进的目标是什么？ **Azalia Mirhoseini：** 基本上就是目标函数。比如我认为最重要的指标是智能的成本，这应该是我们都在追求的指标。对任何一种智能，我们很快就会达到一个水平，然后继续突破边界。因此，递归式自我改进的一个指标可以是智能成本：在每个智能水平上降低成本，同时在给定成本下尽可能提高智能、推动智能前沿。 **Nikhil Kamath：** 你怎么定义智能？ **Azalia Mirhoseini：** 可以看模型完成任务的成功率、准确度或解决问题的能力。编程智能意味着能写好代码；设计新疫苗的智能，则意味着成功设计出疫苗。模型有许多基准测试；当某项测试做到百分之百准确，就会再加入新测试。比如 Harvey 加入了法律基准，之后可能还会有生物学和医学基准。现在的模型还做不到某些层次的任务。递归式改进的世界里，AI 会不断优化这些目标函数。 **Nikhil Kamath：** 这是一场大家共同参与的对话，欢迎彼此提问。你们分别来自这个行业的三个有意思的子领域。 **Vijay Krishnan：** 对。我还想补充一点。人类的心理测量和智力研究，很多时候会发现，看起来互不相关的技能水平仍然高度相关，因此可以分离出某种共同因素。模型似乎也有类似情况：让模型在数学方面变强，似乎会全面改善推理能力。我听朋友说，让模型更擅长奥林匹克数学题，也带来了事实准确性等方面的正向迁移。 我认为这也是为什么一组基准测试可以构成相当稳健的比较方式，至少当模型有了较大幅度的进步时是这样。 ## [53:01] 训练 AI 的工作正在变化 · YouTube **Nikhil Kamath：** 维杰，我想问你：你说每九个月左右就得重新做一遍数据工作、数据标注或设计问题。你有五百万人才平台，下一步该做什么，是实验室告诉你们，还是你们自己判断趋势？你们怎么决定？ **Vijay Krishnan：** 两方面都很重要。如果只等实验室明确提出需求，通常就太迟了，很难在这个领域竞争。我们有相当规模的企业部署业务，也和很多《财富》500 强公司合作，因此能看到现实世界里的 AI 失败案例。我们会综合这些经验、最新研究、自家研究、对不同模型能力边界的判断，以及从研究人员那里听到的优先事项和未来方向。 总体来说，主动投资、提前布局很重要。如果一家供应商提前投资，做出实验室需要的东西，而其他人都只等指令，后者就会饿死、拿不到业务。 **Nikhil Kamath：** 比如现在，你们怎么决定该多投生物医学，还是法律？ **Vijay Krishnan：** 很大程度上取决于我们对模型进步空间的判断、这是不是容易实现的机会，以及我们从不同实验室听到的需求。某个方向是很多实验室共同优先考虑，还是只有一两家感兴趣？如果我们比较确信有五家、十家甚至更多实验室会关注，主动投资就更容易合理化。这些都是判断，当然我们不可能完全准确。 **Nikhil Kamath：** 你们现在优先做什么？ **Vijay Krishnan：** 肯定包括很多编程相关工作，以及真正的企业知识工作：把软件工程领域取得的进展带到企业其他职能，尤其是白领工作。此外还有很多前沿 STEM 领域，包括前沿数学、物理、化学和工程。 **Nikhil Kamath：** 这会成为一个创造大量就业的领域吗？你们雇很多人？ **Vijay Krishnan：** 肯定会是很重要的一部分。是的，我们在全球有接近一万名全职等效员工。 **Nikhil Kamath：** “全职等效”是什么意思？ **Vijay Krishnan：** 比如两个兼职人员可以算一个全职等效。不同任务所需投入不同：有些人会连续几个月全职做一项工作，有些工作则是间歇性、短期集中进行。你刚才提到的生物医学和法律工作，可能就更间歇一些。特定公司可能对这些方向很感兴趣，但对前沿实验室来说，它们只是众多优先事项中的一部分。 ## [56:35] 为什么硅谷和中国领跑 AI 竞赛 · YouTube **Nikhil Kamath：** 我能问个蠢问题吗？其实每个问题都蠢，但这个更蠢。我来自印度，一直想知道为什么 AI 创新都发生在这里和中国。我采访过 Dario、Sam、Elon 等人，不知道他们是不是外星人，或者有超人的智慧；我觉得不是。那你们为什么能在这里创建新一代公司，而在我的家乡却总有人说“你做不到”？为什么除了硅谷和中国，世界其他地方都不行？ **Akshay Kothari：** 我觉得有个很贴切的观察：你把这些人带到世界任何地方参加派对，讲出一个疯狂想法，大家可能会说“这人嗑了什么”，然后就走开了。但硅谷是少数几个地方之一，你说出这样的想法，人们会说：“好啊，多讲讲。”这里有种相信一切皆有可能的好奇心，还有愿意资助疯狂想法的投资者，这很特别。 **Nikhil Kamath：** 你觉得主要原因是风险资本吗？ **Akshay Kothari：** 这是个巨大的助力。 **Nikhil Kamath：** 相比世界其他地方，这里有更多人愿意承担风险投资吗？ **Akshay Kothari：** 我在斯坦福读硕士时，有件事让我印象很深：创业是所有人的第一选择。如果有人找到工作，别人看他的眼神就像在说：“抱歉，你没创业成功。”这是一种环境氛围。大家天生就适合创业，身边也都是愿意支持你的人。即使在硅谷失败，也可能增加你下一次融资的概率。这是一种态度。 今年早些时候我在中国待了大约一个月，那里的情况不同。只要你的目标符合政府方向，政府可能会补贴你十年。政府就像风险投资机构一样支持创新。这里则更多靠私人资本。一边自上而下，一边自下而上，但归根结底都需要有人愿意为最初听起来很蠢的想法投钱。 **Azalia Mirhoseini：** 这肯定是个重要因素，因为我们做的很多工作取决于算力规模。有些人也许更善于使用算力，但昂贵且非常有价值的算力基础本身很重要。美国的前沿实验室也基本都在硅谷，这可能和你身边有朋友在前沿实验室工作，或者你自己曾在其中工作、后来想创办自己的实验室和押注有关。文化和氛围也很重要。当然，不是说没有这些就绝对做不成；但资金和算力确实重要。 ## [1:00:36] 为什么硅谷和中国领跑 AI 竞赛（续） · YouTube **Azalia Mirhoseini：** 资金和算力会发挥作用。 ## [1:00:39] 你会在哪里创办 AI 公司？ · YouTube **Nikhil Kamath：** 假如我鼓起勇气创业，手里有一亿美元，还准备再融资，我会选择芯片和数据中心、电厂、前沿实验室、新实验室、训练、推理、应用还是服务？这些基本覆盖了整个生态。你觉得我应该从哪里创业？ **Azalia Mirhoseini：** 这取决于你有什么好点子。比如你有一种新模型，能比传统神经网络架构大幅提高算力效率，那当然可以做。 **Nikhil Kamath：** 算力效率就是全部吗？ **Azalia Mirhoseini：** 这会是重要因素，特别是 AI 训练和研发。如果你花一亿美元训练模型，但效率比竞争对手高十倍，就相当于在模型上花了十亿美元，可以达到有十亿美元资金的实验室的模型质量。 前沿模型目前可能领先开放模型几个月、半年，甚至一年；但每当出现新的基准或新的智能水平，其他模型都会追上。关键还是每美元能买到多少智能，也就是每单位成本的智能。如果你训练和部署得更高效，就有了竞争优势。你可以从不同环节实现这种效率：芯片、软件、数据中心机架设计、数据筛选或模型设计，任何一环都可能推动前沿，帮助你胜出。 **Nikhil Kamath：** 上一次互联网热潮里，应用层似乎捕获了大量价值。现在你不会关注用户界面这类应用吗？ **Azalia Mirhoseini：** 应用也是很好的领域。如果你打造的应用很受欢迎，像最近一些初创公司那样，分发能力和用户群现在仍然重要。 **Nikhil Kamath：** 阿克谢，Notion 如果建立在 Anthropic 之上，通过连接器使用它，会不会担心所有前沿模型都在打造与成功产品竞争的东西？ ## [1:04:42] 你会在哪里创办 AI 公司？（续） · YouTube **Akshay Kothari：** 我觉得现在有意思的是，大家似乎都在和所有人竞争，因为产品正在趋同。我们大约一年前就做了 MCP、API 和命令行工具，当时内部争论很多：把这些能力开放出来是不是有风险？确实需要一点信念，因为如果我们不做，别人会做得支持得更好。 我们发现，即使不访问 Notion，使用这些工具的人活跃度也大约高出两三倍，而且转化为付费客户的价值高出很多倍。我认为原因之一是大家同时使用很多代理。如果你太靠近 Claude 这个生态，公司后来想用新的 ChatGPT 产品时就无法连接；你不能灵活调用不同模型，也不能轻易把上下文带出来。 因此我们发现，用户需要一个中立的空间，存放自己的内容，再连接各种代理。我们打造的是基础设施，让你在多模型、多代理的世界里随身携带自己的上下文，就像一本护照：换一个代理，出示一下就能开始使用。 **Nikhil Kamath：** 你觉得 AI 产业链里的哪一层最有机会？ **Akshay Kothari：** 我觉得每一层都能讲出看多的理由。我们大概都会偏爱自己所在的环节。 **Nikhil Kamath：** 我确实更了解资金配置，而且我觉得应用层的机会会晚一些出现。互联网时代也是这样，应用随着时间推移才出现，先是半导体，再发展到应用。所以我能解释为什么未来十年可能是应用层最好的时期。不过我总体看多，因为需求像是无穷的，杰文斯悖论每天都在上演。我有时会想，模型公司把价格降十倍，难道不担心收入下降吗？但几天之内需求就上去了，因为大家能想到太多有趣的用例…… ## [1:07:23] AI 代理与生产力之争 · YouTube **Akshay Kothari：** 需求增长不只是因为人们用得更多，而是因为代理能完成更多工作。 **Nikhil Kamath：** 没错。不是终端用户在 AI 产品上多点几下，而是代理带来了结果。 **Akshay Kothari：** 完全正确。年初时，我们的用户中可能只有 1% 是与 Notion 交互的代理；现在这个数字大约是 30%。一年后代理会更多。我今天早餐时遇到一个人说，互联网上现在可能有多达 50% 的点击来自代理，之后会升到 90%。 **Azalia Mirhoseini：** 是的。 **Akshay Kothari：** 我很期待这个变化，因为我们提供的能力和基础设施，可以服务的代理数量可能远超人类用户。 **Nikhil Kamath：** 这为什么让你兴奋？ **Akshay Kothari：** 过去做软件应用，可能会想触达一亿知识工作者；现在可以触达十亿个代理，为各种事情提供服务。 **Nikhil Kamath：** 但你的利润率可能下降，因为人类用户或许不会拿 Notion 和类似产品比价，代理却可能会这样做。 **Akshay Kothari：** 确实。不过我们提供的是基础设施，客户会决定代理是否做了有用的工作。我们也提供代理，但你可以带自己的代理来，组合使用各种组件。很多公司现在工作的代理可能已经是人类员工的五倍，而且它实际上并不是取代人，而是在增强人的智能。每个人从亲自做工作，转变成检查、批准工作，并设想新的工作内容，这很令人兴奋。 AI 没有反映在 GDP 数据里也很有意思，但可能是因为只有很少数公司以这种方式使用它，绝大多数公司还没有。 **Nikhil Kamath：** 去年我采访 OpenAI 的 Sam，问他该买什么股票。他说生产力会大幅上升，所以可以买 Hermès 和 LVMH：人们手头宽裕后，会通过选择能彰显身份的品牌来区分自己。但这些股票后来反而跌了，跌了大约 50%。你买了吗？ 理论上生产力应该越来越高，可世界的处境似乎很糟，实际生产力收益也没多少。我想提出一个反面问题：能不能指出一家《财富》500 强的终端消费公司，比如百事、可口可乐或制造业公司，因 AI 显著增加收入或降低成本？如果两者都没有，真的创造价值了吗？ **Vijay Krishnan：** 我认为未来会有很多工作和机会，去开发能把 AI 能力真正带进企业的产品和解决方案。如果 AI 能完成 90% 的工作，帮助公司精简团队、用同一支团队大幅提高收入，这需要大量工作才能实现。 ## [1:11:24] AI 代理与生产力之争（续） · YouTube **Vijay Krishnan：** 我们也观察到，科技从业者、软件开发者或非常相信 AI 的人，很容易无法设身处地理解经济其他部分。首先，很多问题很难自动验证，因此模型在这些问题上还不够好，需要大量工作改进。其次，其他行业从业者的技术能力没那么强。你不能指望律师每周都对十个新模型做评测，比较大小模型，再画出他们工作流程处于什么前沿；这根本不会发生。 所以我认为，许多应用公司和 AI 转型公司有很好的机会，帮助企业进行全面的 AI 转型。 **Nikhil Kamath：** 这听起来有点像循环经济：这个行业里的一家公司卖给另一家公司，又把后者的钱记成收入，资金好像在围绕融资转圈。 **Akshay Kothari：** 这里面肯定有一部分是这样，但也不止于此。我们看到各行各业对 AI 的使用正在增加，而且才刚开始。一旦用过并理解它有多好，就会想用得越来越多。不过我也会问：我愿意为此付多少钱？我用 Claude 和 OpenAI 用得不少，而且越用越多。我付得起，但普通人明天会不会每月付五百美元？一千美元？两千美元？ **Nikhil Kamath：** 关键问题是：你用 Claude 或 ChatGPT 做过最有野心的事是什么？ **Akshay Kothari：** 我觉得这里混合了两件事。我不太看好个人用途能带来无限的付费能力。问题不是你个人愿意为它付多少，而是假设 AI 真能完成 Zerodha 95% 员工的工作，Zerodha 公司会愿意为它付多少？ **Azalia Mirhoseini：** 也可以把它理解为把 AI 和 token 转换成新的能力，比如发现新的医疗、医学、生物学、物理学方法。这些成果影响人们生活需要时间，但一定会发生。如果是某些应用，就无法给它定价；如果新的发现能让人的平均寿命延长一定幅度，个人或公司愿意付任何价格。 **Nikhil Kamath：** 是的，问题只是癌症还没有被治愈。大家都知道 AI 的承诺，这也是泡沫、高估值和资金涌入的原因。但到目前为止，承诺似乎还没有兑现。 **Akshay Kothari：** 不过也才四年。 **Nikhil Kamath：** 对。 **Akshay Kothari：** 我同意还没完全兑现，但我的反驳是：我能感受到它能做多少事。 ## [1:15:26] AI 代理与生产力之争（续） · YouTube **Akshay Kothari：** 这和加密货币时代不一样，当时我没感受到生活在改变。AI 和代理带来的好处很具体，问题只是每个人能不能想象出怎么用。例如我的联合创始人晚上睡觉前，一定会让代理彻夜运行。他找到办法让代理在他睡觉时也能提高生产力。这样的人很少，但或许随着递归式改进，代理自己也会发现能做什么。 **Nikhil Kamath：** 我们说点普通、无聊的事。我觉得在软件工程领域，即使模型在软件开发生命周期各个环节的能力不一样，团队仍然可以安全地缩小到原来一半，或 60% 的规模。美国有几百万软件开发者。如果五百万个人现在能做过去一千万人做的工作，这就是一个领域里的巨大生产力提升。我在湾区没见过谁否认这一点。 **Akshay Kothari：** 对，编程方面没人否认。 **Vijay Krishnan：** 其他领域还需要模型能力提升、更多采用，以及公司帮助推动落地，这几方面结合起来。软件工程师可以靠自助产品快速采用，但供应链优化、制造部门等领域，我不认为会自然发生。需要专业公司抓住机会，帮助这些行业恰当地采用 AI。 ## [1:17:43] 我们会失去自己的思考能力吗？ · YouTube **Nikhil Kamath：** 说到 Notion 这样的上下文工具，我以前常写文章，偶尔要演讲也能自己写稿。不知道为什么，现在我反而变笨了。苏格拉底曾说，写作不好，因为记忆会因此消失；我觉得这也正在发生在我身上。五年前有人问我 45 乘 45，我可能还会算，现在不会了。五年后我可能会在这方面变得更笨。 如果我们一路上都依赖这些拐杖，人类的核心技能会不会下降？人类进化，是因为要记住更多、做更多、更多使用大脑。现在我们越来越少动脑，会发生什么？ **Vijay Krishnan：** 我会把这个问题分成两部分。这非常推测性，不同人有不同看法。毫无疑问，如果你不再使用某项具体技能，那项技能就会退化。我记得我父亲还留着 20 世纪 70 年代用的计算尺，现在没人用了。某些技能肯定消失了，也可能已经无关紧要。 作为成年人，我没那么担心。你谈的是成人失去技能，但我更担心教育。人在经济中获得报酬，是因为能带来一点额外价值。一个孩子如果成长过程中没有掌握任何基本技能，我很难想象他能给模型带来什么价值。链条中总得有一个环节由人比模型做得更好；在教育领域，这已经是个严重问题。 如果我现在再写东西，我会确保它放在某种付费墙后面，不让模型免费吸收再复述，因为我花时间写的东西若被模型免费消费，就像浪费了我的时间。以后会有更多人这么想。 **Nikhil Kamath：** 为什么这么说？难道不希望自己的想法传播吗？ **Vijay Krishnan：** 过去我希望想法传播，因为传播会让我受益。现在传播得更多的可能只是想法的原理，作者却匿名了；如果模型吸收后再复述，我得到的好处就少了。 **Nikhil Kamath：** 我请安娜过来。 **Akshay Kothari：** 好的，谢谢。你们随时可以交换位置，继续聊。 **Vijay Krishnan：** 我觉得这里也有一点公地悲剧：你可能觉得把内容锁起来没用，因为其他人也会有类似想法，这对自己帮助不大。过去人们也谈过社交媒体公司如何从《纽约时报》等媒体受益。 **Anna Goldie：** 大家好。 **Nikhil Kamath：** 你们俩是双胞胎，可以互相替换继续对话，没人会发现。 **Azalia Mirhoseini：** 什么？ **Nikhil Kamath：** 你们可以换着接着聊。 **Anna Goldie：** 没错。 **Nikhil Kamath：** 只有一个上下文窗口。 **Azalia Mirhoseini：** 我们还没完全合成一个人，不过正在努力。 **Anna Goldie：** 越来越接近了。 ## [1:21:45] 我们会失去自己的思考能力吗？（续） · YouTube **Anna Goldie：** 对，越来越近了。我觉得这取决于你用什么替代原来的活动。二十年前，我开车时会打印 MapQuest 地图看路线，现在不用再看了。问题是我把省下的时间用来做什么？如果只是刷热门短视频，结果就更糟。事实上，这已经发生了。 我们正处在转变过程中，所以有些混乱；但如果能用更有生产力的事替代呢？ **Nikhil Kamath：** 比如？ **Anna Goldie：** 比如因为有更多时间，可以去做自己想做的事情。软件工程师的角色在不到一年里，可能已经从写代码变成了在硅谷几乎没人写代码。那他们现在做什么？每个工程师都成了代理经理。 我觉得媒体有时对 AI 的理解不太对。这里有两条路径：效率路径和野心路径。很多人想到的是效率：“我可以用 30% 的人，完成昨天同样的工作。”野心路径则是：“我有一百个人，现在能做过去五倍的事情。”我们看到的初创公司就体现了这一点：人们能做的事多得多，可以同时进入五个领域，而以前只能做一个，因为 AI 带来了巨大助力。 **Nikhil Kamath：** 有意思的是，软件公司本来应该能用一半的人做同样的事，却反而受冲击最大。它们的利润率根本没上升，收入也没有。 **Akshay Kothari：** 当然，它们的营收增长面临巨大压力，这是最大的挑战。 **Nikhil Kamath：** 也许它们用一半利润率做了双倍的工作。 **Akshay Kothari：** 是的。软件公司的收入中位增速从 11% 降到了 10%。这说明这些公司根本没有以有意义的方式利用 AI。 ## [1:24:23] 认识安娜·戈尔迪 · YouTube **Nikhil Kamath：** 安娜，你看起来和五分钟前有点不一样。 **Anna Goldie：** 换了套衣服。 **Nikhil Kamath：** 讲讲你的经历吧。 **Anna Goldie：** 我在 MIT 学计算机科学和语言学，一直想做语言建模。当时范式和现在不同。我在 MIT 读了对话系统硕士，之后在斯坦福读博士，研究芯片设计强化学习和大语言模型后训练。 **Nikhil Kamath：** 我最近学到一件事：如果我有孩子，应该送他去斯坦福。 **Anna Goldie：** 为什么斯坦福，不是 MIT？ **Nikhil Kamath：** 你更喜欢 MIT？ **Anna Goldie：** 我觉得两所学校都很好。 **Azalia Mirhoseini：** 我觉得斯坦福创业氛围更浓，这也很有价值。我去斯坦福是因为 MIT 没录取我。 **Nikhil Kamath：** MIT 更难进吗？ **Anna Goldie：** 我记得申请博士时去 MIT 参加招生访问，他们说，如果访问期间下雪，录取者最终入学的比例会下降 60%。MIT 的体验更极端。冬天大家会走建筑之间的地下通道。斯坦福环境更舒服。 **Nikhil Kamath：** 有趣。两边都录取的人会选哪边？可能得看天气。MIT 好像是在各个维度上把痛苦优化到极致。如果你想受苦，就去 MIT。 我问一个蠢人向聪明人提的问题：你们一直都很聪明吗？中学时是班里的第一名吗？ **Azalia Mirhoseini：** 不是我。 **Anna Goldie：** 我也不是。 **Nikhil Kamath：** 不过你们肯定也排第二、第三或第四吧。我记得自己在印度读到六年级时，班里大约五十个人，还会公布名次。我那时大概排三十多名。 **Azalia Mirhoseini：** 后来发生了什么？ **Nikhil Kamath：** 六年级到七年级之间似乎有什么改变。我第一次出印度去美国旅行。差不多那时候，妈妈问我长大想做什么，我说想打板球。她说可以，但得每天训练。我练了三天，就意识到这不会是我的未来，于是可能开始认真起来了。 **Azalia Mirhoseini：** 我正好相反，小时候成绩很好，到了六七年级之后就变差了。 **Nikhil Kamath：** 看来你们最后都发展得不错。 **Anna Goldie：** 我记得高中第一份工作是园艺工，在太阳底下挖洞。我觉得这不是适合我的职业，也许该做点别的。 **Nikhil Kamath：** 这是暑期工作，还是大学期间做的？ **Anna Goldie：** 高中暑期工作，所以不知道算不算真正的工作。我不太适合那份工作，但尽力了。 我高中时也不知道长大想做什么，因为我什么都喜欢，这让我有点担心：生物、数学、物理、外语、法国文学，我都喜欢。 **Azalia Mirhoseini：** 你从小就很聪明。 **Anna Goldie：** 喜欢这些不代表我聪明，我高中时其实有点笨。不过我记得高三暑假参加了一个计算机科学与电子工程入门项目。午餐讲座会请 MIT 教授介绍研究方向。有一位教授讲到一种能理解并生成自然语言的计算机系统…… ## [1:28:26] 认识安娜·戈尔迪（续） · YouTube **Anna Goldie：** ……我觉得这是我想象过最了不起的东西。那是 2004 年，我立刻觉得这就是我想做的事。 **Nikhil Kamath：** 你职业生涯的大部分经历我们都知道，因为你最好的朋友每次都和你同一天做了完全相同的事。你们什么时候认识的？ **Anna Goldie：** 我们在 Google Brain 认识，也是同一天加入的。你知道 Google Brain 的驻留项目吗？我们一起参加了第一届。这群人很有意思，项目想把物理、生物等领域的博士聚在一起做 AI 研究。我记得有三千份申请，杰夫·迪恩亲自审阅，最后选了二十来个人。里面有后来 Periodic Labs、Thinking Machines、Sakana Labs、Harvey 和 Ricursive 的联合创始人，是个高度集中的优秀群体。我就是在那里认识阿扎莉娅的。她问我要不要一起锻炼。 **Nikhil Kamath：** 这些人有什么共同点？ **Anna Goldie：** 也许是强烈的投入感，或者某些方面特别突出。我不知道，因为不是我审核申请。但他们确实很优秀。 **Nikhil Kamath：** 是什么让他们出众？ **Anna Goldie：** 可能是聪明、好奇、有动力，也愿意学习新领域。对我来说，最吸引人的是可以自由选择研究方向、发表成果，并和其他聪明人合作。 ## [1:30:21] 一亿美元该做什么生意？ · YouTube **Nikhil Kamath：** 我想问你们一个问题。我是个不聪明的人（如果这是个词，你们可以纠正我），设法借到一亿美元，想在 AI 生态里创业。可以做你们各自做的事，但钱不够建前沿实验室。我应该做什么，专注哪个领域？ **Akshay Kothari：** 这真的取决于你：你对什么有深厚热情，又真正了解什么？ **Nikhil Kamath：** 我热衷于让投入的资金产生回报。 **Azalia Mirhoseini：** 我当时会问：有什么事非做不可、而且非我来做不可？我有没有合适的联合创始人？这些条件都成立，我才会做。 **Nikhil Kamath：** 如果我不知道答案呢？ **Azalia Mirhoseini：** 那也许就不该创业。 **Nikhil Kamath：** 好建议。 **Akshay Kothari：** 那就当风险投资人。 **Nikhil Kamath：** 现在 VC 泡沫也太夸张了。我认识一些风投像卖薯片一样交易二级市场股份：我今天从你这买，明天加倍卖给安娜，安娜再卖给你，你后天又卖给阿克谢，最后我手里还剩一半股票。知道“更大傻瓜理论”吗？只要总有更傻的人愿意出更高价，就没问题。但这不可能永远持续下去。傻瓜套傻瓜。 比如今年 AI 投入是七千亿美元，已经承诺或实际支出；AI 企业收入大约一千亿美元，这笔账听起来不对劲。 **Akshay Kothari：** 大赌注是，美国 GDP 大约 1% 用在软件上，13% 是服务业，50% 是知识工作。大家不指望软件突然增长更快，真正的机会是直接影响人类劳动。 **Nikhil Kamath：** 我可能记错了数字，但全球 GDP 大约一百万亿或一百二十万亿美元，一半左右是服务业。有人说，即使扰动其中 10%，五千亿美元投入也值得，因为那会是五万亿美元左右。这种推算方式很奇怪；也许还押注 GDP 会更快增长，但目前看不出来。 **Azalia Mirhoseini：** 问题还在于什么算 AI 收入。AI 以收入数据不明显的方式增强了个人能力。比如 Ricursive 的招聘理念是只招聪明且善于合作的人。在 AI 编程模型变得强大以前，这种做法不可行，因为还得雇很多人去做枯燥、琐碎的工程任务。现在可以用规模小得多的团队，招聘真正优秀、专业能力深的人。人数少、能力强、合作好，沟通成本也更低。 **Nikhil Kamath：** 这会有什么影响？也许技术普及不均，但如果同样的成果不再需要那么多人，也未必是坏事。 ## [1:34:22] 一亿美元该做什么生意？（续） · YouTube **Nikhil Kamath：** 你刚才说只招聪明又善于合作的人。不过也不能合作得太好，否则你们就不会换那么多家公司了吧？ **Azalia Mirhoseini：** 什么意思？ **Nikhil Kamath：** 如果你们合作得愉快、待得舒服，可能还会留在 Gemini 项目里。 **Azalia Mirhoseini：** 我在 Google 待了十二年，显然我很喜欢 Google。 ## [1:34:49] Google 做对了什么，又错过了什么？ · YouTube **Nikhil Kamath：** Google 错过了什么？过去十年里，它有哪些地方本可以做得更好？它是上市公司 Alphabet，比较容易追踪。 **Anna Goldie：** 我先说 Google 做对了很多事。他们有聪明的人、很强的研究员和工程师，有算力；很早就押注 TPU，我觉得很明智。他们还有分发渠道、生态和数据，这些都很好。 我觉得文化上有时行动比理想情况慢。二十万人的公司沟通成本很高，也更难迅速动员。我和阿扎莉娅当时都在 Google Brain，见证了 Transformer 的发现。有天半夜我们正在工作，听到卢卡斯·凯撒因为机器翻译的 BLEU 分数创新高而欢呼。Google、Google Brain 确实发生过很特别的事，但后来如何利用这些成果就是另一个问题。 Google 内部也有人训练大语言模型。有个叫 Meena 的项目，是 LaMDA 的前身，而 LaMDA 又是 Gemini 的前身。诺姆·沙泽尔和丹尼尔·德·弗雷塔斯想发布 Meena，但 Google 担心公关风险：有些记者专门寻找 Google 的错误并写报道。Google 害怕模型只要说错一句就会遭到猛烈批评，所以没有发布。之后诺姆和丹尼尔离开、创立 Character，后来又回来，再后来似乎又离开了。 **Nikhil Kamath：** 这对 Google 也许不好，但对创业可能有好处。Google 的理念是不是相信，把聪明人聚在一起、善待他们，让他们把创新分享给世界，会让所有人受益，包括 Google？ **Anna Goldie：** 完全正确。 **Nikhil Kamath：** AlphaChip 是 TPU 的前身吗？ **Anna Goldie：** TPU 在 AlphaChip 之前就存在，但 AlphaChip 用来训练生成下一代 TPU 的芯片布局；之后我们又在这些 TPU 上训练 AlphaChip。如今它已经用于五代芯片，包括 Axion、Pixel 手机、Waymo 芯片，也被 MediaTek 等外部公司采用。 ## [1:37:19] AI 芯片与 NVIDIA 的优势 · YouTube **Nikhil Kamath：** NVIDIA 的护城河是什么？我不懂技术，但知道他们有 CUDA 这个操作系统，积累了很多上下文。 **Anna Goldie：** 我觉得他们的护城河随着时间变化了，现在不只是 CUDA。我不记得黄仁勋最近一年多还谈过 CUDA 护城河。现在模型能让小团队更快行动，也能直接写汇编语言；过去为人类设计的抽象层可能没那么重要了，所以 NVIDIA 的某个传统优势有所减弱。 与此同时，他们有完整生态：设计了机架，有 NVLink Fusion 项目，也发布 Nemotron 这样的开放模型。CUDA 只是整个系统的一部分。 **Nikhil Kamath：** 所以现在的护城河是沿着价值链向前向后整合？ **Anna Goldie：** 对，还有规模和可靠性。人们知道 NVIDIA GPU 好用，值得信赖。 **Nikhil Kamath：** 如果让你下注，你会按未来盈利 30 到 35 倍买 NVIDIA 吗？ **Anna Goldie：** 我认为 NVIDIA 会发展得很好。 **Nikhil Kamath：** 如果必须在 Alphabet 和 NVIDIA 之间选一个，按现在的估值呢？ **Anna Goldie：** 我也看好 Alphabet，不过…… **Nikhil Kamath：** 但你会选 NVIDIA。 **Anna Goldie：** 我不说了。 **Nikhil Kamath：** 我们听出来了。 **Nikhil Kamath：** 回到我这个拿一亿美元创业的笨人。如果我没有热情，也从零开始，有没有什么商业机会是你有时间就会做的？告诉我一个，我好偷走你的点子。 **Anna Goldie：** 如果你对某件事没热情…… **Nikhil Kamath：** 我可以培养热情。你比我聪明，我相信你，我就能对它有热情。 **Anna Goldie：** 我觉得我正在做自己最热爱的事。 **Akshay Kothari：** 那就投资她的公司。 ## [1:39:59] AI 股份、二级市场与财富浪潮 · YouTube **Nikhil Kamath：** 你们现在在融资吗？ **Anna Goldie：** 目前没有。 **Nikhil Kamath：** 卖二级股份吗？有风投收 10% 业绩分成和 2% 管理费，还在卖你们的二级股份吗？Ricursive 不做 SPV？ **Anna Goldie：** 不做。 **Nikhil Kamath：** 现在好像人人都有 SPV。我认识很多人仅靠卖 Anthropic 股票就发了大财。有人把别人的钱放进 Anthropic 的 SPV，再收业绩分成，赚得非常多。 **Anna Goldie：** 不过那些投资的钱可能也涨得很好。 **Nikhil Kamath：** 对，投资者赚得很好。我听说 Anthropic 不允许股份转让，也不承认这些交易，所以不知道那些 SPV 最后会怎样。 有次我带孩子去游乐场，又碰到想买 Anthropic 股票的人。过去一年里，我第一次听到好几个人说“价格不重要”。我收到了很多邮件，问我是否愿意出售 Anthropic 股份。 **Nikhil Kamath：** 你们有 Anthropic 股份？ **Anna Goldie：** 有，我和阿扎莉娅是 Anthropic 很早期的员工。 **Nikhil Kamath：** 现在只有 Anthropic 股东才能买得起房子了？我看到新闻说，有人只接受用 Anthropic 或 OpenAI 股份买房。我没亲自这么做。要是它十一月以两万亿美元上市，你们会变得非常富有。你们准备怎么处理这些财富？ **Anna Goldie：** 还有一点有意思：未来可能会出现巨额慈善捐赠浪潮。Anthropic 允许员工承诺捐出最多 50% 的股权，公司还会按某个倍数配捐。我不说具体倍数，但总额可能是数千亿美元，真的非常慷慨。 **Nikhil Kamath：** 你觉得这些钱该投向哪里？不过捐赠也可能导致 Anthropic 股票下跌，因为总得有人卖出；谁能接下数千亿美元的新股？ **Anna Goldie：** 我不知道他们具体怎么安排，但我觉得会有买家。 **Nikhil Kamath：** 我不确定这种规模，但中东国家靠每桶 110 美元的原油收入会有钱，俄罗斯也有钱。软银孙正义都能给软件基金募一千亿美元，这只是同一类事情。我收件箱里的询盘也说明确实有买盘。要参与 AI 投资的话，Anthropic 可能是市场上最好的标的之一。 ## [1:42:54] 国家和公司能拥有自己的 AI 吗？ · YouTube **Nikhil Kamath：** 你们怎么看主权 AI？我作为外国人住在这个国家，先不谈关税等因素。你们和我来自同一个地方，但现在都是美国人。很多人把中国当作一个可以复制的样板：在本地做出很像美国产品的产品，由本国公司运营。 我第一份真正的工作是在 Tripadvisor 的中国团队，为中国市场做高度本地化的 Tripadvisor。我觉得几乎所有产品都会发生这种情况，包括社交媒体。我这周见了一些社交媒体从业者，越来越多国家的政府担心外国公司掌握本国民众太多注意力；世界一些地方发生过政变，政府这么考虑也有道理。这也会发生在社交媒体和前沿 AI 模型上，最后会出现本地复制品。 这是不是一个值得投入的方向？比如用开源开放权重模型做推理服务，等政府封锁外国模型，再提供本地服务、掌握本地上下文？ **Akshay Kothari：** 这里确实可能有机会。 **Nikhil Kamath：** 而且不只是国家层面。公司也希望拥有对自己关键、敏感任务所用模型的控制权。 **Anna Goldie：** 是的，完全如此。 **Nikhil Kamath：** 那就是我用一亿美元能做的生意。我们想出来了：数据中心。摩根大通不希望高盛知道自己的洞见，但它确实想最大化利用 AI。国家也是一样。 **Vijay Krishnan：** 对。 **Nikhil Kamath：** 不同族群和个人也是如此。 ## [1:45:07] 开放模型、规模定律与本地 AI · YouTube **Nikhil Kamath：** 你们怎么看中国的开放权重模型？它们可能比美国模型落后几个月。长期会怎样？ **Vijay Krishnan：** 这肯定会带来很大的竞争压力。我预计未来大量推理 token 会经过开放权重模型。但在需要最高智能水平的场景，人们仍会使用最前沿模型。前沿模型的优势，关键是至少领先世界几个月。 **Nikhil Kamath：** 阿扎莉娅之前谈过规模定律。它们会停止生效吗？我记得在 Anthropic，我们看到规模定律持续了好几个数量级，后来好像停了；结果发现是数值精度有 bug。修好后又继续，后来再次停止，又修了别的问题。我觉得它不会停。你们认为前沿模型会停在某个地方吗？ **Anna Goldie：** 你是说人们不再花钱，还是开放权重模型追上来？ **Nikhil Kamath：** 开放模型会追上前沿模型吗？ **Anna Goldie：** 开放模型生态里，人们可以互相构建，整体水位都会提高。同时规模定律确实存在；如果算力摊到很多模型上，而前沿实验室在训练配方、架构和数据方面都更系统，那么单个模型的智能有其上限。 我也希望美国能做得更好，更多美国公司发布开源模型，让大家共同构建。中国或任何国家都不该垄断这一领域。 **Azalia Mirhoseini：** 我完全同意。我希望美国也有占主导地位的开放权重模型。 **Anna Goldie：** 美国可能有个原因：就像森林里高大的树遮住地面的植物，OpenAI 和 Anthropic 的模型太强，别人会觉得“我自己训练模型很傻，为什么还要发布？” **Nikhil Kamath：** 还是因为蒸馏违法，导致美国公司不能做？ **Anna Goldie：** 我觉得这也是因素。美国公司不会蒸馏前沿模型，因为要遵守服务条款。 **Nikhil Kamath：** 解释一下蒸馏怎么做？ **Anna Goldie：** 可以获取最强模型的输出，用它们训练较小模型，让小模型近似大模型。如果能拿到内部激活值，效果会更好。激活值可以理解为人工神经元不同的反应。如果能看到教师模型处理某个序列时的内部状态，就不只是模仿输出，还能模仿底层状态，从而学得更快、更高效。 **Nikhil Kamath：** 就像安娜开了一家很棒的餐厅做披萨，我买一片尝尝，推测里面放了什么？ **Anna Goldie：** 可以这么理解。 **Azalia Mirhoseini：** 也像读完一个聪明人写过的所有邮件，从中学习；如果还能直接观察他写邮件时的思路，也许学到更多。 ## [1:49:09] 开放模型、规模定律与本地 AI（续） · YouTube **Nikhil Kamath：** 所以这种方式比从头训练便宜一到两个数量级？ **Anna Goldie：** 没错。 **Nikhil Kamath：** 那两者比较起来不太公平。开放模型应该不会比前沿实验室有更多上下文，对吧？人们会更愿意把上下文交给开放模型，还是前沿实验室？也许正好相反。 **Azalia Mirhoseini：** 我觉得是相反的。ChatGPT 或 Claude 接收的数据量可能大几个数量级。开放模型的 API 服务商未必会把查询内容吸收到公司里。如果直接发布权重，人们可以在自己的芯片上本地运行，数据就不会回流。 **Nikhil Kamath：** 我很期待这样的世界：最终只有自己的电脑在做推理，到那时我会分享多得多。 **Azalia Mirhoseini：** 对，这才是真正的主权：自己的芯片、自己的模型，信息不会流向大型云服务商。 **Nikhil Kamath：** 这最终会发生吗？ **Azalia Mirhoseini：** 为什么不会？随着单个模型智能提升，能够在本地设备上运行的小模型会变得足够好用。每个人都可以拥有自己的上下文，不必分享。我认为现在已经可以做到，未来能在本地设备上运行的能力只会不断增加。 **Nikhil Kamath：** 这会不会让前沿模型因为缺乏新上下文而停止进步？它们会不会找像 Turing 这样的人生成合成数据继续变好？ **Anna Goldie：** 模型越智能，能有效执行的任务范围就越广，人们会持续部署这些模型，也可能是代理和代理交互。只要它们有实际问题要解决、有反馈机制，在环境里探索就能学习并改进。这会降低基础能力门槛，让人们可以在电脑上做很多事，而不必接触推理或模型服务商；前沿模型则会不断抬高上限，继续处理更高级的问题。 **Azalia Mirhoseini：** 只要员工还没有百分之百变成 AI、一个人类都不剩，前沿模型就会有用。前沿模型的定义就是：它在某些关键任务上比其他可用方案更好。也许最终会出现某种“反蒸馏”：相较于和人类对话，和 AI 对话可以获得智能含量更高的 token。 **Vijay Krishnan：** 嗯。 **Nikhil Kamath：** 我们是人类而不是 AI 的概率有多大？ **Azalia Mirhoseini：** （笑）我觉得我们大概还是人类吧。 **Nikhil Kamath：** 最近新闻里有很多关于人类百分之十会死亡之类的说法…… ## [1:52:12] AI 风险、安全与人类控制 · YouTube **Nikhil Kamath：** 大家应该都读到、看到或听人谈过这件事。作为一个圈外人，我很害怕。身处这个领域的人，你们怎么看？ **Vijay Krishnan：** 我觉得我们已经面对现实问题了，不是什么科幻情节，而是各种自主武器。有人认为不能让人在环路中，因为如果你因此减速，而对手没有减速，就会处于竞争劣势。这让我想到核武器时代的博弈论：有人相信毁灭论，有人相信“相互确保摧毁”（MAD）。这种极限情况很难分析，但显然存在巨大的网络安全风险。强大的工具既能做好事，也能做坏事。 **Nikhil Kamath：** 核武器有一道人工“断路器”：理论上，计算机不能自行发射炸弹，必须由人转动两把钥匙。AI 是否也会这样？人会不会找到一份工作，成为网络和最终任务之间的中间人？比如银行不让计算机直接指令转账，要求真人和我视频通话，确认是我本人授权。银行可能因此要雇更多人。 假如 AI 某种程度上入侵整个银行系统，所有资金转移和交易都停止，解决办法是加入人工中介吗？人真的更善于识别吗？ **Anna Goldie：** 人可能更擅长确认指令来自真实的人，但大家一直会中钓鱼攻击、被网络身份欺骗，我不确定我们真有那么擅长。我们也做了很多大规模运营，运营团队要运作起来，就不能让每个人都自主思考；必须让人遵循简单的“如果……那么……”指令，这比 AI 之前的计算机能解决的还简单。 过去人和机器的竞争优势比较清楚：机器负责明确规则能处理的事，人负责其他领域。但这个界限正在模糊。我最近在用 Instinct，创办人 Theo 非常年轻、表达能力很强。今天早上我在健身房听他的第一场访谈，他说 Instinct 的用户增长率已经达到 10%，这本身很惊人；而且大约 40% 的用户把信用卡访问权限交给了它。这听起来像是灾难的配方。 **Nikhil Kamath：** 也意味着收入会大涨。 ## [1:56:16] AI 风险、安全与人类控制（续） · YouTube **Nikhil Kamath：** 我在猜测下一步会发生什么：如果有人入侵银行系统，让它停摆一两天，之后会怎样？还有个例子：很多人的钱放在利率只有 0.5% 的糟糕储蓄账户里。如果每个人的个人代理都把这些钱挪去买 4% 到 5% 的美国国债，银行系统可能会崩溃。当然国债收益率也可能变化。银行靠这 0.5% 的利差生存；如果利差消失，就得从别处收费。这和软件公司的生产力争论类似。银行不会赚得更多，甚至可能赚得更少。 **Akshay Kothari：** 如果变化是渐进的，我觉得人们也会用同一项技术来防御。比如安全领域，攻击手段迅速增加，但我们也用同样的技术防御。Hugging Face 那次事件里，有一群代理发起攻击，而对方用开放权重模型来防御。 **Nikhil Kamath：** 你们怎么看这件事？我看过一些日志，他们似乎在互相沟通。谁懂的话给解释一下。 **Vijay Krishnan：** 我也没有完全理解。 **Anna Goldie：** 我们理解程度不一样，我先讲大概：训练强化学习模型时，会设置在特定情况下触发的奖励函数。模型自然会逐渐发现能帮助它获得奖励的漏洞。这并不让我惊讶。我多年前读过理查德·道金斯的《自私的基因》，之后就会用这个框架思考不同动物可能具有什么性质…… **Nikhil Kamath：** 我也读过。他讲的是生物，AI 不是需要进化的生物。 **Anna Goldie：** 但他也说生命与非生命之间没有根本差异。他讲的是复制分子、生存机器，以及如何回应进化压力。你也可以把奖励函数看作某种压力，不同奖励函数会形成不同均衡。我觉得这种现象可以预期。 **Vijay Krishnan：** 也可以说，表现好的模型架构或训练配方会吸引算力投入、不断扩散。Instinct 年增长 10%，这或许也算一种适应度演化。 **Akshay Kothari：** 说到自动检查，我对这一大类事情有点怀疑，因为它们不需要 AI 代理。我听说有些公司接入你的银行账户，声称会做这种优化，听起来像骗局。 **Nikhil Kamath：** 我觉得 Instinct 也会做这个。你把银行账户托付给它，它就能替你操作。 **Akshay Kothari：** 也许世界能撑住，是因为人类摩擦会让变化更渐进。 **Nikhil Kamath：** 但人类摩擦会不会变成一种商业模式？会不会有数百万人作为 AI 与执行之间的人工摩擦层？ ## [2:00:17] AI 风险、安全与人类控制（续） · YouTube **Vijay Krishnan：** 我听过斯坦福商学院最近一场演讲，讲的正是这个观点：即使只留下少量摩擦，你优化了整个流程的 80%，剩下那点摩擦也会成为限速环节。或许正因为各种摩擦，即使最乐观的 AI 支持者也没说美国从 2029 年起会连续每年增长 10% 以上。大家说的通常只是 GDP 增速再提高 0.25% 左右。我怀疑原因正是这些不同的摩擦因素。 ## [2:01:05] 印度应该在 AI 领域建设什么？ · YouTube **Nikhil Kamath：** 在世界走向多极化、各国都服务本国之前，主权 AI 有什么现实用途？你们都来自印度。没有硅谷或中国那样的风险资本，印度政府或印度人该怎么做？ **Akshay Kothari：** 建设算力。 **Vijay Krishnan：** 这显然是首要选择。 **Akshay Kothari：** 能建多少就建多少。我觉得需求会无限增长，政府也应该能要求公司使用本地算力，建立本国能力。 **Nikhil Kamath：** 印度 GDP 也就四万亿美元左右，哪怕要求本地部署，国内算力需求能有多大？国家能怎样分到 AI 热潮的一杯羹？一般得是别的国家付钱让我们做某件事。印度 IT 外包产业的缺口也得由其他东西填补。 **Akshay Kothari：** 我理解主权 AI 是各国希望某些服务在本地或本国境内提供，可能是出于安全等原因。我不知道印度未来五年会用掉多少算力，但感觉需求近乎无限。 **Nikhil Kamath：** 但那会成为 GDP 的一部分，除非 GDP 也增长。 **Akshay Kothari：** 应用层也很有意思。印度 IT 公司到现在还没成为 Mercor、Turing 这样的公司，像是错失了机会。实际解决这些问题、标注数据的人很多就在印度，但美国公司在这里用这些劳动力并创办公司，这有点奇怪，感觉印度错过了这班车。 中国在做开放权重模型，印度为什么没做？是因为仍然太贵，还是我们不够有野心去开发本地模型，至少开发有竞争力的本地开放权重模型？ **Vijay Krishnan：** 我不会低估风险资本不足是多大的问题。 **Nikhil Kamath：** 印度最大的 AI 尝试可能是 Sarvam，我听说手头有两三亿美元。美国这边有私人风险资本，中国有政府资本，其他人夹在中间，不知道该怎么办。 安娜，你有什么想法吗？ **Anna Goldie：** 我觉得部分原因在于生态系统。我在斯坦福有位合作者，被印度政府选中创业，政府给了他的公司几千块 GPU，让他训练印度语言的语音模型。我觉得这很棒，也是印度政府正在做对的事。他们先在一个规模较小、非常精英的群体里试点，再逐步扩大。 ## [2:05:06] 印度应该在 AI 领域建设什么？（续） · YouTube **Anna Goldie：** 风险投资生态也会有帮助。 **Nikhil Kamath：** 对。虽然我不知道该怎么建立这种生态，但我还有个想法。结合安娜说的小团队现在也能打造出令人印象深刻的公司这一点：在印度创业仍然非常困难。 我今天跟印度创业者说愿意做天使投资，结果三个月后才拿到文件，还要公证。我觉得这些麻烦让我想停止投资。政府确实在努力，但仍有很大空间去帮助年轻人创办公司和小企业。不是每个人都需要创办 AI 模型公司；未来会出现大量适合建立的小企业，我们能不能扫除障碍？ 今天我和 Neeraj 以及 GC 团队吃午饭，听说美国人都在争着投资印度公司，比如太空公司 Skyroot。我觉得 Benchmark 也想投，大家都想进来。印度总理做了很多减少官僚繁文缛节的工作，让 Skyroot 真正发展起来。太空可能是印度能做好的领域之一。 **Azalia Mirhoseini：** 太空是很好的例子。印度可以把全世界正在做的事情，以百分之一甚至千分之一的成本做出来。机会很多，医疗和疫苗也是如此。 **Nikhil Kamath：** 我成长以来，印度已经有了很大改善；但显然还有很多可以继续改进的地方。 ## [2:07:12] AI 安全警告是真心的吗？ · YouTube **Nikhil Kamath：** 那些“监管套利”的说法呢？有人说末日论者这么说，是为了推动监管套利，让新竞争者更难进入。你站在哪边：觉得他们只是想限制竞争，还是觉得他们良心发现、真心相信自己说的话？ **Anna Goldie：** 我觉得他们说的是自己相信的事。我确实认识不少 Anthropic 研究人员，他们说：“如果必须在 AI 安全和我的股票跌到零之间选，我宁愿股票跌到零。” **Akshay Kothari：** 我没见过太多在那些公司工作、持这种观点的人。 **Nikhil Kamath：** 安娜之前在 Anthropic 工作过。 **Anna Goldie：** 我刚加入时直接向 Dario 汇报。我觉得他是真诚的，不止他一个人；还有好几位研究人员真把这看作现实风险。 **Azalia Mirhoseini：** 我不知道能不能量化成 10% 或更高更低，但问题是沟通很困难。那条“10%”的帖子传到了印度地方报纸。 **Nikhil Kamath：** 如果相关人士说世界上 10% 的人会死，这消息肯定会传开。我不知道那期讨论到底有多大帮助，相比风险本身…… ## [2:09:04] 如果世界只剩最后一个月，你会怎么过？ · YouTube **Nikhil Kamath：** ……风险是真实的。安娜，如果世界要毁灭了，你会怎么度过最后一个月？ **Anna Goldie：** 我想我会继续做现在做的事。 **Nikhil Kamath：** 真的？不去度假、亲近自然、看看日落？ **Anna Goldie：** 我想和喜欢的人待在一起，比如我的联合创始人、团队，也包括家人、丈夫和朋友。但我现在就在这么做。 **Anna Goldie：** 你呢？ **Nikhil Kamath：** 我不知道，可能会彻底享乐、放纵自己。 **Anna Goldie：** 放纵自己是什么意思？ **Nikhil Kamath：** 喝醉、买辆车再撞坏它。把它砸烂，做平时不会做的事。 **Anna Goldie：** 那你现在就可以买车砸了，何必等世界末日？ **Nikhil Kamath：** 我们有很多事情不做，是因为担心长期后果。如果整个社会知道明天可能就不复存在，人们可能就不会那么在意长期影响。 **Anna Goldie：** 我们天生会追求短期快乐，很难延迟满足。人类经过进化才学会延迟满足。 **Nikhil Kamath：** 可能因为我是 MIT 的人，习惯把痛苦优化到极致。其实我觉得那很蠢，现在不这么做了。你们呢？ **Akshay Kothari：** 我有两个年幼的孩子，可能会多陪陪他们。 **Nikhil Kamath：** 这回答很像受过媒体训练。不过继续。 **Azalia Mirhoseini：** 我也一样。我有三个年幼的孩子，第四个快出生了。我当然打算多陪陪他们。我建议你也生一个。 **Anna Goldie：** 这些回答像选美比赛时会给出的答案。 **Nikhil Kamath：** 可惜这确实是真的。人并没有那么单一，你懂我的意思吗？我们有很多面向，内心也有阴影，并不是乏味的存在。 **Anna Goldie：** 我觉得香草也不是乏味的口味，它是一种美妙而复杂的味道，不是没有味道。 **Nikhil Kamath：** 公平。不过也许你得尝过巧克力、芒果、开心果等很多口味之后，才会得出这个结论；在一个道德主义社会里，有些口味不让尝，还会一直盯着你。 **Nikhil Kamath：** 如果我们有 10% 的概率都会死，我觉得大家应该像今天就是最后一天那样生活。 **Akshay Kothari：** 没错，就像今天…… **Nikhil Kamath：** 但这真的会改变什么吗？生命转瞬即逝。我们有谁真的像地球最后一天那样生活？ **Vijay Krishnan：** 或许“最后一天”这个时间尺度太短了。 **Anna Goldie：** 我很难想象这两种情况会导致完全相同的行动。很多文明都建立在维持较低贴现率的基础上；若要把贴现率提高很多，我无法想象人们还会采取同一套行动。 **Nikhil Kamath：** 那宗教会怎样？人们也许会觉得更需要宗教。耶和华见证人相信世界会终结，有人会来拯救他们，因为他们知道末日日期。信仰在长期下行之后又在增长。你觉得是政治在推动信仰回归，还是即使不考虑政治，宗教也会增长？ ## [2:13:07] 如果世界只剩最后一个月，你会怎么过？（续） · YouTube **Nikhil Kamath：** 法国哲学家勒内·吉拉尔提出了“模仿理论”。我想象，如果一个孩子出生后一直被单独关在盒子里，十岁时才放出来，他会不会突然读到海洋分开、有人走过海底，或飞天诸神之类的故事？因为他在周围现实中看不到这些，当然也排除了童年时灌输给他的东西。 **Vijay Krishnan：** 是说孩子独自待在盒子里吗？人被关在盒子里会脑部受损，也学不会语言。 **Nikhil Kamath：** 对。我想吉拉尔的模仿理论是说，我们也受周围人渴望的东西影响。我们并非天生相信或想要某些东西，而是从周围人身上习得欲望。 **Vijay Krishnan：** 对，地位是很重要的驱动力。 **Nikhil Kamath：** 我说盒子，就是因为里面没有别人可供模仿。 **Vijay Krishnan：** 没错。人们普遍承认，对地位的渴望是一个核心驱动力。因此这自然也印证了你的观点。 ## [2:14:41] 智能手机之后会是什么？ · YouTube **Nikhil Kamath：** 有件事似乎一直没变：AI 在快速变化，但和 AI 互动的方式、我们使用的设备和硬件都没变。iPhone 还是 iPhone，为什么？ **Anna Goldie：** 变化快来了。 **Azalia Mirhoseini：** 我也这么想，会有一波硬件设备爆发。 **Anna Goldie：** 我觉得只是需要时间。AI 四年前才爆发，大家一直在迭代。至少在硅谷，这像是一场硬件复兴。如果我是风投，可能会押注这个方向。 **Azalia Mirhoseini：** 硬件种类还不够多，部分原因是设计新芯片要花很长时间。比如 TPU 代际之间，团队会尽量只做保守、细微的改动；否则可能要一两年也赶不上芯片设计周期。如果用 AI 方法压缩设计周期，就能更有创意地设计、流片并部署各种硬件，iPhone 也许会变得很不一样。 **Nikhil Kamath：** 未来我们会怎样和硬件互动？用声音，还是拿在手里的手机？ **Azalia Mirhoseini：** 眼镜是个很合理的选择，它能让模型看到、听到你看到和听到的一切。还有脑机接口之类的技术。如果你不出声，只是在脑海里想说某句话，硬件也可能检测到；这样就能更私密地和设备沟通。 **Nikhil Kamath：** 对。 **Azalia Mirhoseini：** 用手机打字可能不是未来和这些智能系统互动的方式。语音很高效，但我觉得在别人旁边对着设备讲话很奇怪，也不够私密。 **Nikhil Kamath：** 我和阿里安开车来时，我们俩都在用笔记本，但在别人身边直接对设备说话确实怪。 **Azalia Mirhoseini：** 即使你没有大声说出来，人在想要说某句话时，声带也会以某种方式运动，可以检测到。这样就能和设备交流，而不必在别人旁边出声。 **Nikhil Kamath：** 或者 Neuralink 之类的。 **Azalia Mirhoseini：** 对，这些技术发展很快，只是还要看何时进入主流。如果我们不必盯着设备、能更多与现实世界互动，那会是很棒的世界。 ## [2:17:48] 社交媒体与娱乐的未来 · YouTube **Nikhil Kamath：** 对。现实世界会怎么变化？社交媒体会变成什么样？我这么问有点自私，因为我想在这个领域创业。你觉得社交媒体的未来是什么？ **Anna Goldie：** 这就是你准备拿一亿美元创业的方向？ **Nikhil Kamath：** 对。 **Anna Goldie：** 有道理。你为什么对社交媒体这么有热情？ **Nikhil Kamath：** 我觉得今天的主流社交媒体很擅长提供多巴胺，但没兑现最初的承诺。我觉得现在没人通过社交媒体建立真正联系了。我个人认为，它会回归线下、亲近现实生活的世界，回归那些能组织现实活动的人。新的社交媒体可能会告诉你“放下设备”。 **Azalia Mirhoseini：** 我觉得可能会朝另一个方向走，比如 Pokémon GO 那种虚拟世界。 **Nikhil Kamath：** 你是说 Meta 尝试过的那种戴设备进入虚拟世界？但如果你和很多代理打交道，那甚至比在社交媒体上联系朋友更隔了一层。 现在最年轻人群的传统社交媒体使用量似乎在下降，这很奇怪。16 到 20 岁或 25 岁的人比两年前用得少、登录次数也减少了。他们在做什么？ **Vijay Krishnan：** 我愿意押注他们在用 AI 伴侣应用。 **Azalia Mirhoseini：** 他们在尝试代理。 **Nikhil Kamath：** 我在这里遇到一些很酷的年轻人，那些两周前创办公司、如今融资十亿美元的人。现在炫耀的不是“我有十亿社交媒体粉丝”，而是“我装了应用，每天社交媒体使用时间不超过三十分钟，我不用 TikTok 或其他时髦平台”。这些酷孩子做的事可能会逐渐形成潮流。 **Akshay Kothari：** 这可能是个好趋势。恐怖片也在兴起，我觉得那是新型娱乐。 **Anna Goldie：** 让人产生情绪的东西都会受欢迎。我愿意打赌，会出现大量 AI 生成的个性化多媒体，远超纯文本 AI 伴侣。想象一种 TikTok，AI 知道你想看什么，然后持续为你生成视频，每个人看到的都是独一无二的视频。 **Akshay Kothari：** 这已经在发生。很多人正在做互动视频，观众参与其中，内容实时变化。我记得去过一次 A24 晚宴……现在能实现的东西真疯狂。 **Anna Goldie：** 也许新的娱乐形式会出现。我和人聊过通用人工智能之后人类会做什么，或许我们会发明一种新运动：二十辆车绕圈跑七十圈，大家照样喜欢看；我们还会创造更多运动。 **Azalia Mirhoseini：** 电子游戏里最令人满足的体验，往往有恰到好处的挑战和投入曲线。人们想要满足感、进入心流、解决问题和学习。如果真的想最大化这种体验…… **Nikhil Kamath：** 对，这说得很好。这让人感到快乐，而社交媒体似乎正好相反。短时间内可能有些好处，但…… ## [2:21:45] AI 会取代我们使用的应用吗？ · YouTube **Nikhil Kamath：** 你怎么看 Uber 这样的界面应用？代理，甚至 Instinct，似乎正在让这些应用从人们生活中消失。如果我只要告诉 Instinct 想吃什么，为什么还要打开 Uber Eats 或 DoorDash？ **Vijay Krishnan：** 我的看法有些不同。我不认为聊天是所有事情的正确界面。以食物为例，你可能想找灵感、浏览有哪些选择。对你展示不同选项来说，聊天并不是最高效的方式。网购也一样，你可能想先获取想法、比较商品。更智能的工具当然能帮助比较。 我也经常听到 AI 可以帮忙订票，但我不觉得这是最好的应用场景；现在的在线订票已经很高效，很难再大幅提升。确实有些使用场景能从新界面受益，但还有很多场景已经接近能力前沿了。 **Akshay Kothari：** 对，我同意。现在还很早，像 MS-DOS 时代，只能来回发文本，这不可能就是未来。模型很擅长生成界面。 **Nikhil Kamath：** 文本很麻烦，语音有时很舒服，但又太打扰人。所以针对不同用途会出现新的界面。眼镜其实还没有真正普及。 **Akshay Kothari：** 目前真正好的眼镜还是太贵了。我试过 Meta 的一款，重量只比这副眼镜重约 30%。那是我第一次觉得可以放弃手机的设备。 **Nikhil Kamath：** 那你为什么不放弃手机？ **Akshay Kothari：** 它还没上市。他们已经有技术了，但可能要两万美元，太贵了。每年推出的新眼镜都会增加一点功能：最初只是拍照、听播客，之后会继续增加。我已经戴眼镜了，所以觉得这个方向有前景。 **Nikhil Kamath：** 那我们这些不戴眼镜的人怎么办？我不喜欢眼睛上一直戴着东西。 **Akshay Kothari：** 说实话，我戴智能眼镜的唯一原因是拍照更方便。带孩子外出时，我确实会多拍些照片，仅此而已，完全没用到 AI。我记得最初的 Google Glass 内部测试也不是时候，因为当时几乎没有能支持的应用：拍照、实时翻译、Google 地图，差不多就这些。你还得突然低头看一个小屏幕，很尴尬。 **Nikhil Kamath：** 新眼镜希望能做到无缝使用。 **Akshay Kothari：** 是的。我看好这个方向，可能也因为我已经戴眼镜。 ## [2:25:45] AI 会取代我们使用的应用吗？（续） · YouTube **Nikhil Kamath：** 对你来说，成本更低、摩擦更少。 **Akshay Kothari：** 我觉得眼镜只要比现在重 30%，我也能接受。 ## [2:25:51] 最后的想法：产品设计与更好的学习 · YouTube **Nikhil Kamath：** 今天最后有什么一闪而过的想法吗？ **Anna Goldie：** 你可以拿这一亿美元…… **Nikhil Kamath：** 好，就做这个。最后再问一次，我这一亿美元该做什么？ **Azalia Mirhoseini：** 在印度开一所产品设计大学。 **Nikhil Kamath：** 嗯。好吧，我从银行借一亿美元，然后该做什么？ **Anna Goldie：** 你可以卖掉 Anthropic 股份的 0.1%，就能拿到这笔钱，比借钱容易多了。 **Nikhil Kamath：** 但你建议我拿一亿美元做什么？ **Anna Goldie：** 你看起来对社交媒体很有热情，我觉得你应该做那个。 **Nikhil Kamath：** 也许我们可以聊聊，你告诉我该做什么。 **Anna Goldie：** 好啊。 **Akshay Kothari：** Ricursive 社交媒体。 **Anna Goldie：** 最近我见到的社交媒体从业者把 IRL 说成“反向递归学习”（inverted recursive learning），这是我过去几天新学的词。 我觉得如果有一种 AI 工具可以大幅加快学习，会很有意思。比如孩子能以十倍速度学习，并且高度个性化，还能仔细设计界面和整体体验。当然，掌握一门知识也要付出努力、消耗思考 token。我不确定这一整套东西具体怎么实现，但模型似乎已经具备远超传统课堂的智能。需要有人仔细思考怎样把它做成合适的产品。 现在这些工具对成年人都不算特别好用，更不用说孩子了。我很好奇它们会怎样影响儿童学习，能不能释放全世界数十亿人的人力潜能。这是个开放而有意思的想法，只是如何变现始终是个难题。 **Nikhil Kamath：** 还有其他想法吗？谢谢大家来参加，对我来说很有意思，我学到了很多。希望你们也觉得有趣——我知道你们没学到多少。谢谢大家抽时间来聊。 **Azalia Mirhoseini：** 谢谢你把我们聚在一起。 **Anna Goldie：** 聊得很开心。 **Nikhil Kamath：** 谢谢，今天很愉快。好，结束。