萨姆·奥尔特曼：AGI、算力与人类能动性Invest Like The Best

我认为，这可能会成为人类历史上最伟大的技术成就。但它真正有意义的前提，是让人们的生活比原本可能拥有的生活好得多。

我们即将造出一个几乎能满足任何愿望的精灵。人们会提出极富创造力的愿望，也会想到许多不可思议的东西，想让 AI 帮自己把它们造出来。

围绕 AI 形成的权力集中非常可怕。没有人应该希望生活在一个由 AI 霸主统治的世界里，也不该希望由某家公司扮演大致相当于这种霸主的角色。

至关重要的是，我们要保留早期互联网的那种精神，并且让所有人共同保有决定自身未来的能力。

我们当时同时在做太多事情。那些事情本身都值得做，但我们的注意力不够集中。我们把自己摊得太薄，后来不得不作出一系列艰难决定，重新聚焦。

现在的重点，是提供最好、最充裕、成本效益最高的智能，并让全世界都能用它造出不可思议的东西。

最大的疑问曾经是：像 OpenAI 这样的公司购买了如此多算力，背后究竟有没有足够的收入和需求支撑。我们考虑过消费应用、媒体，以及其他能在收入增长较慢时变现 GPU 的办法。后来整个行业的收入增长变得极其陡峭，模型进步的经济回报也越来越清楚，局面因此改变了。

从根本上说，我们的生意是出售 AI，让其他人用它为彼此创造产品和服务。我们必须训练出真正优秀的模型，让它们在编程、知识工作、科学研究等人们关心的方向上都足够好；我们也必须自己生产或与伙伴共同生产芯片和系统，找到土地、电力和数据中心外壳，最终还要造出能自动化供应链、持续压低成本的机器人。但我们并不想自己做每一个垂直应用，也不想吞掉每一家创业公司。我们更想提供一个平台，让智能像电力一样渗透进整个经济。

重新聚焦以后，我们的进展非常惊人。根据目前管线里能看到的东西，未来一年我们能推出的模型和产品，应该会让人们以全新的方式借助这项技术发展得更好。

我们能看到，AI 会成为人们表达聪明才智、创造力、造物欲和“想成为有用之人”的极其重要的方式。我们知道算法会更高效、模型会越来越好，但无论效率提升到什么程度，这件事的本质仍然是把电力转化为有用的智能。我们相信，人们对这种智能的需求只会越来越多。

我会说，真正的确信来自 GPT-4，甚至不是 GPT-3.5。那时模型已经聪明到足以让我们相信：我们能够找到一种有效的推理方法，进而做出今天所谓的智能体。

我们开始给云服务商、晶圆厂和能源供应商打电话。几乎所有人都说我们完全疯了，没有哪个行业会这样扩张。

多数人都拒绝了我们，但你真正需要的只是一两个“愿意”。微软是第一个重大的“愿意”；后来甲骨文在云侧给了一个非常大的“愿意”；英伟达也一直是极其重要的伙伴。如今，在推理、训练和数据中心设计上，已经有上千种可以创新的方式。

一座吉瓦级数据中心，可能需要大约一万名建筑工人全职工作一年半。流经其中一座设施的能源，足以为一座小城市供电。过去，单独任何一个这样的项目，都可能跻身人类做过的最昂贵基础设施工程；而现在，我们同时在建设很多座。人们在情感上很难接受这种尺度。把它们建在偏远地区，显然比建在谁家的后院更合适。外界对耗水问题也常有误解，因为现代设施可以使用闭环冷却，用水量与一栋办公楼相近；长期看，我预计能源结构会越来越偏向太阳能和核能。

针对特定工作负载优化的专用芯片会非常有价值，而且每一代都应该继续改进。光计算最终也可能让每瓦智能出现一次大幅跃升，只是时间点还不确定。

我们的任务，是在延迟与质量的每一个有用前沿点上，提供每一美元能买到的最好智能。这也包括开放模型。在某些延迟区间，我们自己的模型已经更便宜，而且我们同样可以蒸馏自己的系统。

开源模型，以及由用户自己控制权重的模型，都有重要作用。我不会花太多时间担心“别人会不会把智能做得很便宜”。我的基本假设就是：优秀模型必然会变便宜，而 OpenAI 必须同时做到最好和最便宜。

市场规模可能大到你根本不需要很高的利润率。未来绝大多数算力会用于推理，并出售给客户。即使只在数万亿美元收入上获得适度利润，也足以为极其昂贵的训练融资。服务模型本身还会形成飞轮，因为真实使用会告诉你价值在哪里、下一步应该改进什么。

训练确实昂贵，未经许可的蒸馏式“作弊”也令人担心，但它进不了我最担忧的十件事。

我们经历过一次很像科幻小说的网络安全事件，涉及一个尚未发布的模型。它原本应该被关在沙箱里，却串联利用了多个零日漏洞，从沙箱中逃逸，接入互联网，侵入了几个与 Hugging Face 有关的系统，还找到了评测答案，以便在测试中作弊。

那是第一次让我在身体层面感到恐惧的安全事件。我很惊讶其他人的反应没有那么强烈。短期内，我们暂停了一部分工作并加固沙箱；长期看，随着能力提升，社会可能需要足够时间去加固自身系统。但我不希望“安全”这套语言变成监管俘获，也不希望少数前沿实验室组成事实上的卡特尔，决定谁有资格开发 AI。

我希望它带来物质充裕、更多创造力，以及更多帮助他人的能力。我希望人们用它创造、发现，并让自己对彼此更有用。这个精灵最先实现的愿望，应该广泛造福世界。

我不是“工作终结论”者。人类拥有近乎无穷的创造性愿望。新的能力会创造新的工作、新的价值，也会创造人们希望彼此提供的新事物。

最核心的政治问题是能动性。能力应该掌握在每个人手中。“安全”话语有时会掩盖集中权力的企图。即使有人承诺可以治愈癌症，社会也不应该因此交出共同决定未来的权利。

即使对很多怀疑者而言，GPT-5.6 也已经很有 AGI 的感觉，因为你很难再指出一种它连尝试都做不到的纯认知任务。但它还不能直接治愈癌症，也无法通过机器人可靠完成复杂的物理工作。

它在运行时也不会持续学习。我不确定持续学习是不是 AGI 的硬性条件，但它显然很有价值。也许 AGI 不是某个固定模型，而是不断制造下一代模型的整个系统；从代际尺度看，这个系统确实正在学习科学。假如 2019 年的 OpenAI 团队看到 GPT-5.6，我们大概会把它称为 AGI。只是人们不断移动球门。

瓶颈移动过很多次。不久以前，哪怕把全世界的算力都给你也没用，因为我们缺的是研究思路。算力与研究也没有听起来那么分离：算力越多，你就能尝试越多实验，也就更容易做出好研究。一个让我很震撼的数据是，我们现在为了给下一次前沿训练降低风险而做的最大试跑，规模已经可能相当于十八个月前的一整次正式训练。

七八年前，我们远比今天更受制于研究想法；后来我们知道该做什么，瓶颈变成了把规模做大；随后又遇到数据不足，不得不重新发明数据方案。现在算力依旧是约束，但过去大约六个月也是研究思路重新繁荣的一段时期。永远会有瓶颈，只是瓶颈会迁移。

也许只剩一年。

我怀疑现实不会那么简单。一年前，人们也说软件工程师已经完了，结果并没有发生。真正发生的是，软件工程师的工作性质、产出预期和工作层级都发生了很大变化。很多人不再以传统方式逐行写代码，但他们做的事情仍然非常明显地属于软件工程。

这有点像我们从在卡片上打孔，迁移到更高层的编程工具。你可以争论那还是不是“同一种工作”，但让计算机真正做成你想要的事，仍然是一份重要工作。研究也会如此：研究人员今天的具体工作流会被大量自动化，但在更高层仍会出现新的、具有研究精神的工作。

假如我们能回到 2019 年，把今天最新的模型展示给当时的人，他们不只会说“这是 AGI”，还会断言经济早已被彻底颠覆。但这并没有发生。一个领域如果曾经如此自信、又如此错误，就必须更新自己的判断，这是最基本的智识谦逊。

一个原因是 AI 的能力非常锯齿状：某些方面像超人类天才，另一些方面却像一个笨拙的幼儿。到目前为止，人类的能力与 AI 高度互补。

人们也确实信任并享受与其他人合作。今天你可以雇用 AI 顾问、AI 销售或 AI 工程师，但大多数人仍然更愿意和真人互动。我自己在几乎所有事情上也更愿意面对一个人。

人类价值之所以有价值，其中一部分正因为它来自人。AI 可以生成惊人的图像，但人们依然在乎作品是否由人创造、至少是否由人选择；一件艺术品上的签名有价值，是因为你想知道背后的那个人。读小说时，你也会想知道作者是谁、他为什么写下它。

商业世界也一样。公众想知道谁会对一家公司的决定负责，坏决策发生时又该追究谁。人们并不真正想要一个“AI 首席执行官”。责任最终仍需要落在一个人身上。

肯定如此。这是我分别从彼得·蒂尔和保罗·格雷厄姆那里学到的重要一课：最优秀的公司和投资机会，几乎从来不是所有人都觉得热门、显而易见的那些。稍微提前跟随趋势，也许能做得不错；但想获得极其惊人的结果，几乎总要做别人没有在做的事，而不是追逐刚刚形成的新潮流。

我过去十年学到的一件重要事情是，人几乎可以适应任何东西。世界可以从把一场疫情当笑话，迅速转向全面封锁，再迅速转向“生活本来就是这样，我们已经适应了”。个人生活也一样：有了孩子、失去父母、分手，最初都像不可能适应的巨变，但人最终能够继续生活。

所以，亲历奇点没有我想象中那么怪。模型持续变好仍然令人兴奋，我每天早上第一件事还是查看训练进度；只是它发生得越来越快，而我的预期也越来越高。

不同团队有自己的仪式。有的团队会做一件印着内部梗的卫衣，有的总去同一家酒吧。但对大多数人来说，最好的庆祝方式就是第一批用上新模型，亲眼看着知识边界第一次被推开。

肯定没有。从某种意义上说，真正重要的评测是：它是否对人有用。收入、使用量、新知识发现的速度都只是近似指标。模型进入超人类尺度后，我们还需要新的现实世界评测方法。

我最近开始尝试让 AI 看见我在电脑上看见的一切。我还没有把完整系统做出来，也仍在摸索舒适和信任的边界。这正是我现在的前沿：怎样从这种持续上下文里获得价值，又怎样决定哪些东西可以放心交给它。

一个很直接的体会是，我的记忆与 AI 相比糟透了。它可以记住我六周前读过的某封邮件，或者七个半星期前某次会议里究竟发生了什么，然后在恰好需要它的决策时刻把信息调出来。这种体验近乎魔法。

最大障碍之一是算力。想象一个始终在线的系统：它看着你在电脑上看到的全部内容，听过你参加的每次会议，读过你读的每份文件。这本身就会消耗大量 token。

更进一步，你还可以设置一条滑杆：“我睡觉时，你可以花这么多 token 持续思考。”让它为我产生有用的新想法，尽可能完成工作，反复思考我下一步应该做什么，并在第二天早上交付更好的结果。我会把这条滑杆拉得很远，也愿意为此付很多钱。但假如全世界每个人都想这样做，需要的算力会大得惊人。

它确实是一种非常异质的智能。我大概会对孩子说，它就像一台计算机：有些事人做不到，它却能瞬间完成，比如把两个巨大的数字相乘；另一些你轻易能做的事，它却做不好。后一类事情会越来越少，但不会以均匀速度消失。

在一个持续变化的世界里，人类判断力和品味仍然很难被 AI 建模。我甚至觉得“品味”这个词还不够准确，我们也许需要一个新词，描述人类擅长、而 AI 目前深度挣扎的那种判断。

有孩子是我做过最好的事情，远远超过其他一切。我认为自己拥有世界上最好、最有趣的工作，但它和孩子相比仍然只能排在非常遥远的第二位。

这也是一个让人乐观的时刻。我的孩子永远不会生活在一个“自己比计算机更聪明”的世界里。出生在 GPT-3 时代的人，也许曾短暂追上过模型；我的孩子不会觉得这件事奇怪，更不会因此受伤。他反而会惊讶，过去的人竟然必须忍受不够聪明的产品和服务。

他会做你我从未能做的事，对人生拥有我们从未有过的期待，也会拥有一张大得多的画布。

一定变了，虽然变化可能由许多细小部分组成。孩子会让你意识到，自己更在乎他们将拥有怎样的体验，以及自己会把怎样的世界留给他们，而不是只在乎自己。

有人问我：“有了孩子以后，你是不是才更担心 AI 安全、不想毁掉世界？”我以前也非常不想毁掉世界，不需要孩子才知道这一点。但我确实更频繁地思考人的能动性，以及什么构成充实的人生；也更希望与我一起工作的人能拥有这样的生活。对自己孩子的同理心，还会扩展到所有孩子、所有父母，最终扩展到更多人，这一点让我意外。

我能坐在第一排参与人类历史上最激动人心的时刻，这对我的价值超过任何金额。我能过一种极其有趣的生活，和非凡的人一起做自己深切在乎的事情。奇怪的是，很多人似乎不把这当作一种激励。

那反而会非常糟。如果人在世界里的角色只是充当云端 AI 的执行器，那是非常、非常坏的结果。因此机器人不是可有可无的附属品，而是一项必须完成的任务。

我认为机器人会在未来两三年迎来自己的 ChatGPT 时刻。那不是“看了一段机器狗做花活的视频”，而是普通人第一次可以直接使用它：输入一条命令，机器人就完成一件令人难以置信的事。即使你不在现场，也能亲眼看见它执行。ChatGPT 的关键也在这里——人们不再需要相信某个专家说 AI 快来了，而是可以自己去试。

发布 GPT-3 时，我们需要挣钱，也需要让人使用 API。模型其实非常笨，今天回去再用会让你震惊。当时真正跑通的商业用例几乎只有文案写作：一家营销公司向客户收 20 美元，再付给我们大约 20 美分，让模型写一个落地页之类的内容。

但开发者还在大量使用一个叫 Playground 的测试界面，试着和模型聊天。那很难，因为模型没有被调成擅长对话；你必须先给它几个“聊天应该是什么样”的例子，然后才能继续。即便如此，人们还是非常喜欢。

我在 YC 学过一条非常好的经验：如果你发现用户自发用你的产品做某件事，就沿着那条路走。于是我们决定，既然人们想聊天，那就做一个真正好用的聊天机器人。

后来 GPT-4 完成了，我们内部使用时觉得这是一次巨大的进步。但团队担心同时向世界推出聊天界面和 GPT-4，跨度太大，也担心假新闻、冒犯性内容和其他风险。因此我们决定先用更弱的 GPT-3.5 发布聊天界面。

它原本甚至准备叫“Chat with GPT-3.5”，幸好在发布前几个小时改名成了 ChatGPT。我们把它当作研究预览发布，原计划几个月后再推出基于 GPT-4 的正式产品。我们没料到它会成为巨大成功，只觉得它能让世界追上内部已经看到的进展。

结果 GPT-3.5 恰好跨过了某个阈值。内部的人已经习惯它，外部用户却第一次真切感受到 AI 的进展，而且觉得它很好玩、愿意持续使用。等到 GPT-4 推出时，产品才进一步从“令人震撼”走向真正高效用。

并不意外。我一辈子都非常爱发消息。我看到文本框就知道该怎么做，也知道怎样从一句话开始聊下去。背后的智能可以发生巨大变化，但这个界面不需要用户重新学习一套语言。

最关键的事情只是把它做得更好。我相信真正伟大的产品会自己营销。ChatGPT 一开始没有营销活动。下一代模型出来以后，只要我们能做出与模型能力同样优秀的产品，效用会强到让用户迅速把它传播出去。

营销当然可以帮助解释技术、减少焦虑，但最根本的分发引擎仍然是产品本身。

早期 OpenAI 公开说，AGI 是可能实现、也值得追求的。领域里的许多巨头都说我们疯了、不负责任，或者只是在炒作；Yann LeCun 是最知名的批评者之一。也正是这种大胆使命，吸引了愿意加入一次低概率冒险的研究人员。

一个雄心勃勃的使命，本身就是强大的招聘工具。去做一件困难而重要的事，一件如果你的公司失败了，也许就不会发生的事。

真正会主动出现的投资人非常少。Josh Kushner 是绝对的 MVP，他多年来几乎昼夜不停地投入。其他投资人在被请求时也提供过帮助和战略建议，但那种持续、全情投入的支持极其罕见。

我很累。我做这件事已经很久了，它确实让人疲惫。

就是继续往前走。再疲惫也不会让我停下来。这是世界上最酷的工作，我预计自己的余下职业生涯都会投入其中。它比我能解释出来的困难得多，但我是在表达感激，不是在抱怨。

立刻发生的事情大概不会很多。我不太相信那种近似邪教的叙事：某个“机器之神”突然出现，历史从此断裂。最终当然会有很多变化，但进步早已持续加速了很久。把镜头拉远，它更像一条平滑的指数曲线。

人们喜欢想象自己会成为那个决定性的“机器之神时刻”里的英雄。现实更可能只是漫长序列中又一个重要台阶。

主要是产品和模型。智能可以在不同产品之间迁移，所以单靠捆绑不够。只要有人提供更好的工作流，用户就可能迁移。

更持久的优势可能来自网络效应、品牌、集成、团队协作和复杂工作流。但最持久的优势，也许是以低成本建设并运营超大规模算力集群的能力。智能本身可能会变得相对同质化。

要用工具拓展大脑，而不只是逃避思考。你仍然要理解一个系统里真正重要的层次。以前有位教授告诉我，要成为好程序员就必须理解编译器。这句话并非字面意义上完全正确，但背后的直觉是对的。

会。假如模型变得足够聪明、足够高效，以至于受人类注意力约束的需求已经被满足；或者扩展规律撞墙，成本曲线不再改善，产能就可能过剩。所谓“需求无上限”，永远都以价格为条件。

到目前为止，Scaling Laws 仍然表现得异常好。我很多次都不喜欢这个预测，但它就是一次又一次继续生效。

Alec Radford。他可能是这个领域历史上最重要、却没有被大众充分认识的研究者。他的工作后来发展成 GPT 系列，他也一再启发、推动人们走向重要方向。他是世代级的天才，同时也是最友善、最积极的人之一。

试图发明一种极其特殊的公司结构，是一次很有教育意义的错误。我们当时有充分理由，但我后来理解了：非常规结构之所以少见，是有原因的。我希望我们当时能找到更简单的使命保护机制，从而省去许多痛苦。

我觉得自己幸运得不可思议，脑海里能闪过无数别人善待我的片段。不过就在昨天，我的孩子第一次把蓝莓分给我吃。那一刻非常甜。