Sam Altman 谈 AI 革命、超级智能与人类未来｜FO583 Raj Shamani

刚开始做 OpenAI 时，我随性得多，日子也过得很轻松，有很多爱好。现在我的日程精确得惊人，很久没做过什么临时起意的事了。

推出 ChatGPT 算是一个例子。倒不是大家不想做聊天机器人，只是多数人觉得当时还太早，产品也不够好。

会。不过我觉得自己大概应该多听到一些这种话。

很多像我这样身居要职的人，出问题的一个原因就是周围围着太多只会说“是”的人。

要造出超级智能，人生不可能不变得很疯狂。但我觉得自己还挺适应这种状态的，周围再怎么乱，我也能应付。

这差别确实很惊人。印度是我们全球最大的市场。你觉得为什么会这样？

一个原因可能是，发展更快、经济增长更快、对产品和服务需求更多的国家，会比发达经济体更欢迎 AI。我相信这只是原因之一。

人们对这项技术还不太了解，不过至少全世界都知道 AI 正在到来。在我看来，现在是创办新公司的最佳时期。

当然会。

我们已经做出了一种会成为社会中强大力量的东西，今后还会继续做下去。我相信它能成为一股向善的力量，但这件事风险极高，我们肩上的责任也很重。

谢谢你邀请我。

我是个科技爱好者，对世界充满好奇，也相信 AI 会走进我们每个人的生活，希望它带来的大多是非常积极的影响。我还是个爸爸，非常爱我的孩子。这就是我会说的。

我只是尽量自然地聊自己正在想什么、对什么感兴趣。

我觉得小时候就是这样，总是跟着好奇心走。

经常。我想大多数孩子都会。我是个很书呆子的孩子，体育也不行，而我长大的那个年代，运动好才算酷。

对。我不是那种酷孩子，不过我一直有很多朋友，跟人相处也不错。

有一点吧，但我觉得没别人那么在意。孩子都想受欢迎、想变酷。小时候如果觉得自己进不了那个核心圈子，还是挺痛苦的。只是我没有像有些人那样，把“小时候是个不酷的书呆子”当成成长经历里最重要的事。那确实让我有点介意，但我有电脑，也有几个亲近的朋友。我童年很美好，我想自己当时很快乐。

这个话题确实还很少有人深入聊。我觉得这样谈论自己挺难的，不过我会尽力。

这种差异确实惊人。

首先，按触达用户数量来说，印度是我们全球最大的市场，而且增长很快。大家用这些工具来开发产品，活力惊人。

是的。人们用它做的事非常了不起，比如创办公司。我刚听说有个印度孩子要为学校筹款，此前从没做过这件事，却用我们的一整套工具把筹款流程都做起来了，真棒。所以印度的采用率很高……

印度的采用还在快速增长。不过至少从公开表达的态度来看，美国对 AI 的负面看法比世界其他地方更突出，而印度可能格外积极。

很多人观察到，发展更快、经济增长更快、对产品和服务需求更旺盛、供给又明显不足的国家，会比发达经济体更欢迎 AI。我相信这可能是其中一个原因。

我觉得美国人很怀疑掌权者，尤其对科技行业掌握的巨大权力很警惕。从某些角度说，这也许是好事。不过我确实觉得，事情有点走过头了。

你刚才提到了一点：我在 OpenAI 没有股权，这个决定是个错误。我当时是出于自认为合理的理由这么做，但这让很多人非常困惑。在我看来，这就像艺术家非常努力地创作，或者运动员刻苦训练，却没因此赚很多钱，大家不会觉得有什么问题。这是可以理解的，而这就是我的对应版本。不过这件事一直让人困惑。

这不符合人们对创业、做生意的常规想象。

这事就是很奇怪，而人们不喜欢奇怪的事。

对，我自己也觉得奇怪。于是大家会想：“他究竟为什么要这么做？”

我觉得这是我能想象到最有意思、也最重要、最有用的工作。能参与其中令人兴奋，真是一场了不起的探索。

对。

难点就在于你并不知道。你可以有很强的信念，也可以随着证据增多而越来越有把握，我认为这才是正确的做法，但你无法确定。这种不确定也是令人兴奋的一部分。刚创办 OpenAI 时，这件事的地位低得惊人。我们知道如果做成了它会很有价值，但几乎没人把我们当回事。别人觉得 AGI 也许一百年后才会出现，甚至永远不会出现；我们不过是一群年轻人，学术资历也不够光鲜。外界的评价非常负面。

我觉得每个人一生中都会有少数几个重要洞见，然后在不同场景里反复运用。对我来说，其中一个就是规模带来的意外特性。我在公司、国家、城市、个人职业生涯和许多技术中都观察到这一点，包括我当时负责的创业网络 Y Combinator：如果某件事在小规模下有效，把它放大之后，回报往往会超线性增长。

我职业生涯里最困惑的事之一，是为什么在 2015、2016 年，甚至 2018 到 2021 年，其他人看着同样的数据，却没有说：“这太惊人了，我们必须在这上面多投很多资源。”这在我和楼里其他人看来都非常明显。我们甚至觉得自己是不是有点妄想：怎么会有人看不出来？

训练完 GPT-4 之后，大约是 2022 年 8 月。

我们比正式对外发布早七八个月就训练好了它。当时我们一直在观察，知道它非同寻常，但花了一些时间才意识到它会打开哪些新的研究方向，以及 GPT-4 之后模型可能会进步得多快，也才看清后来那种思维链研究和推理模型是怎么发展出来的。

对算力做一笔小得多、没那么雄心勃勃的投资，放慢扩张速度。

如果模型稍微弱一点，比如 GPT-4 只有 GPT-3.8 那个水平，我们就没有信心做这么大的押注。

会，不过我觉得自己应该多听到一些这种话。

像我这样身居要职的人，出问题的一个原因就是周围围着太多只会说“是”的人。

身边有认识很久的老朋友很有帮助；和共事十多年的人保持联系也很有用。还要有意识地建立一种文化：当你错了，人们可以强烈反驳你，而且反驳会受到鼓励。我觉得这很重要，但需要持续用心。你越常证明自己是对的，手里的权力越大，就越难得到真正的反对意见。

我违背所有人建议去做事的次数很少。确实会发生，但很罕见。我认识不少人——尤其是一些创始人——他们最引以为傲的就是做别人都……

……别人都告诉你错了。我的看法是，只有在非常不情愿、经过认真权衡之后，才该这么做。

如果你身边都是聪明人，大多数时候就应该听他们的。如果所有人都觉得你做的事不对，而你还是决定继续，那就该把它看成一件代价高、成功概率不高、风险又很大的事。你得对此有真正的把握。

AI 这件事只发生过一次，所以我们可能是运气好，也可能是问题选得好。但很多人都在做了不起的事。现在全世界创立优秀公司的速度，是我见过最快的。我觉得现在绝对是我经历过的最佳时期，甚至很可能是历史上最适合打造新事物的时期：创办公司、开发新技术、做新的创意项目。我们得到了这份难以置信的礼物。我觉得人们现在做的事很棒，未来会出现很多杰出的公司和其他成果。

这就是创始人拿报酬要做的事。如果你要创办自己能想到的最有雄心的公司，那肯定会被误解。

当然还有很多显而易见的好点子，也能做得非常成功。但如果一个点子显而易见，其他有野心的人也会去做。2015 年我们创办 OpenAI 时，那年启动的通用人工智能实验室，一只手大概就数得过来，甚至可能只有 OpenAI，我也不确定。可那时大概已经有一万家照片分享公司。大多数人觉得做照片分享公司是更好的主意，但你有一万家竞争对手，而且 Instagram 还有强大的网络效应。

好问题。这方面没人教过我。学校里教我的很少是怎么提出问题，更多是学着回答别人提出的问题……

……后来读博士之类的阶段，才开始能提出更多问题，而且慢慢越做越多。我觉得我们应该更重视教人，尤其是很年轻的人，如何找到值得探索、我们还不知道答案的问题。学会这个技能，是我找到那些不符合共识的押注的最好方法。

对。你能学会这个吗？我想可以。不是每个人在所有事上都一样擅长，但我觉得很多人都能学会。有个国家或文化有这么个习惯：孩子放学回家，妈妈会问“你今天问了什么问题？”我忘了是哪里。

我觉得可能是以色列，或者跟以色列有关的人。我不确定。但有些文化里的妈妈不会问孩子今天最精彩的事是什么，而会问他们今天提出了什么问题。

你能不能把想法讲给一个乐观热情、聪明又有理性纪律的朋友听，并说服他这可能是一笔好押注？我记得创办 OpenAI 时，大家默认都很怀疑。我会跟人说：“这是我们看到的证据，这是它可能成功的原因；如果成功，影响会有多大；这是我们认为行得通的路径。”如果我们能造出超级智能，它为什么有价值其实很明显。

有些小决定是这样，比如我说 OpenAI 要做一件事，领导团队里其他人都不愿意。

推出 ChatGPT 算一个例子。不是大家不想做聊天机器人，而是多数人觉得太早了，产品还不够好。

我想是我在 Y Combinator 的经历。我一直告诉创始人，如果你对第一个版本还不觉得有点难为情，那说明你等太久了，因为你需要的是反馈。

能接受被误解，也能接受让人觉得难为情。

我当然希望我们能推出很好的产品，但我也愿意先放出一些早期草稿，听取反馈、继续学习；它们不一定都能成功。

面向全部 ChatGPT 用户发布的东西，门槛确实得很高。现在公司也快成关键基础设施了，企业越来越依赖这些服务，所以我们推出企业产品的标准特别高。时代变了。

不过我们仍然可以在其他产品上试验。我希望大家会看到我们尝试很多新产品，有些会让你们非常喜欢，最后成为核心体验；有些听起来不错，但对你来说不合适。

到了今天，全世界大多数人都觉得 AI 确实会到来。当然它并非人人都欢迎。我觉得我们对未来的愿景，以及我们希望人们如何使用这项工具和技术，仍然没有被充分理解。不过至少大家明白 AI 正在发生。

我记得大概说过类似的话。

更准确地说，是人们能比自己想象的更大程度上改变现实，但大多数人尝试得不够。

我有不少猜测，很多都归结为人们想留在群体里。做不同寻常的事更让人不安，可能失败、显得错，或显得愚蠢。从进化角度很容易理解：你不想被部落赶出去。但社会本身也有很强的压力，让人别去做那种事。

我一直比别人少一些那种非得按常规走、跟大家做一样事情的内在压力。在很多其他情境里，这可能是缺点。我觉得这大概主要是遗传因素。

肯定还有其他因素。不过有些研究说，带有一些自闭特质的人更可能创造新科学，或者会对一个想法着迷，然后不顾困难在实验室里投入大量时间。

大概是创办 OpenAI。现在说还太早，但我想这可能会是我一生中做过的最重要的事。

担心什么？

当然担心。

我们已经做出了一种、也会继续做出一种对社会有非凡影响力的东西。我相信它能成为一股向善的力量，最终会带来巨大的好处。但这件事风险很高，我们肩上的责任也很重。

我相信多元主义。我不认为只有我们拥有它会是好事。我觉得有两种比较极端的情形会让事情严重出错。

一种是人类失去对 AI 的控制，不管有意还是无意，把未来交给远远比我们强大的系统，最后再也夺不回来。另一种是某个人、公司或国家变得比所有其他人强大太多。我觉得那会非常不稳定。对世界更好的情况，是有多个 AI 团队采用稍有不同的路线，彼此竞争，用不同方式推出成果。

至少不应该只有一个。你希望有很多团队在做。

我觉得我们有最多的用户，也有最完整、最好的技术链条，从芯片、数据中心到模型，以及周边的其他环节，可以把充足的智能交到人们手里。我认为我们的品牌最好，价值观也符合这项技术使用者的期待。我们希望其他人也成功，大家能感受到这一点。我们不想成为统治所有人的唯一一家公司，这从创立之初就是我们的想法。

哦，问我个人啊。

我做这件事的时间最长吧——不过好像也不对，Dennis 做得比我久。我最大的优势可能是有很多时间一路观察这个领域的发展。这不仅让我对如何经营公司有直觉，也让我在整个生态里建立了很多联系，这些都很有帮助。

我不觉得这是某一件事，也不觉得主要是因为我。也许我做的一件事，是选了领导团队，也设定了我们的运营和合作方式。但我们做得最好的，是聚集了一群杰出的人，他们都被同一个使命激励，形成了很健康的文化：该有把握、有强烈信念的地方，我们会坚定；其他地方则保持开放和探索。这是一种很特别的文化。我希望以后历史书写 OpenAI 时……

……他们最常谈的，可能是我们重新发现了怎样的文化才能打造优秀的研究实验室，以及为什么这种文化消失了那么久。

一点是要有很强的信念，清楚知道自己想做什么。尤其当你的目标在多数人听来很疯狂时，你愿意这样谈、这样想，会吸引一批人。

但是……

我觉得很多人脑子里会发生一件事：因为这件事的利害太大，他们只相信自己能把它做好。

我觉得两者是连在一起的：觉得他的做法不对，所以不能让权力集中在他手里。

也没那么年轻了。

要打造超级智能，人生不可能不变得疯狂，所以我没那么意外。刚创办 OpenAI 时，我其实没认真想过这件事。后来我越来越确定它真的可能成功，才清楚地意识到：“天哪，我的人生会变得非常疯狂，这可真糟。”

看起来我能做到。

你是问我当时就确定自己能处理这种事吗？

不。刚开始时，即使理智上知道，如果成功了就会变成这样，我情感上也没有真正面对这件事，直到后来才开始想。你平时会紧张吗？

我以前也紧张过，但现在事情实在太疯狂了，感觉要到很高的程度才会让我紧张。

会，只是很少。触发门槛很高。

上次是我们准备公布 Navier-Stokes 方程相关成果的时候。我想：“这太疯狂了，这可是来真的了。”那是一些极难的问题，过去没人能解决，现在 AI 却开始做到了。我觉得那一刻太不可思议了，确实很紧张，可能是最近一次让我心跳加速的时刻。

我以前常冥想。

有一阵子每天冥想两三个小时，现在不这么做了。不过如果我紧张起来，还是能很快回到那种状态。

不用。我只要坐下来闭上眼睛，很快就能进入冥想状态。

几秒钟——不过不是一两秒。

刚开始时我随性得多，生活很轻松，有很多爱好。朋友周二晚上临时约我吃饭，我大概也能说走就走。现在我的日程安排得精确得惊人，很久没做过什么临时起意的事了，这挺让人难过。

人们也会问我：“你最怀念以前生活里的什么？”上次有人这么问时，我发现自己最怀念的是周六下午去咖啡馆，点一大杯咖啡，带上笔记本电脑，看看周围的人来人往，慢慢处理邮件，大部分时间其实只是上网浏览。我已经好几年没这么做了。我也不知道为什么这件事最先跳进脑海，但我确实很怀念。

也不是不能，但旁边的桌子会坐着两个安保人员，我就不再是世界上一个默默无闻的普通人了。

我们通常会问：“你的护城河是什么？竞争优势会是什么？”这些问题说到底都在问，怎么避免所有利润都被竞争挤到零。

我觉得这不是最重要的问题。

长期竞争优势是什么，确实是重要问题，但排不到最前面。我最先问的会是：产品是什么？用户为什么需要？你怎么吸引更多用户？护城河只是战略的一部分，肯定不是最重要的。

不能百分之百判断，但我觉得可以形成相当强的直觉。

有些明显的标准我就不说了，试着讲些不太常被提到的。如果一个人表达清楚，能把事情解释得很好，让人容易跟上，这是我非常看重的一点。如果我离开会议时觉得自己想和这个人一起工作，这也非常重要，因为……

早期创始人的一大工作，就是到处为公司当“传教士”：面对其他创始人、客户、想招募的人、投资人，都要能讲清楚愿景。这是我会看的特质。还有，他们能不能很快提出新想法、迅速完善想法；他们对世界有没有一些有意思、推理扎实、我以前没听过的新见解。

30 分钟的会面里很难直接判断。我以前有时会问对方人生经历里有没有能体现这一点的事，但要看清一个人的内心活动很难，只能依赖他们讲的故事。

这就是我说的，这很难判断。

这不是我相较于其他创始人的最大优势，但我确实愿意坚持自己相信的事情，一直做下去。

我没想到某一个具体的人。

我现在想不起一个具体名字，不过这些年我确实很佩服不少 Y Combinator 的创始人。他们没什么成功信号、资源也很少，却依然埋头苦干。Stripe、Reddit 这些公司背后的创始人，有什么共同模式吗？

你说的表达能力等特质，很多创始人都有，但真正适用于所有人的绝对规则很少。Y Combinator 的一大经验是，成功的创始人可以有很多种类型。

我又会想到一些常见特质：有动力、聪明、善于沟通，有一个愿意全身心投入的想法。我们当然可以列出很长的创始人特质和优秀商业特质清单。

有很多。缺乏动力、注意力不集中、目标不清、没有愿景，或者遇到难题时没法一次又一次微笑着解决，都是反面模式。确实有很多因素几乎能预示失败，但要说这些比较容易。

对。

我觉得可以。这是我在 Y Combinator 最愉快的意外之一，也解释了为什么 YC 对世界的贡献远比人们想象的大。有些东西也许没法训练，但你可以教人变得更有雄心。不是每个人都行，也很难预判谁能学会，但这确实能做到。

我发现最有效的方式有两部分：一是让一群正在经历相似事情的同伴聚在一起；二是让大家不断面对难度递增的挑战，发现自己能做到比想象中更多的事，并持续前进。

我变得更有雄心了。

我想是。我确实认为，如果你不断接受稍微更难一点的挑战，并且一次次做得不错，就会逐步积累信心，也学到东西。

你指什么？

不，我觉得有很多办法。但人天生就会从周围的人身上学习。有句名言说，你会变成最亲近的五个朋友的平均值，所以最好认真挑选这五个人。

没那么绝对，但显然有几分道理。

几乎所有建议都很糟，我不知道怎么挑出最差的。给创始人的元建议是：少听点建议。

YC 可以从丰富的经验里提炼出五到十条非常重要、非常有把握的通用建议，我觉得你应该听这些。YC 的格言“做出人们想要的东西”，就是早期创业建议里最重要的一条。如果真有一条戒律，那就是它；此外还有一些几乎同样重要的原则。

我记得自己写过，但不记得具体内容了。我想现在能写得更好，也能写得更短。

我最先写的应该是复利效应，但大家可能低估了它。很多人没能持续进步。有人会开玩笑说：“你有二十年经验？其实你只是把同一年的经验重复了二十次。”职业生涯最棒的地方，是可以在每个阶段的基础上继续往前走，但你得不断挑战自己，持续做让你不舒服、又不那么显而易见的新事。很多人很早就停止了。所以从经验上看，大多数人没有一直待在复利增长的曲线上。我觉得这是条很好、但不太显而易见的建议。

现在大部分事又像是全新的。怎么处理眼下关于发展速度的争论，是个很难但又很重要的问题，要做对并不容易。

花很多时间思考、和人交谈，多收集数据和新想法。

当然会。不这么做就太糟糕了。人们谈信念和自信，有些人会把它理解成不要反省，认定自己是对的就别再质疑。我会一直反思各种事。我仍然会持续、坚定地行动，直到找到改变想法的理由。我觉得这非常重要。

我通常会从不同角度反复思考同一个问题，先抛出很多糟糕的想法，在脑子里试着推翻它们、找出问题，再去问别人，收集更多意见，尝试不同版本，然后再次调整。我觉得这是个反复迭代的过程。

比如我刚才说的：进入递归自我改进（RSI）时代时，我们该如何看待进展速度？怎样避免两种出问题的情况——失控事件，或者权力集中事件？应该建立什么样的治理机制？允许 AI 系统比人聪明多少？它能以多快速度进步？安全、监控、对齐方面该怎么考虑？哪些风险可以承担，哪些不行？

我跟孩子在一起时，会尽量陪他们，做个好爸爸，不让自己分心去想别的事。不过我确实发现，周末早上在家办公和在办公室办公，感受差别很大。至少对我来说，找到一种节奏，让自己可以全心投入和人在一起……

对我来说，重要的是找到一种节奏：一段时间和人密切互动，然后留出完整的时间，把外界隔开，自己思考和工作。这种来回切换对我的工作方式特别重要。

这只是适合我的方式，很自然、也很轻松。

是的，这跟另一种工作方式完全不同。我在家里的办公室工作时，方式很独立。如果我只这么工作，肯定会出问题；但如果没有这种时间，整天只在办公室开会，也不适合我。所以我需要两种方式交替。

就像我刚才说的，未来有很多种出错的可能，所以我不知道世界会变成什么样。但我相信人们有很强的能力，能找到适应和繁荣的方法，让社会对大家都更好。我想世界大概率会继续变得更好。

我脑海里马上想到的是：我特别期待看看 AI 能在多大程度上帮助我们发现新科学。数学方面的一些成果让我非常惊讶，也让我觉得，我们离这个里程碑比我原先想象的更近了。

对。

这问题很难回答，因为从主观感受来说，这就是我现在的生活。我之前举过一个很小的例子：周末不能再去咖啡馆了。

谢谢你邀请我。

我也希望。

谢谢。

谢谢。

谢谢你来参加，认识你也很高兴。

谢谢。你好吗？

我以前没见过这样的布置，挺喜欢的。最近模型进展真是惊人。

到现在都挺好，有一点紧张，不过我觉得能应付。

当然可以。你说得对，挺不错。

味道不错。

是什么？猴头菇？

嗯，感觉不错。