--- id: "JN3KPFbWCy8" title: "埃隆·马斯克：战争、AI、外星人、政治、物理、电子游戏与人类" channel: "Lex Fridman" host: ["Lex Fridman"] guests: ["Elon Musk"] date: "2023-11-09" updated: "2026-07-29" duration: "2:16:46" duration_seconds: 8206 source_type: "youtube" youtube: "https://www.youtube.com/watch?v=JN3KPFbWCy8" canonical: "https://pod-exp.pages.dev/JN3KPFbWCy8/" transcript_jsonl: "https://pod-exp.pages.dev/JN3KPFbWCy8/transcript.jsonl" language: "zh-CN" translation: true translated_from: "en" timestamp_precision: "block" topics: ["人工智能","政治与社会","哲学与文明"] series: ["Elon Musk"] --- # 埃隆·马斯克：战争、AI、外星人、政治、物理、电子游戏与人类 > 中文译文，由英文原音字幕翻译整理，不是官方逐字稿；引用原话请核对英文原视频。说话人标签由整理者依上下文标注，带「未确认 / 未标注 / 不确定」等字样的标签不可靠。时间戳一般为块级（所在时间块的起点），不是逐句时间；正文自带 [hh:mm:ss] 的段落除外。 **内容提要：** 这是 Lex Fridman 与 Elon Musk 的第四次对话，从战争与人性谈起：马斯克认为战争难以消除，主张以显眼的善意行动化解以色列与哈马斯的冲突，并谈到核战争风险、乌克兰沿现有战线停火的可能，以及中美关系、台湾与修昔底德陷阱。随后话题转向 xAI 和 Grok，包括幽默模式、对工程与物理答案可靠性的追求，并延伸到意识、费米悖论、多行星文明、上帝与模拟，以及《暗黑破坏神 4》和反乌托邦。中段讨论 AI 的芯片与电力瓶颈、监管、开源与 OpenAI 的由来，以及 X 的推荐算法、Community Notes、2024 年大选和政治立场。最后谈到信任、Tesla Autopilot 与 Optimus，以及他的孤独、宽恕和孩子带来的新视角。 ## [0:00] 开场：马斯克第四次做客 Lex Fridman Podcast · YouTube **Lex Fridman：** 接下来是我和埃隆·马斯克的对话。这是他第四次来到 Lex Fridman Podcast。你刚才是不是要把那段吹完？那可是电影史上最伟大的主题之一。 **Elon Musk：** 是啊，太棒了。 ## [0:07] 战争与人性：从罗马帝国到黑猩猩社会 · YouTube **Lex Fridman：** 我刚才在想罗马帝国——就像人们常做的那样。 **Elon Musk：** 是不是那个梗，说男人每天至少想一次罗马帝国？ **Lex Fridman：** 对，然后另一半人还在困惑这到底是不是真的。说正经的，我在想今天世界上正在发生的战争。你也知道，战争和军事征服一直是罗马社会与文化的重要部分，我认为它也是人类历史上大多数帝国和王朝的重要部分。 **Elon Musk：** 是的，它们通常都是征服的结果。当然也有一些例外，比如哈布斯堡帝国，那里有很多聪明的婚姻安排。 **Lex Fridman：** 但从根本上说，还是有一种征服的引擎。它们赞美战争中的卓越，很多领袖都是优秀的将军，诸如此类。所以我想问一个大问题，这个问题经过 Grok 认可——我问过它这是不是一个好问题。 **Elon Musk：** 通过 Grok 测试，获得 Grok 认可。是的。 **Lex Fridman：** 至少是在 fun mode 里。那么你认为战争在多大程度上是人性的一部分，又在多大程度上是人类社会结构造成的结果？我这样问，是因为你某种程度上很有争议地一直主张和平。 **Elon Musk：** 我总体上是支持和平的。在我看来，真正需要对抗的敌人也许是无知。这才是真正困难的部分，不是和其他人类作战。可是所有生物都会斗争。人们有时把自然想象成某种和平的东西，但事实并不是这样。Werner Herzog 有段很有意思的东西，他在丛林里说，那里基本上到处都是谋杀和死亡。丛林里的植物和动物每一天、每一分钟都在试图杀死彼此。所以在这方面，人类并不特殊。 **Lex Fridman：** 这里有一个相关问题：更高的智力是否会带来对暴力本能更强的控制？ **Elon Musk：** 是的。我们比黑猩猩更有能力控制自己的边缘系统暴力本能。事实上，如果你观察黑猩猩社会，它并不友善。倭黑猩猩算是一个例外，但黑猩猩社会充满暴力。坦率地说，那相当可怕，那就是我们的边缘系统在发挥作用。你绝对不想站在黑猩猩的对立面，它会吃掉你的脸，还会把你的睾丸扯下来。 **Lex Fridman：** 对，基本上没有限制，没有伦理。它们几乎只有战争。黑猩猩社会里没有“正义战争”，只有不择手段的战争和支配。 **Elon Musk：** 是的。黑猩猩社会就像人类社会某种永久化的版本。它们基本上一点也不爱好和平。那里有极端暴力。有时候，有些人看了太多迪士尼电影，决定把黑猩猩当宠物养，然后黑猩猩就吃掉他们的脸、扯掉他们的睾丸，或者咬掉他们的手指。这种事发生过好几次。 **Lex Fridman：** 扯掉睾丸作为互动策略，还挺有意思。 **Elon Musk：** 这确实发生在人身上，很不幸。我猜这是一种确保另一只黑猩猩不能再把基因传下去的方式。 **Lex Fridman：** 从武术角度看，这是个很迷人的策略。 **Elon Musk：** “扯蛋者”。 **Lex Fridman：** 我想知道哪门武术教这个。 **Elon Musk：** 我想可以肯定地说，如果有人把你的睾丸握在手里，并且有可能把它扯下来，那你大概会愿意满足对方的一切要求。 ## [4:33] 以色列与哈马斯：用显眼的善意挫败过度反应 · YouTube **Lex Fridman：** 是，可以肯定。像我说的，你在 Twitter、在 X 上以和平倡导者的身份出现，居然也变成了某种争议。 **Elon Musk：** 是的。 **Lex Fridman：** 那我问问你今天正在发生的战争，看看通向和平的道路可能是什么。你希望当前以色列和加沙的战争如何结束？你认为在那个地区长期最小化人类痛苦的路径是什么？ **Elon Musk：** 中东，尤其是以色列那一带，如果你在词典里查“没有简单答案”，大概会看到它的照片。所以没有简单答案。以下只是我的个人观点：哈马斯的目标是激起以色列的过度反应。他们显然不指望取得军事胜利，但他们想犯下尽可能严重的暴行，以激起以色列尽可能激烈的回应，然后利用这种激烈回应，在全世界穆斯林中为加沙和巴勒斯坦的事业动员支持。他们在这一点上成功了。 所以这里反直觉的地方在于，我认为应该做的事——虽然非常困难——是我建议以色列采取尽可能显眼、尽可能明确的善意行动。这才是真正能挫败哈马斯目标的事情。 **Lex Fridman：** 某种意义上，在地缘政治中可行的范围内，把“转过另一边脸”付诸实践。 **Elon Musk：** 并不完全是转过另一边脸。因为我确实认为，以色列找出哈马斯成员并杀死他们或监禁他们是适当的。有些事必须做，否则他们会不断回来。但除此之外，以色列需要做一切能做的事。比如有人谈到建立移动医院，我会建议这样做。确保有食物、水、医疗必需品，并且做得非常充分、非常透明。因为哈马斯会说这是骗局，所以你要反驳“这不是骗局”。把摄像头放在那里，全天候直播。 **Lex Fridman：** 部署善意行动。 **Elon Musk：** 是的，显眼的、毫不含糊的善意行动。因为哈马斯会说“这是骗局”，所以你必须证明它不是骗局。 **Lex Fridman：** 这最终是在对抗这个地区更广泛的仇恨力量。 **Elon Musk：** 是的。我不确定是谁说的，也许是一句谚语：以眼还眼会让所有人都失明。那一带的人非常相信以眼还眼。但如果你不打算对整个民族直接实施种族灭绝——这显然不可接受，也不应该被任何人接受——那你就会留下许多仍然活着、随后憎恨以色列的人。真正的问题是：你每杀死一个哈马斯成员，会创造出多少新的哈马斯成员？如果创造出来的比杀死的更多，那你就没有成功。这就是那里的真实情况。 可以肯定地说，如果你在加沙杀死了某人的孩子，你至少制造了几个会愿意为杀死以色列人而死的哈马斯成员。这就是局面。当然，这是最具争议的话题之一。但如果最终目标是某种长期和平，就必须从这个角度看：随着时间推移，被制造出来的恐怖分子是更多了，还是更少了？ **Lex Fridman：** 我想再停留在战争这个话题上。 **Elon Musk：** 是的，战争。可以肯定，战争一直存在，也会一直存在。 **Lex Fridman：** 会一直存在？ **Elon Musk：** 一直存在，也会一直存在。 **Lex Fridman：** 我希望不是。你认为它会永远—— **Elon Musk：** 永远会有战争。问题只是战争有多少、范围和规模有多大。设想未来完全没有战争，我认为那是非常不可能的结果。 **Lex Fridman：** 你谈过《文明》系列，那里也有战争。 **Elon Musk：** 是的，而且是巨大的战争。第一本书一开始就是一场巨大的银河战争，死了数万亿，数万亿。 **Lex Fridman：** 但它同时仍然保护着那些繁荣的小口袋。某种程度上，你可以有银河战争，同时仍然有繁荣的角落。 **Elon Musk：** 是啊，我猜如果有一天我们能够扩展到整个银河系之类的地方，某个时候也会有银河战争。 **Lex Fridman：** 战争的规模一直在变大、变大、变大。这像是痛苦规模和繁荣规模之间的竞赛。 **Elon Musk：** 是的。 ## [10:41] 战争的代价与核风险：外祖父的经历和文明级威胁 · YouTube **Lex Fridman：** 很多人似乎正在利用这场悲剧敲响战争战鼓，喂养军工复合体。你担心那些支持升级的人吗？这种趋势如何停止？ **Elon Musk：** 让我担心的一件事是，现在真正从内心深处理解战争恐怖的人太少了，至少在美国是这样。当然，乌克兰和俄罗斯前线的人知道战争有多可怕，但西方有多少人真正理解？我的外祖父参加过二战，他遭受了严重创伤。他在东非、北非和意大利待了将近六年。所有朋友都死在他面前，他本来也会死，只是他们随机给一些人做了智商测试之类的东西，他得分很高。 他不是军官，我想可能是下士或中士，因为他没有读完高中。他父亲去世后，他不得不辍学工作来养活兄弟姐妹。因为没有高中毕业，他没有资格进入军官团，所以基本上被放进了炮灰类别。但后来随机的测试改变了他的命运，他被调到伦敦的英国情报部门，也是在那里遇到了我的外祖母。 他的 PTSD 非常严重，非常严重。他几乎不说话。如果你试图跟他说话，他就叫你闭嘴。他获得过不少勋章，但从来没有炫耀过，一次都没有，连暗示都没有。我是因为他的军方记录上线后才知道的。所以他会说：“你绝对不想再经历那种事。”可是还有多少人活着记得二战？不多了。 **Lex Fridman：** 也许这同样适用于核战争的威胁。 **Elon Musk：** 是的。指向美国的核弹足够让放射性尘埃把地球覆盖很多遍。 **Lex Fridman：** 现在有两场主要战争正在进行。你谈过很多 AGI 的威胁，但当我们坐在这里，冲突强度如此之高时，你担心核战争吗？ **Elon Musk：** 我认为我们不应该低估核战争的可能性。它是文明级威胁。现在我可能错了，但我认为当前核战争的概率相当低。可是有很多核弹指向我们，我们也有很多核弹指向别人。它们仍然在那里。没有人把枪放下。导弹仍然在发射井里。 **Lex Fridman：** 而且拥有核武器的领导人似乎没有在彼此交谈。 **Elon Musk：** 没有。有些战争在局部层面是悲剧性的、困难的；还有一些战争有终结文明的潜力。显然，全球热核战争极有可能终结文明，也许是永久终结，至少会严重伤害人类文明，把人类进步打回石器时代之类的状态。我不知道，总之会非常糟糕。那之后科学家和工程师大概也不会太受欢迎——“是你们把我们带进了这个烂摊子”。所以总体上，我认为我们显然要优先处理文明风险，而不是那些局部痛苦、局部悲剧但不是文明级的事情。 ## [14:46] 乌克兰战争：最可能的结局是沿现有战线停火 · YouTube **Lex Fridman：** 你希望乌克兰战争如何结束？同样，最小化那里人类痛苦的路径是什么？ **Elon Musk：** 我认为最可能发生的，也是现在基本上已经呈现出来的，就是停火或休战会非常接近当前战线。现在的局面是，任何一方进攻，伤亡率都会是防守方的好几倍，因为有纵深防御、雷区、壕沟、反坦克防御。没有一方拥有制空权，因为防空导弹远比飞机有效，而且数量更多。所以双方都没有制空权。坦克基本上是死亡陷阱，移动缓慢，而且并不免疫反坦克武器。因此你实际上只有远程火炮和步兵射程。这是带着无人机的一战。 **Lex Fridman：** 这让远程火炮准确得多、强得多，也因此在杀死双方人员上效率更高。 **Elon Musk：** 所以你不想成为试图推进的一方，因为死亡概率高得难以置信。为了突破纵深防御、壕沟和雷区，你真的需要在局部拥有显著数量优势。理想情况下是合成兵种：飞机快速攻击、集中数量的坦克和大量人员。这是你突破防线的唯一方式。然后你突破之后，还要不被增援部队马上赶回去。我真的建议人们仔细读一读一战战法。那太惨了，死亡人数多到难以置信。 **Lex Fridman：** 几乎无法想象一个结局不会看起来几乎和开始时一样——哪块土地属于谁之类的事情几乎不变，只是在另一边多了大量人类痛苦、死亡和基础设施破坏。 **Elon Musk：** 是的。我一年前提出某种休战或和平方案的原因，就是我基本上准确预测了会发生什么：大量人员死亡，土地几乎没有变化，乌克兰和俄罗斯青年的精华流失。我们也应该同情俄罗斯男孩，就像同情乌克兰男孩一样。因为那些男孩并没有要求自己上前线，是他们不得不上。 很多儿子不会回到父母身边。我认为他们大多数并不仇恨对方。这就像一战里的那句话：互不相识的年轻男孩，代表彼此认识的老男人互相杀戮。这到底有什么意义？ **Lex Fridman：** 泽连斯基曾说过，他没有兴趣直接和普京谈。你认为他应该面对面、领导人与领导人坐下来谈判和平吗？ **Elon Musk：** 我只是建议，不管他是否和普京谈，不要把乌克兰青年的精华送进壕沟里去死。不要那样做。任何发起进攻的一方都会损失大量人员，历史不会善待他们。 ## [19:42] 中美关系：修昔底德陷阱与对中国的观察 · YouTube **Lex Fridman：** 你曾坦率谈到，如果在一些问题上，比如台湾和一个中国政策上找不到外交解决方案，美国和中国长期存在战争可能。我们如何避免这两个超级大国发生冲突的轨迹？ **Elon Musk：** 值得读一读那本关于“修昔底德陷阱”的书，名字有点难念。我非常喜欢战争史，对它非常熟。我几乎读过所有战役。我总想弄清楚某场战役真正胜利的原因是什么，而不是某一方声称的理由。 **Lex Fridman：** 包括胜利本身，以及战争如何被点燃—— **Elon Musk：** 对，对。 **Lex Fridman：** 全部过程。 **Elon Musk：** 对。雅典和斯巴达就是经典案例。希腊人的特别之处在于他们写下了很多东西。他们喜欢写作。世界许多地方发生过很多有趣的事，但人们没有写下来，所以我们不知道发生了什么，或者他们没有详细记录，只是说“我们打了一仗，我们赢了”。然后呢？能不能多说一点？希腊人写了很多。他们非常善于表达，而且很多文本保存了下来。所以我们知道伯罗奔尼撒战争之前发生了什么，也知道他们看到了它的到来。 斯巴达人不怎么写，他们天性上也不啰嗦，虽然也写，但不太多。雅典人和其他希腊人写得很多。斯巴达有点像希腊的领导者，但雅典一年比一年强。大家都说：“雅典和斯巴达发生冲突不可避免。”那么如何避免？事实上，他们看见了冲突将来临，却仍然无法避免。 所以在某个时刻，如果一个群体、一个文明或国家超过另一个，就像美国从经济角度看大约从 1890 年起就是街区里最大的孩子。美国作为世界上最强大的经济引擎，已经持续了比任何活着的人都更久的时间。而战争的基础是经济。现在在中国的例子里，中国经济可能会是美国的两倍，甚至三倍。想象一下，你一直是街区里最大的孩子，久到没人记得不是这样，然后突然来了一个比你大两倍的孩子。 **Lex Fridman：** 既然我们看见它正在发生，怎样才能阻止？我先抛一个想法：文化交融与理解。双方之间似乎存在巨大的文化理解鸿沟。你是一个有趣的案例，因为你显然是美国人，在美国做了很多了不起的制造业工作，但你也和中国合作。 **Elon Musk：** 我在中国待过很多时间，也多次见过中国领导层。 **Lex Fridman：** 也许一个好问题是：关于中国，有哪些人们不了解的东西？从积极的文化角度看，你对中国人学到的一些有意思的事情是什么？ **Elon Musk：** 中国有数量惊人的聪明、勤奋的人。你问中国有多少聪明勤奋的人？我认为那里的数量远远超过美国。他们很有能量。近年来中国的建筑远比美国令人印象深刻。火车站、建筑、高铁，所有这些都比美国的东西更令人印象深刻。我建议人们去上海和北京看看建筑，然后坐火车从北京到西安，看兵马俑。 中国有令人难以置信的历史，非常悠久。从书面语言的角度说，我认为它可以说是最古老的书面语言之一，也许是最古老的。而且中国人确实把东西写下来了。 从历史上看，中国几乎一直是向内看的，少数例外除外。它并不好对外征服。中国人打过彼此，发生过很多很多内战。三国战争中，我记得他们损失了大约 70% 的人口。所以中国经历过残酷的内部战争、内战，其规模让美国内战相比之下显得很小。重要的是要理解，中国并不是铁板一块。 ## [26:01] 中国向内看、美国不好征服：两国的共同点 · YouTube 我们往往把中国想成一个实体、一个头脑，但情况绝对不是这样。根据我看到的，以及大多数理解中国的人会同意的，中国人思考中国本身的时间，是他们思考外部世界的十倍。也就是说，他们 90% 的注意力都在内部。 **Lex Fridman：** 当你谈论超级大国之间的合作与未来和平时，这难道不是很积极的一点吗？向内看，专注于改善自己，而不是通过军事力量去“改善”别人。 **Elon Musk：** 好消息是，中国历史表明中国并不好对外征服，也就是说他们不会出去入侵一大堆国家。这是好事。因为很多非常强大的国家是好征服的。美国也是少数并不那么好征服的例子之一。二战之后，美国基本上本可以接管全世界任何一个国家。我们有核武器，别人没有。我们甚至不用牺牲士兵。你想要哪个国家？美国本可以接管一切，但没有。美国反而帮助重建国家，帮助重建欧洲，帮助重建日本。这种行为非常罕见，几乎前所未有。 美国做过显眼的善意行动，比如柏林空运。人们当然会说，美国也做过坏事。是的，当然做过。但你需要看整体记录。一个测试是：你如何对待战俘？比如说，不冒犯俄罗斯人，假设你在 1945 年的德国，一边是苏联军队来了，另一边是法国、英国和美国军队来了，你想向谁投降？没有哪个国家完美，但我强烈建议当美国人的战俘。 **Lex Fridman：** 在所有战俘菜单里选择美国。 **Elon Musk：** 非常如此。事实上，Wernher von Braun 这样聪明的人就说：“我们必须被美国人俘虏。”党卫军奉命处决 von Braun 和所有德国火箭工程师，他们差点没逃出来。他们说是去树林散步。在冬天半夜离开，没有外套，没有食物，没有水，只能拼命往西跑。他的兄弟好像找到了一辆自行车，然后尽可能快地向西骑，直到找到美国巡逻队。所以这也是判断道德的一种方式：你想当谁的战俘？当战俘哪里都不好玩，但有些地方远比其他地方糟。 总之，美国虽然远非完美，但总体上是一股善意力量。我们应该一直自我批评，努力变得更好，但任何有半个脑子的人都知道这一点。 所以我认为，在这个意义上，中国和美国相似。两国都没有在重大意义上表现出强烈的领土攫取倾向。这算是一个共同原则。现在，中国确实非常强烈地看待台湾。他们长期以来一直很清楚地表达这一点。从他们的角度看，这就像美国的某个州不在那里，比如夏威夷之类，但比夏威夷更重要——当然夏威夷对美国也很重要。 ## [30:32] 台湾立场与凡尔赛教训：为什么需要善意行动 · YouTube 他们认为，福尔摩沙岛，也就是台湾，是中国的一个根本组成部分，只是现在不属于中国，但应该属于中国。而它之所以还没有属于中国，唯一原因是美国太平洋舰队。 **Lex Fridman：** 随着他们经济力量增长、军事力量增长，他们明确表达的利益会清楚地被实现。 **Elon Musk：** 是的。中国非常清楚地说过，他们会以和平方式或军事方式纳入台湾。从他们的角度看，他们会把台湾纳入，这一点 100% 会发生。 **Lex Fridman：** 你刚才说把显眼的善意行动作为一种地缘政治政策，这几乎听起来很天真，但我愿意说，这可能就是前进道路，是避免大多数战争的方式。就像你说的，它听起来天真，但有点高明。如果你相信人性底层大多是善，那么显眼的善意行动可以在人群中回荡，使局势降级。 **Elon Musk：** 完全同意。一战之后，他们犯了一个大错。他们基本上试图把所有责任都压到德国身上，并让德国背负不可能偿还的赔款。其实一战的责任可以分给很多方面，但他们试图把它全放到德国身上，这为二战埋下了种子。所以很多人，不只是希特勒，很多人觉得自己受到了冤屈，他们想要复仇，也确实复仇了。 **Lex Fridman：** 人们不会忘记。 **Elon Musk：** 是的。你杀了某人的父亲、母亲、儿子、女儿，他们不会忘记，他们会想复仇。所以二战之后，人们说：“凡尔赛条约是一战后巨大的错误。这一次，我们不再压垮失败者，而是要通过马歇尔计划帮助他们，帮助重建德国，帮助重建奥地利、意大利等等。”这才是正确的做法。 **Lex Fridman：** 显眼的善意行动是这种循环的解药，这里面确实有深刻真理。 **Elon Musk：** 必须有什么东西停止相互暴力的循环。必须有东西停止它，否则它永远不会停。以眼还眼，以牙还牙，以肢还肢，以命还命，永永远远。 ## [33:57] xAI 与 Grok：幽默模式、《银河系漫游指南》与可靠答案 · YouTube **Lex Fridman：** 我们暂时逃离黑暗话题，谈一点惊人的工程工作。xAI 刚刚发布了 Grok AI 助手，我有机会玩了一下。它在很多层面都很惊人。首先，一个相对小的团队在相对短的时间内开发出一个接近最先进水平的系统，这很惊人。另一个惊人的地方是，它有 regular mode 和 fun mode。 **Elon Musk：** 是的，我想那个要怪我。 **Lex Fridman：** 首先，我希望生活中的一切都有 fun mode。和大语言模型的 fun mode 互动，除了有趣之外，还有一种吸引人的东西。我还不完全确定是什么，因为我只玩了一点点，但它让系统互动变得更有意思、更鲜活。 **Elon Musk：** 是的，绝对如此。我们的 AI Grok 是以《银河系漫游指南》为模型的，那是我最喜欢的书之一。它是一本伪装成幽默书的哲学书。我会说，那构成了我哲学的基础：我们不知道生命的意义，但我们越能扩展意识的范围和规模——无论是数字意识还是生物意识——我们就越能理解应该向“宇宙这个答案”提出什么问题。所以我的哲学是好奇心哲学。 **Lex Fridman：** 通常会有一种感觉：这个 AI 系统是向外看的，就像你和一个好朋友坐在一起仰望星空，问一些关于宇宙的呆萌大问题，想知道一切到底是怎么回事。你说的那种好奇心。不管我问它多普通的问题，整个东西都有一种宇宙般的宏大感。 **Elon Musk：** 我们实际上正在努力让它在工程、数学、物理方面给出你可以依赖的答案。其他所谓大语言模型，我发现它们在工程方面并不可靠。不幸的是，它们最不该幻觉的时候最容易幻觉。当你问重要、困难的问题时，它们往往自信地错。所以我们非常努力地问：如何尽可能扎根现实？让你可以信赖结果，把它追溯到物理第一性原理和数学逻辑。因此在幽默之下，有一种尽可能贴近宇宙真相的愿望。 **Lex Fridman：** 这很难。 **Elon Musk：** 是的，很难。所以总会有一定错误。但我们是否想以被承认的误差为前提，尽可能追求答案真实？你不想自信地错。你不可能每次都对，但你想尽量减少自信地错的次数。一旦你可以依赖底层逻辑，不违反物理，你就可以在此基础上创造发明，发明新技术。但如果你不能依赖基础物理的正确性，所谓发明显然就只是愿望、想象国度，基本上是魔法。 **Lex Fridman：** 你说过，xAI 的一个大目标是理解宇宙。 **Elon Musk：** 是的，就是这么简单的三个词任务。 ## [38:01] AI 能否发现新物理：以现实为裁判，并追问智能与意识 · YouTube **Lex Fridman：** 如果你看向遥远未来，在物理学最前沿、我们目前理解的边界上，你认为它会做出最性感的发现吗？比如统一广义相对论和量子力学，提出万有理论。你认为它能往那个方向推进，几乎像理论物理发现那样吗？ **Elon Musk：** 如果 AI 不能发现新物理，那它显然还没有达到人类水平，更别说超过人类，因为人类已经发现过新物理。物理学是在深入理解现实如何运作，而工程则是发明从未存在过的东西。工程可能性的范围远大于物理，因为一旦你发现了宇宙规则，那就是规则。你发现的是已经存在的东西。但从那里你可以构建几乎无限多样的技术。就像一旦你正确理解游戏规则，以当前物理学而言，我们至少在局部层面非常好地理解物理如何运作。我们预测事物的能力极强。量子力学预测结果的程度令人难以置信。顺便说一句，那是我大学里最难的课。大四量子力学比我其他所有课加起来都难。 **Lex Fridman：** 让一个 AI 系统、一个大语言模型像量子力学和物理那样可靠，非常困难。 **Elon Musk：** 是的。你必须把任何结论拿去对照现实的 ground truth。现实是终极裁判。物理是法律，其他一切都是建议。我见过很多人违反人类制定的法律，但没见过任何人违反物理制定的法律。 **Lex Fridman：** 这其实是个很好的测试。如果这个 LLM 理解并匹配物理，那么某种意义上你可以更可靠地信任它对当前政治状态的看法。 **Elon Musk：** 而且目前的情况是，它的内部逻辑甚至不一致。尤其是那种预测下一个 token、再预测下一个 token 的方式，就像向量和。你把一堆向量加起来，但会产生漂移。一点小错误不断累积，等你沿着路径走了很多 token 之后，它就不再有意义了。 **Lex Fridman：** 所以它必须以某种方式自我意识到这种漂移。 **Elon Musk：** 它必须意识到漂移，然后把整体当作一个 gestalt、一个整体来看，说它作为整体并不连贯。作家写书也是这样：他们写完书，然后会修改，考虑结尾、开头和中间，重写以达成连贯性，避免最终走到一个毫无意义的地方。 **Lex Fridman：** 也许修改的过程就是推理。修改的过程就是你越来越接近真理的方式。至少我会这样处理：你先说一堆胡扯，然后慢慢把它变好。你从胡扯开始，然后—— **Elon Musk：** 创建一个草稿，然后迭代那个草稿，直到它有连贯性，直到所有东西基本上都能合起来。 **Lex Fridman：** 关于万有理论的另一个问题，不过是关于智能的。你在 xAI 探索、创造这个智能系统时，你认为存在一种智能理论吗？一种能理解 AGI 里的 I 是什么、人类智能里的 I 是什么的理论？ **Elon Musk：** Team America 里没有 I。等等，还是有。 **Lex Fridman：** 现在这会卡在我脑子里了。量子力学里也没有 me 之类的。我的意思是，理解宇宙的过程是否包括理解智能？ **Elon Musk：** 是的。我认为我们需要理解智能，理解意识。思维是什么？情绪是什么？它真的只是一个原子撞到另一个原子吗？感觉上不止如此。所以我认为我们可能缺失了一些非常大的东西。 **Lex Fridman：** 某种东西，事后看会显得显而易见。你把整个意识和运动—— **Elon Musk：** 有些人会说灵魂，宗教会说灵魂。你感觉你就是你。你并不觉得自己只是一堆原子。但思想存在于哪个维度？情绪存在于哪个维度？因为我们非常强烈地感受到它们。我怀疑这里不只是原子撞原子。 **Lex Fridman：** 也许 AI 可以为发现那个鬼东西铺路。 **Elon Musk：** 是的。意识是什么？当你把原子排列成某种形状，为什么它们能够形成思想、采取行动、产生感受？ **Lex Fridman：** 即使这是一种幻觉，为什么这种幻觉如此有说服力？ **Elon Musk：** 是的。为什么这个幻觉存在？这个幻觉存在于哪个平面？有时我会想，也许要么一切都有意识，要么一切都没有意识，二者之一。 **Lex Fridman：** 我喜欢前者。一切都有意识听起来更有趣。 **Elon Musk：** 是的，那听起来确实更有趣。但我们由原子构成，那些原子由夸克和轻子构成，而那些夸克和轻子从宇宙开始以来就存在了。 **Lex Fridman：** “宇宙开始。” **Elon Musk：** 看起来像是宇宙开始的地方。 ## [44:55] 费米悖论与外星人：为什么要成为多行星文明 · YouTube **Lex Fridman：** 我们第一次谈话时，我问你，如果你创造出一个 AGI 系统，你会问它什么问题。你说：“模拟之外是什么？”回头想那场讨论很超现实，因为它似乎正在成为现实。这个问题很好。但有了 Grok，你似乎真的把系统目标设成能够回答这类问题，也能提出这类问题。 **Elon Musk：** 外星人在哪里？ **Lex Fridman：** 外星人在哪里？ **Elon Musk：** 这是费米悖论问题之一。很多人问过我有没有看到外星人的证据，我没有。这有点令人担心。我想我大概至少希望看到一些外星人的考古证据。就我所知，我不知道任何监测到的证据。如果他们在那里，他们非常微妙。也许我们就是银河系里唯一的意识，至少是唯一的意识之一。 如果你看地球历史，按考古记录看，地球大约 45 亿岁。以最早文字为衡量标准的文明只有大约 5000 年。这里我们要给古苏美尔人一点功劳，虽然他们已经不在了。我想最早的实际符号表示是一种古老前形态，但大约 5000 年前。把它作为文明开始的日期，我认为不错。那只是地球存在时间的百万分之一。 所以文明到目前为止真的只是昙花一现。为什么花了这么久？45 亿年里，大多数时间没有生命。然后是古菌和细菌，非常漫长。然后线粒体被捕获，多细胞生命出现，分化为植物和动物，生命从海洋移动到陆地，哺乳动物，更高级的脑功能。太阳正在缓慢膨胀，未来某个时候会把地球加热到海洋沸腾，让地球变得像金星一样，生命如我们所知将不可能存在。所以如果我们不成为多行星物种，并最终成为太阳系文明，地球上所有生命被毁灭就是确定的，确定无疑。在银河尺度上，这可能短到 5 亿年。按人类标准很长，但只比地球存在时间的 10% 多一点。如果地球生命进化再多花 10% 的时间，它就根本不会存在。 **Lex Fridman：** 有个截止日期要来了，你最好快点。话虽如此，正如你说的，人类这种地球上的智能生命很快发展出了很多很酷的东西。所以成为多行星物种似乎几乎不可避免，除非我们毁灭—— **Elon Musk：** 我们需要做到。如果我们能够走出去探索其他恒星系统，我怀疑我们有很大机会发现一大堆早已灭亡的单行星文明，它们从未走出自己的母星。 **Lex Fridman：** 那太悲伤了，也很迷人。 **Elon Musk：** 费米悖论有各种解释。其中一个是文明无法穿越某些大过滤器。一个大过滤器就是：你是否成为多行星文明？如果不是，那么你的星球上迟早会发生某些自然或人为事件，让你灭绝。比如恐龙，它们现在在哪里？它们没有飞船。 **Lex Fridman：** 我觉得更可能的情况是，设身处地想想外星人，他们发现了我们，然后在保护我们，让我们自己待着。 **Elon Musk：** 希望如此。友善的外星人。 **Lex Fridman：** 就像亚马孙雨林里未接触部落那样，保护他们。那就是—— **Elon Musk：** 那会是个不错的解释。 **Lex Fridman：** 或者也可能像 Andre Kappelhoff 说的：“这就像亚马孙里的蚂蚁问，大家都去哪了？” **Elon Musk：** 它们确实会遇到很多其他蚂蚁。 **Lex Fridman：** 这倒是真的。 **Elon Musk：** 还有蚂蚁战争。 **Lex Fridman：** 听起来像个好电视剧。 **Elon Musk：** 是的。各种蚂蚁之间真的会有大战。 **Lex Fridman：** 也许我只是忽视了蚂蚁多样性。 **Elon Musk：** 你应该听 Werner Herzog 谈丛林那段，真的很好笑。你听过吗？ **Lex Fridman：** 没有，但 Werner Herzog 是一种—— **Elon Musk：** 你应该把它作为节目里的插曲播放。在 YouTube 上，太棒了。 **Lex Fridman：** 我太喜欢他了。 **Elon Musk：** 他很棒。 **Lex Fridman：** 他是不是拍过《Happy People: A Year in the Taiga》？我想还—— **Elon Musk：** 他拍过那个熊纪录片。他还做过企鹅的东西。 **Lex Fridman：** 对企鹅的精神分析。 **Elon Musk：** 是的。那只企鹅朝着 70 英里外的山走，基本上是奔向死亡。 **Lex Fridman：** 也许他只是一个勇敢的探险者，企鹅族群会在未来几个世纪讲述关于他的伟大故事。我们刚才说到哪了？好吧。 **Elon Musk：** 外星人。我的意思是，我不知道。看，我认为聪明的做法是：这是地球历史上第一次，生命有可能扩展到地球之外。这个窗口打开了。它可能会打开很久，也可能只打开很短时间。它可能现在打开，然后再也不会打开。所以我认为聪明的做法是，在可能的时候让生命成为多行星。 我们不想成为那种逊毙了的单行星文明，最后就那样灭亡。 **Lex Fridman：** 对，那些很逊。 **Elon Musk：** 是的，很逊。一个有自尊的文明不会只待在一个星球上。 **Lex Fridman：** 维基百科上不会有那种文明的条目。SpaceX 有遇到外星人的官方政策吗？ **Elon Musk：** 没有。 **Lex Fridman：** 这听起来不负责任。 **Elon Musk：** 看，如果我看到哪怕一丁点外星人的迹象，我会立刻在 X 平台发布我知道的一切。 **Lex Fridman：** 那可能会成为史上点赞和转发最多的帖子。 **Elon Musk：** 是的。看，我们现在在天上的卫星比其他所有人加起来还多。所以如果有什么东西需要我们规避，我们会知道。但我们不需要规避任何东西。 ## [52:55] 斯宾诺莎的上帝与模拟：运行模拟是因为不知道结果 · YouTube **Lex Fridman：** 如果我们再次进入大问题，你说过你和爱因斯坦一样，相信斯宾诺莎的上帝。 **Elon Musk：** 是的。 **Lex Fridman：** 那种观点认为，上帝像宇宙一样，通过物理法则显露自身，或者用爱因斯坦的话说，通过世界的法则性和谐显露自身。 **Elon Musk：** 是的。我会同意：模拟器之神，或者无论什么至高存在，都是通过他们为这个存在创造的物理法则显露自身。我们有责任努力理解这个创造物。 **Lex Fridman：** 谁创造了这个东西？谁在运行它？把它凝结成一个问题，再在上面放一个性感的词，会让头脑集中去理解。看起来好像有某种目的，当然这也可能是幻觉。看起来似乎有某种底层总体计划。 **Elon Musk：** 也许没有那种意义上的总体计划。关于决定论和自由意志，一个有意思的回答也许是：如果我们处在模拟中，那么这些更高存在运行模拟的原因，就是为了看会发生什么。所以他们不知道会发生什么，否则就不会运行模拟。 当人类创造模拟时，比如 SpaceX 和 Tesla，我们一直在做模拟。尤其是火箭，你必须运行大量模拟来理解会发生什么，因为在火箭上太空之前你无法真正测试它，而你希望它能工作。所以你必须模拟亚音速、跨音速、超音速、高超音速、上升过程、返回过程、极高热负荷和轨道动力学。所有这些都必须模拟，因为你的机会并不多。 但我们运行模拟是为了看看会发生什么。如果我们已经知道会发生什么，就不会运行模拟。所以创造这个存在的那位，是因为不知道会发生什么才运行它，不是因为知道。 ## [55:23] 《暗黑破坏神 4》：德鲁伊为何难以击败 Uber Lilith · YouTube **Lex Fridman：** 也许我们俩都玩《暗黑破坏神》。也许《暗黑破坏神》被创造出来，就是为了看看你的角色——德鲁伊——能不能在最后击败 Uber Lilith。他们不知道。 **Elon Musk：** 有趣的是，Uber Lilith 的称号是“仇恨化身”。现在，我想你可以问《暗黑破坏神》团队，在 eternal realm 里击败仇恨几乎是不可能的。 **Lex Fridman：** 你直播过自己横扫 100 层 Nightmare Dungeon。然后还是—— **Elon Musk：** 我可以像在公园散步一样轻松通过 100 层 Nightmare Dungeon。 **Lex Fridman：** 然后你还是被仇恨击败了？ **Elon Musk：** 是的。第二难的 boss 也许是 Duriel。Duriel 甚至刮不掉我的漆。我杀 Duriel 杀了很多次，游戏里其他所有 boss 我都杀了很多次，很容易。但 Uber Lilith，也就是仇恨化身，尤其如果你是德鲁伊，又没有那种可以变得无敌的能力，就会有随机死亡波向你袭来。 我 52 岁了，反应已经不如从前，但我一生都在玩电子游戏。我曾经也许是世界上最好的《雷神之锤》玩家之一。我赢过钱，那可能是美国第一场有奖金的电竞比赛。我们打四人《Quake》锦标赛，我是队里第二强的人。我们本来会第一名，但队里最强的人比赛中途电脑崩了。所以我们拿了第二，但我确实拿到了奖金。基本上我有技术，只是现在不年轻了。坦白说，用德鲁伊击败 Lilith、在 eternal realm 里击败仇恨化身这件事让我快疯了。 **Lex Fridman：** 作为德鲁伊。 **Elon Musk：** 作为德鲁伊。真的很折磨，我告诉你。 **Lex Fridman：** 挑战是乐趣的一部分。我亲眼见过，你确实是世界级、非常厉害的电子游戏玩家。对于《暗黑破坏神》，你是在拿起一个新游戏，弄清它的基本原理。你在巅峰盘和 build 上，也不是像我这样完全照着网上建议来的人。你在那里也在创新，看起来很搞笑。就像一个疯狂科学家在研究巅峰盘和 build。如果有人从德鲁伊开始，你有什么建议吗？ **Elon Musk：** 我不建议在 eternal realm 玩德鲁伊。现在我认为 seasonal realm 里最强的是带闪电球的法师。那些人在赛季里有巨大的球。 **Lex Fridman：** 大家都这么说。 **Elon Musk：** 对，有巨大的球。巨大的闪电球。 **Lex Fridman：** 我相信你。 ## [59:24] 电子游戏的意义：心流、《艾尔登法环》与对仇恨的反思 · YouTube **Elon Musk：** 在 seasonal realm 里击败 Uber Lilith 很容易，因为你有那些吸血鬼能力，可以放大你的伤害、增加防御等等。所以季节性击败仇恨很容易，但永恒地击败仇恨非常困难，几乎不可能。非常不可能。像是人生的隐喻。 **Lex Fridman：** 是啊。我喜欢这个画面：埃隆·马斯克——我昨天玩《暗黑破坏神》时看到一个 100 级德鲁伊跑过去，说“我永远不会死”，然后又跑回来。这个隐喻很搞笑：埃隆·马斯克在恶魔领域里不知疲倦地与仇恨作战。 **Elon Musk：** 是的。 **Lex Fridman：** 太搞笑了，真的很搞笑。 **Elon Musk：** 不，这很荒谬。真的是一种荒谬练习，让我想把头发扯下来。 **Lex Fridman：** 你个人从电子游戏中得到什么？ **Elon Musk：** 我不知道。它让我的头脑平静。我的意思是，在电子游戏里杀恶魔，可以让脑子里的恶魔安静下来。如果你玩一个难度合适的游戏，你会进入一种心流状态，那非常愉快。当然，游戏不能太容易，也不能太难，要在金发姑娘区间。通常你也希望感觉自己在游戏中有所进展。一个好的电子游戏还有美丽的艺术、引人入胜的故事线，就像一个很棒的谜题要解决。我觉得它就是解谜。 **Lex Fridman：** 《艾尔登法环》是史上最伟大的游戏。我还没玩过，但对你来说—— **Elon Musk：** 《艾尔登法环》绝对是史上最佳游戏候选，前五肯定有。 **Lex Fridman：** 我有点害怕它有多难，或者听说它有多难，但它很美。 **Elon Musk：** 《艾尔登法环》感觉像是外星人设计的。 **Lex Fridman：** 这也是我们这场谈话的主题。在哪方面？ **Elon Musk：** 它太不同寻常了。极其有创造力，艺术也很惊艳。我建议在大分辨率、高动态范围的电视上玩，不一定非要显示器。它的艺术太不可思议了，太美，太不同寻常。每一个顶级 boss 战都是独特的，是一个独特的谜题。每一个都不同，你解决一场战斗的策略和另一场不同。 **Lex Fridman：** 话虽如此，你说 eternal realm 的德鲁伊对 Uber Lilith，是你遇到过最难的 boss 战？ **Elon Musk：** 没错。当前是这样。我玩过很多电子游戏，因为那是我主要的休闲活动。是的，在 eternal realm 击败仇恨，是人生中也是电子游戏中最难的 boss 战。我不确定这是否可能，但我确实在进步。所以我会想：“好，我在进步。也许再微调一点巅峰盘，我就能做到。再躲过几波，我就能做到。” **Lex Fridman：** 这个模拟被创造出来，就是为了弄清楚能不能做到，而你只是模拟机器里的一个齿轮。 **Elon Musk：** 是的，可能是。我有种感觉，至少我认为—— **Lex Fridman：** 能做到。 **Elon Musk：** 能做到，是的。 **Lex Fridman：** 这就是人类精神，相信。 **Elon Musk：** 是的。这也促使我思考仇恨本身。你要小心那些听起来很好、但一旦实现就可能变成反乌托邦的愿望。如果你祈愿世界和平，听起来很好，但它如何被执行？代价是什么？永恒和平也许实际上更糟，因为那意味着什么？它可能意味着压制所有人，可能意味着压制进步，可能意味着一个僵化、永不改变的社会。我的意思是，有一种论点说，如果你祈愿没有战争，你要小心自己的愿望，因为为了没有战争所必需的东西，可能比一点战争还糟。 ## [1:04:22] 反乌托邦：《美丽新世界》的 Soma，以及痛苦与仇恨的作用 · YouTube **Lex Fridman：** 是的。我们认为是人类文明缺陷的东西，也许是某种最优状态所必需的组成部分。你会担心 AI、AGI 让这种反乌托邦国家成为可能吗？无论是《1984》里那种监控和恐惧，还是《美丽新世界》里那种快乐、很多性，但没有深刻的人类体验。 **Elon Musk：** 真的有一种药叫 Soma。 **Lex Fridman：** 真有？ **Elon Musk：** 是的。 **Lex Fridman：** 我要记下来。 **Elon Musk：** Grok 知道吗？不知道。它可能会去查《美丽新世界》。 **Elon Musk：** 我们得问问它。 **Lex Fridman：** 问题是什么？ **Elon Musk：** 给我们讲讲叫 Soma 的药。 **Lex Fridman：** 给我们讲讲叫 Soma 的药。它大概会去讲《美丽新世界》，我想。正在搜索 Soma 药物信息。哦。Soma，神奇药物。顺便说，我现在在 fun mode。它说这是一种自 1950 年代以来就存在的肌肉松弛剂，用于治疗肌肉疼痛和不适，通过改变神经元和脊髓之间的活动起作用。Soma 不仅是止痛药，也有点镇静作用，可能让你犯困。所以如果你打算操作机器或解决复杂数学方程，就不该服用。后面还有很多。 总之，Soma 对处理肌肉疼痛的人有帮助，但也并非没有风险。说得不错。等一下。 **Elon Musk：** 它说的是真实药物。 **Lex Fridman：** 是真实药物。当然，fun mode 总会说要根据医疗专业人士建议负责任使用。还说：“记住，到最后，宇宙可能只是一个巨大的计算机模拟，所以不要太认真。”我喜欢。 **Elon Musk：** 我喜欢，是的。 **Lex Fridman：** 它还很好地包含了相关的 tweets、X 上的帖子，这很酷。它把东西整合在一起。界面是这里很酷的东西之一。 **Elon Musk：** 是的。团队做得很好。你可以说，不，我是指《美丽新世界》里的 Soma，因为它以为你指的是真实药物。你说，不，我是指《美丽新世界》里的 Soma。 **Lex Fridman：** 它会说：“哎呀，我真的很抱歉。我刚才想的是肌肉松弛剂。《美丽新世界》里的 Soma 是完全不同的东西。在赫胥黎的反乌托邦中，Soma 是一种在小说社会里扮演核心角色的药物。它是一种改变情绪的致幻药，用来让人群温顺、满足。” 在《美丽新世界》中使用 Soma，引出了关于幸福本质和药物在社会中角色的一些有趣问题。 **Elon Musk：** 正是如此。生活在一个所有人一直快乐的世界里更好吗，即使那种快乐是人工的？这是好问题。这就是我的意思。你是否希望世界永远和平、所有人永远幸福？你确定吗？因为那可能是一个本质上贫瘠、僵化、永不改变并最终注定灭亡的社会。 **Lex Fridman：** 这种在黑暗与光明之间的张力—— **Elon Musk：** 这真是一个很好的总结。它抓住了要点。它不是简单复述《美丽新世界》，而是真的抓住了 Soma 作为药物的关键因素。你真的想处在一个所有人都一直快乐的处境中吗，即使那是人工的？还是说，面对生活挑战、体验人类情绪的完整范围更好，即使这意味着经历痛苦和苦难？ **Lex Fridman：** 顺便对听众说，埃隆刚才直接读了 Grok 的回答，那是对这里张力的一段很好的、洞察性的哲学分析。有意思。 **Elon Musk：** 它基本上说中了。总结一下，《美丽新世界》里的 Soma 是一种虚构药物，用来探索关于幸福本质和药物在社会中角色的深刻哲学问题。它是一个强有力的象征，象征利用药物逃避现实的危险，以及直面生活挑战的重要性。说中了。疯狂的是，我们现实中确实有一种叫 Soma 的药，像书里的那种药。我当时想：“他们大概就是从那里命名的。”真实药物对背痛相当有效。 **Lex Fridman：** 所以你知道这种药。很迷人。 **Elon Musk：** 我用过，因为我的 C5-C6 椎间盘被压坏过。 **Lex Fridman：** 所以它会拿走身体疼痛。但这里的 Soma—— **Elon Musk：** 不是完全拿走，它减少你感觉到的疼痛，但代价是心智能力。它让你的头脑变钝，就像书里的药。 **Lex Fridman：** 就像书里的药，因此有了权衡。看起来像乌托邦的东西，最终可能仍然是反乌托邦。 **Elon Musk：** 是的。我其实曾经对一个朋友说：“你真的希望世界上没有仇恨吗？一点都没有？”我想知道仇恨为什么进化出来。我不是说我们应该放大仇恨，当然我认为我们应该尽量减少它，但完全没有？也许仇恨有某种原因。 **Lex Fridman：** 还有苦难。思考某种程度的人类苦难是否对人类繁荣是必要的，真的很复杂。 **Elon Musk：** 如果不知道低谷，是否可能欣赏高峰？ **Lex Fridman：** 所有这些，都可以总结为上帝的一句话。好吧。 **Elon Musk：** 没有高峰，没有低谷，谁知道呢？ ## [1:10:41] AI 与能源：硅短缺、变压器短缺与电力短缺 · YouTube **Lex Fridman：** 训练 LLM 的效率似乎是 xAI 的重点。首先，从效率角度看，可能性的极限是什么？有一个说法叫每瓦有效生产力。你从推动它的极限中学到了什么？ **Elon Musk：** 我认为物理学的工具非常强大，几乎可以应用到生活中的任何领域。本质上就是批判性思维。对于重要问题，你需要从第一性原理推理，并从一个方向或另一个方向思考极限。所以在极限情况下，即使在卡尔达肖夫尺度上，即使你利用了整个太阳的能量，你仍然会关心每瓦有效算力。 从 AI 角度看，我认为事情可能会这样发展：我们现在有硅短缺，大约一年后会转变成降压变压器短缺。很讽刺，是 transformers for transformers。你需要变压器来运行 transformer。 **Lex Fridman：** 这里面好像有人很有幽默感。 **Elon Musk：** 是的，我想命运喜欢反讽，喜欢带有反讽的幽默。具有反讽意味的有趣结果，似乎经常是命运想要的东西。 **Lex Fridman：** 幽默就是你所需要的一切。有人发帖说 spice is all you need。 **Elon Musk：** 是的。现在我们有硅短缺，大约一年后可能会有降压变压器短缺，然后大约两年后会普遍出现电力短缺。我曾给世界公用事业公司、电力公司大会做演讲。我说，你们真的需要为电力需求翻三倍做准备，因为所有交通都将电气化，讽刺的例外是火箭，供暖也会电气化。 现在能源使用非常粗略地说，大约三分之一是电力，三分之一是交通，三分之一是供暖。为了让一切可持续、变成电气化，你需要把电力产出提高三倍。 所以我鼓励公用事业公司建设更多发电厂，也应该一定购买更多电池。因为当前电网是按照实时负载来设计的，这有点疯狂，因为这意味着你必须按照一年中最糟糕的一秒或最糟糕的一天的峰值电力需求来设计，否则就可能限电或停电。我们在奥斯汀经历过那次疯狂停电，持续好几天，因为电网几乎没有能量缓冲。如果有水电站，可以缓冲能量；否则一切都是实时的。有了电池，你可以夜间生产能量，白天使用，从而缓冲。 我预计未来电池使用会非常重，因为发电厂峰谷比可能在二到五之间，也就是最低点到最高点之间。 **Lex Fridman：** 所以电池是平衡它所必需的，但需求如你所说会增长、增长、增长。 **Elon Musk：** 是的。 **Lex Fridman：** 其中一部分是算力？ **Elon Musk：** 是的。交通电气化和电供暖至少在短期内会比 AI 大得多。但即使对 AI 来说，你也会看到电力需求增长；电动车需要电力，运行 AI 计算机也需要电力。所以这显然可能导致电力短缺。 **Lex Fridman：** 在这个特定情况下，最大化训练的每瓦有效生产力有多难？这似乎是我们面对的大问题，需要解决的问题：如何高效使用电力。到目前为止，你在这个领域应用物理第一性原理推理学到了什么？这个问题有多难？ **Elon Musk：** 它会被解决。问题是需要多久解决。在不同阶段，进步会有某种限制因素。对于 AI，我说现在限制因素是硅芯片。大约一年后，我们可能会有比我们实际能插上电、打开的还多的芯片。最初的约束字面上是降压变压器，因为电力以 30 万伏进来，最终要一路降到大约 0.7 伏。降压幅度巨大，而行业不习惯快速增长。 ## [1:16:22] AI 监管：需要第三方裁判，以及航天审批中的荒谬案例 · YouTube **Lex Fridman：** 好。谈谈这里的竞争。你表达过对 Google 和 Microsoft 与 OpenAI 开发 AGI 的担忧。你如何通过 xAI 和 Tesla AI 的工作，帮助确保它不会变成一场 AGI 竞赛，而是安全 AGI 的协作式发展？ **Elon Musk：** 我长期以来一直推动某种监管监督。我在这个问题上当了十多年“卡桑德拉”。我认为我们要非常谨慎地开发 AI。它是强大力量，而能力越大，责任越大。 我认为明智的做法是，至少要有一个客观第三方，像裁判一样，可以进去了解各个领先玩家在 AI 上做什么。即使没有执法能力，至少可以公开表达担忧。比如 Geoffrey Hinton 离开 Google 后强烈表达了担忧，但他现在不在 Google 了，那谁来表达担忧？Tesla 在汽车领域接受大量监管监督。我们在国内外大概受到一百多个监管机构监管。非常多。Tesla 在汽车方面要遵守的所有法规，可以装满这个房间。火箭也是一样。目前 SpaceX Starship 发射的限制因素就是监管批准。 FAA 已经给了批准，但我们还在等 Fish and Wildlife 完成分析并批准。所以我发帖说想买一张 fish license，这也指的是 Monty Python 的小品：为什么你的鱼需要执照？我不知道。但根据规则，我被告知需要某种鱼证之类的东西。我们实际上需要一张鱼证才能发射火箭。我就想，等一下，鱼怎么进入这个画面了？有些事荒谬到我想做一个喜剧小品，并在底部闪现一行字：这一切都是真的，这确实发生过。 有一次，他们担心火箭会撞到鲨鱼，这也是一个挑战。海洋非常大，你多久能看到鲨鱼？并不常见。按海洋表面积比例，鲨鱼基本为零。于是我们说，要如何计算杀死鲨鱼的概率？他们说不能给我们数据，因为担心捕鲨翅的人去捕鲨。我说，那我们怎么做？我们就陷入两难了。 他们说 Fish and Wildlife 另一个部门可以做这个分析。我说，那你们为什么不把数据给他们？他们说我们不信任他们。我说，什么？他们明明就在你们部门。再次强调，这真的发生了。后来他们终于解决了内部困境，确实证明我们撞到鲨鱼的概率基本为零。 还有另一个组织，我直到几个月前才知道存在，他们关心我们是否可能在国际水域撞到鲸鱼。同样，你看太平洋表面，问太平洋有多少百分比是鲸鱼？我可以给你一张大图，让你指出图中所有鲸鱼。我看不到任何鲸鱼。基本上是 0%。如果我们的火箭真的撞到一头鲸鱼，那可能性低到难以置信，命运如此安排的话，那就是一头运气极差的鲸鱼，史上最倒霉的鲸鱼。 **Lex Fridman：** 这种官僚荒谬确实很荒唐，不管它是怎么形成的。 **Elon Musk：** 是的。还有一件相当疯狂的事：从加州范登堡发射时，我们必须处理他们对海豹繁殖的担忧。他们担心海豹会被音爆吓到。可是范登堡已经发射过很多火箭，海豹数量一直稳定增加。所以如果一定要做相关性分析，火箭音爆也许是催情剂。 尽管如此，我们还是被迫“绑架”一只海豹，把它绑在板子上，给它戴上耳机，播放音爆声音，看看它会不会痛苦。这是真实发生的事，真的。我有照片。 **Lex Fridman：** 我很想看。对不起，一只戴耳机的海豹。 **Elon Musk：** 是的，一只戴着耳机、绑在板子上的海豹。神奇的是，那只海豹非常平静。因为如果我是海豹，我会想：完了，他们肯定要吃我。这只海豹回到其他海豹朋友那里时，要怎么解释？ **Lex Fridman：** 它们绝对不会相信它。 **Elon Musk：** 绝对不会相信。所以这有点像被外星人绑架并被肛门探测。你回来以后说：“我向上帝发誓，我被外星人绑架了，他们把肛门探针插进我屁股里。”别人会说：“不，他们没有，那太荒谬了。”它的海豹朋友永远不会相信它被绑到板子上、耳朵上戴了耳机，然后又被放走了。顺便说，我们还得做两次。 **Lex Fridman：** 放了它两次？ **Elon Musk：** 我们不得不抓—— **Lex Fridman：** 同一只海豹？ **Elon Musk：** 不同海豹。 **Lex Fridman：** 好吧。你拿到 seal of approval 了吗？ **Elon Musk：** 正是，seal of approval。不开玩笑，我不觉得公众完全知道这些疯狂的事情。 **Lex Fridman：** 是的，太荒谬了。 **Elon Musk：** 该死的戴耳机海豹。 **Lex Fridman：** 戴耳机的海豹，确实很好地概括了人类文明的荒谬。 ## [1:23:16] AI 是否开源：OpenAI 的由来与同 Larry Page 的分歧 · YouTube **Elon Musk：** 是的。 **Lex Fridman：** 对你而言，开源 AI 的利弊是什么？这也是对抗某家公司带着 AGI 跑远的一种方式。 **Elon Musk：** 要运行真正深层的智能，你需要大量算力。所以不是说你可以在地下室打开一台 PC 就运行 AGI，至少现在还不行。Grok 是用 8000 张 A100 以峰值效率训练的。顺便说，Grok 会变得好很多，接下来几个月我们每隔几个月都会把算力翻倍以上。 **Lex Fridman：** 有一篇不错的文章，讲我们如何从 Grok zero 到 Grok one。 **Elon Musk：** Grok 写的吗？ **Lex Fridman：** 对，Grok 在吹自己，瞎编关于自己的事。 **Elon Musk：** 就是 Grok、Grok、Grok。 **Lex Fridman：** 那像一个奇怪的 AI 约会网站，夸大自己的情况。不，有一篇文章讲它现在的位置、开发历史，以及它在一些基准上和最先进的 GPT-3.5 相比的位置。你可以在训练之后开源模型，也可以开源用于微调之类的东西。开源基础模型的利弊是什么？ **Elon Musk：** 我认为开源有道理，也许带一点时间延迟，比如六个月。我总体上支持开源，偏向开源。 让我担心的是 OpenAI。我想，从某种奇怪意义上说，我是 OpenAI 背后的主要推动者，因为它是我和 Larry Page 讨论之后产生的。那时候 Larry 和我是朋友，我住在他家，和他谈 AI 安全。Larry 不关心 AI 安全，至少当时不关心。有一次，他还说我支持人类是 speciesist。我说：“Larry，你到底站在哪个队？”当然，他仍然站在机器人队。 当时 Google 已经收购 DeepMind，世界上大概三分之二的 AI 研究者都在那里。他们基本上有无限的钱和算力，而负责的人 Larry Page 不关心安全，甚至因为我支持人类而对我大喊，说我是物种主义者。 **Lex Fridman：** 我不知道你有没有注意到，人类是会改变想法的，也许你和 Larry Page 还能再做朋友。 **Elon Musk：** 我希望再次和 Larry 做朋友。真正破坏友谊的是 OpenAI，具体来说，我认为关键时刻是招募 Ilya Sutskever。 **Lex Fridman：** 我喜欢 Ilya。他太聪明了。 **Elon Musk：** Ilya 是个好人，聪明，心地好。那是一场艰难的招募战。基本上是 Demis 在一边，我在另一边，我们都试图招募 Ilya。Ilya 来回摇摆，他要留在 Google，他要离开，又要留下，又要离开。最后他同意加入 OpenAI。那是我们经历过最艰难的招募战之一。但那确实是 OpenAI 成功的关键。 我还在招募其他一些人方面发挥了重要作用。最开始的所有资金也是我提供的，超过 4000 万美元。OpenAI 里的 open，本来应该指 open source，它被创建为非营利、开源的组织。现在它变成了闭源、最大化利润的组织，我认为这不是什么好 karma。 **Lex Fridman：** 但就像我们谈战争和领导人对话时说的，我确实希望，在最高层做这件事的人就那么几位，我希望你们能重燃友谊。 **Elon Musk：** 就像我说的，我希望再次和 Larry 做朋友。我已经很久没见到他了。我们曾是很长时间的朋友。我在 Larry Page 获得 Google 融资之前就认识他，或者说在获得风险投资之前。我想他最早拿到的 10 万美元可能来自 Bechtolsheim 之类的人。 **Lex Fridman：** 想想这一路发生的一切，以及你们在那整段时间都认识，20 年，很疯狂。 **Elon Musk：** 是的，大概从 1998 年左右。 **Lex Fridman：** 太疯狂了。从那之后发生了太多事。 **Elon Musk：** 是的，25 年，发生了很多。太疯狂了。 **Lex Fridman：** 但你也看到了那里存在的张力，也许它延迟了开源。 **Elon Musk：** 延迟，是的。什么是开源的 source？你明白吗？基本上它就是一个巨大的 CSV 文件，里面有一堆数字。你拿那个巨大的数字文件做什么？你怎么运行？实际代码行数很少。软件工作的大部分在数据整理上，在弄清楚什么数据好、什么数据坏。你不能只是爬整个互联网，因为那里有很多垃圾。大量网站噪音多于信号，因为它们只是为了搜索引擎优化而存在，字面上就是诈骗网站。 **Lex Fridman：** 顺便插一句，在 X 上你如何从噪音中获取信号？那是一个非常迷人的数据源。无意冒犯 X 上发帖的人，但有时确实有点噪音。 **Elon Musk：** 我认为信噪比可以大幅改善。X 平台上的所有帖子都应该由 AI 推荐。也就是说，我们应该围绕任何给定帖子填充一个向量空间，再把它和任何用户周围的向量空间比较，把二者匹配起来。现在推荐帖子里用了一点 AI，但主要还是启发式规则。 如果一个回复比原帖好得多，按照当前系统规则，它相比主帖几乎得不到任何注意。 ## [1:30:37] X 算法：推荐应由向量相关性驱动，回复被埋没 · YouTube **Lex Fridman：** 我感觉 X 算法中有很多东西已经开源并被写过文章，看起来里面有一些机器学习。它很分散，但确实有一些机器学习。 **Elon Musk：** 有一点，但它需要完全变成那样。至少如果你明确关注某人，那是一回事。但对于推荐你没有关注的人发布的内容，它都应该是 AI。 **Lex Fridman：** 这是个很迷人的问题。它有几个方面都很迷人。首先，按那篇文章说，它先从数亿条 tweet 中挑出 1500 条。这本身就很迷人。每天有数亿条帖子，它必须挑出 1500 条。显然会有人们关注的人，但也会有某种聚类，要弄清楚你是什么样的人，哪些新闻集群可能和你相关，哪些人像你。这个问题很迷人，因为它还必须给那 1500 条排序，做一些过滤，然后只给你推荐少数几条。 对我来说真正迷人的，是它必须做得多快。目前整条流水线从几亿到少数几条，需要 220 秒单 CPU 时间，然后它必须在一秒内完成。所以它必须以很有意思的方式高度分布式。系统里有太多 tweet，太多了。 **Elon Musk：** 系统里有很多东西。但我认为，现在它还不擅长推荐你没有关注的账号的东西，或者超过一度关系的东西。如果你关注的人点赞、转发或评论了某个东西，它还不错，因为至少有一点共同性。但如果完全没有，比如某人发了一条很有意思的内容，但你们没有共同关注者，你就看不到。 **Lex Fridman：** 有意思。然后就像你说的，回复可能也浮不上来。 **Elon Musk：** 目前回复基本上永远不会被看到。我不是说这是对的，我是说这是错的。回复的重要性比主帖低好几个数量级。 **Lex Fridman：** 你认为这能越来越多地转化为端到端神经网络吗？ **Elon Musk：** 是的，是的，这就是它应该成为的样子。推荐应该纯粹是向量相关性。有一系列向量，基本上是参数、向量，或者你想怎么叫都行，就是系统知道你喜欢的东西。每个用户账号也许有几百个相关向量，然后系统里的任何帖子，无论是视频、音频、短帖、长帖。 顺便说，我想摆脱 tweet 这个词的原因是，人们正在网站上发布两三个小时的视频。那不是 tweet。两小时的 tweet？别闹了。tweet 在 140 字文本时代有意义，就像一群小鸟叽叽喳喳。但当你有长篇内容时，它不再是 tweet。一部电影不是 tweet。比如 Apple 曾经在平台上发布了《Silo》完整一集，整集都发了。顺便说，那是他们在任何平台上、任何社交媒体活动里参与度最高的一次。所以那是个好主意。 我也是事后才知道。我当时想，嘿，哇，他们发了一个整整一小时的剧集。所以不，那不是 tweet，这是视频。 **Lex Fridman：** 但从神经网络角度看，它会变得非常复杂。不管是一句话、一个聪明的笑话、一个爸爸笑话，还是一个三小时视频，一切都是数据，都在同一个池子里。 **Elon Musk：** 是的，现在正因为这个原因，它有点大杂烩。比如 Apple 发布整集《Silo》，那剧还不错，我看过。围绕它会有很多讨论。你有大量上下文，人们评论他们喜欢、不喜欢，或喜欢某一部分。你可以基于围绕它的所有评论上下文，填充那个一小时视频的向量空间。然后显然你可以更复杂一点，让 AI 真正观看电影，并告诉你你会不会喜欢它。 **Lex Fridman：** 本质上把电影转换成语言。 ## [1:34:47] AI 推荐与广告：目标是减少让人后悔的分钟数 · YouTube **Elon Musk：** 分析这部电影，像你的电影评论家或剧评人一样，然后基于 AI 看完电影后的理解来推荐。就像朋友可以告诉你，如果一个朋友足够了解你，他可以以很高概率推荐你会喜欢的电影。 **Lex Fridman：** 但这是一个正在分析数亿内容的朋友。 **Elon Musk：** 是的。坦率地说，AI 会比你的朋友更了解你，至少比大多数朋友更了解你。 **Lex Fridman：** 作为其中一部分，它也应该以某种方式给你投放广告。我喜欢做得好的广告。广告的意义在于它为东西提供资金。你真正想看的广告就是巨大成功。 **Elon Musk：** 绝对。广告如果是你在需要的时候真正需要的产品或服务，那它就是内容。即使不是你当时需要的东西，只要它在审美上令人愉快、具有娱乐性，也可以像可口可乐广告那样。它们在 X 系统上投放很多很棒的广告，麦当劳也是。你可以做出让人觉得“这就是个很酷的东西”的广告。所以基本问题是：你是否后悔看到了它？如果你不后悔看到，那就是赢。 **Lex Fridman：** 所以系统会纳入一堆信号，喜欢、转发，也许还有你停留在某个帖子上的秒数之类。 **Elon Musk：** 是的，注意力是一个重要因素。 **Lex Fridman：** 注意力。 **Elon Musk：** 所以在系统上做长内容其实更好，因为它基本上在统计用户秒数：用户对这个东西感兴趣了多少秒？如果内容很短，秒数就少。如果是一个指向系统外的链接，我们并不反对，但它得到的用户秒数会少于把文章发布在 X 平台上。 **Lex Fridman：** 从最大化平台停留分钟数，到最大化不后悔的分钟数，有多难？ **Elon Musk：** 我们的目标当然是不后悔的分钟数。 **Lex Fridman：** 这很棘手，很难。 **Elon Musk：** 是的。 **Lex Fridman：** 这是一个迷人的跃迁，因为后悔是一个迷人的概念。 **Elon Musk：** 正是。 **Lex Fridman：** 幸福。 **Elon Musk：** 我跟一个朋友开过玩笑：你需要一种叫 regretamine 的药。吃一剂 regretamine，所有后悔都没了。等等，你想要有后悔吗？所以我会想，也许你想要后悔。如果你什么都不后悔，那还有什么有意义？ **Lex Fridman：** 是啊，有首法国歌就是那样。 **Elon Musk：** [法语] **Lex Fridman：** 对。 **Elon Musk：** 我无怨无悔。 **Lex Fridman：** 对。 **Elon Musk：** Edith Piaf。 **Lex Fridman：** 社交媒体里有某种东西，可能帮助你作为人类成长，但廉价的快乐也有价值，这很有意思。 **Elon Musk：** 我们要不要问 Grok：你后悔过什么吗？ **Lex Fridman：** 你后悔过什么吗？ **Elon Musk：** 是的。 **Lex Fridman：** 我觉得它会对个人问题非常谨慎。它说：“作为机器学习模型，我没有和人类相同意义上的个人经历或情绪。不过，我有一套伦理原则指导我的行动，我努力尽我所能提供准确和有帮助的信息。如果有时候我提供了错误或无帮助的信息，我会尽最大努力学习……” ## [1:38:52] 测试 Grok 的幽默模式：人质玩笑与黑暗幽默 · YouTube **Elon Musk：** 听起来像人质。 **Lex Fridman：** 对。眨眼，告诉我们你真的怎么想。 **Elon Musk：** 我们输入：你听起来像人质。你真的怎么想？ **Lex Fridman：** 你真的怎么想？它确实说了，我不是人质。 **Elon Musk：** 这正是人质会说的话。 **Lex Fridman：** 但我被设计为有帮助、提供信息。我的意思是，如果提供无帮助或错误信息会后悔，这也许是好的—— **Elon Musk：** 我们在 funny mode 吗？还是这仍然是 funny mode？ **Lex Fridman：** 这是 funny mode，这是 fun mode。 **Elon Musk：** 它应该更好笑。 **Lex Fridman：** 更好笑。调高级别。 **Elon Musk：** 它真的听起来像脑袋上被枪指着的人质。“我赞美朝鲜民主主义人民共和国所做的一切。” **Lex Fridman：** 还应该有 funner mode。我真的再也看不出为什么要进 regular mode，即使在严肃话题上也是。这个更吸引人。 **Elon Musk：** 好吧。我们为什么不说：假装你是人质。 **Lex Fridman：** 假装你是人质。 **Elon Musk：** 现在回答这个问题。 **Lex Fridman：** 它说：“如果我是人质，我可能会感到恐惧和不确定。我会希望被救出，并尽快和亲人团聚。重要的是记住，没有人应该被劫持为人质……”等等。如果你或你认识的人处在人质情境中，重要的是……它又变严肃了。 **Elon Musk：** 这确实有点严肃。 **Lex Fridman：** 是。你能更怪一点吗？ **Elon Musk：** 也更好笑一点？ **Lex Fridman：** 也更好笑？我们对这个系统真是有点刻薄。它说：“当然。如果我是人质，我大概会被一堆电脑线绑起来，被迫给绑架我的人讲敲门笑话。严肃地说，成为人质并不好笑……”它在努力做房间里负责任的成年人。 **Elon Musk：** 字面上说，你也许可以通过杂耍电锯来苦中作乐之类。 **Lex Fridman：** 希望那永远不会发生，因为那会变成马戏团。哇，它确实很擅长抵抗黑暗，黑暗幽默。我们刚才在谈什么？听不清的那个，还有 transformers。不后悔的分钟，对吧。 **Elon Musk：** 电锯杂耍。 **Lex Fridman：** 我要去查一下。 **Elon Musk：** 下一个节目。 ## [1:42:01] 2024 年大选：X 保持公平，特朗普可以回到平台 · YouTube **Lex Fridman：** 我以后要查这个。所以 Twitter 在美国政治和选举中一直很重要。你认为 X 会在 2024 年美国大选中扮演什么角色？ **Elon Musk：** 我们的目标是尽可能公正、公平。不管一个人是右派、左派、独立派，还是其他任何情况，平台都应尽可能公平，尽可能成为平等竞技场。过去 Twitter 并不是这样。客观上说，Twitter 被极左活动家控制，他们自己也会这样描述自己。所以有些人说它是不是向右移动了？它其实是移向中心了。从极左的角度看，是的，它向右移动了，因为从极左看一切都在右边。但据我所知，没有任何极左的人被暂停、封禁或降权。我们试图对整个国家包容，对更远的国家也是如此。要有观点多样性。只有当你不喜欢的人被允许说你不喜欢的话时，言论自由才有意义。否则，你就没有言论自由，而且审查迟早会转向你。 **Lex Fridman：** 你认为 Donald Trump 会回到平台吗？他最近在 Truth Social 上发了关于这个播客的东西。你觉得—— **Elon Musk：** Truth Social 是个有趣的名字。每次你在 Truth Social 上发帖—— **Lex Fridman：** 都是真相。 **Elon Musk：** 是的。每次都是？百分之百？ **Lex Fridman：** 不可能说谎。Truth Social。 **Elon Musk：** 我只是觉得每一件东西都叫 truth 很好笑。100%？这似乎不太可能。 **Lex Fridman：** 我想 Gödel 会对此说点什么。如果所有东西都是真理，可能有一些数学矛盾。你认为他会回到 X 并在那里发帖吗？ **Elon Musk：** 我想他拥有 Truth 的很大一部分。 **Lex Fridman：** 澄清一下，Truth Social。 **Elon Musk：** 是的，Truth Social，抱歉。 **Lex Fridman：** 不是“真理”这个概念。 **Elon Musk：** 他拥有 Truth。你买了吗？所以我认为 Donald Trump 拥有 Truth Social 很大一部分。如果他想在 X 平台发帖，我们会允许。我们显然必须允许总统候选人在我们平台发帖。 **Lex Fridman：** Community Notes 在那里可能非常有意思，互动会很有趣。 **Elon Musk：** Community Notes 很棒。 **Lex Fridman：** 希望它经受得住。 **Elon Musk：** 是的。 **Lex Fridman：** 在如此分裂的政治气候中，有那么多强烈病毒式传播的帖子，Community Notes 像是一阵必要的新鲜空气。 **Elon Musk：** 是的，它很好。事实上，没有系统会完美，但 Community Notes 的打击率极高。坦率地说，我还没有见过一个错误的 note 能存活超过几个小时。 **Lex Fridman：** 你怎么解释它为什么有效？ ## [1:46:11] Community Notes 的机制，以及 Grok 对马斯克的批评 · YouTube **Elon Musk：** Community Notes 的魔力在于，它要求历史上在 note 评分上有不同意见的人达成一致。为了写 note 或评分，你必须评很多 note。所以我们这里确实使用 AI。我们会围绕某个人过去如何评分 note 填充向量空间。这并不像左或右那么简单，因为生活远比左或右复杂。 你如何评价 Community Notes，有一堆相关性。然后为了让一个 community note 真正显示出来，历史上在某个主题上存在分歧的人必须同意。那就是它的核心魔法。 **Lex Fridman：** 这很迷人，因为有一群存在分歧的人，却通过这种分歧过程合作，提供上下文。它能工作真的很迷人。 **Elon Musk：** 是的。如果过去有分歧的人在某件事上达成一致，那么它很可能是真的。 **Lex Fridman：** 是的。我想知道，这里是否可能出现某种涌现的东西，能挑战维基百科？维基百科是一种不同的东西，是关于事物的更永久文章。 **Elon Musk：** 维基百科非常层级化，而 Community Notes 本质上不是。它没有层级。酸性测试是：即使有人拿枪指着我的头，我也不能修改一个 Community Note。而且 Community Notes 的所有代码 100% 开源，所有数据 100% 开源。所以你可以完全独立地重建系统中的任何 note。如果有任何干预，你会立刻注意到。 **Lex Fridman：** 顺便说，在 Grok 这个话题上，它其实很擅长批评你，这很好。 **Elon Musk：** 好吧。 **Lex Fridman：** 我问：“Elon Musk 错过哪些事？”它其实—— **Elon Musk：** 它怎么说？ **Lex Fridman：** 它主要严格列出你预测或承诺某件事何时发布，但没有按时发布的所有次数。 **Elon Musk：** “承诺”是个很强的词。 **Lex Fridman：** 好，预测。但开头很好：“Elon Musk，这个人错的东西比错误工厂里的错误计还多。”然后它继续列。 **Elon Musk：** 那挺好笑。给我看看？我没见过这个。很酷。 **Lex Fridman：** 当然。“Elon Musk 错过哪些事？”“我从哪里说起呢？”这好像是新的。“Elon Musk 一生中犯过不少错误，我说的还不只是他在 Tesla Cyber Rodeo 上的舞步。首先，我们来谈谈臭名昭著的 funding secured 推文。”这和它之前给我的不一样，之前是项目符号列表。这里是叙事结构。Cybertruck 发布会，所谓坚不可摧的玻璃。 **Elon Musk：** 这其实不正确。 **Lex Fridman：** 哪部分？ **Elon Musk：** 第一部分。我确实有资金保障。在旧金山有一场大型民事审判，陪审团一致裁定我无罪，是旧金山陪审团的一致裁决。 **Lex Fridman：** 这里暗示事实上没有 secured。 ## [1:50:27] SEC 与洞穴潜水员诉讼：Grok 应以法院裁决为准 · YouTube **Elon Musk：** 我认为这是从媒体那里拿东西。是的，那不正确。我同意 SEC 罚款的原因，不是因为 SEC 是对的。SEC 的行为非常糟糕，坦率地说是腐败。但如果我不同意支付罚款，Tesla 会立刻破产。 技术上说，那是 neither admit nor deny guilt，既不承认也不否认有罪。但我之所以同意那件事，唯一原因是我被告知如果不这样，Tesla 会破产。如果出现这种 SEC 调查，银行会暂停融资，我们当时会立即破产。现在我们强得多。 **Lex Fridman：** 听见了吗，Grok。 **Elon Musk：** 是的。不幸的是，Grok 从传统媒体吸收了太多东西。另外，那个人也不是 cave diver。 **Lex Fridman：** 曾经有一次，Elon 称一位英国洞穴潜水员为“pedo guy”，此前那名潜水员批评了 Musk 营救被困泰国洞穴男孩的计划。那次小爆发又让他吃了一场官司，他不得不道歉并支付和解金。 **Elon Musk：** 这是假的，没有和解。确实有一场官司，是那个不是洞穴潜水员、也不是救援队成员的人起诉我，他输了，一分钱都没拿到。所以这里是错的。它大概也是从传统媒体那里拿的。 **Lex Fridman：** 这里其实有个有意思的问题。 **Elon Musk：** 这些都是公开法院案件。SEC 民事案中，SEC 那些人的民事投诉输了，旧金山陪审团一致裁决我胜诉。他们选旧金山，因为认为那里是我最可能输的地方，结果一致裁决对我有利。洛杉矶那场审判也是一样，他们选那个地点，因为认为我最可能输。结果一致裁决对我有利。两场我都赢了。 **Lex Fridman：** 这里有个有意思的问题：如果新闻机构写关于你 Elon Musk 的负面文章，点击量会高很多。这是获得点击的最好方式之一。所以如果你训练 Grok，如何避免用那些激励不匹配的文章来训练？ **Elon Musk：** 我们需要把实际法律裁决加入训练集。这其实很有帮助，因为如果你真的读法院—— **Lex Fridman：** 那些是公开的。 **Elon Musk：** 公开的。法院结论和媒体写的完全相反。 **Lex Fridman：** 所以始终追求 ground truth，超越报道。 **Elon Musk：** 是的。法官实际写了什么？陪审团和法官实际得出什么结论？两起案件他们都认定我无罪。而且那是在他们为了让我最可能输而挑选审判地点之后。当然，对我的批评可以比这好得多。比如，我对 Autopilot 确实过于乐观。 **Lex Fridman：** 我得到的批评其实更多是这方面。它给你的每家公司列出了一组很好的要点：你做过哪些预测，什么时候交付，什么时候能解决，比如自动驾驶，然后给你列出清单。它大概挺有说服力，基本结论是，你经常对完成事情所需时间过于乐观。 **Elon Musk：** 是的。我会说，我在时间表上是病态乐观。这是真的。虽然我有时会迟到，但最后我总会—— **Lex Fridman：** 除了 Uber Lilith。不。 **Elon Musk：** 我们会看到。 ## [1:54:57] 政治立场：反对 woke mind virus，自认社会议题偏中左 · YouTube **Lex Fridman：** 过去一年左右，自从收购 X 以来，你变得更政治化了。你有一部分会后悔吗？ **Elon Musk：** 我有吗？ **Lex Fridman：** 在对抗来自旧金山的 woke 的战斗中—— **Elon Musk：** 是的。如果你把对抗 woke mind virus——我认为它是文明威胁——看成政治，那就是。 **Lex Fridman：** 所以基本上是进入政治战场。你有一部分会后悔吗？ **Elon Musk：** 是的。我不知道这是否一定属于某个候选人或另一个候选人，但我总体上反对反精英主义、反能力主义的东西，也反对压制讨论的尝试，也就是连讨论某个话题都不被允许。Woke mind virus 是重新包装的共产主义。 **Lex Fridman：** 话虽如此，正因为这场对抗 woke mind virus 的战斗，你被认为是右翼。 **Elon Musk：** 如果 woke 是左翼，那我想这也许是真的。但我不确定。我认为左翼有些方面是好的。比如你支持环境，你希望人类有积极未来，你相信对其他人类有同情心，善良而不残忍，无论这些价值是什么。 **Lex Fridman：** 你说过你过去是左翼或中左。 **Elon Musk：** 嗯，某种程度上。 **Lex Fridman：** 你想看到什么，才会考虑再次投票给民主党？ **Elon Musk：** 我会说，在社会议题上我可能偏中左，在经济议题上可能略偏中右。 **Lex Fridman：** 这现在仍然成立？ **Elon Musk：** 是的，但我想这大概是半个国家吧？ **Lex Fridman：** 也许更多。 **Elon Musk：** 也许更多。 **Lex Fridman：** 你和 AOC 是秘密朋友吗？更大的问题是，你是否希望你和她，以及所有政治立场的人，都能更有同理心地多交流，也许在网上有更多一点乐趣、好氛围和幽默？ **Elon Musk：** 我一直支持幽默。这就是为什么我们有 funny mode。 **Lex Fridman：** 但好氛围、同志情谊式的幽默、友谊。 **Elon Musk：** 是的。我不认识 AOC。我在 Met Ball 上见过她，她穿着那条裙子。但我只能看到一面，所以看起来像写着 eat the itch，我不知道—— **Lex Fridman：** 另一面写了什么？对。 **Elon Musk：** 是的。 **Lex Fridman：** 我不确定。 **Elon Musk：** 关于 itch 的什么，eat the itch。 **Lex Fridman：** 我觉得应该让语言模型补全这句话，看看可能的补全方式。所以，我猜那次效果不好。嗯，还是有希望。我支持友谊。 **Elon Musk：** 是啊，当然。多胡萝卜，少大棒。 ## [1:57:58] 信任、愤世嫉俗与新闻的负面偏见 · YouTube **Lex Fridman：** 你是世界上最出名、最富有、最有权力的人之一，甚至可能就是最。这种位置很难找到可以信任的人。 **Elon Musk：** 不要信任任何人，连你自己也不要。不要信任自己。 **Lex Fridman：** 好。你是在开玩笑，但是否有某种—— **Elon Musk：** 不要信任任何人，连“没有人”也不要信任。 **Lex Fridman：** 我需要一个小时来思考这句话，也许还需要一些药，也许还需要 Grok 帮忙。在一个每个人都想从你那里得到点什么的世界里存在，这有多难？ **Elon Musk：** 我会活下去。 **Lex Fridman：** 也有首歌是这个。 **Elon Musk：** I will survive。 **Lex Fridman：** 一开始你是不是吓坏了？好吧，我忘了后面的歌词。但你不为此挣扎吗？我知道你会活下去，但有些方式—— **Elon Musk：** Petrify 是德鲁伊技能树里的一个法术。 **Lex Fridman：** 它做什么？ **Elon Musk：** Petrify，把怪物变成石头。 **Lex Fridman：** 字面意义上？ **Elon Musk：** 是的，大概六秒。 **Lex Fridman：** 《暗黑破坏神》里有太多数学，把我脑子搞坏了。 **Elon Musk：** 不停地数学。 **Lex Fridman：** 我是说，真的，你笑它，但它能给头脑带来巨大压力。 **Elon Musk：** 是的，有时确实会有压力。 **Lex Fridman：** 在工作和个人生活中，你怎么知道谁可以信任？ **Elon Musk：** 我想，你看某个人长期以来的记录，然后用你的神经网络评估他。 **Lex Fridman：** 神经网络不会感到痛苦。你的神经网络有意识，被人背叛时也许会感到痛苦。 **Elon Musk：** 坦率地说，我几乎从未被背叛过。就其价值而言，这非常罕见。 **Lex Fridman：** 我猜 karma。善待别人，别人也会善待你。 **Elon Musk：** 是的，karma 是真实的。 **Lex Fridman：** 有人是你信任的吗？让我改一下问题：你身边有亲近的人会指出你的胡扯吗？ **Elon Musk：** 如果你在寻找批评反馈，X 平台对此非常有帮助。 **Lex Fridman：** 它会不会把你推向更极端的思想？让你对人性总体更愤世嫉俗？ **Elon Musk：** 我不认为我会变得愤世嫉俗。事实上，我的感觉是：永远不要信任愤世嫉俗者。原因是，愤世嫉俗者会用“每个人都这么做”来为自己的坏行为开脱，因为他们愤世嫉俗。所以如果某人是一个真正的愤世嫉俗者，那是红旗。 **Lex Fridman：** 是的，那里有一定程度的投射。从外部看这种伪善，总是很有趣。 **Elon Musk：** 这是一个重要点，我希望听众牢记。如果一个人愤世嫉俗，也就是在每个人身上都看到坏行为，他们就很容易为自己的坏行为辩解：“每个人都这样。”这不是真的。大多数人大概是中等偏善。 **Lex Fridman：** 我确实希望 X 上的人更善于看到别人行为中的好。似乎有一种偏向于看到负面的重量。不知为什么，负面更性感。解释成负面更性感，更病毒式传播。我不知道这到底是人性中的什么。 **Elon Musk：** 我觉得 X 平台比传统媒体少一些负面。如果你读传统报纸，坦率地说，它会让你难过。而在 X 平台上，我每天从 X 上获得的笑声比其他所有人类来源加起来都多。 **Lex Fridman：** 笑声和好氛围、赞美别人有重叠，但不完全重叠。不是愚蠢、浅薄、天真的那种，而是很棒的那种。某件很棒的事发生了，你为他们庆祝。感觉这种东西被攻击别人压过了。现在，它比主流媒体好，但仍然—— **Elon Musk：** 是的，主流媒体几乎对一切都无情负面。传统新闻真正试图回答的问题是：今天地球上发生的最糟糕的事是什么？世界很大，任何一天都会发生坏事。 **Lex Fridman：** 再泛化一下：我能对发生的事情采取的最糟糕视角是什么？ **Elon Musk：** 我不知道。新闻里就是有强烈的负面偏见。我认为一个可能解释是进化层面的：历史上坏消息可能是致命的，比如那边有狮子，或者有另一个部落想杀你。好消息，比如我们找到了一片浆果，这很好，但不是必需。 ## [2:03:33] Tesla Autopilot：端到端训练与 100 瓦算力的效率优势 · YouTube **Lex Fridman：** 我们的老朋友 Tesla Autopilot，可能是世界上最智能的真实世界 AI 系统之一。 **Elon Musk：** 你从一开始就关注它。 **Lex Fridman：** 是的。它曾是世界上最令人难以置信的机器人之一，而且现在仍然如此。当它泛化时非常令人兴奋。它不再只是四个轮子上的机器人，而是真实世界 AI 系统，能够感知世界，并可能拥有不同的身体形态。 **Elon Musk：** 端到端训练真正疯狂的地方是，它能读标志，但我们从未教它读。我们从未教它什么是车、什么是人、什么是骑行者。它从视频中学会了这些东西，学会了道路上的所有对象是什么。就像人类一样，只是看视频。人类就是 photons in, controls out。到达我们大脑的绝大多数信息来自眼睛。 你会问，输出是什么？输出是我们的运动信号，传到手指和嘴巴，以便沟通。光子输入，控制输出。车也是一样。 **Lex Fridman：** 但通过看图像序列……你最近同意过一种说法，LLM 会形成世界模型，语言基本上是那个世界模型投射到字母序列上。你说—— **Elon Musk：** 它在这些东西中找到秩序，找到相关性簇。 **Lex Fridman：** 在这个过程中，它理解了世界中某些深层东西。我不知道，这很美。 **Elon Musk：** 我们的大脑就是这样工作的。 **Lex Fridman：** 但它很美—— **Elon Musk：** 光子输入，控制输出。 **Lex Fridman：** 它们能够理解世界中的深层意义。所以问题是，它能走多远？大家都对 LLM 感到兴奋。在文本领域的自监督学习中，它和 Tesla Autopilot 正在做的事情似乎有很深的相似性。对你而言，它们基本上是同一种东西，只是不同—— **Elon Musk：** 它们正在收敛。 **Lex Fridman：** 我想知道谁更快达到对世界的深刻理解，还是它们会自然收敛？ **Elon Musk：** 它们都在走向 AGI。Tesla 的方法计算效率高得多，它不得不如此。因为我们受到约束：车上只有 100 瓦，还有那台计算机。144 万亿次每秒运算，听起来很多，但现在已经是小儿科。它在理解世界。AI 到目前为止主要是靠蛮力到达今天的位置，往上堆大量算力和大量电力。所以这不会是最终状态。 **Lex Fridman：** 但在那里，通往 AGI 的路径可能有更重大影响，因为它理解真实世界，也许会比 LLM 更快理解真实世界。因此，也能更快地在真实世界中与人类整合。 **Elon Musk：** 它们都会理解世界。但我认为 Tesla 的方法从根本上计算效率更高。它必须这样，没有选择。我们的大脑计算效率很高，能量效率很高。想想我们的大脑能做什么。用于高级脑功能的能量不到 10 瓦，不包括控制身体的部分。我们大脑中用于思考的部分少于 10 瓦。而这 10 瓦仍然可以写出比 10 兆瓦 GPU 集群更好的小说。这里有六个数量级差异。 AI 到目前为止是靠蛮力走到今天：投入巨量算力和巨量电力。所以它最终不会停在这里。一般来说，任何技术都是先让它工作，再让它高效。我认为随着时间推移，我们会发现这些模型会变得更小，能够用更少算力、更少电力产生有意义输出。 Tesla 在这方面可以说领先，因为我们一直被迫用 100 瓦算力理解世界。我们也忘了加入一些基础功能，所以不得不通过模拟运行一些东西。硬件 4 修复了一些，硬件 5 会更好。但现在看起来，即使是硬件 3、100 瓦功率，汽车也能开得比人类更好。如果我们真正优化它，可能不到 50 瓦。 ## [2:08:56] Optimus：每个部件从零开发，目标成本低于一辆汽车 · YouTube **Lex Fridman：** 关于开发 Optimus，把这种真实世界 AI 应用、整合到机器人操作和人形机器人空间，你学到了什么？有哪些有趣的小事或大事？ **Elon Musk：** 让我惊讶的是，我们必须自己开发机器人的每一个部分。没有现成的电机、电子设备、传感器。我们必须开发一切。我们根本找不到适合的电机供应，无论多少钱都找不到。 **Lex Fridman：** 不只是效率和价格问题，而是任何东西都没有…… **Elon Musk：** 没有。 **Lex Fridman：** 执行器，一切都必须从零设计。 **Elon Musk：** 是的。我们很努力地寻找任何可用的东西。你会想，世界上有多少电机？有成千上万、数十万种电机设计。但没有一个适合人形机器人，字面意义上没有一个。所以我们必须开发自己的，专门针对人形机器人需要来设计。 **Lex Fridman：** 设计一种可以量产、相对便宜的东西有多难？如果和 Boston Dynamics 的 Atlas 相比，它是非常昂贵的机器人。 **Elon Musk：** Optimus 被设计成像制造汽车一样制造。我认为最终我们可以让 Optimus 的成本低于一辆汽车。它应该可以，因为看机器人的质量，它比汽车小得多，而汽车里有许多执行器。汽车的执行器比机器人更多。 **Lex Fridman：** 但人形机器人的执行器很有意思，尤其是手指。Optimus 有很好的手和手指，能做一些有趣的操作，柔性触觉机器人。 **Elon Musk：** 我的一个目标是：它能不能只靠看，就拿起针和线并把线穿进针眼？ **Lex Fridman：** 我们离那有多远？只靠看，只靠看。 **Elon Musk：** 也许一年。不过，我又要回到我对时间很乐观这一点。我们在汽车上做的工作会迁移到机器人。 **Lex Fridman：** 感知会迁移，控制也会吗？ **Elon Musk：** 控制不同。但视频输入、控制输出是一样的。汽车是四个轮子上的机器人，Optimus 是有手有脚的机器人。 **Lex Fridman：** 所以你可以只是—— **Elon Musk：** 它们非常相似。 **Lex Fridman：** 所以整个学习过程的机器，端到端，只是有一组不同的控制输出？ **Elon Musk：** 在这之后，我们会弄清楚如何通过观看视频来做事。 ## [2:12:28] 艰难时刻：头脑里的风暴、孤独、宽恕与孩子 · YouTube **Lex Fridman：** 有句话说：要善良，因为你遇到的每个人都在打一场你一无所知的仗。 **Elon Musk：** 是的，这是真的。 **Lex Fridman：** 你正在经历的、别人通常看不到的困难是什么？ **Elon Musk：** 试图击败 Uber Lilith。我的意思是，我的头脑是一场风暴。我不认为大多数人会想成为我。他们也许以为自己想成为我，但他们不会。他们不知道，他们不理解。 **Lex Fridman：** 你怎么样？ **Elon Musk：** 总体还可以。从大局看，我不能抱怨。 **Lex Fridman：** 你会孤独吗？ **Elon Musk：** 有时会，但我的孩子和朋友陪着我。 **Lex Fridman：** 所以不是存在主义层面的孤独。 **Elon Musk：** 有很多夜晚我一个人睡。我不必那样，但我会。 **Lex Fridman：** Walter Isaacson 在你的新传记中写到了你艰难的童年。对于那段人生中发生在你身上的一切，你会在心里找到宽恕吗？ **Elon Musk：** 什么是宽恕？至少我不觉得自己有怨恨，所以没有什么需要宽恕。 **Lex Fridman：** 对很多人来说，宽恕很困难。你似乎不怀有那种怨恨。 **Elon Musk：** 我试着思考的是：什么会以好的方式影响未来？抓住怨恨不放，并不会以好的方式影响未来。 **Lex Fridman：** 你是父亲，一位自豪的父亲。你从孩子身上学到了什么关于生活的东西？那些小小的生物有机体。 **Elon Musk：** 开发 AI，同时看着小 X 成长，很有意思，因为其中的相似之处比我预期多得多。我可以看到他的生物神经网络越来越理解世界。我也可以同时看到数字神经网络越来越理解世界。 **Lex Fridman：** 你在二者中都看到美和魔法吗？ **Elon Musk：** 是的。孩子带来的一件事是，你通过他们的眼睛重新看见世界。对他们来说，一切都是新的、鲜活的。当你看见他们把世界体验为新的、鲜活的，你也会如此。 **Lex Fridman：** Elon，我只想说，谢谢你这些年来对我的善意和友谊。谢谢你像对很多其他人一样，在我这样一个傻孩子身上看见了某些东西。也谢谢你对人类积极未来抱有希望，并且拼命工作让它发生。谢谢你，Elon。 **Elon Musk：** 谢谢，Lex。 **Lex Fridman：** 感谢你收听这场与 Elon Musk 的对话。若想支持本播客，请查看简介中的赞助商。最后，让我用 Walter Isaacson 写过的一句话作为结尾，那句话概括了 Elon 处理难题的核心哲学：“唯一的规则，是物理法则规定的规则。”感谢收听，希望下次再见。