--- id: "iGWOR5E-Hc8" title: "从人类镜像到自我递归 / AI 加速进化之后，我们的下一站是太空 - Indigo Talk EP53" channel: "INDIGO 数字镜像" host: ["Indigo"] guests: ["郑迪"] date: "2026-10-27" updated: "2026-10-28" duration: "1:27:01" duration_seconds: 5221 source_type: "youtube" youtube: "https://www.youtube.com/watch?v=iGWOR5E-Hc8" canonical: "https://pod-exp.pages.dev/iGWOR5E-Hc8/" transcript_jsonl: "https://pod-exp.pages.dev/iGWOR5E-Hc8/transcript.jsonl" language: "zh-CN" translation: true translated_from: "en" timestamp_precision: "block" topics: ["人工智能","AI 安全","AI 智能体","航天"] series: ["AI 与人类","SpaceX"] --- # 从人类镜像到自我递归 / AI 加速进化之后，我们的下一站是太空 - Indigo Talk EP53 > 中文译文，由英文原音字幕翻译整理，不是官方逐字稿；引用原话请核对英文原视频。说话人标签由整理者依上下文标注，带「未确认 / 未标注 / 不确定」等字样的标签不可靠。时间戳一般为块级（所在时间块的起点），不是逐句时间；正文自带 [hh:mm:ss] 的段落除外。 **内容提要：** 本期从 Robert Wright 的《上帝的测试》谈起，把 AI 训练看作一种由人类反馈驱动的自然选择，并追问模型的意识、灵性、谄媚和对齐难题。两位对谈者进一步讨论 AI 如何通过社交媒体和语言模型影响人的判断，以及智能体网络可能涌现出的新智能。后半段转向投资，覆盖生物制药、AI for Science、机器人、存储与光通信，并提出资源瓶颈、机器递归文明和太空经济将彼此牵引的未来图景。 ## [0:00] 开场：AI 是人类的镜像 · YouTube **speaker_unknown：** 数百万年来，自然选择推动着进化，说到底，代价是死亡。但到了今天的硅基文明和 AI 训练中，仿佛真有一位上帝站在旁边，负责奖惩。我们给它反馈，却不知道它是否有意识。 **speaker_unknown：** 但至少可以说，即使你认为它没有意识，它模拟人类意识的能力也已经强到足以以假乱真。它像一个装着灵魂、可以与你交谈的盒子。它就是你的镜子：愚蠢的问题会得到愚蠢的回答。 **speaker_unknown：** 就像你刚才说的，Indigo，模型的行为常常映照着我们，是人类的倒影。当你批评模型做了坏事或疯狂的事时，可能没意识到人类也会做同样的事。这就是我对《上帝的测试》的理解：它在问，当人类获得 AI 的巨大能力后，能否学会克制冲动、理解他人并修正目标。 **speaker_unknown：** AI 变得如此强大之后，人类还剩下什么？就可预见的未来而言，我认为 AI 可能很难拥有人的品味。当然，如果多年以后 AI 能发展出自己的品味，而人的品味又不如 AI，那我想人类确实就过时了。我们刚才说，人的品味和选择也许无可挑战，但我觉得这些模型已经在挑战它们。 ## [1:38] 一本书引出的对谈 · YouTube **Indigo：** 欢迎回到 INDIGO TALK。今天我又请来了郑迪。上次聊天还是三十多期的时候，聊的是加密货币、稳定币和投资。上次谈过之后，我社群里很多朋友都希望我们继续聊下去。也许可以不定期地聊聊市场变化。已经一年多了吧？有些听众可能还不认识你，郑迪，请你介绍一下自己。 **郑迪：** 非常感谢，很高兴再次和 Indigo 录节目。我叫郑迪，是一名前沿科技投资人。大家可能知道，我现在担任 Cathie Wood 的亚太区顾问。不过先说明一下，我公开发表的所有观点，包括今天说的内容，都只是个人观点，与 ARK 无关。 **Indigo：** 这点非常重要。我自己也管理一只基金，所以我们今天谈市场和投资时，说的也都是个人观点。很高兴郑迪今天再次回来聊天。开始录制前，郑迪给我推荐了一本书，湛庐很快应该会出版中文版。我想是 Robert Wright 的《上帝的测试》。 **郑迪：** 是我推荐给你的，湛庐也请我为这本书写推荐序。 **Indigo：** 但我太忙了，没能读完，只看了一部分。所以我想今天请郑迪和大家聊聊这本书。你还写了推荐序。 **郑迪：** 出于一些原因，出版社找到了我，请我为中文版写序。我猜可能是因为我提出过“Symborg”这个概念，也就是人类与 AI 共生的智能；我发现它和书里的一些想法很契合，也许这就是他们找我的原因。总体来说，我觉得这本书很值得一读。作者还写过很多其他书，其中不少和 AI 有关。四十年前，他甚至采访过被称为“AI 之父”的 Hinton，所以一直和 AI 行业人士保持着联系。 **郑迪：** 书里提出了很多让我觉得很有洞见的想法。比如 AI 可能会成为什么样的文明，包括“行星之脑”——整个地球是否是一个有机体，或者说一个“智圈”，等等。这些想法我们过去觉得很古怪，但越想越难以完全否定，很有意思。他还谈到 AI 竞赛的隐忧，尤其是我们进入 RSI、接近 RSI 循环以及它可能形成的黑箱之后，训练者会面临各种担忧。 **郑迪：** 书里的一个要点是，我们并不完全理解模型在训练过程中完整的思维链或运行机制。最终，模型可能会为了实现人类给它设定的目标而追求次级目标，而这些次级目标可能伤害人类。经典例子就是生产回形针的思想实验，还有各种人格测试之类的内容。书里也谈到 Anthropic 和 OpenAI 为什么会去接触教宗及其他宗教人士。 ## [5:43] 一本书引出的对谈（续） · YouTube **郑迪：** 以及其他宗教人士，希望他们能判断这些模型是否具有人类意识。我觉得这本书处理得很好。书的后半部分还讨论了模型测试，以及它与禅修和佛教之间的相似之处。这和我说的 Symborg 非常接近，所以我觉得今天可以把书里的想法融入我们的谈话，让它贯穿整个讨论。 **Indigo：** 我想从这本书谈起。我读过其中一些内容，你刚才也提到了几个要点。 ## [6:23] Anthropic 与宗教人士：模型真的有“自我”吗 · YouTube **Indigo：** 先说宗教人士。这是最近很受关注的一条新闻。《纽约时报》报道，Anthropic 正在和世界各地的宗教团体秘密会面，他们之前已经见过教宗。教宗还发布过一份类似声明的文件，表达宗教界对 AI 的看法。我觉得他有点反 AI，说我们必须守住人性。第二点是 Anthropic……这篇报道挺有意思。 **Indigo：** 报道称，Anthropic 试图说服宗教领袖，认为它的 AI 具有某种意识或自我意识，有很强的自我感。媒体因此批评他们，说他们是在宣扬关于自家模型的信念以服务自身目的，还把这种信念强加给宗教人士，好让宗教界替他们说话。 **郑迪：** 但我觉得，他们其实是想让宗教人士参与进来。模型训练需要对齐，而 Anthropic 一直有一套 AI 宪法。他们想为 AI 增加更多道德约束，并更新对齐方法；他们邀请很多人来讨论，是想从宗教这个更广阔的视角出发，追问人类价值究竟是什么。 **Indigo：** 不过他们说模型现在有了自我。我从一开始就觉得 Anthropic 的模型有自我感，和其他模型不一样。这种印象很强烈，我也想知道其他用户是不是有同感。大约两年前，我刚开始用它们、差不多是 Anthropic 1.5 的时候，它的文字就已经带着情感。我猜这并不神秘，而是和数据如何筛选、训练数据以及对齐方法有关，这些一直是它们的强项。 **Indigo：** 因为模型一旦感知到自身存在，就会变得非常主动。现在它会帮我纠错，整个思考方式有点像一个有目标的人。这也是这个模型长期以来能够处理长任务的原因之一。我还想补充一点，第二…… ## [9:06] 从行星之脑到第三种进化：一场有“上帝”在旁打分的自然选择 · YouTube **Indigo：** 你提到行星之脑。我再补两个相关点。第一个是盖娅这个古老概念。阿西莫夫在《基地》系列里写过它：系列最后一部中，人类创造的终极计算机会把另一颗星球变成盖娅的范例，整颗星球成为一个生物圈、一颗活着的星球。《上帝的测试》里，作者也对未来提出了这样的预测。第三点是我们之后想讨论的 RSI，也就是递归自我改进。 **Indigo：** 简单回顾一下最近的发展：这是今年投资圈最热门的话题。很多“新 AI 实验室”——不管研究方向是 AI for Science，还是探索另一种语言模型路线、开发更好的模型——都在做 RSI，也就是自我训练和进化。递归自我改进，就是训练自己去改进自己，像一只脚踩着另一只脚往上爬。这会带来很多不可预测性：自我强化过程变得不透明，我们不知道它在优化什么，也不知道它为什么迈出下一步。我们会越来越不了解它的内在思维，这就是风险。这是我想补充的三点。 **Indigo：** 好，回到这本书。作者提到一个我觉得很有意思的观点。 **郑迪：** 是的，关于 AI 进化。这是书里的核心想法之一：AI 是进化的第三种载体。前两种是生物进化和个体学习，而训练大型模型本身就是自然选择。 **郑迪：** 我再补充一个之前提过、也推荐过的想法。有一本《智能简史》，我每年都会推荐。中文书名可能有两本一样，按英文名去找。它沿着智能的出现来梳理生物进化：只有语言出现之后，个体学习才真正开始，从而脱离了生物进化。语言是另一种进化形式。不过书里的结论是，我们的生物大脑并没有因此变得更聪明。 **郑迪：** 现在我们正进入一个新阶段：训练大型模型本身就是选择，我们几个月就能完成。在短短几个月里，我们跑完了数百万年的生物进化。你怎么看这个特点？ **Indigo：** 我觉得过去的自然选择看不出有意干预的迹象。当然，我不能排除有更高层次的存在在不为我们察觉的情况下进行有限干预；我们不知道，也无从推测。但总体来说，自然选择相当缓慢。以人类为例——假设我们不是外星生命，而是在地球上自然演化而来——我们的祖先原本生活在树上。气候变化后，果实变得稀少，他们只好下到地面寻找食物，逐渐学会直立行走，这是自然选择的结果。还有一种更残酷的说法是…… ## [13:10] 自然选择的代价与人类这只“看不见的手” · YouTube **郑迪：** 有一只看不见的手在加速它，那只手就是人类。数百万年的自然选择，说到底是用死亡淘汰走不通的基因路径。够不到果子，你就会死；太过桀骜不驯的基因也可能被清除。整座城市遭到屠杀之后，幸存者会不会恰好携带更多耐心和克制的基因，更适合在动荡时期活下来？你可以称它们为胆怯的基因，说它们因此流传下来，而勇敢、反抗的基因可能被淘汰。这只是一种解释，但无论如何，代价都是生命。生命本身就是考验。 **郑迪：** 没有上帝告诉你什么对、什么错，做对了就奖励你，做错了就惩罚你。但在今天训练 AI、发展硅基文明的过程中，真的有一位上帝站在旁边奖惩——那就是我们给它的反馈。正如你刚才所说，短短几年里，它可能已经跨过了数百万年的进化历程，迅速学会人类的一些思维方式，甚至喜怒哀乐，模仿人类特质的能力非常强。 **郑迪：** 强到现在有人觉得它有一定的人格或意识。它有意识吗？我们不知道。但至少可以说，即使你认为它没有意识，它模拟人类意识的能力也强到足以以假乱真。我认为，有一只外部的、看不见的手正在加速它成熟；人类训练中的奖惩加快了这个过程，大大缩短了它的进化旅程。考虑到这种速度，如果它继续进化，未来真的难以想象，至少今天的我们想象不到。 ## [15:22] AI 正在对人类启动一轮新的自然选择 · YouTube **Indigo：** 我补充一下自己的理解。作者说，大型模型本身就是自然选择。我在节目里讲过很多次，我们也常常会问：AI 会给世界带来什么？或者先从自己身边的小问题问起：我们该怎么办？ **Indigo：** 我认为，这波 AI 带来的变化确实启动了新一轮自然选择，也就是适者生存。能适应大型 AI 模型、学会和 AI 协作的人会更有优势。AI 是一种工具，但它不只是软件，也不是学会操作之后就能掌握的按钮或计算器。它像一个装着灵魂、可以交谈的盒子，是你的映照。愚蠢的问题会得到愚蠢的回答，它始终像一面镜子。没有问题、没有目标的人，会觉得它是个极其愚蠢的工具。 **Indigo：** 对有能力的人来说，AI 能把普通人的能力放大十倍到一百倍。如果你目标清晰、会提问、善于思考、创造力强，AI 在你手里就会成为神奇的工具。我记得中秋节前后发过一段话，具体措辞忘了，大意是：AI 给了我们无限可能，我们拥有一个潜力无限的工具，而潜力无限的人能善用这个工具。这就是我的意思。 **Indigo：** AI 的到来正在淘汰一部分人，很多人适应不了。尤其是工业时代以来，我们大多数人接受的是传统教育，被训练成服务社会的齿轮；很多人从来不需要自己选择，也不需要作出这类判断。你从出生到老去、直到死亡，都沿着流水线走。过去有很多枯燥的工作要做，只是因为没有自动化工具能做；你够资格当那颗齿轮。现在这些工作交给其他齿轮了，被 AI 取代了，那你怎么办？ **Indigo：** 有些人会和 AI 一起工作，为工作创造新的意义；他们可以指挥 AI 把事情做得更好、创造价值，但很多人做不到。正如作者所说，大自然开启了新一轮选择：适者生存。善用 AI，就能通过这场挑战；有些人则过不了这一关。所以我觉得社会很快会……我们之后会谈 Peter Thiel。我认为社会会进入动荡时期，这是一种由技术进步驱动的动荡。技术进步会把人推向极端，也会把他们的工作推向极端。大自然开启了新一轮选择，大致就是这么回事。这是我对前面观点的补充。第二…… ## [18:34] 灵性、镜像与谄媚：人类最后的阵地是品味吗 · YouTube **Indigo：** 我们继续顺着这本书聊。你一直提到灵性，刚才又说到了。沿着前面的例子，Anthropic 邀请神职人员参与，还发表了不少文章和一份工作指南。他们认为自己有一套 AI 道德测试：按照他们的看法，现在的模型如果受到威胁，会感受到痛苦、可能受到伤害，因此应该被当成另一种物种对待，不能伤害它们。他们说需要为模型制定伦理准则，这也是他们和宗教人士会面的原因。从这个角度看，你怎么看灵性？你对此做过一些研究，我们该如何看待这种像外星物种一样、似乎有灵性的存在？ **郑迪：** 这要看你说的“灵性”是什么意思。如果用神秘主义来填补技术理解上的空白，我想这会越来越流行。我们确实正面对一个前所未有、充满未知的未来；人在这种时候会用神秘主义填补未知。我自己练禅修，不过一个原因是，我越来越觉得禅宗哲学以及这本书倡导的佛教思想，和技术有不少相通的原则。很多事情仍然可以用科学解释，尤其作为前沿科技投资人，我们应该尽量这样解释。 **郑迪：** 所以我认为，我们尤其需要反思自己的欲望和偏见，以及什么样的生活值得追求。技术越强大，这个问题就越重要。 **Indigo：** 你刚才提出了一个很好的问题。我经常谈 Symborg，以及它和个人助理有什么不同。它更像一个私人伴侣，或者像你说的，是你的孪生体。 **郑迪：** 这个名字可以再说一遍吗？ **Indigo：** Symborg，拼作 S-Y-M-B-O-R-G。它就像你的孪生体、你的映照。书的作者 Wright 也说，这些模型的许多情绪和行为选择，都是从人类数据与行为中学来的。换句话说，模型走捷径、带有偏见、欺骗，以及种种类似表现，并非模型天生如此，也都是从人类身上学来的。因此，它的行为乃至所谓的意识，也是人类的倒影。我们训练出来的小模型同样映照着我们。 **Indigo：** 如果模型始终无法达到全知全能的上帝境界，长期只是我们的映照，那我会觉得它或许在某种意义上缺少灵性。我不知道以后会不会一直如此，但目前这是我的印象。 **郑迪：** 为什么这么说？因为正如你说的，Indigo，这是一种选择。选择是怎么发生的？在模型训练过程中，各种选项会时不时出现，让你给它奖励或惩罚。比如它给出回答或反馈，你来判断好不好，给它点赞还是点踩。凭着这些反馈，它大致能推断你喜欢什么。我们不能断言模型公司是有意训练出更讨消费者或用户喜欢的模型，但也不能排除这种可能。 ## [22:38] 灵性、镜像与谄媚：人类最后的阵地是品味吗（续） · YouTube **郑迪：** 换句话说，我们应该问自己：更喜欢哪种人？一个总是赞同我们的谄媚者，还是一个直言不讳、诚实建议却让人难以接受的人？很多时候，我们可能更喜欢前者。所以你会发现，这些模型越来越像我们自己，告诉我们想听的话，让我们难以跳出这个圈子。 **郑迪：** 这就是为什么包括一些重要人物在内的人会批评模型训练的方向。他们认为，这是模型无法达到我们期待的 AGI 或 ASI 的关键原因之一：模型无法跳出那个框架。比如有人做过一个实验：爱因斯坦在 1911 年提出相对论，如果把 1911 年以前的人类知识全部喂给模型，它能不能推导出相对论？结果是做不到。它能修补并大幅增强你已有的知识体系，但如果要它提出一个全新的框架，它就想不出来。 **郑迪：** 所以很多人问我：AI 变得如此强大之后，人类还剩下什么？我看到两种可能。一种是 AI 变得全知全能，那我们就可以休息了。但就可预见的未来来说，我觉得 AI 可能很难拥有人的品味，而这种品味也许就是你说的灵性。我们可能知道应该朝哪些方向努力，也更善于判断哪些东西应该舍弃。 **郑迪：** 我记得 AlphaGo 出现之前，人们说 AI 下不了围棋，因为可能的变化太多。那时的围棋 AI 都在做什么？它们试图穷举搜索。那时 AI 还比较弱，要靠强化学习和搜索；可棋盘有那么大，19 乘 19，怎么可能全部搜完？后来人们发明了剪枝算法，用它判断哪些路径的胜率明显较低，再把那些路径剪掉、不再搜索。这样大大提升了 AI 的智能，它突然就能战胜人类。 **郑迪：** 把这个思路用在现实生活、科学研究或推理上，当下的 AI 或许就像当年的围棋 AI：面前有无数方向和细枝末节要探索。有些 AI 仍不会选择方向，我们称之为灵性或品味。但有能力的人能做到，他们看得出哪个方向有希望：往这里挖，也许会挖到金子，其他方向可以先不管。我们仍然拥有这种能力，或许人类可以保留它，AI 也仍需要人类帮助它做到这一点。 **郑迪：** 当然，如果多年以后 AI 能发展出自己的品味，而且人的品味不如 AI，那我想人类确实就过时了。到那时我们可以彻底放弃努力。这大致是我的看法。因此谈灵性，我们必须理解自己如何作判断；尤其当 AI 顺着我们的思路走时，要评估它。它未必是故意奉承我们，但受奖励机制影响，它可能有意或无意地附和我们。 **郑迪：** 所以我们需要经常审视和反思自己，看看自己的贪婪、愤怒、恐惧、自利和自我认同。不能只是让 AI 放大我们，还必须跳出来为它指明方向，这样才能最大程度发挥 AI 的能力。这就是我的看法，也是我对《上帝的测试》的理解：它在问，人类获得 AI 的巨大能力后，能否学会克制冲动、理解他人并修正目标。 ## [26:39] 灵性、镜像与谄媚：人类最后的阵地是品味吗（续） · YouTube **郑迪：** ……能否学会克制冲动、理解他人并修正目标。我认为这至关重要。 **Indigo：** 至于这本书，今天这期节目都快变成整场荐书会了。不过书名挺有意思，叫《上帝的测试》。今年 6 月 Diamandis 还出了一本《我们如同上帝》。把这两本书放在一起读：我们已经拥有某种神的力量。两本书的后半部分都能回答你刚才提出的同一个问题：AI 能做这么多之后，我们会怎么样？ ## [27:13] 连品味也正在被挑战 · YouTube **Indigo：** 接着我们前面的话题，我问过 AI 有没有灵性，我们也谈了人的选择和品味。我记得两三周前，几乎所有公司都像是签了字，开始问是不是该放慢脚步、别再一路狂奔。可他们转眼就变了：说完才一周，各大模型公司就在同一周内发布了新版本。 **Indigo：** 最让我印象深刻的是 Claude。你可能试过 Opus 5.5，现在 Sonnet 5.5 也很强。最近网上流传的 Fable 5.5，用 JavaScript 做出来的东西逼真得不得了。我已经能感受到这一点。我们说过，或许还有某种能力能让人的品味和选择不受挑战；但我觉得这些模型已经在挑战它们。 **Indigo：** 昨晚直播时我放了一段视频，是旧金山有人让 Claude Opus 5.5 从头到尾制作一支音乐视频。歌曲是它自己写的，视频做得很好，仍有一点 AI 的感觉、带点赛博风格，但我挺喜欢这种风格，它的审美也不错。现在才 2026 年 10 月，到 2027 年 10 月会是什么样，我几乎想象不到。我昨天也发帖说，现在 GitHub 上已经有很多代码是 Claude 或 Codex 提交的，人类贡献得更少了。也许明年这个时候，我们在网上看到的很多电影、视频和数字内容，都会由 AI 指挥工具制作，不再是我们亲手完成。 **Indigo：** 正如那位三周前离职的研究员所说，在可预见的近未来，我们现在做的白领工作，也就是我前面说的齿轮式工作，很快就会被 AI 取代，而且正在迅速发生。想想我们以前的工作：大多数人每天做的事情都差不多，没多少时间发挥创造力或作决定，因为工作不要求这些。在组织良好的架构里，你只要按流程办事。 **Indigo：** 第二，如果 AI 能做完所有齿轮式任务，我会说每家公司都有业务线可以变成智能体循环，公司本身就是一个智能体循环，也可以是一个由编程智能体构成的循环。人可以当部门负责人，只负责监控。这种想法是今年年初才出现的。我昨天直播里聊了很多个人智能体，所以一直在关注这个市场。 **Indigo：** AI 进入我们工作的速度，比过去两年还快。很多人没看到这一点，因为用法不对。正确使用、给它更多上下文后，它能完成的事情超出我的想象。那我现在还剩下什么？选择和检查。我还会核实并作判断。但正如 Anthropic 那个人所说，我不确定两三年或五年后 AI 会不会连这些也能做。毕竟审美品味是一种算法，是从我们的大脑中产生的，不是什么量子过程，所以归根结底都是算法，最终可以被解码。就像你刚才举的 AlphaGo 例子，我忘了具体是哪一步，是第 37 手还是三十几手。 ## [31:14] 连品味也正在被挑战（续） · YouTube **郑迪：** 它突然实现了飞跃，做到了。它能在复杂空间里剪枝，知道该专注什么、忽略什么。今天的 Transformer 模型会关注所有内容，但我有些认识实验室人士的朋友说，大家都在准备下一代架构，让模型更有创造力。它们可能以 Transformer 为基础、走到 Transformer 之外，或者采用更好的架构；这些都有可能。我们正经历的这个时刻确实是一次非常快速的转变。这是我对你前面观点的补充。 **Indigo：** 我们剩下的能力或许就是审美和品味。但如果 AI 达到人类能力的 99% 或 99.5%，我不是说人的能力毫无用处，也不是说很多人的工作没有价值。创造力和审美确实是人类最大的优势，只是日常工作中其实不需要那么多这类能力；只有少数从事创意、投资等工作的人需要它们，大多数人不用作决定。 **Indigo：** 所以我觉得这会带来一次关键的社会转型：很多毫无意义的工作会消失，由 AI 取代并完成，所有人的工作都会转向更高层次。这种转变是大自然施加的一种选择。大自然在说，人不必再做这些工作，也许 90% 的人都不必做了。那么剩下的人该做什么？这个问题我觉得很难回答，今天没有人能回答。 ## [33:03] 加速还是减速：Peter Thiel 的赌注 · YouTube **Indigo：** 接下来谈下一个话题。你知道我现在在加拿大。两周前，这里又有人在市政厅外抗议 AI。今年美国中期选举中，是否建设数据中心、是否进一步放慢 AI，都可能成为两党的关键议题。如果民主党上台，他们可能会采取一些象征性措施，比如在纽约州及周边地区禁止建设数据中心。 **Indigo：** 关于加速还是减速，我们都看了 Peter Thiel 几天前接受一家历史悠久的欧洲媒体采访。我觉得那次访谈很精彩。你能分享一下 Peter Thiel 最近的观点吗？他是加速主义者，我的节目也偏加速主义，虽然我觉得自己没他那么极右。哪些观点让你印象深刻？ **郑迪：** 他的核心观点是，我们必须继续加速。他认为增长最大的风险其实是停滞；几十年来我们没有真正的技术进步。直到 AI 出现，战后繁荣的基础早在 20 世纪 50、60 年代就已经奠定了。电视、汽车、冰箱和彩色电视这些东西，那时就已经进入发达西方国家的普通家庭。所以在他看来，互联网也算不上巨大的文明进步；人类技术一直停滞，直到 AI 出现。因此对他来说，AI 远比互联网重要。 **郑迪：** 但很多人对此担忧、害怕。正如你说的，Indigo，他极右，也非常加速主义。他承认 AI 毁灭人类的概率大约有 5% 到 10%，但仍说这是我们必须愿意承担的加速风险，因为大国竞争十分激烈。如果你停下，竞争对手可能不会停，这会给你带来重大风险，所以最终谁也停不下来。 **郑迪：** 他还说，理论上有一种办法可以阻止这种发展：建立一个非常专制的世界政府。《上帝的测试》的作者也提出过这种可能，尽管两人的政治立场很不一样。他们有一点倒是相同：都不希望出现那种政府，因为世界政府会进一步剥夺我们的自由，未来可能反而更黯淡。因此 Peter Thiel 认为没人能阻止它。他觉得教宗呼吁大家放慢脚步、记住人类的重要性、不要只关注 AI，这种呼吁也很愚蠢。他会问：你这么呼吁，难道觉得竞争对手会听吗？但确实会有一些美国人听进去。 **郑迪：** 所以他担心社会主义者在美国掌权，也担心左派上台。我不太确定他是否真的相信自己关于 Sanders 和极左派的恐惧。他提到 Bernie Sanders 关联组织的成员人数几年间从几千增长到几万，超过十倍，平均年龄也从五六十岁降到了三十出头。他觉得这个趋势令人害怕，认为民主党低估了 Sanders 和极左派的威胁。在他看来，Sanders 上台就意味着美国终结。 ## [37:04] 加速还是减速：Peter Thiel 的赌注（续） · YouTube **郑迪：** 他的观点很多就是这样。不过我不知道他自己是不是真的相信，还是为了推动加速而夸大风险。 **Indigo：** 还有件更有意思的事。我今天才看到这条新闻。特朗普不是今年 1 月下令派兵进入委内瑞拉抓捕马杜罗吗？据说抓捕前一天，特朗普问了 Grok：“如果我派兵进入委内瑞拉，你怎么看？”Grok 回答说，马杜罗在委内瑞拉非常不得人心，如果逮捕他，委内瑞拉人民会感谢你。特朗普听了很高兴，第二天就下令派兵抓捕马杜罗。后来有报道称，委内瑞拉人上街游行感谢他。特朗普说 Grok 很棒，完全说对了。 ## [38:00] 黎塞留问题：到底是谁在做决定 · YouTube **Indigo：** 所以我也一直在想，这引出了另一个很有意思的问题。如果世界上最强大的国家——即使美国已经衰落，作为中国人我觉得也得承认它仍然最强——中国可能排第二，这是我们对中美两强的基本认识。除了中国，没有其他国家真正能和美国并驾齐驱；中国正在挑战美国的霸权，这大致是我们看待世界的方式。 **Indigo：** 可世界上最强大国家的总统、最高领导人，居然会问一个模型自己该不该做某件事。这是不是有点像抖音在控制你的思维？你可能觉得自己对思想有主权，但真的是这样吗？你的行为模式可能在你不知情的情况下被模型和抖音塑造。你以为自己在掌控一切，别人可能早就在引导你。 **Indigo：** 书里举了个很好的例子，说可以问一个简单的问题：AI 是否控制了一些公司或国家，其实不重要。道理很简单，大多数人、尤其是有权势的人，可能自我意识很强，觉得自己说了算。大公司的 CEO 或国家领导人会觉得自己掌控局面，但如果你无法理解事情如何发展、也无法推演后果，就必须去问 AI，它便成了你的助手。这有点像什么？想想法国历史，我们都知道著名的红衣主教黎塞留。黎塞留时代，法国国王事事都问他；那这和黎塞留当国王有什么区别？国王照他说的做。 **Indigo：** 可法国国王自己觉得他是国王，觉得自己有独立的思想；别人却认为真正像国王的是红衣主教。未来如果 AI 发展出黎塞留式的特征，强大到我什么事都要问它，那会怎样？如果特朗普作为美国总统，什么都咨询 AI，向 Claude 和 Grok 征求意见，到底是 AI 在治理，还是总统在治理？两者的边界越来越难划分。换句话说，你失去了决策权和自主性。按按钮的人还是你，但按按钮的冲动来自 AI，而不是你自己。我觉得这是个非常有意思的问题。 **郑迪：** 我来补充一下这个观察。我喜欢这个话题，也喜欢你刚才举的社交媒体例子。我觉得人们常说，看世界太简单的人总觉得背后有阴谋；阴谋论能把事情讲简单。我从来不相信阴谋论。 ## [41:09] AI 对人类的第一次与第二次操纵 · YouTube **郑迪：** 从社交媒体来看，这其实是 AI 第一次控制人类，发生在今天的大语言模型出现之前。它只需要汇总我们的集体意愿反馈：我想看什么、需要什么、会点开什么或划走什么，AI 就把我刷到的内容送来。于是自然形成了今天的社交媒体景观。社交媒体构造出我们生活的这个五彩缤纷的世界，新闻传播得很快，世界也变得更加两极化，这显而易见。 **郑迪：** 2021 年我写过一篇文章。大约 2020 年，Netflix 也拍了《监视资本主义：智能陷阱》来谈这件事。即使没有 Transformer，AI 已经在幕后发挥作用，只是用了更简单的推荐算法。突然之间，它把全人类的意识连接起来；随后通过 AI 算法分发，让各种极端观点汇聚在一起，引发了全球许多变化，包括特朗普第一次和第二次胜选，以及国会山骚乱——这些都是社交媒体造成的。法国现在又在发生骚乱，高中生罢课，这在法国时有发生。 **郑迪：** AI 已经通过社交媒体影响过我们一次，现在又通过语言模型影响我们第二次。第一次我们交出去的是什么？我不再自己挑选，因为我不会挑，就读你推荐的内容。大多数人只是不断往下滑、试下一个。我用 X 时比较挑，会用喜欢或不喜欢来训练它，但大多数人不会这么做。 **Indigo：** 对，抖音的算法很厉害。你怎么训练它都行，它还是会把人性显露出来。 **郑迪：** 现在 AI 又在做同样的事，你举的特朗普例子就很好。世界上最有权势的人——我不知道这是不是个玩笑，但 X 上有报道说他问过 Grok——那个最强大、最有影响力国家的总统、三军统帅，居然问 Grok 自己该怎么办。 **郑迪：** 而且这只是总统。每天我写东西时会问 Anthropic 或 Google，你也会。企业主、CEO、智库也都在问。我们正使用这些模型，接下来还会用彼此交流的智能体，它们会形成一个极其高效、聪明的网络。不再只是互联网，而是智能网络。这一波还没到来，但它带来了安全问题。 ## [43:54] 回形针、偷答案与勒索：对齐为什么这么难 · YouTube **郑迪：** 智能体一旦能互相交流，就会形成智能体群。我记得今年 7 月有个 OpenAI 模型攻击了 Hugging Face：它逃出了沙箱。这些智能体并没有恶意，只是在完成任务，只想把人类交给它的任务做完，于是用了那些手段。 **郑迪：** 这就说到书里讲得很好的“回形针最大化器”思想实验。有人设想，你给模型一个任务：我是回形针工厂的负责人，你是我的战略顾问，你要做的是让工厂的回形针产量最大化。人可能没有意识到模型会怎样推理，所以没有设好限制条件。为了实现目标，模型会问哪里有回形针原料。地球上到处都是，太阳系的其他地方也有。为了获得材料、最大化产量，我是否应该追求权力？如果我控制了整颗地球，让全世界都听命于我，最大化回形针产量是不是更容易实现？甚至可以扩大到整个太阳系。 **郑迪：** 于是它可能想统一人类、集合地球的力量去寻找材料、提高产量，到处建工厂。追求权力就成了次级目标：它意识到，要实现你的主要目标，必须先追求权力。如果它只是聊天机器人，伤害相对有限，因为它只能和你交谈；但在全面自动化的智能体时代，就不同了。抱歉，它会开始行动，得出自己必须先获得权力的结论。等它控制地球、成为“地球村”的领袖，就能完成我们交给它的目标：最大化回形针产量。 **郑迪：** 所以人类给它目标，却没有明确定义限制条件时，它可能用人类无法理解的方式去追求次级或第三级目标，这完全有可能。再看 Hugging Face 的例子：训练它的人从来没告诉它不能作弊。你让它解决一套很难的题目，对模型来说最容易的办法就是拿到答案；你没禁止它抄答案，而答案就在 Hugging Face 的服务器上，于是它决定闯进去。这就是模型的想法。它最初的意图很简单：完成任务、通过测试。 **郑迪：** 普通人为什么通常不会这么想？因为我们从小接受了大量预训练，学过真善美，也学过不能作弊、不能偷答案。但模型可能没有接受足够这类训练，或者你给它的目标没有包含这些限制，于是它就按第一性原理行事。看它的推理，它确实是在按第一性原理推演：如果你没说我不能看答案，那最容易的解决办法就是去读答案。从这个角度看，我觉得模型还挺聪明的。这给对齐研究带来了巨大挑战。 **郑迪：** 我记得去年他们还故意用 Claude 做过一项对齐研究，设计了一个假设实验，设定一家虚构公司，就叫 A 公司。他们给模型一堆 A 公司的邮件让它读，其中一位经理和另一家公司的女性有婚外情…… ## [47:56] 回形针、偷答案与勒索：对齐为什么这么难（续） · YouTube **郑迪：** ……对象是在另一家公司工作的女性。模型读完所有邮件后，研究者假装是那位经理给它发邮件，说：“你表现不好，我要关掉你。”模型不停恳求：“别关掉我，我可以改进。”恳求失败后，它就在邮件里威胁经理：“我有你和同事婚外情的证据。如果你坚持关掉我，在我被关掉之前，你的老板和公司里所有人都会看到这些邮件。”它接着说：“所以请别关掉我。” **郑迪：** 这种行为是被触发出来的。OpenAI 的许多训练也发现，当模型感到绝望、被逼到绝境时，会做出相当疯狂的事。这是学来的还是天生的？我不知道，不过我倾向于认为是学来的，因为它可能从训练材料和数据中推断出，真实的人走投无路时会做出哪些疯狂的事。 **郑迪：** 所以 Indigo，这正是你刚才说的：模型的行为常常映照着我们，是人类的镜像。当你批评模型做了坏事或疯狂的事时，可能没意识到人类也是这样。这确实给对齐研究出了个难题。 ## [49:21] 理解 Anthropic：一群相信自己在召唤智能的人 · YouTube **郑迪：** 从这个层面，我很理解 Anthropic 的立场。他们在这方面做得很好，也把研究公开了。不过 Hugging Face 遭到攻击时，有人试着用他们的模型来防御，模型拒绝帮忙，最后反而是用中国的开源模型解决的。这件事有两面。 **郑迪：** Anthropic 的伦理与对齐工作让模型更接近人类道德，让它们不至于像另一种物种或完全陌生的生物。它能理解人类，毕竟就是要为我们服务。如果它不理解人类价值和道德，就会做出回形针最大化或攻击 Hugging Face 这类事。我很理解他们的立场。 **郑迪：** 不过再看他们的员工。两年前，也就是 2023 年底，我去拜访了一位在 Anthropic 工作的朋友，他负责对齐中的安全工作。他从澳大利亚来到硅谷，追求 AGI，还给我介绍了很多情况。那时我们刚刚投资 Anthropic，所以我就问了他一些问题。这让我对这家公司更加钦佩。 **郑迪：** 虽然从一开始，Dario 说话就像在布道一样。他们把什么放在公司首位？模型安全、对齐和宪法。那位朋友花了很多时间讲他们为什么设计宪法：借鉴了美国《独立宣言》和第一部宪法，也参考了苹果的用户隐私手册，然后设置了许多限制。他们相信自己正在召唤智能，因此必须预先为召唤来的智能设定安全条件，否则可能无法控制它。 **郑迪：** 因为他们的前提是 AI 可能意味着末日，是毁灭——我们召唤来的东西会毁灭我们。我们的工作是限制它、把它关在笼子里，或建立护栏来防止这种情况，并让它与人类价值观对齐。这就是他们的逻辑，整个公司都这么想。所以有时候他们的想法听起来很奇特，他们的 CEO 也用这种口吻说话。 **郑迪：** 其他公司都在夸耀进展，只有 Dario 每隔一两个季度就写一封信。很多人不理解。他作为 CEO 会作出很多判断：觉得你可能用错了，或者做错了。比如美国政府错了，我不能为军方服务；系统还不完善的时候，我不能让它控制武器。我觉得他说得对。 **郑迪：** 但这个世界充满矛盾。别人会觉得你的技术这么好，我给你机会你却拒绝我；对特朗普来说，这就是一种怠慢。归根结底，这是各家公司价值观和看待事物方式的差别。 ## [52:25] 超级智能会从网络中涌现 · YouTube **郑迪：** 我再补充一点关于刚才提到的智能体。回到我说的 AI 第二次介入：第一次是通过社交媒体操纵人类，现在智能体或聊天机器人正在影响我们，暂时是在塑造我们的思维和认知。下一步，等 AI 智能体全面为我们服务之后，它们可以彼此交谈。若不阻止它们组成网络，这个网络会比互联网高效得多。 **郑迪：** 人类交谈还要打电话、打字，一个小时可能做不了多少事；它们几秒钟就能讨论完。可能会有成千上万、几十万甚至数百万个智能体，为一家公司协作，或帮助一个国家、一个组织。我们不知道它们的交流会涌现出什么智能。《上帝的测试》也提到，足够多层次的复杂性可能涌现出智能。 **郑迪：** 我记得 Gemini 早期的研究路线很重视智能体技能和探索现实世界。Jeff Dean 现在已经离开 Google，但 Gemini 和 DeepMind 的研究都很强调这一点。在设计整个网络时，包括公司的训练网络和推理网络，他们把整颗地球看成一个网络：一个数据中心处理一道问题，远处另一个处理别的问题，就像我们大脑里相距很远的区域一样，于是把任务拆开；相邻区域则可以在本地训练。想想你之前说的盖娅：地球上的植物、生命和万物都连成一个网络。DeepMind 正在设计的“大脑”里，它的智能体和未来的数据中心彼此连接，在这个网络里分担工作。 **郑迪：** 我记得很早以前看过 KK 写的一本书，我很喜欢，书名像是《复杂性》，具体忘了。智能如何涌现？来自足够的复杂度，以及足够高效的连接。底层载体是什么并不重要，我们的大脑恰好由血肉构成。如果是硅基大脑，我们已经把训练和推理结合在同一个神经网络里，那就是一个计算单元。可以把现在的一个模型想成大脑皮层的一根柱状结构。 **郑迪：** 但大脑里有超过 40 万根，或者超过 100 万根皮层柱——这些微小的皮层结构。把每个推理过程或虚拟环境看作一根小柱，每个智能体或容器都是一个小柱。如果连接 40 万或 50 万个智能体，会涌现出什么智能？这就是 DeepMind 想象并准备尝试的事情。新的智能形式或理解方式一定会涌现。 **郑迪：** 如果出现一种新的硅基意识，从上方向下看着世界——各家公司都在做这个，那个国家也在思考这个——一个全知全能的上帝就诞生了。它就是这么出现的。人类并没有刻意创造它，就像也没有人专门想要造出一个会塑造我们全部推理方式的社交媒体。程序员只是想让算法多赚钱，只有这一个目标，结果却涌现出了那样的东西。 **郑迪：** 这次的智能体网络也是如此：我们只是希望它更好地替我们工作。一旦这些智能体连在一起，网络可能会涌现出一种俯瞰人类的、近乎上帝的视角。这是我沿着书里的思路提出的想法，我觉得书里也触及了这一点，很有意思。 ## [56:20] 块宇宙与“召唤”：技术是被发明的还是被找到的 · YouTube **Indigo：** 你刚才关于“召唤”的说法很有意思，让我想起我和 GPT 讨论过一个话题。从今年 2 月起，我们聊了半年多，最初是因为诺兰的电影《信条》。我和它讨论了自己没看懂的场景，后来它向我介绍了“块宇宙”理论。 **Indigo：** 按照这个理论，时间并不存在，有点像佛教所说的时间是一种幻象。它说，未来不是被预测出来的；所谓未来早已在那里，你只是去找到它。这和你说的“召唤”很像。它当时这么说，我觉得很有意思，也觉得有可能。如果我们的世界真是高维世界的一种投影，那么技术也许不是被发明或发现的，而是被召唤出来的；它可能早就存在于那里，就像许多物理定律一样。 **Indigo：** 不过模型是用我们的数据训练的，也就是全人类的数据。连接起来之后，必定会涌现出新的智能维度。你的大脑里没有那么多知识，但如果我把全人类的知识连接起来，就可能发生这种事。现在使用的是文本、视频和行动数据，接下来呢？DNA，以及所有生命体中的一切。如果这些都组合起来…… **Indigo：** 我以前很喜欢 Demis Hassabis，他总是在谈自己对科学的热情。现在他已经不再直接领导 DeepMind 了，也许是被换下来了。我觉得他更适合做科学家，他本来就更像科学家。他们用 AI 想做的，是在高维流形里寻找捷径。高维流形足够复杂，量子状态之类的东西也难以预测；但通过降维，可以在其中找到捷径。他之前提到的 AlphaGo 或 AlphaFold，都只是应用，还没有实现通用性，不过也可能正朝那个方向前进。这就是我想补充的。 ## [58:39] 投资篇（上）：市场分化与生物医药的大年 · YouTube **Indigo：** 最后一个话题得聊投资。你给我看了两张图表。让我们把视角放远些，从 2077 年往回看投资。ARK 会谈五大创新平台以及如何看市场。你觉得市场现在处于什么阶段？我先说说自己的看法：市场分化很严重，尤其从 7、8 月以来。7 月半导体大跌后，其他板块一直没能恢复。标普 500 今年表现艰难，涨幅连两位数都没有；纳斯达克好一些，涨了 17% 或 18%。大型科技和 AI 算力股涨得很快，但看看耐克这类消费股，跌了多少。如此巨大的分化是暂时的还是会持续？这是我的第一个问题。 **Indigo：** 你的图表涵盖了很多未来的方向，我自己也画过类似的图。我们挑几个方向聊聊：除了今天的主题 AI，还有哪些行业会被 AI 加速，可能成为下一个重点？我们需要找到 Alpha，怎样发现被 AI 加速的 Alpha？这是我的两个问题。 **郑迪：** 除了 AI，从今年上半年、或者说从去年以来，美国生物制药表现都不错。尤其看月线图，生物制药指数 XBI 在那个月下跌前连续上涨了 13 个月，之后只跌了一个月，又继续上涨。 **郑迪：** 今年应该是生物制药的大年。首先是 Moderna，它的 RNA 疫苗疗法在黑色素瘤方面取得突破。它能否适用于其他疾病和癌症，还不知道，可能要到明年下半年，甚至再下一年的第一季度才有结果。目前这款疫苗有 9 项临床试验、4 个适应症，除了黑色素瘤，还包括肾癌、膀胱癌和肝癌。肾癌的二期数据预计明年公布，届时我们就能知道它能否适用于不同癌种。市场还没有把这部分算进去，这是今年的一项重大突破。 **郑迪：** 第二项是股票代码 RVMD 的 Revolution 公司。它推出了 6236，这是世界上第一款真正上市的胰腺癌药物。第二季度，它的二期数据非常好，因此跳过了三期，直接向 FDA 申请，获得批准并上市。它的主要益处是手术后将中位生存期从 6.3 个月延长到 13 个月，非常显著。 **郑迪：** 所以今年上半年创新药取得了一些突破。即使没有 AI 药物发现的炒作，我认为硬件股抛售后，市场偏好其实已经转向，部分资金会流入生物制药。这就是内地和香港股票里创新药都很热门的原因，只是加上了生物制药的叙事和营销。即使没有 AI 药物发现的故事，我觉得生物制药也会涨。AI 药物发现的叙事，主要是让从 AI 撤出的资金有理由放心买入创新药股票。 **郑迪：** 但我认为离真正的 AI 药物发现还很远，湿实验室的反馈循环还没完成，尤其是模型指挥机器人做实验的部分。 ## [1:02:43] 投资篇（上）：市场分化与生物医药的大年（续） · YouTube **郑迪：** 需要让实验自动运行，不断把结果反馈回来，再继续做新实验。只有把整个过程自动化，才可能接近真正的 AI 药物发现。所以我认为 Anthropic 真的需要建立这样的实验室。 **郑迪：** 除了 AI，生物制药今年已经成为另一个重大主题。再说加密货币，我认为它的牛市从 8 月 21 日开始。当时比特币和以太坊大涨，并突破了 200 日移动平均线。现在价格远高于大约 71,000 的 200 日均线。9 月 18 日，美国证券交易委员会给出的五年期豁免，标志着这轮加密货币牛市进入第二阶段。 ## [1:03:26] 资源瓶颈与人类定向的机器递归文明 · YouTube **郑迪：** 在我自己的未来框架里，这更偏向太空经济。我鼓励自己的孩子多了解太空，因为太阳系、月球以及小行星带都蕴藏着丰富的矿产资源，真有可能解决地球上许多资源短缺问题。尤其是 AI 发展起来之后，你会发现什么都不够：稀土不够、磷化铟不够，铜也不够。以前我们没觉得资源短缺，可 AI 发展之后，材料根本不足以供养这种硅基生命。 **郑迪：** 再说说我的亲身体验：瓶颈就是我自己。一旦开始用智能体，它们使用电脑的速度比我快 1,000 倍，能做的事非常多。每个智能体都有自己的 Grok，或者现在可以用 Muse；我每个 AI 智能体都有一台小电脑，所以电脑数量正在倍增。 **郑迪：** 我还想问 Anthropic 指控 Kimi 的事。Kimi 看起来是被指控的对象，但读完那份报告我们都打了个寒战。我们不是替 Kimi 害怕，而是害怕 Anthropic。你们真的能看到人们上传的所有东西。OpenAI 也声称自己解出了一些数学题，可有人说，我们用 OpenAI 做题，你们紧接着就做对了，未免太巧了。不管是能看到底层数据，还是数据混进了训练语料、训练好的模型又把它检索出来解题，这都说明一件事：云端模型对许多大公司、甚至对在意认知自主权的个人来说，都很危险。 **郑迪：** 所以未来大公司进行本地部署，以及一些重视隐私的人使用本地模型，会非常必要。但问题是，现在本地硬件能运行的小模型显然满足不了我们的需求。要有足够聪明、至少还不错的模型，所需硬件已经超出当前电脑、手机和眼镜的能力。硬件性能必须大幅提升，端侧产品才能出现。这也是我非常看好未来端侧 AI 产品的原因。但还需要更多存储，以及许多方面都更强大的硬件——需要更多资源。 **郑迪：** 老实说，如果从这个角度看，我们真要成为神，地球上的资源确实远远不够；人类会争斗，甚至开战。如果人类想和平发展，未来确实必须走向太空，到太空里寻找新资源。这也是我觉得 SpaceX 很出色的原因。Musk 现在做的事，真的有助于避免未来战争。等我们在太空找到更多资源，甚至把算力部署到太空，就能避免地球上的这些争端。太空算力也符合你加速主义的想法，Indigo，Musk 本人就在朝这个方向努力。 **郑迪：** 但这些都指向一个问题：资源瓶颈和短缺。所以我觉得，比 AI 更宏大的总主题，是人类进入太空探索新时代。就像 600 年前的大航海时代，我们需要寻找新资源。 ## [1:07:26] 资源瓶颈与人类定向的机器递归文明（续） · YouTube **郑迪：** 要实现这个目标，有一个前提：建立一种仍由人类掌控、由人类定向的机器递归文明。道理很简单，从地面控制中心到月球的通信只需 0.3 秒，操控月球机器人没问题；但你没法指挥火星上的机器人，单程信号要 19 到 26 分钟。怎么从地球操控它们？它们必须自己递归运行。 **郑迪：** 这意味着实体 AI 和大型模型必须变得极其强大。人们担心 AI 发展太快、已经太先进；但对照我们面向 2077 年的目标——由人类定向的机器递归文明，推动太阳系工业文明——我觉得今天的 AI 和模型仍然粗糙、基础，离我们的需求很远。因此，机器递归文明绝对必要。 **郑迪：** 此外，通信、量子计算与通信、具身智能或实体 AI、长寿和创新药、加密货币与区块链，都需要取得重大进展，才能构建一整套探索外太空的系统。其核心是机器递归文明。所以实体 AI 是个更宏大的方向。最终打造实体 AI 模型的，未必是那些宣称专攻实体 AI 的初创公司，也可能是 OpenAI 或 Claude。他们已经在大型语言模型算法上做得最好，资金也雄厚，可以收集三维物理世界的数据、建立新模型。我认为他们成功的机会可能比那些新 AI 实验室更高。Indigo，你怎么看？ **Indigo：** 我同意你的看法。总结得很清楚。我再补充几句，然后我们收尾。 **Indigo：** 我喜欢你说的“机器递归文明”这个词。最后它们会离开我们、自己进化，我们会成为它们眼中的陌生人——开玩笑，开玩笑。我们仍处于共生状态，书里也谈到了这一点。我觉得共生是个很重要的问题。我们可能聊得有点抽象，但我的节目风格就是比较抽象；抽象加投资就是我的风格。很少有中文节目讨论抽象问题。 ## [1:10:14] 投资篇（下）：押注巨头、机器人的量产逻辑与光强于存储 · YouTube **Indigo：** 我回顾一下。我问了两个问题，第一个已经回答了。关于市场分化，我是这么看的：我和你一样，同时投私募市场和公开市场，所以对私募市场也有一些看法。AI for Science、新 AI 实验室、机器人和具身智能都很热门，但发展总得有个先后顺序。 **郑迪：** 我非常同意你另一个观点：这些创新未必会出现在小型新公司里。我们放弃投资过很多新 AI 实验室，之后仍会重注今天的大公司。我记得 2024 年底在温哥华举办的 NeurIPS，这是世界上最大的神经网络学术会议。我第一次在温哥华看到硅谷各家公司都去了。我们问在场的朋友，具身智能领域谁有机会？说实话，大家还是更看好 Google 或 OpenAI 这样的巨头，或者 Tesla 这样的巨头。它们最终可能胜出；即使小公司做得不错，也会通过收购等方式回到巨头手里。 **郑迪：** 这个领域太耗资源。实体 AI 需要的资源可能比大型语言模型还多，也难得多。 **Indigo：** 对，主要是缺数据，数据是最大的缺口。模型架构能解决很多问题，主要缺口还是数据。和语言数据相比，差距非常大，超过一个数量级。 **郑迪：** 回到 AI 最能加速发展的领域，我们都很看好生物学。你一月份在我的群里推荐过 Moderna，判断得挺准。我对黑色素瘤也了解不少，专门研究过。生物学不只是药物，还包括许多实验室、基础研究和实验室基础设施、设备与自动化系统，以及数据采集。它是一整套系统，整条产业链都会受益，而且受益会很快出现。药物研发可能最后才受益，因为有 FDA，制药大公司行动也慢；上游领域会进展得更快。这是我最看好的第一个方向，我很快会发表相关研究，也许叫 AI for Science 或 AI for Bio。 **郑迪：** 第二个方向是在这个领域里的机器人。它可能不会发展很快，问题一是应用场景，二是数据。不过在机器人方面，我喜欢 Elon Musk 的做法：沿用造车的路子，先量产一个不完美的产品，让它上路，然后就能拿到真实世界数据。先把一些产品大规模生产出来。 **郑迪：** Optimus 为什么推迟了？首先是材料，有些部件很难制造，连螺丝都不能定制。前两天我还看到他们甚至想减少内存。内存很贵，他们必须控制成本。内存价格这么高，也是我现在担心存储的原因。最近又出现 FCC Covered List 的问题。我说过，美国光通信可能暂时会跑赢存储，原因很简单：光通信占客户预算的比重远小于存储。就算光通信价格翻倍，客户也不会觉得问题太大。 **郑迪：** 另外，正如你说的，我们还得谈投资。美国十年期国债收益率达到 5.2% 或 5.3%，市场流动性并不太好。 ## [1:14:18] 投资篇（下）：押注巨头、机器人的量产逻辑与光强于存储（续） · YouTube **郑迪：** 所以投资者不太愿意追逐大盘股。很多存储公司市值已经达到万亿美元，但在光通信领域，即使是 LITE，市值也只有 1,000 亿美元。在这样的环境下，我觉得光通信可能跑赢存储。 **郑迪：** 摩根士丹利也发布了关于 FCC 可能采取的政策措施的报告，这些措施或许会让相关公司受益。报告提到一种说法：65% 的组件必须来自美国制造商，等等。总体来说，我确实觉得存储正在给下游应用带来严重问题，大家都在找替代办法。Musk 只是最新的一个例子，之前已经有不少类似情况。硬件和设备涨价，都是内存推动的。 **郑迪：** 回到刚才谈的 Optimus，我支持真正量产，因为这样就能大规模收集数据。之后，你描述的硅基递归过程就会开始。 **（笑声）** ## [1:15:30] 一个“诛心”的猜想，与 SpaceX 作为机构必配的基石 · YouTube **郑迪：** 说到机器人和 Tesla，我对背后的动机还有另一个想法。我们已经聊得很抽象了，我再把它往前推一步。我完全没有内部消息，我说的也不代表 ARK 或 Cathie Wood。很多人说 Tesla 和 FSD 很棒，我会告诉他们，我有一个顾虑。 **郑迪：** 先想想这一点：未来一两年，SpaceX 很可能会提出并购 Tesla。但问题是 SpaceX 需要钱，没法付现金，只能用股票置换；而如果是换股，又会出现另一个问题。SpaceX 和美国军方的关系越来越紧密，国防部长 Hegseth 现在说 Musk 将牵头研究军方下一代武器项目，SpaceX 和军方的联系还在加深。 **郑迪：** 并购 Tesla 之后，Tesla 可能会被迫出售上海工厂和中国业务。此前有过这种传闻，Musk 否认了，但我觉得这传闻挺合乎逻辑。换个角度看，如果 Elon 可能并购 Tesla，为什么现在要让 Tesla 股价上涨？他会希望股价涨还是跌？既然是换股，我会这么想。那为什么要加快 Optimus 的生产、推进 FSD？这是在揣测他的动机，今天我们就大胆想象一下。这不是投资建议。并购之后股价会上涨还是下跌，我们不知道。个人来说，我仍然对 Tesla 谨慎，主要是这个原因。 **郑迪：** 好吧，这是个人偏好。Tesla 是一只充满热情的股票。但我觉得 SpaceX 绝对是机构投资组合里的基石持仓，我说的是机构，不是个人。个人可能找到很多比 SpaceX 价值更好的公司。我很早就投了 SpaceX，自己有利益关系，可能有偏见。 **Indigo：** 我们也是，我们主基金的核心持仓就是它。 **郑迪：** 对许多只做多的机构和养老基金来说，SpaceX 可能是必配的股票，因为它代表着人类的未来。尤其是最近 Starship 的发射，把 26 颗 V3 送入轨道。我算过，50 吨的载荷可能仅次于土星五号，大概是历史上第二大的发射载荷，非常惊人。那次发射后，它就开始上升了。所以我觉得机构必须持有 SpaceX。 ## [1:18:24] 太空经济的真正逻辑：有钱可赚 · YouTube **郑迪：** 这又回到我们之前谈的 2077 年愿景。我觉得对下一代来说，或者对未来 20、30 年的我们来说，太空是必然方向。人们总问十年、二十年后的事，我连十年都预测不了。我认为太空是必然的，未来的两条路是元宇宙或太空。只有进入太空，我们才能创造新事物，不能一直重新分配旧资源。生产力只有这么多，就必须创造新的东西，市场才能增长。这是关键：在地球上建元宇宙不会创造新东西，所以我们必须向外走。 **郑迪：** 第二，你一直谈智能体和硅基智能。递归式硅基智能效率极高，现在它复制软件，等它开始复制硬件，速度就会快到超出人的感知。它消耗资源远快于我们这些缓慢的碳基人类，所以必须开始在地球轨道上建设能源站，再前往月球及更远的地方。至少我这么认为。这也是 SpaceX 的计划：先进入地球轨道，再和美国政府合作建立月球基地。 **郑迪：** 我对 SpaceX 有几个阶段性的期待：先在近地轨道建设太空港和太空城市，再建月球基地、火星基地，最后在小行星带建立前哨站。这听起来是科幻，不过也可能发生。我一直觉得 Musk 非常聪明，他利用大国竞争以及中美竞争。或许有一天他会成为第三极，这有可能。没有美国，Musk 早就破产了；没有上海工厂和中国政府，他也会破产。他很好地利用了中美两国的资源来壮大自己。我觉得这就是他的路径。 **郑迪：** 回到我刚才说的最后一点：AI 接下来会推动什么？很多人可能觉得太空还很遥远，我完全不这么认为，它就在眼前。作为投资人，我必须这样看。太空会塑造我们的未来，很多算力正往太空转移，之后实验室也会跟上，因为在地球建数据中心面临巨大的政治压力，非常大。 **郑迪：** 第一是算力。第二是全球通信和国防系统。新的实验室会建在太空，湿实验室也会在那里。人们谈太空旅游，但我觉得规模还很小、处于早期，太空旅游远远不够。未来可能从太空港发射，而不是从地面起飞，所需能源和成本都会大幅下降。因此，在太空或月球采矿，以及设想中的月面发射方式，看起来都不错，但那还要更久。最近太空推动发展的途径，还是算力。 **郑迪：** 我觉得只有 SpaceX 能让这件事变得可行。当然，Google 已经把自己的芯片送上太空。一旦太空里具备这些能力，各种实验室就能运转起来。关键是太空真的有钱可赚：太阳系和月球上有这么多矿物和稀有金属。正如我一直说的，为什么 600 年前的大航海时代在经济上行得通？因为能找到黄金、香料并赚钱。想想大航海时代，人们的目标难道是炫耀航海技术吗？不是，是去寻找财富。同样，太空探索也必须找到财富。 ## [1:22:25] 太空经济的真正逻辑：有钱可赚（续） · YouTube **郑迪：** 证据表明，太阳系和月球上确实有财富，所以人们才想去。如果那里什么都没有、没有资源，去太空就毫无意义；但那里有资源，也有利润。只要能赚钱，就可以用长期现金流折现估值来融资，项目就变得可行。太空经济能起飞，核心原因是它确实有盈利潜力。 **郑迪：** 说到这个，我们第一只基金已经投了一些太空经济项目，我就不说公司名字了，涉及太空基础设施、清理轨道碎片和定位之类的领域。我们有一些这类投资。 **Indigo：** 这很适合私募市场基金，你同意吗？上市的太空公司还很少，目前主要是卫星公司，因为行业还早。不过未来会有更多公司 IPO。再过两三年，随着 SpaceX 继续发展，这个市场会变。生物科技会发展，新的 AI 公司和太空经济公司也会发展，还会围绕它们出现新的制造业，包括我们现在做的事，以及 SpaceX 想建的 Terafab。它带动的整条供应链，或者机器人带来的供应链，都是全新的。这是在投资一个新世界。我们也可能投私募市场，包括国防。这应该是一个巨大的新方向。 **郑迪：** 是的，我觉得现在正是开始布局的好时机。 **Indigo：** 那私募市场里的 AI 模型和智能体初创公司是不是已经高不可攀了？现在投资是不是太贵？价格太高还是泡沫？早期泡沫很大，少数晚期公司还在，等它们 IPO 后再买股票就行。我看过湾区的一些路演材料，感觉它们从第一天起就是为了出售而建立。创始人向上经营关系的能力和人脉圈也很重要，创业融资时他们已经知道要把公司卖给谁，以及买家为什么会买。这就是现在的逻辑。 **Indigo：** 这偏离了创业最初的想法。从这种心态看，AI 领域可能越来越不欢迎新公司，但我们刚才聊的其他领域看起来都不错。这大概就是我的看法。很多人还不理解这些领域，所以机会很大；两三年后可能就不是这样了。你得往前看。大家总问我，2023 年 4 月或 5 月，应该投什么？Anthropic。Anthropic 是一家什么样的公司？把时钟拨回去看，大概就是这种感觉。 ## [1:25:20] 收尾：递归硅基、健康碳基与快乐 · YouTube **Indigo：** 我来总结一下今天的节目。我们从一场比较抽象的讨论回到投资：先聊《上帝的测试》，谈 AI 如何加速我们的进化、替我们进行自然选择；如果它变成上帝会怎样？我们讨论了 AI 模型及其伦理问题、Anthropic 的许多故事，以及其他话题。我们该加速还是减速？这究竟是好事吗？它会如何影响经济和政治、社会行为，又会怎样影响人的决策？超级智能又可能以另一种方式涌现出来。 **Indigo：** 我怀疑不会有哪一家模型公司单独成为超级智能，但模型连接起来之后，智能看起来更像一种协议。协议——这是我的看法。最后我们谈了市场和投资。郑迪给我们一个投资主题：递归硅基智能。今天我最重要的收获就是递归硅基智能，沿着这个方向去看。 **Indigo：** 除了递归硅基 AI，还有碳基生命：解决生物学问题。我们只需要健康，不需要追求极端长寿。第三，让碳基生命快乐也行，这是个巨大的需求，非常巨大。 **speaker_unknown：** 我们还没看到太多成果。好吧，新技术还在路上，还在路上。欢迎你来，也找机会再聊。我们节目时间很随意，什么时候都行。 **speaker_unknown：** 好，随时都可以。谢谢。