追逐万亿美元公司：创始人野心、Token 预算与监管俘获No Priors

法国的发电结构里，核电现在仍然大约占 70%。70%。事故都在哪里？那些所谓的「[字幕词不清，似指重大核事故]」又在哪里？什么都没发生。

美国大约是 18%，而我们已经有 40 年没有真正新建反应堆了。上世纪 70 年代的安全游说，基本上让我们失去了大量、清洁而充裕的能源。

确实存在一些例子，说明对安全的追求反而伤害了我们。真正的问题是：到了 AI 这里，我们希望把指针放在这条光谱的什么位置？未来有很多种世界、很多种情景，也会有很多种结果。

各位听众，欢迎回到 No Priors。今天就是我和 Elad 两个人聊：风险管理、RSI、到底能有多少家真正的万亿美元公司，以及监管俘获（regulatory capture）带来的问题。

对正在创业的人也提醒一下，现在可以申请 Embed——Conviction 面向 AI 原生创业公司的低负担、高信号资助项目。这个项目一年做两次，每一批选择 10 家在前沿创业的优秀公司。

资助是 25 万美元现金，形式是无估值上限的票据（uncapped note），另外还有来自 OpenAI、Anthropic、Baseten 等合作伙伴提供的算力和服务。

更重要的是你和谁同行。前几期项目里有 Cognition、Chai Discovery、Listen Labs、Physical Intelligence、Flappy Airplanes 等公司，都是在推动前沿技术，并把 AI 扩散到经济的不同角落。申请地址是 embed.conviction.com。好，我们开始。

Sarah G，最近怎么样？

Elad，很高兴见到你。我们已经很久没有只是两个人坐下来聊聊天了。

我知道，真的太久了。怎么回事？你最近都去哪儿了？

就是忙着和一些公司工作，也去了华盛顿特区，想办法给自己放一天假。你呢？

AI 现在发生的事情实在太多了，几乎停不下来。这个时期真的非常令人兴奋。

所以你现在是在追下一家万亿美元公司？

对。这里有一个很有意思的点：过去大约五年里，我们看到了三家公司，大致从接近零一路走到万亿美元级别的市值或估值。

Anthropic 五年前基本还不存在；OpenAI 当时也仍然很早，我记得 GPT-3 才刚出来；SpaceX 当时的交易估值大概也就是 800 亿、1000 亿美元上下。然后这些公司的估值突然发生了巨大跃迁。

于是现在很多人默认，未来三到五年里还会形成一批新的万亿美元公司。但这在人类历史上是没有先例的。通常一家公司走到这个量级要 15 年、20 年。

SpaceX 从 2000 年代早期就开始了；Google 也是从 90 年代一路走过来。正常情况是 15 到 20 年的弧线，而我们刚刚经历了一个很奇怪的「五年拐点」。

所以大家现在看机器人、材料等很多很令人兴奋的领域，脑子里会自动把它们想成万亿美元公司。也许其中一些在未来十年能到，但未来三到五年内再出现很多家，我觉得概率不高。

我能想到一家也许有机会到那个位置，但不是很多家。

哪一家？

我真的要说吗？那我自己的钱该押哪儿？（笑）我也不知道，这有点像扔飞镖。

所以我们这里才要放飞镖盘啊。那你的意思是：我们刚经历的是一个特别好的历史年份、一个特殊 vintage，而不是因为整个生态会一直越来越大？

我更愿意把它看成「间断平衡」（punctuated equilibrium）。在一些演化理论里，你会先看到类似寒武纪大爆发的阶段，然后进入整合、稳态，再迎来下一次爆发。技术史也很像这样。

我们经历过一波很大的社交网络浪潮，但今天并不会每隔一阵子就冒出十几家新的大型社交公司。SaaS 也有一波，后来逐渐稳定下来。现在我们刚经历了一次巨大的 AI 浪潮，当然后面还会有更多东西。

互联网本身其实也可以拆成四五个阶段：90 年代的互联网、2000 年代后期到 2010/2012 左右的社交浪潮、SaaS、云、巨型安全公司，还有加密货币。很多技术甚至会有不止一轮周期，比如 Bitcoin 就经历过好几个周期。

AI 也几乎肯定会在某个时点出现一次巨大的模型能力突破。那时我们又会看到一个台阶，然后突然又有一批创业公司出现。

但历史上经常是这样：某些东西从零迅速变得很大，然后这些赢家开始扮演整合者（consolidators）。接下来真正的问题是，整合者出现以后还有什么。

我觉得现在至少已经看见了一部分整合者。所以问题不是「未来 20 年还会不会有很多有趣公司」——那当然会有；而是未来两三年、三五年里，还能有多少家巨型公司出现。

未来两三年仍然会有很多公司增长得非常快，也会出现很多千亿美元公司。但要到数万亿美元，门槛完全不同，真的很难。

我很想见见你正在聊的那些投资人，因为我遇到的更多问题反而是想象力不足：人们很难想象，一个新东西相对于上一个时代最接近的代理市场，究竟能大多少、好多少。

我现在仍然觉得，重新思考市场规模（market size）是投资人最被低估的核心能力之一，而且任何阶段都如此。

没错。

比如看一些我们共同接触、或者其他人投过的应用公司。很多投资人理智上承认「AI 公司可以交付原本由服务业交付的价值」，但他们实际行动时并没有真的相信这件事，还是在线性外推。

如果你看 Harvey，或者字幕里听起来像「Abridge」这样的公司，很多人还是按每个 seat、每个律师、每个医生去算 TAM。他们没有真正问：如果公司可以按结果收费，会长成什么样？

编程领域已经给了一个例子：从这里往后，消费量和交付价值都可能再放大 100 倍。你真正该问的是这种价值捕获会不会复制到别的领域。

我同意编程市场比过去任何人想象的都大得多。其实一两年前我们两个人就在说这件事。

但现在证据已经摆在那儿了。你不需要是天才，也能把这条线索推到其他行业。

证据是出来了，但「一个万亿美元市场」和「一个千亿美元市场」仍然是两个很大的、而且量级完全不同的数字。

我大概 2010 年写过一篇文章，讲一家公司要走到 100 亿美元市值有多难。放到今天，100 亿有时看起来都快像某些新实验室（原字幕为 “Neolabs”，词义待核）的种子轮估值了。

别误会，我觉得很多东西确实能做到 1000 亿美元，但能做到 1 万亿美元的不会有那么多。这不是同一数量级的问题。

真正该问的是：什么市场能支持一家单一公司成为万亿美元公司？你只要倒推收入就知道了——很容易需要 500 亿到 1000 亿美元年收入，甚至 1000 亿美元左右，而且还得有不错的利润率。

所以问题就变成：世界上到底有多少条「单家公司能拿到 500 亿到 1000 亿美元收入」的收入流？这和「TAM 很大」根本不是一回事。那是巨大到非常少见的 TAM。

今天大概已经有十几家公司在那个附近，但未来五年还能多出多少家？这才是我关心的。我问的不是未来 20 年，而是未来五年，谁能真的跑到 500 亿到 1000 亿美元收入。

这会彻底改变你看公司的方式。很多公司可以做到 50 亿或 100 亿美元收入，然后成为千亿美元公司；但那和万亿美元仍然不是一回事。

我看的时间跨度可能比你再远一点。不过如果只看未来几年，我也想不到很多能做到 1000 亿美元收入的市场。你觉得在这个时间线上还有什么？也许供应链、能源这一类技术？

也许。可以列出五六个看起来很有希望的领域。但还有一个问题：如果这是实体商品公司——能源、机器人等等——你真的有足够的物理产能和部署 footprint，让它那么快跑到那个体量吗？

我不是怀疑这些市场最终有多大，我怀疑的是你能不能那么快到达。

完全同意。这正是问题所在。至少按我的观察，很多人现在的投资行为，是在押注「到达速度也一定存在」，而这和市场最终有多大是两个不同命题。现在大家把这两个东西混在了一起。

同时我还看到一个几乎相反的现象：一些非常优秀的创始人，因为害怕基础模型实验室，反而开始去做很窄的细分市场。

看 Harvey、OpenEvidence、Decagon、Sierra 这些公司几年前进入的市场，或者 Cognition 大概两年前进入的市场，当时都是非常大的市场，甚至可能出现在实验室自己的路线图上，但创始人还是直接做了。

现在两件事同时发生。第一，在中后期科技市场，投资人继续假设很多公司都有冲到万亿美元的速度；我不觉得这个速度普遍存在。有些会到 200 亿，有些会到 1000 亿，有些当然会归零。

第二，在最新一批创业公司里，我更关心创始人相对于实验室到底有多激进、多有野心。也正因为害怕实验室，你会看到资金和创业者转向硬件——「实验室总不会做这个硬件吧」——转向 American Dynamism、很窄的 AI 应用、甚至本该由 inference cloud 提供的东西。

别误会，当然同时有人在做巨大、惊人的事情；我说的不是所有创业公司，而是一条正在变化的趋势：因为害怕实验室，越来越多的人选择做更小、更窄、更衍生的东西。我觉得这也是负面信号。

你是说他们太怯了吗？他们其实应该直接正面竞争，因为可以用更好的体验、产品或者分发去赢？

对，至少在一些市场里是这样。当然有些市场实验室天然会吞掉，但也有很多市场不会。问题是现在有人把两类市场都躲开了。

不过我们的 portfolio 里就有公司在挑战相当核心的前提，所以我不觉得所有创始人都太怯。

我也没说全部。我的意思是趋势线在移动，而且主要发生在最新的一批公司里。不是一两年前的公司。

我关心的也不是中位数创始人，而是最好的那一批。只要其中一个足够重要的子集开始缩小野心，就值得担心。我要问的是：最好的创始人现在到底在做什么？

我最近确实也更常失望：不少创始人的野心没有他们本可以有的那么大。也许这就是你说的那条趋势线。

我们之前聊到公司和创始人什么时候应该卖。你现在的框架是什么？

有少数公司至少在可见未来绝对不该卖。比如你是 Anthropic，就不应该卖；你是 OpenAI，也不应该卖。确实有那么一小撮公司应该一直做下去。

但任何一个时代的大多数公司，都至少应该认真考虑出售。而且通常会存在一个让结果最大化的窗口，大概 12 到 18 个月；在那个窗口里，公司可能处在它一生中价值最高的位置。

最近就有一个很大的退出案例，我觉得大概属于这种情况。也有其他公司现在真的应该主动想一想。

从公司治理的卫生习惯来说，我记得 Ben Horowitz 写过类似建议：每年预先安排一次董事会，专门在没有情绪压力的情况下讨论，「接下来六个月我们要不要考虑退出？」

因为这是预先排进日历的，就不是创始人在推动，也不是投资人在推动，只是一场理性讨论。答案完全可以是「不，我们应该继续，我们前面还有 XYZ」。很好，但至少把这个问题认真问一次。

AI 周期尤其需要这样做。现在 AI 世界里的一年，可能相当于普通周期的三四年；三年几乎像十年。想想三年前的模型能力、垂直应用、AI roll-up、基础设施，和今天根本就是两个世界。

所以我们在一个加速时间线上，底层事实变化得比以往都快。你的判断也应该更频繁地重新检查。你怎么看退出？

我同意，有一类公司除非已经无法为未来融资，否则就不该卖。

但今天我会在那场董事会或类似会议上增加一个问题，而且讨论频率应该比几年前更高——一季度一次、一年一次，或者你认为合适的节奏。

我觉得每六个月一次。

好，每六个月。那要问：随着成本下降、能力上升，你有没有在捕获新增价值？如果你站在这场长期结构变化的错误一侧，而且没有办法走到正确的一侧，那你确实应该卖。

如果你没有好主意让自己站到历史正确的一边，也应该正视这个结论。比如 Cursor 这样的朋友，公司接下来想竞争的方式是不是靠资本、算力访问？现在是不是一个价值可能达到极大值的时点？这些都是值得问的问题。

更广义地说，这是非常个人化的风险管理问题。我不认同那种「从不考虑出售才值得骄傲」的态度，那没有意义。

Situational Awareness 那类讨论至少提醒了一件事：你得活下来，才有机会继续复利。对冲基金和公司不一样，但它们同样必须先存活。

所以融资结构必须匹配你的 thesis horizon——你的判断需要多久兑现，你就要有能力持续把公司融资到那个「应许之地」。

我反而觉得融资本身会一直在那里。因为短时间里出现了三家万亿美元以上的巨大结果，大量风险资本开始回流。

这意味着基金会越募越大，而这些钱最终必须投出去。很多资金会继续去押注未来的万亿美元公司。所以未来一两年，估值大概率还会继续上升，甚至比现在更夸张。

当然，里面会有真正优秀的东西，也会有很多根本不值那个价格的东西。但总体上我觉得融资会变容易，不是变难。

因此我不太会先问「你还能不能融到钱」，而会问：你自己认为公司的真实、最可能结果是什么？不是投资人告诉你的，不是媒体告诉你的，也不是 Twitter 告诉你的。坐下来把数学算一遍。

还要记得，公司终究会回到某种估值倍数——比如 10 倍，也许 15 倍。增长最终也会减速。你可以判断减速发生在哪个阶段，然后把稀释、潜在结果、还需要工作的年数全部算进去。

风险管理至少有两层机会成本。一层是你正在做的资产本身值多少；但更大的机会成本其实是你的时间。

你人生里最有生产力的那些年份正在被押在这家公司上。你可以拿着一笔不错的钱离开，去做下一个巨大的事情；你已经做成过一次，会有人愿意再次和你合作。或者你也可以继续掷骰子。

继续押注可能完全是正确答案。对一些公司来说你当然应该继续。但对另一些公司，也许现在就是该离开的时点。

二级市场（secondary）是一个中间选项，但我不觉得它永远那么好。它能解决一些短期需求，却未必真正解决根本问题。

你看 2020、2021 那一批公司，有不少人五年后还在经营一些没有真正跑通的公司。想想这五六年里他们被锁住了，而 AI 的所有巨大变化恰恰就在这几年发生。对一个非常优秀的创始人来说，这个机会成本到底有多大？

这是一种很少被谈到、但我认为更真实的成本：你一生的成本。人只活一次，而且生命很短。

你真的想十年后还在经营一个持续挣扎、资本过剩、账上又能撑十年的公司吗？2020、2021 cohort 里已经有很多这样的公司。我们只是因为整天讨论 AI，把它们忘掉了。

那确实是一种巨大的浪费。但我想强调的是，即使未来一两年仍然有很多钱从巨大退出里回流到风险投资，私募市场也完全可以在很长时间里保持非理性、保持错误。

所以聪明地管理公司的融资能力，有点像避免 margin call。你不能因为「理论上资金很多」就假设资本永远会在你需要的时点，以你希望的条件出现。

我认识一些创始人，他们做的事情需要一个特定技术判断，或者需要一个关于市场如何最终收敛的结构性判断。他们会很沮丧，因为投资人可能很长时间都相信一些创始人认为是错误甚至愚蠢的叙事。

创始人的工作就是穿过这些叙事和信念。如果他们判断这条路已经不可持续，或者正像你说的那样浪费自己最宝贵的时间，那就应该卖公司。

但还有更糟的情况。创始人至少承担的是集中风险；对冲基金经理可能还要面对零售市场的非理性，以及下一季度的赎回压力。所以环境不同。

我不觉得可以简单说「融资现在等于免费」。不过它确实会像你说的那样，越来越向机会规模倾斜——

或者说，向「被感知到的规模」倾斜。

对，被感知到的规模。这个修正很重要。

「被感知到的规模」确实是关键。另一个现在很多人都在谈的东西，是实验室内部那种近乎躁动的能量。

如果你和实验室的人聊，会听到一种说法：大概再六个月，或者到今年年底，编程基本就「做完了」，会变成一个已经解决的问题；到明年年底，也许会出现某种轻量级的 RSI，也就是递归式自我改进。

到那个阶段，模型会开始负责训练模型本身的大块工作。一开始可能更多发生在 post-training，之后也许会越来越快地影响 pre-training。

于是有人会得出非常强烈的人生结论：如果我的职业生涯只剩一年到一年半的「有效生产时间」，那我就应该每天工作 16 个小时，因为每过去一周，都相当于消耗掉我在被 AI 替代前剩余生产时间的大约 2%。你怎么看这种想法？

你是在问我相不相信，还是问如果它是真的会发生什么？

先问你相不相信。

如果最顶尖、真正做这件事的科学家相信模型能够改进自己的训练，而且这只是我们已经在代码和数学里看到的趋势的延伸，那当然应该认真相信这种可能性。

但我是问这个时间表。

就时间表来说，我掌握的一个反例是：过去五年里，一些非常聪明、甚至很有自我觉察的研究科学家，每过 18 个月就会觉得递归自我改进或者 ASI 的那个「曲线拐点」还剩 18 个月。所以它到底是多好的预测器？并不清楚。

从写代码扩展到写训练代码、做数据管线，我觉得非常容易相信。更难的问题是：到了更难验证、更复杂的领域，你要怎么获取足够的数据？

另一层限制是物理算力能不能拿到。我反而觉得，这可能比「算法上是否可能」更早成为瓶颈。

对。物理算力的约束其实会强化寡头格局。它给任何一个实验室的进步速度设置了上限。

如果我们粗略假设几个大型实验室拿到的算力大致处于一个相近量级，那么算力约束反而会把它们压在更接近的竞争区间里。没有这种约束时，领先者可能拉得更开。

这是当下一个很奇怪的二阶效应：算力稀缺一方面限制进步，另一方面又暂时强迫几个玩家更靠近。问题是这个上限什么时候被抬掉，抬掉以后会发生什么。

我也总在想「还剩 18 个月」这种信念的二阶效应。它意味着 18 个月后也可能出现一轮巨大的 burnout。

我认识一家大型实验室里的一些人，他们有段时间甚至认真问过我：我现在还应该结婚吗？不是他们不想结，而是他们不知道 18 个月以后世界会变成什么样。

我会说，去结婚吧，会没事的。（笑）

所以我们确实在经历一个很躁动、很兴奋、也非常高强度的工作阶段。

我其实觉得这有点悲剧。

真的？为什么？

因为我看到一些非常优秀的研究者朋友面对这件事时的反应，会觉得有点悲伤。心理上最接近的状态，是一个人真的相信自己快要死了。

如果你觉得生命只剩最后两年，你会按今天的方式过吗？还是会完全换一种方式？这和「RSI 只剩 18 个月」其实是相关的哲学问题。

有些人会说：既然 18 个月后 RSI 就来了，我现在的贡献也没那么重要了。那我该不该结婚？还要不要认真工作？要不要去旅行？还是反过来只应该工作？

我反而觉得，一个更稳定、更满足的状态，是把生活建立在「未来还会继续」这个前提上。也许你会觉得这很盲目，但我认为这种极端信念会产生很多二阶效应。

我同意会有很多二阶效应，其中一部分就是这套信念系统和它带来的 burnout。

另外我注意到一些实验室正在发生一件事：当算力真正成为稀缺资源以后，你会发现任何一个地方都可能只有几十名研究者贡献了大约 80% 的结果。

这是很有意思的人类幂律。你看乳腺癌研究、数学的某些子领域、物理的某些子领域，甚至创业生态，真正推动一个领域向前的人往往最多也就是几十个。

AI 研究也一样。于是算力会越来越集中地配给这些人。

我知道有些实验室已经放慢招聘研究者的速度，除非候选人高过一个非常非常高的门槛。因为真正贵的不是研究者的薪水，而是分配给这个人的算力。

真正的瓶颈在那里。你可以把它理解成「投入 Token 的回报率」（return on invested tokens）：如果你有一个固定 Token 预算，你把它给谁？为什么？

这有点像过去的软件工程组织。公司的内部工具团队总是资源不足，因为很多科技公司宁愿让同一批工程师去做产品，也不愿让他们做能提升其他部门生产力的内部工具。

这也是为什么我觉得「SaaS 已死」有点被夸大了。如果你一年本来就没有给某个 SaaS 花多少钱，为什么要把大量 Token 花在自己重做它上面？同样的 Token 可能用于核心产品、巨大毛利提升或者别的高价值工作。

我们已经从「所有人都去用 AI，爱怎么用怎么用」逐渐走到「要测量花费，要把更多工作转到开源模型」。下一波会是：哪些项目、哪些人应该拿到超额 Token 预算？这些 Token 的投资回报到底是多少？

当然，这个转变还要一些时间。很多大企业现在仍处在「大家先试试 AI」的阶段。

那你觉得三到五年后，一家公司或者一个人合理的算力、Token 预算应该是多少？我应该把它看成类似房租那样的固定成本吗？

不是。它取决于这笔预算到底拿来做什么。

人们也经常忘记 Minecraft。当年它被 Microsoft 以数十亿美元买下时，团队到底是五个人还是十个人？反正非常小。大家一直在说「未来会有一个人做出的数十亿美元公司」，但 Minecraft 在某种粗略意义上十几年前就已经证明过这件事。

总有人能把一种技术的杠杆放得远远大于别人，而 AI 把这种差距进一步放大了。

所以在资源稀缺时会出现一个很现实的问题：如果有人不能相对更有效地利用 Token，为什么还要把 Token 给他？除非那些极高杠杆的人已经不够用了。

这也连到「工程师会不会都被裁掉」的问题。我不觉得短期会发生，但即使没有 AI，大科技公司里也一直有一些并不那么高产的工程师。

假设未来真的出现工程师从大科技公司被挤出的情况，我觉得 GE、PG&E、Hershey's 这样的传统企业会非常想要他们。

一个在 Google 或 Meta 环境里只能算中等的工程师，放进某些传统企业里可能是极其优秀的。所以未来可能会出现一轮我们过去没预期到的工程人才向传统企业扩散。当然这大概还要很多年。

但我觉得这是一个相当可能的结果。

相关地说，如果你在一家大型实验室里是第 800 名研究者，而且你没有被分配到超额的 Token 预算——

——也就是说，你在大型实验室里拿不到非常大的算力份额。

对。

那我觉得你完全可以把精力放到自己更有比较优势、更有理解深度、并且能够受益于整个 AI 浪潮的地方。

比如供应链瓶颈、应该被加速的领域、生物技术向其他高价值领域扩散等等。对我来说，这比担心「数学会不会完蛋」，然后去度假等世界末日，有意思得多。

对，可以去做的事情太多了。我也觉得研究社区里会有一部分人最终走向这些地方。

这就引出另一个有趣的问题：一家顶级 AI 实验室到底需要多少研究者？这个人数和今天相比应该是多少？你需要五倍的人，还是只需要一半的人，但每个人都必须高于某个门槛？

因为实验室受到算力约束，你会想把算力匹配给最好的想法；而平均来看，最好的想法往往来自一小部分人——不是永远如此，但在统计上会这样。

那么幂律切点之外的 N+1 那个人去哪里？其实有非常非常多地方可以去。他仍然是极其优秀的人，仍然在钟形曲线最右侧。

我不希望这句话被误解成「N+1 那个人不优秀」。只是资源到某个阶段一定会按某条幂律做截断。

你可能会喜欢一个老的前 Google 员工笑话。Google 大概有 5 万人的时候，有人问：「运行 Google 到底需要多少人？」

如果你去问搜索和广告团队的人，他们可能会说，「大概搜索和广告里 20% 的人就够了。」如果你去问搜索和广告之外的人，他们会说，「当然需要 5 万人，或者 Google 当时所有的人。」

所以不同人对「贡献究竟有多集中」会有非常不同的看法。我自己没在 Google 工作过，所以只能讲这个笑话。

这个我倒可以补充，因为我在 Google 工作过。我觉得那是一个很棒的地方。

你在搜索？

我做过一部分移动搜索，也做过一点广告，另外做过不少移动端相关的东西，以及一些和 AI 广告有关的工作。

我换一个很不一样的问题：现在有什么东西真的可能把整个周期打断？

一种可能是资本开支这边的承诺崩掉。公开市场开始厌恶这些 capex，几个主要玩家因此集体退缩。

或者市场突然对债务结构恐慌。

对，债务和回报曲线。现在似乎出现了一点轻微信号，但还没有形成真正压力。

还有技术层面：Transformer 的替代架构还重要吗？有没有可能出现什么东西，让整个技术格局突然变得很不一样？

技术未知当然一直存在。但我觉得另一类真正可能显著拖慢进步的因素，是试图限制我们已经拥有的模型如何被使用，或者严格限制开源。

对，我也认同监管这个角度。那你觉得加州会发生什么？

现在他们通过了所谓的「亿万富翁税」，而且加州民主党也公开支持。假设你是某家我们支持过的公司的创始人，公司现在已经值 100 亿美元以上。

如果法案真的生效，创始人明年会不会被迫出售资产？会不会有几十个创始人不得不卖掉自己公司的大块股份来满足税务要求？

我并不确定监管者已经把执行和合规细节想清楚了。但最直接的效果，是很多试图在加州创造价值、做新东西的人会选择离开。其实已经有人在走。

整个生态当然很难在短期内搬走，但如果你的目标真是把它赶出去，我想不到比这更快的办法。你觉得后面会怎样？

按我对这部法案写法的理解，它覆盖面相当宽。一旦通过，未来还可以重新实施、降低适用门槛等等。

而且我听到越来越多讨论，说到 2028 年左右可能还会尝试增加某种加州「退出税」。也就是说，如果你真的搬走，州里还想因为你的离开再拿走很大一块，当作某种惩罚。

所以你的预测是 2027 年出现大迁徙？去 Miami？Miami 这次终于要成真了？

（笑）我觉得会需要一些时间。但我甚至认为写这部法案的人希望这种外流发生，他们就是希望这些人离开。

对加州未来来说，我觉得两个很负面的信号，一个是这部法案，另一个是字幕里听起来像「ballot harvesting initiatives」的选举相关举措。这两件事会以不同方式让州的未来变差。

我当然还是希望加州像过去很多次那样最终把问题解决。但如果存在一个非常容易切换的替代生态，离开的人会更多。

实际上已经有不少人在走。我认识好几个人正准备搬，或者计划未来一个月左右、到秋天前后搬走。

那你的第二选择生态是什么？

我觉得有几个地方都在被认真考虑。关键不是某个地方天气更好，而是两年以后，哪一个地方能形成足够的 critical mass。

创业生态往往会自组织。人们会谈天气和各种生活条件，但历史上 Boston 曾经就是主要创业中心之一，今天在 biotech 里仍然是。

80 年代，Boston 基本是 Silicon Valley 的主要对手之一；到了 90 年代早期，它在很多科技领域的竞争地位下降了。Boston 的天气显然并不好，所以决定生态的并不是单纯天气。

真正重要的是有没有足够多聪明人聚在一起做相近的事情。文艺复兴式的创新往往就在这种密度里发生。

我最近尤其兴奋的是 Texas 的能源领域：技术人才迁移和创新已经很明显。

这确实很像是监管环境和真实需求共同推动的反应。我看到很多人从 Silicon Valley 或其他地方搬过去，因为在那里可以更自由地做实验，而且现在真的已经形成了一个很令人兴奋的生态。

不只是能源，硬件也在长出一条很强的走廊。过去很多东西集中在 El Segundo 一带，因为 SpaceX 在那里。

后来 SpaceX、Tesla 的一部分业务以及其他公司迁到 Texas，新的生态也开始在那里形成，而且不只是在 Austin。

所以我们确实在看到这种转移。我认为这里的核心驱动力就是监管变化，不是简单的「Texas 到底更适合不适合居住」。生活条件会有影响，但真正把人推出去的是监管。

你刚才没有咬我在架构和技术上抛的那个饵。那你到底怎么看新架构？

我觉得无论底层架构是什么，整个行业最终都会把所有能拿到的算力和电力吃完。

所以现在比过去任何时候都更有动力去找更节省内存、更节省功耗的架构。这个方向会非常重要。

但要追上 Transformer 已经形成的规模优势、软件与硬件匹配，仍然非常难。随着大家对资源效率越来越焦虑，会有更多实验、更多人押这些替代架构。

我不觉得这会改变整个行业的方向。高概率路径是：无论谁先找到有效的新东西，很快都会被复制，几个大实验室也会做，然后把大量算力压上去。

当然不是只有这一种结果。你可以想象一个低概率情景：某个新实验室突然找到一个非常强的新方法，极端保密，快速规模化，模型一下子比所有人都强很多，于是资本、算力和生态都向它汇聚。

但你也可以想象另一种更常见的情景：那支团队里只要有一个人去了 Anthropic 或 OpenAI，知识就扩散了，然后所有人都掌握。这基本就是模型领域到目前为止一直发生的事。

如果真正占主导的资源是算力访问，而且算力让市场形成寡头格局，你会不会担心这些实验室利用算力优势，去控制它们想进入的其他垂直行业？

反过来我会先问：到底什么安全措施是真的在保护人？具体风险是什么，具体坏结果是什么？

Janssen Pharmaceuticals 的 Janssen——字幕中的姓名形式需要核对——被很多人认为是历史上最优秀的药物开发者之一。YouTube 上有一些他三四十年前接受采访的视频，他当时就在谈制药行业的监管俘获。

他认为药物开发变得又贵又慢，第一是因为监管俘获，第二是因为风险—收益框架失衡。按他的看法——我不是说这一定对或错——FDA 太关注安全和风险，却不够关注收益。

如果你的评价函数里只有风险、没有风险和收益的配对权衡，所有东西都会被拖慢，因为你永远只看方程的一边。

我们也可以想象 AI 实验室形成类似机制：安全负担被推得非常高，即使潜在正面结果相对于风险高得多，也仍然被限制。

如果你只盯着方程的一边，就总会收紧边界。更麻烦的是，假设实验室对外限制产品，但内部仍以指数速度推进，而现在 AI 的一年相当于正常三四年，那么内部领先一年就是极大的竞争优势。

所以真正有意思的问题是：作为社会，我们愿意把不同技术放在风险—收益光谱的哪里？

比如，如果我的电子邮件被黑了，这个损失相对于「更好的 AI 医疗模型能更早出现」到底有多严重？这就是我们必须面对的 trade-off。

这些问题最终都要由社会共同消化。

这里的一部分困难，是对很多监管者和政策制定者来说，听技术人员说「你必须先让技术发展一段时间，看会发生什么，而不是先控制住它」，是一种很不舒服的立场。

但技术史一直都是这样。任何技术都有正面用途和负面用途。

生物技术可以被拿来制造病毒，也可以用来治疗癌症。核技术可以带来便宜、充裕的能源，也可以制造武器。

真正看现实，法国发电里大约 70% 仍来自核电。事故都在哪里？那些[字幕词不清，似指重大核事故]又在哪里？至少从这个论点的角度看，并没有出现人们想象中的连锁灾难。

美国大约只有 18%，而且我们大约 40 年没有真正新建反应堆。日本大约 25%。核电可以非常安全，也可以非常充裕。

但上世纪 70 年代的安全游说，基本上扼杀了美国获得大量清洁能源的路径。

不过我们现在又在造了。只是确实需要造很多。

我们造得还远远不够，真的不多。

所以确实有一些现实结果表明，安全主义本身也可能造成伤害。它影响了电力和能源生产，也影响了医学，在很多领域都产生过代价。

AI 也一样。我们要把指针放在哪里？可能的世界很多、情景很多、结果很多。最终社会要选择，在安全、风险与收益这个轮盘上，指针到底放在哪儿。

Elad，结束之前，说一件你现在特别兴奋、而且属于这个轮盘正面一侧的事情吧。

太多了。人的生产力、教育、医疗、日常生活质量，都有非常大的空间。还有自动驾驶、老年人的生活支持——能产生正面价值的应用实在很多。

所以我对很多应用都很乐观，也正因为这样，我对最终把监管指针放在哪儿会比较谨慎。

我当然认为社会应该有合适的 safeguards。但历史上面对一些大产业时，我们经常走得太远。

科技之所以能这么快成功，并且这么快产生巨大的人类影响，一个重要原因就是它一直受到相对轻的监管。

我觉得与其把它推向重监管，不如尽量保留这种状态。否则我们会失去乐观、失去动能、失去进步。

生物技术过去就发生过这种事，能源领域也发生过，而且很多其他行业都能找到类似历史。

那就把这一期当成一份反对监管俘获的号召吧。好，我们下次见。

可以在 Twitter 上搜索 No Priors Pod。想看我们的脸，可以订阅 YouTube 频道；也可以在 Apple Podcasts、Spotify 或你平时使用的播客平台关注节目，这样每周的新一期都会自动出现。

也可以订阅邮件，或者到 no-priors.com 查看每一期的 transcript。