AI监管需要国会发挥作用
在人工智能时代，要实现有效监管，需要一个能够正常运作的国会。我认为，这一次人们普遍意识到，人工智能的变革潜力甚至可能超过互联网，因此我们需要建立一些机制来保护公众。
AI监管的几个问题
嗨，Miriam。
嗨，Telis。今天我们想退一步，谈谈一个一直笼罩着许多人工智能讨论的问题：未来的监管会是什么样？我想我们过去谈过几种不同的考量。显然，一类涉及国家安全，甚至人类存续——这可是个“小问题”。我们要做些什么，才能确保人工智能不会失控、把我们全都杀掉？
另一类问题是，人工智能公司有时会说要合作解决这些风险。这听起来也许能让投资者安心，但也有点像串通。这样的行为会引发哪些反垄断担忧？
是啊。Anthropic 和 OpenAI 的两位首席执行官在有人提出人类灭绝风险后站出来说“我们需要慢下来”，当时我很困惑。投资者该怎么理解？这是营销吗？他们是在说“我们的模型能力强到你看它们能做到什么”吗？他们是真心觉得行业需要一些规则，还是在像高度自律的竞争者那样彼此传递信号：你放慢，我也放慢，然后我们或许都能从中受益？
为了帮助投资者思考这个问题——我认为这是任何长期决策的重要参考，无论你是打算押注人工智能，还是给投资组合做些对冲——我们请来了一位这方面的专家。他曾在司法部工作，他就是乔纳森·坎特。我们和他进行了广泛交谈，聊聊他认为近期人工智能监管会如何发展。
SpaceX业绩与特斯拉合并
在谈嘉宾之前，先聊聊上周其他人工智能相关新闻。SpaceX公布了业绩，而且实现了盈利，这是新情况。推动业绩的一项业务是人工智能。正如我们在节目里谈过的，这对公司未来的潜在估值非常重要。SpaceX估算总潜在市场规模时，人工智能业务占了很大一部分。它的业务大幅增长，部分得益于与 xAI 合并，我认为这对投资者是个利好。
不过更大的消息是，马斯克想把特斯拉和 SpaceX 合并。既然是他想做的事，这似乎很可能会发生。后果会是什么？我们还不确定，也许以后会请一位嘉宾来聊。
当然，这件事也有很浓的“马斯克色彩”：人工智能要赋能特斯拉，接下来造会飞的汽车，再飞去火星，诸如此类。这其中有愿景的成分，我相信也有他个人财务上的考量。但更大的公司通常能筹到更多资金投入人工智能。从一家市值一万亿美元的公司，变成合并后可能达到三万亿美元的实体，显然会有更强的财力可以投入其中。到目前为止，xAI 通常还不是前沿模型领域的领头羊，所以从这个角度看，这在某些方面可能是一种防御性举措。
AI债券与债务市场
SpaceX 已经像其他公司一样在资本支出上花了很多钱。资本支出从去年同期的 69 亿美元猛增到接近 200 亿美元。公司已经在计划发行新债。你写了不少关于这些公司发行的人工智能债券的文章，能不能多谈谈现在的情况？
你说人工智能上周有利好消息时，我想到过去几周市场上发生的那些负面事情。CoreWeave 的股价下跌，债券也受到冲击；这个领域还有几家公司上市了。它们有时被称作“新型云厂商”，也就是面向人工智能应用发展云计算业务的公司。
有些术语我真是听不懂，只能想“也许哪天我会弄明白什么叫新型云厂商”。
你这话虽然是开玩笑，但我觉得市场确实有点这种状况。围绕这些业务形成的信贷市场、债务市场都还很新。
嗯。
很长时间以来，想建点什么，通常会去银行贷款，而不是去债券市场，因为债券市场需要看到非常实在的东西，才愿意把钱交给你。但大约一年前，企业开始真的去债券市场筹钱，建设这些设施。
当时它们已经是我们熟知、信任的大型科技巨头，至少从财务角度看，有能力承担这笔债务。
这是一部分原因，但它们对这类项目的银行贷款额度也用得差不多了，所以需要转向债务市场。之后，芯片融资市场也出现了。你不只要建数据中心，还得买一大堆芯片：贷款买芯片，芯片本身作为抵押；数据中心则与这些公司签有合同，贷款又以合同作担保。但这些做法都相对新鲜，我不知道市场是否已经真正掌握了该如何为它们定价。
有许多聪明、精明的信贷投资者正在逐层研究这些融资安排：这笔贷款由合同担保，那笔贷款由数据中心担保——我写的就是这些不同层次。
AI 债券并非都一样。
是的。我认为我们看到的情况，一部分可能是市场转为看跌：这些业务近期的市场规模也许没有预期那么大，或者这些公司杠杆过高、借得太多。但也有一部分只是因为这个市场规模很大、又刚刚起步，所以自然会有波动。
这就像一个巨大的——我不知道这么说是否恰当——巨婴。它就在那里，没人真正知道该拿它怎么办。它挺可爱的，大家都希望它长大，可它又大得惊人，把屋里的一切都吃掉了。真是个难以驾驭的东西。市场正在摸索着消化这一切。
各州、数据中心与联邦监管
说到市场还在摸索，我们转回今天的主题——人工智能监管。正如上周节目谈到的，数据中心显然是政治讨论的焦点。各州正试图重新谈判相关协议，也越来越积极地确保自己的选民能从数据中心协议中得到更多。
有些州还在采取措施，试图直接监管 Anthropic、OpenAI 这类公司的模型。这也很值得关注，因为一些立法往往会先从州一级开始。华盛顿的国会议员也开始讨论这件事。
眼下更大的问号是联邦层面会发生什么。今天的嘉宾乔纳森·坎特对立法者应如何着手监管人工智能有一套清晰框架。正如刚才提到的，他曾任司法部反垄断司助理部长，目前是圣路易斯华盛顿大学法学教授，也是卡内基梅隆大学的科技政策教授。这是一场非常有意思的对话，稍后就会播出。
监管为何难以推进
欢迎来到节目，乔纳森。
很高兴来这里。
《华尔街日报》最近一项调查发现，57% 的美国人希望美国政府立即监管人工智能。两党的主要候选人也都谈到了这件事。你会说监管如今已不可避免吗？
不可避免，但不会马上到来。
请解释一下。
现在这件事落在国会肩上。最高法院让监管机构制定规则变得更加困难。最高法院几乎凭空创设了一种叫“重大问题原则”的理论，要求重大问题必须由国会通过立法处理，而不是交给监管机构制定规则。
所以，在我们最需要国会的时候，国会却最不给力：它事实上陷入失能，无法制定任何有实际意义的行业规则。想想看，现在是 2026 年，互联网时代已经过去 25 年有余，我们仍然没有一部全面的联邦隐私法。这并不是公众或国会缺乏兴趣所致。
要在人工智能时代实现有效监督、制定有效规则和监管，前提之一是国会能够正常运作。而在“重大问题原则”、选区不公正划分和“联合公民案”裁决的背景下，这会非常困难。因此，监管是不可避免的——必须如此。这项技术的变革性太强，不可能完全没有规则。但它可能不会很快到来，因为未来几年我们至少还没有一个能够成为规则制定主体、有效运作的立法机构。
你提到隐私立法。为什么隐私会是人工智能监管的一根支柱？
在某种程度上，隐私是个回顾性问题，但它现在和未来都很重要。我提到它，是因为想想互联网公司每天收集多少数据、储存和使用多少个人信息。社交媒体和定向广告牵涉多少隐私问题？我们仍然没有全面立法，主要还依赖一百多年前制定的《联邦贸易委员会法》。
用它来监管互联网。
没错。
而互联网如今已经是上一代技术了，现在我们进入了新的技术时代。
是的。如果问题只是缺乏共识，那还另当别论。但大家基本都认同我们需要一些规则，却还是做不到。
人工智能有什么不同之处，以至于需要一套不同于现有互联网规则的框架？例如，今天保护我隐私的规则，适用于我向银行提供信息、在电子邮件里分享信息等情形。为什么人工智能需要另一套框架？
除了银行、医疗等受到特定监管的行业，我们并没有隐私规则，所以现有规则非常宽松。
你的意思是，我们其实没有真正监管互联网的规则？
正是如此。甚至可以说，我们有些规则反而让互联网免于监管。比如《通信规范法》第 230 条的豁免，让互联网公司在许多规则面前获得了免责，也让它们更容易在不担心责任的情况下创新。我们已经痛苦地认识到，结果未必对公众有利。
这一次，人们意识到人工智能的变革潜力可能比互联网还大，我们需要建立一些机制来保护公众。
监管的紧迫性
人工智能的变革潜力可能比互联网还大，我们需要建立机制保护公众。公众和企业自身都感到事情很紧迫，但我们未必有一条公平、可行的路径来实现监管。
国会为何难以监管
你说“联合公民案”是国会失能的原因之一。能解释一下这项裁决做了什么、为何束缚了国会的手脚吗？
“联合公民案”基本上为政治中的金钱打开了闸门。它使企业能够向竞选活动投入巨额资金，国会议员因此往往更在意企业和具有全国影响力行业的筹款，而不是本地选区选民的投票。这改变了政治运作的框架。
与此同时，党派操纵选区划分——按党派需要切割选区——让政治从过去的地方事务变成全国性事务。为了当选，候选人不得不迎合党内极端立场，而非回应本地选区的需求，因为只有这样才能获得所需资金和政治支持。
因此，国会陷入失能并非完全自然形成的；作为一个社会，我们让它变成了这样。如果真想解决人工智能问题，恐怕某种程度上也必须处理政治失灵。
数据中心的政治争议
不过，两党人士似乎都在谈这件事。我们刚提到宾夕法尼亚州州长和得克萨斯州州长，他们政治立场不同，却都开始传递某种反数据中心的信息。这似乎成了中期选举中颇有胜算的政治主张。人工智能政治的复杂之处在哪里？
我们拆开来看。我确实认为，各州是民主的实验室，可以提供一条路径。有意思的是，大约一年前，国会曾有法案要暂停十年，禁止各州对人工智能制定任何规则和监管。
哇，我都没听说过。
谢天谢地，法案没通过，但当时差点就通过了。现在各州开始站出来。我认为，数据中心在很大程度上是一个代理议题，反映了公众对科技公司的普遍担忧和不信任。这种情绪可以追溯到互联网时代、社交媒体以及其他领域：人们原本被许诺的是美好生活，结果却遇上社交媒体成瘾。
公众现在像是在说：“我觉得自己被骗了。这些大型数据中心看起来规模很大，却不一定雇用很多人。”我经常请人想想自己认识的谁真正曾在数据中心工作过。到目前为止，我还没从科技行业以外的人那里得到过答案。
所以它们没有提供人们原以为会有的那些工作？
正是如此。我认为公众也注意到了：这些巨型建筑消耗大量自然资源，可能给电网增加负担，却不雇用多少人；而产品和服务创造的财富又流向别处。
政治上，人们常把数据中心比作铁路、电网和电信网络。这种类比有一定道理，但想想道路建设：道路让卡车、汽车和货运能够抵达当地社区，让人们可以在那里工作，也能往返通勤。铁路也是如此。电信网络让那些地方更宜居。
所以，如果确实需要这些数据中心来建设我们的基础设施——我强调这是一个“如果”——那么在我看来，数据中心的使用者应该承诺回馈当地市场：不只是分享税收收入，还应该真正雇用当地人。把会计部门、法务部门迁过去，建办公楼，让人们每天到那里工作；把程序员带到当地，并在数据中心所在社区投资。这些做法才能表明企业对社区更有承诺，也可能让各州更愿意接纳数据中心。
眼下人们非常不愿意欢迎这些数据中心，部分原因是公众觉得它们是“K 型经济”的一个症状：负担由当地社区承担，收益却流向别处。
注意义务与忠诚义务
假如你能挥动魔杖，让国会恢复正常运作，那么在监管人工智能、又不遏制创新和增长方面，你认为立法者应该从哪里着手？
我会先确立注意义务和忠诚义务。必要性是发明之母。我们希望企业必须打造安全可靠的产品。因此，首先要确立注意义务：安全、可靠、隐私、创作者权利，以及推出的产品不仅能正常工作，也不会伤害他人的义务。要把这些原则嵌入产品。
然后是忠诚义务。我们谈到智能体，也就是替你工作的自主机器人。它们究竟为谁工作？
问得好。
如果智能体是我的代理人，就像我的律师、医生一样，它有义务对我——客户、病人或委托人——负责。我认为，为人工智能智能体确立同样的忠诚义务是必要的。
第三个支柱是让违规后果足够重大。这一点绝对关键。如果只是等大量诉讼打上十年、十五年后才罚款，就不会有什么效果。因此，违反注意义务或忠诚义务的后果必须足够严重，才能让股东要求公司遵守规则。措施可以包括巨额罚款。我之前演讲时还提到过“机器人监狱”：把产品下架，规定违反注意义务或忠诚义务的智能体或产品，在一段时间内、甚至永久不能继续提供服务。
机器人监狱。
对，机器人监狱。这些是可以着手考虑的办法。当然，还有更多。
你提到要对产品的输出负责。但人工智能智能体在某种程度上会自主思考。公司创造的东西产生了某种意外后果，而公司也许确实不可能预见，或者没想到用户会以某种方式使用它，该如何追究公司责任？这两者怎么兼容？
狗咬了邻居呢？
好。
狗的主人要负责。
狗主人要负责。
有人在你家门前的人行道上滑倒了呢？你有义务铲掉积雪。你制造某种产品并投放市场，就有义务确保产品安全可靠。这就是注意义务，和狗主人、房产所有者有责任维护门前通道是一样的。这已经嵌入我们的法律体系，也行得通。当然，谁承担责任仍会有争议。
对人工智能公司来说，这似乎难以接受。它们发布一个智能体，目标就是让它不断成长、学习，以新的、希望有用的方式行事。但如果它做错了事，真有人愿意在这样的法律标准下发布智能体吗？
我们一直以这样的方式管理员工。员工入职后要接受培训：不能违法，不能贿赂官员，必须准确记账，也必须遵守劳动法规。我们一直都这么做。公司建立合规机制，确保员工遵守规则，是为了让母公司避免卷入麻烦。
当自主系统普及时，也应该遵循同样的原则。再说，如果后果足够重大，公司就会通过创新来解决问题。这正是我们想要的。政府不应该替企业设计产品，而应该要求它们自己去开发，同时围绕安全、可靠、忠诚等原则进行创新。
把安全融入工程
让企业自己去开发，但要围绕安全、可靠、忠诚以及这些原则进行创新。这些都是工程问题，而且可以解决。
监管会不会阻碍互联网发展？
回想互联网时代，正如我们说过的，当时几乎没有什么监管。那些监管很少的公司后来成为市场上规模最大的公司。如果当年加强监管，它们还会这么大、这么值钱吗？
我认为它们会更有价值、更成功，也会更有用。想象一下，如果社交媒体从设计之初就考虑儿童安全，把心理健康纳入设计，而不是只追求用户参与度，会是什么样？必要性是发明之母。把这些原则融进去，就像趁黏土还软时塑形，比等大理石硬了再雕刻容易。我们现在正处于这些技术的起步和成形阶段。如果把它们建设得更好、更安全、更负责任，它们不仅会更有用，也会更创新、更赚钱。
缩小政府的技术知识差距
我仿佛听见科技从业者会说：“国会不具备制定行业规则的条件。他们不懂这项技术，过去不懂互联网，现在也不懂人工智能。立法者怎么能写出人工智能规则？”你怎么看立法者与技术之间的知识差距？
这是可以解决的问题。2021 年我到司法部任职后，最先做的事情之一就是宣布要成立数据科学部门，我们在 2022 年建成了它，那时 ChatGPT 还没家喻户晓。我们聘请了拥有博士学位的数据科学家、技术专家，以及理解技术如何运作的人。这样等我们开始调查时，就有团队可以开展工作。
我们曾深入调查一家使用算法设定租金的公司。我们没有只用传统调查工具，而是传唤了算法，让数据科学家初步审查代码，弄清底层究竟发生了什么，然后提起诉讼；到目前为止，这个案子进展成功。这类能力是让政府在这个时代有效运作所需要的。
不过，刚开始并不一定需要这些。基本要求是：推出安全的产品，尊重创作者权利、尊重隐私，不侵入他人的服务器。国会凭借目前的专业知识，就能确立这些基本注意义务。但为了适应现代社会，我们必须提升政府内部的技术能力和工具。
好，先记住这个想法。我们先快速休息一下，回来后继续采访乔纳森·坎特。
责任风险与投资者
请你设想自己是一家这类公司的投资者。假如 Anthropic 这样的公司上市，我们可能都会面对这个问题：你愿意持有一家前方存在这种潜在责任风险的公司吗？你认为这会大幅影响公司的估值和投资者兴趣吗？
完全不会。公司本来就要面对责任风险。你们在《华尔街日报》工作，如果刊登诽谤性内容，就要承担责任。
但我们有非常明确的规则，而且几十年来已经积累了丰富判例，知道哪些行为受保护、哪些不受保护，以及法院如何裁决。人工智能这方面现在还是很未知的，对吧？
总得从某个地方开始。如果现在不开始，以后会更难。正如我说过的，黏土未硬时塑形，比在大理石上雕刻容易。我们先从基本原则开始：打造安全、不伤害他人的产品；打造不窃取内容、尊重隐私的产品。然后再逐步深入。但总得有个起点。若不知道要去哪里，就不可能抵达。现在很多争论都在纠结限速：应该走多快、走多慢？但如果不知道目的地，讨论速度又有什么意义？
AI领袖为何说“慢下来”
说到快慢，投资者听到 Anthropic 和 OpenAI 的领导人异口同声地说“我们需要慢下来”，应该怎么理解？这是他们在向市场传递信号吗？是不真诚，还是在真正呼吁监管？
我认为这些因素都有。我相信他们相信自己的产品可能相当有害，也希望投放市场的产品是安全的。很好。但现实是，这些公司在追求股东价值。这是营利性企业所处的市场现实，没什么不对，这就是我们的制度。
这当然也是很多股东希望公司采取的做法。
没错，它们在法律上有义务这么做。公众和政府应当承担某些责任。既然公司有股东义务，我们就应该制定规则，让履行股东义务也要求公司交付安全可靠的产品；做不到就会给股东带来重大后果，让他们追究公司责任。这样会让产品变得更好。公司仍然可以非常成功、赚很多钱，也仍有大量机会获得丰厚回报。
包括股东在内的人们希望我们明确道路上的车道线、停车标志和红绿灯，并让后果足够重大，使企业愿意遵守。不过，听到它们说想慢下来时，我还是会有些怀疑：如果你真的认为自己正在制造有害的东西，你没有义务非得把它推出去。波音飞机的舱门在飞行中脱落，波音并不需要等空客停飞，才能解决自己的问题。
我的看法是，我们希望企业彼此竞争，开发安全可靠的产品，并给它们这样做的动力。我认为这有利于股东回报，也有利于公众。要想得到安全可靠的产品，这种竞争也是必要的。互联网第一代的发展让我们吸取了教训：我们确实需要一些规则，把安全融入产品开发过程。
循环融资与反垄断
我们刚才主要从用户角度谈监管。要实现公平竞争，因为这些终究是产品——我们希望日常使用的产品价格合理。我们《华尔街日报》写过很多关于这些公司彼此交织的报道：有家公司卖芯片、又融资让你买芯片，同时还和使用你计算服务的用户有关系。这种资金循环会不会引发反垄断问题？这些公司是不是基本上都在朝同一个方向划船？
会，当然会。这正是反垄断法存在的原因。这让人想起早期反垄断法针对的那些托拉斯：它们在整个经济体中到处持有权益。交叉持股也是促成反垄断法诞生的原因之一。
因此，从竞争和经济韧性的角度看，面对循环融资和少数股权关系，我们应当保持警惕。如果把各家公司连成一张关系图，就会发现它们彼此持有对方的部分权益。这令人有些担忧。我们要确保竞争自由、公平，让企业在市场上真刀真枪地竞争。一旦各方利益受到牵连或出现利益冲突，局面就会变得混乱。
与中国竞争
我们谈了美国公司之间的竞争，但还没谈特朗普政府经常提到的问题：与中国竞争。监管美国自己的人工智能产业，会不会让我们在与中国竞争时落后？这种担忧成立吗？
在我看来，这只是个烟幕弹。与中国竞争的最佳方式，是保护好本国人民，并鼓励企业开发安全可靠的产品。说实话，中国对本国民众如何使用各种产品施加了各式各样的规则和监管。
中国社会受到很严格的监管。
是的。我们的监管相对少，这没问题，但别假装为了与中国竞争，就必须容忍美国公司推出有害产品。这么做究竟为了什么？国家安全、国防和网络安全确实是实际问题，但这些责任应该由政府承担。我们需要重新思考国防基础设施，确保它能够应对这些问题。
生存风险与现实伤害
我们谈的是竞争对人们财务生活乃至隐私造成的相对实际的影响。对于那些未必会作为产品销售、而是在某个实验室里开发，却让人担心可能失控并造成可怕后果的东西，该如何监管？可能采取什么样的监管框架？
可以参考核技术，或者更先进的药物研发。我们需要确保产品安全可靠，也可以建立审查机制。这些模式或许可以借鉴。不过这件事很难处理。我并不是说只要规定注意义务和忠诚义务，就能解决所有问题。这也正是我们需要能力更强、权力更大的监管机构的地方。
有时，关于末日的想象——这些东西会像《终结者》一样杀死我们——反而会分散注意力。现实是，这些产品可能造成非常严重的伤害，能力很强，足以带来很多损害。它们明天不会突然起身杀死我们。我们应该稍微退一步看问题。
我觉得这种末日想象可能会让我们忽略更现实、迫在眉睫的威胁，比如隐私受到侵害……
是的。现实是，我们应该设法把这些问题纳入工程设计，用务实的态度解决当下的问题。如果把一切都说成科幻电影般的危机，只会造成瘫痪。我担心这正在发生。我们需要回到第一原则：什么是基本要求？打造安全可靠、不违法、不入侵他人系统、尊重创作者权利、尊重隐私，并对使用者履行忠诚义务的产品。可以先从这些基本原则着手。它们未必解决所有问题，但至少是朝正确方向迈出的一步。
乔纳森·坎特，非常感谢你加入节目。这次谈话很有意思。
太棒了，谢谢。
很高兴能请到他们。我不喜欢那边空着，因为这些东西很诱人。
（笑）现在我突然觉得自己渴得不行。