大学的 AI 领导力与主权
大家好，欢迎收看特别系列《主权 AI：从战略到现实》，本节目由 Hewlett Packard Enterprise 支持。我是 Dave Vellante，和我的联合主持人、theCUBE Research 的 Amit Govrin 一起，邀请到了犹他大学首席 AI 官 Manish Parashar 博士。Manish，感谢你今天参加节目。
谢谢你，Dave。很高兴来这里。
我们先聊聊“首席 AI 官”这个职位。它最近开始出现，我们也和不少人谈过这个职位，虽然不一定都在主权 AI 的语境下。很高兴请到你。能不能先介绍一下你在犹他大学担任首席 AI 官的职责？你主要关注什么？新建的 Redtail AI 工厂在这项使命中发挥什么作用？
谢谢，也再次感谢节目邀请。AI 正在影响大学使命的方方面面，包括科研、教育和社会影响。所以，首席 AI 官这个职位正在学术界逐渐出现，职责之一就是统筹我们如何应对。我们怎样把 AI 融入教学？怎样以一致、负责任的方式来做？怎样把它纳入运营和科研使命，同时确保安全、负责？随着 AI 的发展，我们需要怎样的基础设施、指导方针和政策框架？
Redtail 正好能发挥作用。它提供了一些关键基础设施能力，让学生、研究人员和管理人员都能大规模地把 AI 融入大学使命。
谢谢。世界上每个组织都在思考、或者都应该思考 AI 所带来的新运营模式，主权也是其中一部分。我们在 theCUBE 经常讨论主权 AI。美国以外的许多人会把它看作领土问题，但我们认为主权的范围要广得多。你怎么理解主权？它对你意味着什么？为什么对犹他大学这样的大学很重要？
我觉得要从大学的使命来看。无论是教学、不同类型的研究、医疗健康、工程和科学领域的探索，还是社会影响和运营使命，能在这些维度上拥有主权都很重要。
我们要管理自己做什么、怎样管理自己的想法和数据；其中经常涉及敏感数据和知识产权。还要确保能以受控的方式管理谁可以访问这些数据。我们怎样与全州的创业者合作？怎样与州政府合作，把一些服务带给州里的居民？这些都需要具备你刚才提到的那些主权维度的基础设施。
这就是我们看待主权的方式：用更全面的视角来建设、运营和使用系统，也要考虑哪些数据会流入系统、数据如何流动。我们希望这些都由州政府、研究人员和大学来管理和控制。
在科研开放与安全之间求平衡
这对很多人来说都是个复杂问题，所以我们很感谢能和你这样的研究人员、科学家和实践者交流。我把话交给 Amit，不过先铺垫一下：Amit 建立了一套主权五大支柱框架，分别是领土、法律、运营、技术和金融。我们会用这套框架，看看犹他州如何把主权落到实践中。Amit，交给你。
谢谢，也感谢你来参加节目。我们逐一讨论这些支柱之前，先退一步问个问题。我们在 theCUBE 有句话：主权不是纯度测试。我们总会从供应商或主权国家的角度来看，主权到底有多重要？它在多大程度上只是看待问题的一种务实方式？
我还想补充一点：没有谁能在每一层都真正实现主权。即使是大多数国家，在我们评估的五大支柱上也做不到完全自主。具体到像你这样的美国州，全面主权是目标吗？还是说它只是努力前进的方向？又或者，它只是为了实现你所追求的影响力而锦上添花的一种状态？
我觉得这取决于我们在做什么，并不是一套方案适用于所有情况。因此，在基础设施中从根本上具备这种能力很重要。举例来说，科研中我们一直要在研究安全与开放科研之间寻求平衡，因为开放科研有益于社会。具体情况不同，侧重点也会不同，所以能像调旋钮一样调整，特别重要。
教育使命也是如此。学生数据、评估数据等需要高水平管理；另一些内容则是开放的，所有人都能访问。所以我们希望……
主权 AI 基础设施与经济发展
随着我们拓展大学使命，无论是与州政府合作，还是推动经济发展和创业，都要确保有这样的灵活性。回到你的问题：我们不需要所有事情都严密管控，也不希望所有事情都完全开放。我们需要根据手头的工作，把管控程度调整到合适水平。
这个思路很对。我们再深入一点：如果要给你们州的 AI 项目打分，哪些主权支柱是你们必须自己掌握的，哪些可以租用？我身后列着五大支柱：领土、运营、技术、法律和金融。哪些是你们必须拥有的核心资产？
运营主权是非常重要的一项。不过退一步说，这也取决于我们想做什么。比如经济发展和公私合作使命，运营、金融和领土主权都很重要，法律层面也在一定程度上重要。
如果是教育使命，运营主权可能最重要。科研使命则要看具体做什么。如果是受控研究，所有支柱都重要；如果是开放科学，我们在这些方面可能都可以更灵活。归根结底要看具体用途。我们正在据此设计解决方案。你说得对，情况一直在变化，我们也在不断学习、向前推进；但我们希望能根据用途调整到合适的程度。
随着我们在州内的合作不断扩大，基础设施用途的规模和范围都会增长。医疗健康领域的工作会越来越多，公私合作也会越来越多，不同主权支柱上的需求也会随之变化。
那我们就拿这个具体例子再深入一点。你是犹他州州长 AI 委员会的成员。你们负责的是一项 1 亿美元的负责任 AI 计划，对吗？
对，没错。
好。如果聚焦这项计划，犹他州说，造福公众、打造以人为本的 AI，并不一定和主权绑定。Redtail 是主权 AI 基础设施，还是更偏向公共 AI 基础设施？归根结底，一个州是否必须达到某种主权水平，还是像你刚才说的那样，有了更好？
嗯，我会……
开放模型限制与研究沙盒
回到我刚才说的，负责任 AI、治理、以人为本的 AI，以及经济发展都很重要。我们会和小企业合作，帮助创业，把研究成果转化到企业应用中，帮助初创公司验证想法；在这些情境下，主权就极其重要。我们也在和 AI 政策办公室合作，制定监管缓解框架、评估合规性，这时主权同样非常重要。
另一方面，我们的支柱之一是开放科研，比如空气质量研究。在这里，开放非常重要，因为我们希望汇集最好的想法和数据，其中很多是居民提供的数据，再看看如何最有效地用 AI 应对本地区的挑战。保持开放很关键：我们不想错失任何想法，也不想漏掉汇集而来的数据；我们希望整合这些数据，确保最终结果和预警通知能尽可能广泛地传播。我们要管理好这两类需求，让同一套基础设施能够同时支持它们。我不知道这是否回答了你的问题，但这就是我们努力平衡的方式。
回答了，也正好引出我的下一个问题。NeR 是围绕模型和数据的开放访问建立的，对吗？
嗯。
也因此，你们面向学生的 AI 网关会自行托管 DeepSeek、Plan、NVIDIA 的模型和 NeMoTron，还有 Meta Muse，对吧？这个月，美国国土安全部下令从联邦民用系统中移除 DeepSeek。
对。
北京方面也提出了对未来前沿模型实施出口管制的可能。那么你们决定在 Redtail 上运行什么模型时，会如何衡量模型来自哪里？如果开放模型的供应枯竭，尤其是外国开发的模型，或者联邦合作方不接受这些模型，你们有什么计划？
你提到的是个非常重要的问题。研究安全方面的指导方针，以及如何使用某些国际开源权重模型，正成为很大的挑战。我们的许多研究由联邦拨款资助，必须遵守相关规定；我们对此很清楚，也在努力建设一些更开放的基础设施沙盒，让研究人员可以在有正当研究问题需要时，访问这些国际开源权重模型。
比如说，如果我研究的是这些模型的风险，就必须能访问它们，尽管我知道它们可能存在一些问题。但如果我做的是联邦拨款项目，就不能使用这些模型。所以我们正在创建沙盒。在 Redtail 上，我们希望尽可能保持合规，并尽可能广泛地满足合规要求。因此，合规模型——比如 NeMoTron——就变得很重要。
无论从政策还是技术角度看，这都是不断变化的局面。新模型还在推出，我们希望 NeMoTron 会越来越好，很快能和其他开源权重模型竞争。但我们必须回应这些时而相互冲突的需求……
研究沙盒与治理隔离
……政策侧的要求，以及研究需求侧的要求。
所以，你们的补偿性控制措施，是通过治理框架、基础设施、政策和技术，再加上运营模式，把联邦拨款项目和其他项目隔离开来。这样理解对吗？
通过政府 AI 合作推动 Redtail 持续发展
没错。我们正努力在两者之间取得平衡：让 Redtail 尽可能服务更广泛的社群，同时再建立其他框架，满足特定需求。比如，有些研究人员想试用风险可能更高的开源权重模型，我们就为此提供其他框架。
好，这正好引出下一个话题。你参与过 N 和 OAC 的评估工作，看到国家级系统的老化速度比拨款周期还快。现在我们说的是一笔 5000 万美元、覆盖五年的拨款，可 H200 三年后就会落后两代。更新计划是什么？谁来付钱？州议会、捐赠者还是用户？
答案是：都要考虑。甚至在签署 Redtail 合同之前，我们就已经在规划三年后怎么办。这就是技术发展的特点。问题不只是技术会过时；如果我们做得成功，算力也会不够用。所以不光要规划技术升级，也要规划扩容。
我们已经在着手准备。你问谁来投资，答案是：我们正在向州政府展示这项投资的价值，并尽快说服他们，这对州和州民都有好处。我们也在联系更多慈善捐赠方。Huntsman Family Foundation 已经慷慨支持了这项投资，Peter Huntsman 也提供了支持；我们还在考虑怎样争取更多人的支持。
与此同时，我们也在和联邦机构沟通，比如能源部（DOE）或国家科学基金会（NSF），希望他们投资现有生态，而不是从零开始另建一套。我们已经建成了一个生态，他们只需投入一小笔资金，就能扩大自身的影响力。我们会多管齐下，因为我们既想扩大规模、用上最新技术，也希望州民能够使用这些技术。
你正好接上了我的下一个问题，衔接得很顺。你曾共同主持 Naren，还在白宫科技政策办公室（OSTP）负责战略计算，所以你应该看过两方面。Redtail 正在与 Naren、NASA 和能源部的 Genesis 计划对接，而华盛顿又在推动联邦层面先占州 AI 规则的上位。你觉得谁最终决定谁能访问和使用这些资源？
扩展合规且不依赖单一供应商的数据环境
我认为必须靠合作来做。关于这些问题，确实有一些相互竞争的指令和讨论同时在进行。但归根结底，我们绝对希望美国在 AI 领域保持领先，也希望 AI 对劳动力和科研产生积极影响。任何能降低实现这些目标的门槛的做法都是好事。我们现在关注的是，怎样让犹他州、周边地区乃至全国都获得尽可能大的积极影响。
这包括与 Naren、Genesis 计划以及亚利桑那州、科罗拉多州、怀俄明州和爱达荷州等周边州的区域性工作对接。我们思考的不只是基础设施，而是一个生态系统：专业知识、赋能方法、培训和技能提升都可以共享。这就是我们正在努力做的事。
你提到 Naren，正好引出下一个话题：DX 里的 National Data Platform 正在把计算和数据整合起来。Huntsman 癌症中心的患者数据也会接入，但 CHPC 的清单上没有 HIPAA 或 CUI 认证。你们的合规状态如何？另外，输入提示词可能受公开记录法约束，它们会被捕获下来吗？
这里我得纠正一下。我们确实有符合 CMMC、符合 CUI 要求的环境，也有符合 HIPAA 的受保护环境。我们还有一个小型的、符合“DB gap”要求的环境，也就是 NIST 800-171 Rev. 3。我们这些环境都有，真正需要做的是把它们扩展开来。
目前这方面的需求越来越大。你提到了 Huntsman 癌症研究所，以及他们利用犹他州人口数据库开展的研究。这些都是非常宝贵的资源。我们现在的重点，是如何扩展环境，迁入一个不仅容量足够、还能满足新兴管控要求的设施。
我们希望继续扩大这些环境。Redtail 的作用是承接大量开放科研，从而释放数据中心和其他地点的容量，让我们可以扩建受监管的环境。这样一来，我们就能扩大模型规模，也能在这些环境里开展更多使用 AI（或转写为 SI）的研究。
好，这个回答完全可以。细节总是在这里出现，尤其各州和地方层面的 AI 法规差异很大。我们来谈一个更明确的运营问题：谁掌握密钥？如果 HPE 的支持服务或 NVIDIA 的软件许可明天到期，犹他大学还能运行什么？在这种情况下，谁拥有管理员权限、防火墙访问权限和审计日志？
Redtail 自主与共享的主权支柱
根据我们和 HPE 的协议，HPE 提供了这套系统和交钥匙解决方案，但系统由高性能计算中心（CHPC）的专家运营。他们有管理员权限，负责资源分配、用户接入、管理监控、优化和容量配置。他们也运营符合 HIPAA、CMMC 和 NIST 800-171 Rev. 3 要求的环境。我们有能力运营这些系统。
除此之外，我们还有一些更普通的集群环境，也能满足不少科研需求。它们更像本地部署的云，研究人员可以通过拨款获得使用时间并运行任务。因此，我们能给研究人员提供多种解决方案。我们希望和 HPE 的合作继续并扩大，但犹他大学确实有运营系统所需的专业能力。
我们也为全州提供服务，与犹他谷大学（UVU）、犹他州立大学（USU）等伙伴合作，服务遍布各地的校园——更正一下，是遍布全州。
你刚才部分回答了我的下一个问题，但我再给你机会完整说明：按你刚才设定的标准，哪些支柱是你们自己掌握的，哪些是租用的？你们最放心把哪些支柱交给外部？
运营支柱肯定是我们自己掌握的。金融支柱是州政府和所有者之间的合作关系，未来还会变化。法律支柱则由大学管理，也由我们掌握。
我们的整体生态系统是混合架构，有些东西部署在本地，有些托管在云上；我们始终会把它视为混合系统。并非所有东西都必须放在单一数据中心或州内。这就是科研的特点：很多项目需要合作，也需要开放共享。我们努力在两者之间取得平衡。
我把所有支柱都说到了吗？
说到了。你回答了……
开放数据与 AI 模型：治理和竞争
好，你答得很好，相信我。我还有好几个问题，不过 Dave，接下来交给你提问。
我想拿你刚才提到的空气质量开放项目举例，挺有意思的。你之前说有一套治理架构，可以把联邦要求约束的项目和其他项目隔离开来。对于开放项目，你们怎么决定谁能访问数据？哪些内容仍留在现有治理环境之内？
对很多项目来说，这要由研究人员和他们适用的资助规则来决定。很多项目由相关机构资助，资助机构会规定数据如何处理。比如国家科学基金会资助的研究，数据通常应该公开共享，我们会确保遵守这一要求。这也是 National Data Platform 等项目能发挥作用的地方：我们怎样才能更有效地共享数据？
另一些数据则受到保护，必须保持保护状态。我们也有相应的基础设施来支持。以空气质量为例，很多研究由支持开放科研的机构资助，因此数据也是开放的。
我还想问你一个问题。你最近在 10 月 26 日写了一篇文章，标题很抓人，叫《华盛顿刚刚因为 AI 模型“父母不对”而将其禁用》。你在文中讲出了由此产生的两难：欧洲或其他地区也可能反过来采取类似做法。我想问的是，我们之前也聊过一点，NeMoTron 现在处于什么水平？Jensen 说它已经达到前沿，目标是更有效地和开源权重模型竞争，尤其是中国的模型。你曾告诉我它还没到那个水平，Manish 似乎也表达了类似看法。你认为 NeMoTron 目前处于什么位置？NVIDIA 要做些什么，才能让它达到前沿水平，和 DeepSeek 等开源模型竞争？
公平地说，我们上次接触 NeMoTron 模型时，还是去年 12 月推出的 300 亿参数模型的早期预览，所以我不太能评价它现在的表现。我认为 NVIDIA 技术栈落后的地方，主要不一定是模型本身，而是训练和数据。那个参数规模的模型刚推出时，肯定处于开源模型的前沿。但至少一年前，它的一些模型表现不够好。我没法告诉你它现在怎么样，不过我们有些客户反馈说，在基准测试上它仍落后于中国的开源模型。几周前，我记得它在 Open Source Global Index 上排第 11。之后也许有所进步。我知道 Jensen 在开源领域投入了很多，显然也做了三四笔收购，还加上 Hugging Face 和整个生态布局。所以……
犹他选择 HPE 与扩大开放模型
对。如果非要下注，我会押 Jensen 最终能赢下这场竞争。不过从技术角度看，我说不准如今和一些中国模型之间的实际差距有多大。
Parashar 博士，我不是非要你表态，你愿意的话可以谈谈。我想追问一下：我理解你们为什么和 NVIDIA 合作，他们在 GPU、CPU 和 CUDA 库方面都处于前沿，做得非常出色。那为什么选择 HPE？
HPE 带来了非常丰富的经验。他们运营着世界上一些规模最大的计算系统，长期来自高性能计算（HPC）领域。过去十年，他们设计并打造了一些最强大的系统。有这样的专业能力来帮我们构建、设计和部署这套系统，价值非常大。这次合作非常出色。我们非常感谢 HPE 的同事，也可以说，这是一段很好的合作关系。
回到开源权重模型这个话题，我同意 NeMoTron 正在快速进步，排名也在上升。但我觉得不能只有它一个。看排行榜时，它似乎成了唯一的选择，我们需要更多模型。这一点我想特别强调。
对。我知道一些前沿模型公司，比如 OpenAI，也尝试过开源模型，虽然不太算开放权重模型。我也希望其他公司参与进来，当然还有 Thinking Machines 等公司，以及其他正在涌现的团队。这确实是个很好的机会。不过，Amit，你还有什么问题想谈，或者想做最后总结吗？
按照目标评估犹他州的主权
不用休息，他回答得很好。Manish，我们在这里做的一件事，是评估全球各地的主权项目。我们已经评估了 25 个以上国家的项目，经常看到人们说的和实际发生的情况之间有很大差距，能拿出来的证据也不足。但至少就我问你的这些问题来看，你都用证据和扎实的专业知识作了回应。感谢你和我们深入交流。和真正懂行的人聊天总是很愉快。
我还得把你也拉出来问问，Amit。我们见过很多“主权漂洗”。很明显，这所大学已经认真考虑了主权的许多支柱，甚至可能全部都考虑到了。你会怎么初步打分？这显然是通过了，对吧？
我们说过，没有通过或不通过这一说。
但这肯定算是“通过”了。Manish，希望你能理解我们的意思：首先要说明自己的目标，再按照目标来评估。如果把纯粹性当成测试标准，那一开始大家就都会不及格。
但关键在于，我们不需要把主权计划定义成完全隔绝的、只供政府使用、数据绝不外流、从自有电网一直到芯片制造都完全自有。用这种方式衡量任何主权计划都不切实际。按照你们设定的前提，你们显然表现得非常出色。我也在和欧洲其他大学系统合作，比如德国，我们看到了他们的一些差距，也正通过评估帮助他们缩小差距。
很好，评价很高。Manish，非常感谢你参加我们的节目。
谢谢。我很喜欢这次交流，也期待以后再聊。
谢谢，感激不尽。
我也一样，非常感谢。
好，感谢大家收看这期由 Hewlett Packard Enterprise 支持的《主权 AI：从战略到现实》特别系列。我是 Dave Vellante，Amit Govrin 和我感谢大家收看。请继续关注本频道，之后还会有更多关于主权 AI 和科技未来的讨论。