AI 像直升机：更快抵达，也可能错过沿途发现
我过去打过一个比方：科学有点像去徒步。你听说远处有一座很有意思、很漂亮的瀑布，于是决定和几个朋友一起去找它，但你得自己画地图。你可能会稍微迷路，可是在迷路的过程中，也许会发现别的有趣东西，于是把它记下来。去那座瀑布的路上，你还可能在远处看见一座更壮观的瀑布；你现在还到不了那里，但也许未来某个徒步者会找到抵达它的方法。所以，从出发到达到目标的整个过程本身也非常有价值。
但这些 AI 工具就像直升机：它们可以把你直接送到那个瀑布，让你看一眼，再把你飞回来；但你完全不知道该怎么走到那里。除了你明确要求看的那个东西以外，你也可能看不到沿路任何其他有趣现象。所以即使从技术上说，你更高效地实现了目标，也可能失去了一些东西。我叫 Terence Tao（陶哲轩），是加州大学洛杉矶分校的数学教授。我还有一本即将出版的书，叫《Six Math Essentials》。
感谢收看 Big Think。如果你愿意支持我们的工作，欢迎加入会员社区。会员会收到我们的季度纸质杂志，那是一本经过精心设计、汇集重要思想与访谈的刊物。Big Think 面向那些愿意深入探索重大思想的好奇者。若想支持你希望这个世界拥有的媒体，可以前往 bigthink.com/membership。
现在回到访谈：AI 正如何永久改变数学与科学。
几个世纪以来，科学和数学发生了很大变化。传统科学主要有两种范式：理论和实验。你可以提出理论——比如开普勒提出行星如何运动的理论，牛顿提出引力理论——然后再有实验数据：你做一个实验，看看会发生什么，再检查理论与实验是否吻合。数学稍有不同，因为它几乎完全以理论为主，纯数学里真正做“实验”的情况很少。当然也有例外，例如高斯曾著名地计算出前 100,000 个素数，把它们当作一个数据集来作预测；他由此预测了我们今天所说的素数定理。
后来出现了模拟。你不一定非要进行大型、昂贵的现实实验，有时可以在超级计算机里模拟一场飓风。再后来出现了大数据：你不再只做少量实验去证实或否定一个具体理论，而是可以拿兆字节乃至拍字节级的数据去辨认模式，从海量数据中抽取规律。这是较新的一种科学方式。现在，这些做科学的模式又都在被 AI 改造。
过去，每一种科学活动最终都要由人类科学家来做：有人亲自做实验，有人完成理论计算，有人运行模拟，有人检查数据。计算机当然可以帮忙，但即使如此，你还得自己编写数据分析工具或别的程序，而且仍然需要大量专业知识。如今我们已经有能够自动执行实验的自动化实验室；你可以让 coding agent 帮你运行模拟，也可以尝试自动化数据分析。越来越多时候，连理论工作也可以自动化：给出一个数学问题，问这些假设和公理会推出什么后果、应该得到什么结论。现在这些工具能够以更大的规模、更快的速度工作，你潜在地可以进行远多于任何一个人类科学家所能完成的理论分析。
但另一方面，这并不是我们想要的全部。慢慢做事本身也有价值。一个科学家花上几个小时用纸笔推导、亲手在野外做实验、真正去调试那些冒出来的模拟问题——这些过程会带来一些额外的理解，而不仅仅是拿到他最初想寻找的答案。
科学的悖论：AI 完成目标，人类却未必学会
在这种缓慢的工作里，科学家可能发现新的现象，看到不同东西之间的连接，发现眼前的问题与文献中某个早已研究过的对象相似，还能把自己正在发现的东西解释给其他人。这就形成了一个悖论：一方面，AI 正变得更强、更有能力、犯错更少，而且表面上确实在完成很多我们认为科学家想完成的目标——它们在运行实验、分析数据、撰写论文。
可代价可能是：AI 获得了某种技能，但没有任何人类科学家因此更擅长做科学。没有人能够准确解释刚刚究竟发生了什么，为什么这个科学发现有趣，为什么这个证明是新的，它有什么特征，又和哪些东西相连。我们也许不得不重新设计自己对“科学是什么”、以及“我们究竟想从科学中得到什么”的理解。科学到底是为了什么？我们究竟想做什么？当我们把 AI 工具指向科学时，会不会存在一种危险：我们其实在优化错误的目标？
现代 AI 由一种叫作机器学习的算法驱动，它做的事情是预测数据中的模式。一个最简单的机器学习例子是回归。假设你有一些输入和输出，比如你观察到给某种动物更多食物，它们会长得更大。你可以把给不同动物喂了多少食物画出来，再把它们的体重画出来，于是图上出现一些点。运气好的话，这些点大致落在一条线上，那条线就可以成为你的预测：如果给这只狗这么多食物，它大概会增加这么多体重。
真实世界当然不总有这么漂亮的线性关系。通常输入很多、输出也很多，它们之间的关系可能极其复杂。不过有时数据还是有某种“形状”，而我们现在有许多聪明的方法去探测这种形状，尝试给这些输入—输出配对拟合曲线。
为聊天机器人等应用提供动力的大语言模型，大体上只是在玩“猜一句话里的下一个词”这个游戏。比如我说：“Roses are red, violets are ___。”你大概会猜空格里是 “blue”。这就是一个输出。你可以想象一张巨大的图：输入是所有这些没有说完的句子，输出是你想补上的词；在一个高维空间里有无数个点，而你想拟合一条曲线，解释接下来最可能出现哪个词。
有时答案不止一个。比如“Hello, my name is …”，后面可以接很多人的名字，所以你不总能得到唯一答案，只能试着选一个最可信的答案。手机的自动补全就是这么做的：你发消息时，它会建议下一个词，有时还挺对，有时很蠢。只要有了这种操作，你就可以反复迭代。很多人都玩过一直按自动补全，最后得到一堆胡言乱语，就像猴子不停敲打打字机。
LLM 的神奇之处在于：如果你给它足够多的数据训练——数万亿、再数万亿个数据点——并且努力把那条“曲线”拟合得尽可能好，这会花掉数百万美元的计算成本和数月时间；可突然之间，即使你不断迭代，文本仍然能保持连贯。它听起来不再像猴子敲键盘，而真的像一个人在说话。我们其实并不完全理解为什么会这样，但看起来，自然语言——比如英语——里面包含大量我们自己并没有有意识察觉的隐藏模式。
LLM 如何“显得聪明”，以及人类深度 vs AI 广度
我们知道英语有一些规则，比如语法规则，但语言里还有许多没有明说、没有写下来的规则，人类会自然吸收。一个孩子即使没人教他什么是名词、什么是动词，也能学会英语单词通常按什么顺序排列。仅仅通过持续暴露在语言里，看起来也可以让这些模型逐渐学会语言中的模式，甚至到了你可以给它们数学题的程度。你问“2 加 3 等于多少”，它们会说 5；至少对简单数学题，它们已经被训练到能给出正确答案。
一旦模型有了一点使用语言的能力，它就可以反复循环、检查自己的工作、减少错误。你还可以提示它一步一步来，要求它在说出某个结论之前先复核等等。于是它会变得“更聪明”一些——这里的“聪明”要打引号——直到能够完成许多复杂任务。但它们本质上仍然是在猜下一个词，并不真正扎根于对现实世界的深刻理解。只是因为它们把英语或其他语言里的模式吸收得太好，所以能模仿那些以聪明方式说话的人，表现得足够像“有智能”，长到足以骗过我们，也长到足以做一些真正有用的事情。
例如，现在我们可以把某些数学问题交给 LLM，让它给出证明。有时它给出的证明完全是胡扯，但如果你让它循环足够多次，再加上足够多的检查，确实可以开始得到一个大于零的成功率。这是一种非常奇怪的解题方式，几乎和我们通常理解的智能完全正交。我们通常把智能想成扎根现实、方法严谨、从第一性原理出发的思考；而 LLM 更像一个知道很多东西、但有点微醺的人，不停把各种点子扔出来。可只要给足够的引导，你确实能从里面提取出有用的结果。
它做的其实还不是最先进的数学。不过你给它大量数据、大量时间，再加上各种“创可贴”式补丁，效果居然可以相当不错。我觉得关于 AI 在科学和其他领域角色的很多讨论，默认采用了一个一维视角：这里有简单任务、困难任务和非常困难的任务；人类能做到某个难度，AI 能做到另一个难度，于是我们问到底谁更强。
但我在实际使用 AI、并比较它和人类的解题方式时发现，两者其实非常互补。人类专家往往专注于深度，而 AI 擅长的是广度。一个人类数学家面对的可能有成千上万个可研究问题，但他会挑一两个：它们要足够难，却不能难到完全不可能；难度恰好要让你在尝试推进一点点的过程中，暴露出各种值得分享的洞见。然后学生、合作者或者其他人可以建立在这些洞见之上。
当我们把 AI 指向那些真正困难、标准技术完全不适用的问题时，它们仍然非常、非常差，基本就是随机猜。但它们在广度上很强。如果你一次给它一千个难度各异的问题，其中有些当然太难；可总会有一些其实处在现有方法的射程之内。也许文献里早就有一种方法可以解，也许需要把两种不同的方法组合起来。问题只是没有足够多的人类专家去看完所有这些题，而真正看到某道题的人类专家，也未必知道 1970 年某本冷门期刊里恰好有一篇论文，包含了解这道题的关键想法。
人类没有耐心、也没有时间穷举“哪一种技术可能适用于哪一道题”的全部组合。AI 则会进行带有一定依据、但多少也有些随机的猜测，去试什么技术可能有效。有些猜法会很蠢，但有些会成功；正是在大量组合中，它们有时会抓到一个所有人都漏掉的解法。
AI 的广度优势、开普勒案例与科学过程
有时，专家群体的共识、所谓传统智慧，本身就是错的。我们可能都觉得某个问题的答案应该是肯定的，可实际答案是否定的；只是因为人人都相信它为真，所以我们没有认真查看反例。AI 未必带着这种先入之见，因此有时它只是充当了一双独立的眼睛。于是，一些我们原以为非常困难的问题，最后会出现一个出乎意料的简单解法；回头看时，我们甚至会觉得，也许人类自己本该想到它。
AI 开始在一种特定场景里变得成功：你把非常广泛的一批问题交给它，它可以解决其中某个百分比。假设你给它一千个问题，它只解出了 5%，那仍然是 50 个问题。单看“解决的问题总数”，我们已经可以拥有某些工具，在某种意义上超过人类数学家。当然，这 50 个被解出来的问题，未必是你最想解决的那 50 个；它们可能只是随机的 50 个。但即便如此，这种能力仍然很惊人。
我认为我们这个行业接下来必须做的是：找到办法，把“在广泛尺度上解决一部分问题”的新能力纳入现有工作流，再想办法把它和人类“非常缓慢地解决少数深层问题”的能力结合起来。
开普勒如何发现著名行星运动定律的故事非常迷人，它很好地说明了“过程”有多重要。开普勒知道哥白尼关于行星运动的理论。哥白尼已经大致算出了地球离太阳有多远、火星离太阳有多远等等。开普勒注意到这些轨道半径之间的比例，看起来有点像几何学里某些特殊比例。于是他最终提出一个漂亮的几何构想：给每颗行星放一个球面，当时已知有六颗行星，所以可以在六个球面之间依次嵌入五种柏拉图立体，比如正十二面体、立方体、正四面体等等。他以为这样会得到完美吻合，从五种正多面体解释太阳系的结构。
后来，他终于拿到了第谷·布拉赫（Tycho Brahe）非常高质量的观测数据——他为了拿到这些数据其实费了很大劲，甚至可能有过“偷”的成分——然后尝试让自己的理论拟合这些数据。结果他发现并没有完全吻合。第谷的数据精度高到足以暴露问题：那些球面根本对不上。正是在这个过程中，他发现火星和地球的轨道不可能都是圆，一定还有别的形状。
他花了很多年想办法。我也不知道他究竟坚持那个柏拉图立体理论坚持了多久，但从他的著作里能看到，他试了很多其他方案。他试过让圆的中心发生偏移；后来某个时刻，他落到了“椭圆”上，于是突然一切都吻合了。这说明理论和实验之间确实存在一种相互作用：你可以提出一个理论，如果它与数据不符，那它可能不是一个好理论。
可事情还要更复杂。开普勒之前，人们批评哥白尼理论的一个理由恰恰是：哥白尼自己也承认，他的预测精度还不如当时最好的模型。那时最精确的是地心模型，它先由希腊人发展，后来又被阿拉伯和印度学者不断修正、微调，最终形成了一个非常精细、虽然也非常复杂的系统，可以很好地预测所有行星的位置。相比之下，哥白尼的模型一开始反而更差。
所以，仅仅看“和数据吻合得有多好”，并不一定是唯一指标。直到开普勒把轨道从圆改成椭圆之后，日心模型才在精度上真正超过地心模型。科学并不总能立刻给你反馈，告诉你到底有没有解决一个科学问题。
过拟合、证明消化与科学产出的瓶颈
如果开普勒和哥白尼当时有 AI，并让 AI 给宇宙提出一个模型，那么完全可能发生这样的事：某个 AI 生成了正确的日心模型，却因为它最初的预测还不如地心模型，就被我们淘汰掉了。你必须花时间真正消化这些理论，看看它们如何与我们对行星、运动、引力以及其他一切知识相互吻合。
我其实还有一个担忧：AI 可能太快了。它们有可能发生所谓的过拟合，构造出一个非常复杂的模型。这个模型与真实发生的事情没有什么关系，却能把你手上的数据拟合得极其、极其好；一旦超出那个数据集，它却完全不能外推。
因此，如何把 AI 纳入科学发现流程会是一个挑战。AI 的确能加速流程里的单个步骤：可以让实验更快，可以更快写代码，可以更快写论文。但“科学整体”未必会因为每个组成部分都加速，就自动以同样速度加速。存在一种风险：我们把 AI 用在科学上时，会优化错东西；纸面上出现一个又一个惊人的成功，可最后发现科学并没有像过去那样真正向前推进。
不过，我们最终会知道该怎么做。拥有这些工具还是比没有它们好，只是我们仍在学习怎样最高效地使用它们。
数学工作的一部分，是解决问题、寻找解法、证明命题。而证明本身也经历一个生命周期。首先，你得生成一个解法或证明；过去这很难。你生成的一些证明会是错的，所以接下来还要验证，检查哪个是真的、证明是否正确；过去这一步也很枯燥。现在，这两类任务都在越来越自动化。因此，我们看到越来越多问题出现候选解法，而且其中不少确实正确；与此同时，证明本身也变得越来越长。
AI 写出来的证明往往并不好读。它可能花大量篇幅讨论非常平凡的部分，却在论文真正最有意思的地方一笔带过。我猜原因在于，AI 并不能像人那样感觉到“哪里难”。对依靠蛮力的 AI 来说，每一步似乎都消耗差不多的时间。一个人类作者则不同：他自然会在论文最困难的步骤上挣扎最久，所以写作时也会本能地把更多篇幅放在那里。
因此，证明还必须被重新写成一种好读、能向别人解释的形式。然后，其他人还得对它感到兴奋：他们需要觉得，“这真的很有意思，它能帮助我解决自己的问题”，或者“它终于解释清楚了为什么这个现象成立”。它还必须被学术共同体接受。传统上，这就是同行评议的一部分：我们把论文交给审稿人，如果审稿人觉得这个结果值得关注，论文才会被接收。当然，也可能有些论文在技术上完全正确、也写得清楚，但回答的是一个根本没人关心的问题。
最后，一个结果还要被彻底打磨，进入教材，被教给学生。证明的第一版通常并不适合直接写进教科书。它可能采用一种很低效的做法，步骤顺序也不够合逻辑。这里有一个“消化”的过程：有人必须花大量时间认真思考，找到最正确的组织方式，把论文重新编辑，让它顺畅地展开——有点像你剪辑一部纪录片或电影。
我们现在发现，AI 工具正在加速这个生命周期的早期阶段，却没有同样加速后期阶段。我们能够生成更多证明，也在验证其中许多；但理解这些证明、把它们整理成最终教材形态的速度，仍然主要取决于人类。实际上，我们现在正在经历一种可以叫作“证明消化不良（proof indigestion）”的状态。
证明过剩、数学能力跃升与可复现性问题
我们突然有大量待处理的解答，本应被理解、被写进教材，但数量太多了，我们不得不筛选和分诊。这是过去从未真正发生过的事。以前，重大问题的解法出现得非常稀少；一旦某个重要问题被解决，所有专家都会放下手头工作，尽快去读、去理解，因为这种东西太少、太有价值，完全值得这么做。现在，我们反而被各种可能的解法淹没了。
就连我自己，也已经不得不放弃“跟上自己领域里所有最新进展”这件事。有时发生的事情实在太多，我现在不能保证读完每一项新出现的发展。当然，即使在 AI 之前，这个问题就已经开始出现；但 AI 极大地加速了内容产生的总量。所以我们需要更好的策展、筛选和过滤机制。
这算是一个“好问题”。就像食物太多、吃不完，总归比没有足够的食物可吃更好。但它仍然是一个问题。
AI 在数学上的能力已经越来越强。对像我这样过去三年一直跟踪这些发展的人来说，能看到一个相当稳定的进步过程。大约四年前，它们只能解决初中数学题；然后能解高中题；再然后是高中奥林匹克竞赛级别的问题；再往后，是一些研究生资格考试级别的问题；接着，它们开始解决少量小型的未解问题，比如保罗·埃尔德什（Paul Erdős）可能随手提出、但长期没人认真研究的那种。所以，最初确实有很多“低垂的果实”。
但就在最近，已经出现一两次这样的情况：AI 真正解决了那些人类确实认真努力过、却没有解出来的问题。某种意义上，人类集体都拐错了弯，而 AI 带着一套不同的偏见，拼出了一种相当聪明的解法，而且已经产生了一些影响。比如单位距离问题（unit distance problem）附近的一些问题，后来又被人类用 AI 的技术继续推进、解决。我觉得这非常令人兴奋。
对我一些同事来说，这却很让人不安，尤其是那些没有一路跟踪前面几年的进展、不知道 AI 已经走到哪里的人。如果一个同事只看过 2023 年的 ChatGPT，那么你当时问它一个困难数学题，它会给你一堆彻底的胡说八道。现在的系统已经很不一样了。底层技术从根本上说还是同一种东西，但人们已经找到了降低错误率、让它真正变得有用的方法。
不过，这些成果究竟有多可复现，仍然不清楚。许多成就是私人公司完成的，它们没有披露到底投入了多少资源。一次成功到底用了价值 100,000 美元的算力，还是 1,000,000 美元？我们不知道。我们也不知道成功率：他们展示出来的这个问题，是他们唯一尝试的问题，还是其实看了 10 个、100 个问题之后才挑出一个？
所以，结果虽然令人印象深刻，我们目前却没有足够数据判断：未来这种成功会不会变成一种完全常规的事情；还是说，你必须花 100,000 美元、用几个月时间、配一个 10 人团队，才能得到这样的结果；甚至也许只有我们真正关心的问题里 1% 适合这种方法。我们确实还不知道。不过已经有人在努力用更科学的方式做基准测试。
最近的一项挑战，字幕里称作 “First Proof Challenge”。它用 10 道研究级问题测试最新模型；这些题原本已有答案，但答案被保密。最好的模型大约能做出 10 道里的 5 到 6 道，属于中等难度的研究级数学题。这已经说明，日常研究里有相当一部分常规任务，现在可以交给 AI。
代价是这些工具可能很贵。
速度的代价：编程退化、协作节奏与 AI 工具定位
有些任务一次运行就需要几百美元的计算成本，而且它们有时仍然失败：花掉所有这些算力，最后什么有用的东西也没得到。
我们在编程领域已经看到一种很明显的权衡。许多资深程序员报告说，有了这些工具之后，写代码的能力提高了 5 倍、10 倍，甚至 100 倍；可与此同时，他们也能感觉到自己正在失去手写代码的能力，有时甚至已经无法真正审查这些 agent 生成的代码。这里存在取舍：速度并不是一切。
我非常喜欢数学里的协作。其实我到职业生涯相对后期才意识到，它对我有多重要。研究生毕业以后，我学到的很多数学，都是通过和不同领域的数学家、科学家一起工作获得的：我把我知道的教给他们，他们把他们知道的教给我，于是我的知识面变得宽得多。
如果你和一个合作者一起工作了很长时间，会有一个阶段，你们的思维几乎像是调到同一频道。就像一个非常亲近的朋友或家人，聊了很多年以后，有时你们能替彼此把句子说完，你知道对方下一句要说什么。长期合作也会出现这种状态：你刚扔出一个想法，甚至一句话还没讲完，对方已经懂了，并且能接着往前跑。
人们也尝试把 AI 当作这样的合作者。AI 当然可以和你对话，但它们有时会犯错，有时又会很谄媚，只告诉你想听的话。更重要的是，现在和这些工具的互动仍然有点“个人化”、割裂。我试过让两个人面对面合作时同时带一个 AI 参与，结果 AI 会打断节奏。它们还不是真正意义上像人类合作者那样流畅、自然地交谈。也许未来会做到，但现在还没有。
直到最近，这些系统也不会真正从你们的对话关系中持续学习。和人类合作者不同：你们第二天再见，可以很快从昨天的地方继续；哪怕是多年没见的老合作者，也可能很快捡起以前的线索。AI 当然有一定上下文，也可以记住一些东西、做笔记，用这些方式模拟“记忆”，但你还无法像和一个非常亲密的合作者那样，与 AI 形成真正的思维调谐。
所以，就我自己而言，我其实没有太多用这些工具直接参与核心解题。到目前为止，我觉得它们更擅长辅助性任务：比如查文献、检查证明、写一点代码，或者校对我写过的东西，看看哪里还能收紧、写得更精确。我发现和 AI 一起工作的节奏，还不是我最喜欢的节奏；我更喜欢和人类合作者一起工作。当然，这可能只是当前技术阶段的问题。也许未来 AI 会更会聊天，与它互动也会更像与人互动。
但这又把我们带到一个相当危险的节点：整个科学事业的资助和人才结构可能会受到影响。一方面，这些工具让我们以更快的速度制造科学的“产出”，或者看起来像科学产出的东西，但代价可能是吃掉培养下一代科学家的“种子粮”。
比如，我们会把一些训练型问题交给研究生，当作他们最早的项目，让他们获得一点认可，同时积累职业训练和研究经验。而现在，AI 已经能处理这类问题，甚至复制不少这一级别的论文。如果你用这些 AI 替代研究生，AI 当然可以生成研究生水平的论文，但我们就得不到下一代学生了。
而且，如果我们不继续“消化”这些 AI 产出，把它们变成下一代人类和 AI 都能继续建立其上的知识基础，我们最终可能会让整个科学社会停滞下来。
别吃掉种子粮：下一代科学家、基础科学与公众理解
到那时，我们也许仍然可以把现有技术能够做到的一切继续优化到极致，却不再真正产生非常原创的新思想。因此，我们需要更公开地讨论：基础科学到底是什么，它有什么用；为什么由好奇心驱动的研究仍然重要；为什么我们仍然需要一个由人类组成的共同体，去探索一些东西——有时很慢，有时采取的方式甚至没有最新 AI 模型那么“高效”。
同时，我们在人类研究过程中得到的那些洞见，也应该更多地分享出去，做更多面向公众的传播。我认为今天普通大众能够看见科学的“可见产出”：他们有手机、有互联网、有 GPS 等等。但很多人看不到背后的整个过程，也看不到对数学和科学的基本理解，本身能给人带来什么。
对数学和科学有基本理解，会让你周围的世界没那么可怕，也清晰得多。我觉得现在很多人都生活在一种焦虑状态里，因为这个世界实在太复杂了。
我们过去没有像强调那些“硬”的技术产出一样，去强调科学这些更柔软的价值。但科学确实会给人的思考带来某种清晰度，这些东西有价值，也需要得到支持。
每年四次，我们会印一本值得你放下手机来读的杂志。Big Think 的高级纸质杂志使用定制插画，并汇集世界上一些最重要思想家的专业洞见。没有 AI 垃圾内容，也没有靠愤怒博眼球的诱饵，只有给好奇者的大思想。支持你希望这个世界拥有的媒体，请前往 bigthink.com/membership 加入会员。