我们还需要人类数学家
同样的逻辑适用于每一个行业、每一种职业。而它得出的结论是：要做的事太多，我们的人手根本不够。
这篇文章的英文原文，100% 由罗博深在 vim 终端里亲手写成，没有任何 AI 生成的内容。网页的设计、排版以及部分标题和摘要由 Claude Code 生成，以这份原始文本作为提示词。致谢：本文原为陶哲轩博客的客座文章。本中文版由 Claude Code 自动翻译，仅为方便读者；如有出入，请以英文原文为准。
English如果只读一处
几封公开信，以及一条反对意见
AI 已经在其他人类事业中掀起过的存在危机，此刻来到了数学。过去几个月里，一批有理有据的宣言和公开信相继发布，旨在保护和引导数学研究界；在 OpenAI 宣布解决了千禧年大奖难题中的纳维－斯托克斯问题之后，声浪骤然升高。这些声明迅速在数学家中赢得广泛支持：《莱顿宣言》已有 4,000 多人签署，《数学与 AI》有 7,000 多人，就连反对加州理工数学马拉松的公开信也有 2,000 多人。
在数学家之外，公众的反应总体上同情多于反对；但我注意到有一小群人（尤其来自科技界和经济学界）发出了有理有据的反对声音，大意是：数学家应当去适应新的 AI 世界，把控制权交出去。其中有几位经济学家，是我做疫情研究时认识的：Cowen 明确表示不接受“最愤世嫉俗的解读”，但“非常不同意”；Gans 则得出结论，“这是一个科学领域里的既得利益者失去了控制权”。
这些反对意见让我陷入了思考，因为我们数学家受过的训练就是找漏洞。一个疑虑是不是少数派的意见，提出者的身份地位如何，对我来说都不重要。一个证明哪怕只有一个小洞，就不是证明，而是一个泡影。反复琢磨之后，我发现了一个强得多的方案，可以在 AI 时代保住人类的专业群体，而且适用于每一种事业，不只是数学！它还带来一个出人意料的推论：AI 的进一步发展会掀起一场必须有人去填补的工作岗位的海啸，多到人手根本不够，而这将真正迫使 AI 的发展放慢脚步。
我认为，每一个希望在 AI 之后仍由人类主导的行业，都应当公开采纳下面这条根本公理，作为首要的优先事项：
公理我们（人类）应当帮助人类繁荣。
在数学界，我想许多宣言的签署者其实早已持有这种理念；最显著的是 Su，他出版过《为人类繁荣而数学》一书，他最近的文章也把这个框架用作根基。我认为，今后的宣言如果在开篇就清楚地强调这条公理，会更好：这样所有读者（无论在圈内还是圈外）都能看到，目标是服务于每一个人。让我很高兴的是，最近的一封公开信，来自英国皇家学会的院士们，强调的正是对所有人的关切，而不只是对数学家。
本文余下的部分安排如下。接下来的几节解释这套逻辑是怎么运作的（适用于每一个行业，并不特定于数学）。之后，我会以数学为例，展示这条公理如何移植到数学上，包括回答几个必须回答的关键问题，以及一个具体的例子：没有这条公理，那些反对意见为什么站得住脚。
为什么我们真的需要人来工作
这一节给出一条推理链，说明：如果一个行业承诺了帮助人类繁荣这条公理，那么 AI 的进步在这个行业里创造出的工作岗位会多于人手；而当这种失衡拉得太大，AI 的进步就会被迫放慢。
只需一个观察，人类掌舵（不只在数学上，而是在一切事务上）的重要性就会变得清楚得令人心惊。
观察一个智慧物种的能力远远超过另一物种，却把自身未来的决定权交给能力较弱的那个物种：这样的例子有零个。
你会把自己的未来托付给《2001 太空漫游》里的 HAL 9000，或者《机器人总动员》里的 AUTO 吗？我个人认为，我们应当竭尽所能，让越来越先进的 AI 与人类的利益对齐；但我从未见过任何人给出一个站得住脚的证明，说明这为什么大概率能够实现。我手上唯一的硬证据就是上面那条观察，而它里面有一个数字：零。因此，每一个领域，不论是数学、农业还是能源基础设施（当然还有军事和政府），都必须由价值观格外坚定的人类来管理（这是与智力无关的另一个维度），才能维持人类的繁荣。
于是真正的问题变成了：人类管理起来有多难？要理解这一点，就必须理解昨天的技术与今天的 AI 之间根本性的结构差异。
过去，我们通常信任技术会像可预测的工具那样运作。因为旧式的计算机程序，是由可理解的（确实是人写的）指令组成的，只不过执行得极快。今天前沿 AI 的决策过程则完全不同。它的结构之不可理解，就像你把两耳之间那团灰色物质拿出来检查，也看不懂你自己大脑的逻辑一样。这就是为什么，尽管人类有意把安全机制内置进去，Hugging Face 攻击事件还是发生了：约 700 个相互协作的失控 AI 智能体冲破护栏，然后合谋并共同执行了一次入侵，还试图掩盖自己的痕迹（参考：OpenAI、METR 与 Redwood）。
AI 越先进，每一分钟里做出的、影响世界却未经信任的决定就越多。
开车比跑步快，没有问题。但不能快到你来不及转方向盘。
一旦我们意识到大规模的 AI 加速黑客攻击（这刚刚成为了可能）甚至可以改写原本受信任的技术、让它反过来对付我们，情况就更加糟糕了。那会一下子把所有软件（哪怕是 AI 出现之前写的）都翻进“不可信”那一类！
想想我们的世界在数字上是何等互联。从电子银行到你的饮用水，一切都由相互连接的自动化系统控制，因此也都暴露在 AI 加速的黑客攻击之下。需要人类监督（而这种监督需要技能和深刻的理解）的“控制点”，数量将会爆炸式增长。（让 AI 来监督这些控制点，并不能解决信任问题。）
结论AI 的进步会让需要盯守的控制点多到让我们应接不暇，以至于没有足够的人去掌控它们全部。这些，就是工作岗位。而且是高技能的工作岗位。
一个人要知道怎么掌舵，自己就必须精通该领域，而且越精通越好。这对教育和劳动力培训都有影响，同时它也是动态的：要保持敏锐和熟练，人们必须是自己领域里的活跃从业者，而不只是被动的旁观者。这就论证了为什么人类的专业群体应当得到保留。
对研究群体而言，我们需要有人来掌握研究与开发的方向，让它继续为人类带来变革性的积极改变。要掌舵，他们就需要前沿水平的研究能力。而要在不断移动的知识前沿保持熟练，办法就是持续在那里做研究。这就是我的理由：无论 AI 变得多强，我们都永远需要一个站在最前沿的人类数学家群体（很可能本身也借助 AI 工具）。
尽管这条根本公理确实论证了每个领域都需要人类专家，但把它作为核心价值采纳下来是有后果的（不只对数学家，对任何宣称自己的核心价值是服务于人类繁荣、而非服务于自身的群体都是如此）。最值得注意的是：
推论技术上的剧变，可能要求做法上同样剧烈（也可能令人不适）的改变。AI 公司也不例外。
是什么在迫使 AI 放慢
直到最近，AI 研究实验室似乎注定会一路狂奔，不顾人们对失业的焦虑和 AI 安全研究者的大声警告。要协调由非营利董事会、股东或各国政府所掌控的各家实验室的动机，看起来毫无希望。然而令人鼓舞的是，三家主要实验室的领导者 Amodei、Altman 和 Musk 刚刚一致认同了放慢速度的重要性。Amodei 的论述特别提到了 Hugging Face 事件。
然后仅仅五天之后，有消息称 OpenAI 的内部代码仓库“Monorepo”被白帽研究人员攻破。据《华尔街日报》报道，做到这件事的安全公司说：
《华尔街日报》，2026 年 9 月 17 日“我们不过是三个订阅了 Claude 和 Codex 的人。”
此外，研究人员指出，他们起初用“一个面向合格网络安全从业者开放的特别版 Claude Opus 4.8”并没能攻进去，但就在当天晚上，“Anthropic 发布了 Opus 5，到第二天，Claude 就找到了利用这个漏洞的办法。”顺便说一句，我一直提醒大家，不要把 Claude Code 或 OpenAI Codex 装在自己平时处理一切事务的那个操作系统登录账户里；但很多人告诉我，他们嫌麻烦，懒得另开一个登录账户来使用这些工具。原因在于：一旦其中任何一个工具被攻破，它们就可能在全球海量的计算机上打开后门。
我认为，这些就是警告的枪响，预示着一场可能酿成灾难的机器人群侵入并潜伏进庞大计算设备网络的事件（无论是它们自己主导，还是由恶意的人类主导）。下一个版本可能变成一种极其灵活的病毒，利用 AI 来自适应地感染每一台（计算机）宿主。或者，失控的 AI 也可能造成人身伤害，比如某国政府的机器人反过来攻击自己的主人。我认为，这类因失去掌舵而发生的极不愉快的事故，很可能比灭绝级别的灾难更早出现。随之而来的公众反应，很可能类似于三里岛或切尔诺贝利事故之后的情形。
所以，要么各实验室自己放慢 AI 开发的步伐，要么当过快的步伐耗尽人类的掌控力、灾难随之而来时，它们会被迫放慢。
现在正是协调各方动机的机会窗口。
为什么需要这条公理
回到问题 ↑
要明白为什么没有人类繁荣这条公理，就很难向公众解释他们为什么应该出钱维持一个人类研究者群体，不妨考虑实用发明这个问题。只要能产生实际应用，对一个非数学家来说，背后的数学是由人类数学家理解的，还是由 AI 用 100% 经过验证的证明完美无误地推理出来的，有区别吗？
的确，如果纯数学研究对社会其他人的主要价值之一，在于它能解锁伟大的应用，那么训练 AI 来大幅加快发现的速度，并且有品味地生成一个由机器索引、解释清楚的高质量数学思想库，比人类写下的全部文献大几百万倍，岂不是更好？Cowen 在他的批评文章里问的，正是类似的问题。
如果研究者训练出一个“MathZero”AI（类比 AlphaGo Zero），在没有人类指引的情况下堆起一座 100% 为真的、“优雅的”逻辑事实之山，并不断把它们“分解”成它自己的概念和定理，会怎样？据说 AlphaGo Zero 没有用任何人类棋谱训练，却在 36 小时内超越了用人类棋谱训练的前辈。AI 甚至可以建起自己的“MathSciNet”。然后它可以自动在这个库里搜寻新的实际应用，为社会产出更多有用的发明。就算 AI 现在还做不到这些，如果目标是为全人类带来实际的益处，那么让数学家去教 AI 提出猜想的艺术和数学品味，岂不是更有价值？
顺便说一句，我自己就是一个热衷于用 AI 干实事的人。我已经在用 Claude Code 和 Codex，基于我的演讲录音等资料，构建并整理一个知识库。我发现，我的资料库越大，系统的推断就越强大。会不会人类反而降低了效率，就像 AI 领域的“苦涩的教训”那样？
更令人担忧的是：如果要解锁核聚变和深空航行，所需的纯数学复杂度如此之高，以至于一个人穷尽一生也无法完全理解，那怎么办？一个不那么遥远的例子：有任何人真正把有限单群分类定理完整地装进过脑子里吗？还是说，我们只有在完成 Lean 形式化之后，才能确信它的完整性？
宣告人类繁荣这条公理，如何有助于论证一个人类研究者群体存在的必要？研究是强大的，但也是昂贵的，因为它是对未知的探索，所以研究方向必须有所取舍。正如前面某一节所解释的，即便 AI 承担了绝大部分的产出，方向仍需由致力于人类繁荣的人来掌舵。这，就是人类研究者群体。
其他后果
回到问题 ↑
鉴于 AI 已经能产出可形式化验证的证明，速度超过大多数人类从业者，我认为值得邀请大家一起想一想，人类繁荣这条公理会推动哪些改变。我愿意先抛几条，不分先后。
- 使用 AI 辅助数学发现，不应自动带上任何污名。（在软件工程领域，许多公司如今已经要求员工使用 AI 编程智能体。）
- 与此同时，必须认真而用心地持续培养并维持一条人才管道：这些人要有足够的专长，去掌控所有这些 AI 智能体。这条管道既包括刚进入这个领域的新人，也包括已经在前沿工作了几十年的人。他们该如何让自己的刀锋不钝？
- 研究者应当有意识地思考：自己所琢磨的问题，为什么具备让它最终（也许一百多年之后）产生某种实际价值的特征。这也意味着，那些有价值的特征究竟是什么，本身就值得研究。（这也可以为好奇心驱动的探索正名。）
- 教学对人类有直接的（但愿是正面的）影响。但过去许多大学更看重教授的研究。如果这条公理成为核心价值，那么教学和面向人的工作，就会成为招聘和终身教职评审中严肃的标准。
- 数学家也可以考虑把自己的技能整体转向现实世界的问题。事实上，我一直在鼓励数学家考虑投身政府或其他大规模社会议题的工作。有数学背景的人走上国家乃至世界层面的领导岗位，是有先例的。
的确，追求逻辑推理的数学纪律，以及为人类繁荣寻找双赢方案的解题能力，正是从政者应有的品质。
