이미지: The Decoder
摘要
- 菲尔兹奖得主陶哲轩在提交给2026年国际数学家大会(ICM)的文章中警告,AI可能给数学界带来堪比20世纪初"基础危机"的混乱
- 他指出,这次受到考验的不是数学真理本身,而是关于什么算作成果、功劳归于谁的隐性价值体系
- 他引用"First Proof"项目的实验结果:在10个未公开的研究问题中,有7个至少获得了一个AI系统的通过判定
- 발표
- 테렌스 타오, 2026 국제수학자대회(ICM) 제출 에세이
- 비교 대상
- 1900~1930년 수학 기초 위기(러셀의 역설, 괴델 불완전성 정리)
- 실험 근거
- 퍼스트-프루프 프로젝트 2차 라운드, 미공개 연구문제 10개 중 7개가 AI 4개 시스템 중 최소 1곳에서 통과 판정
- 실험 비용
- 문제당 수십~수백 달러
- 검증 지연 사례
- 에르되시 문제 데이터베이스에 검증 안 된 AI 생성 제출물 수십 건 누적
- 지침 문서
- 2026년 6월 공개, 국제수학연맹 지지 '라이덴 선언'
- 타오의 기준
- 저자가 전문가 수준으로 명확히 설명하지 못하는 결과는 게재 보류해야 함
- 타오의 AI 활용
- 문헌 검색, 도표 제작, 텍스트 완성, 슬라이드의 논문 변환에 한정
危机的性质发生了变化
菲尔兹奖得主陶哲轩在提交给2026年国际数学家大会(ICM)的文章中警告,AI可能给数学界带来自20世纪初以来最大的危机。他写道,数学界不应执着于"AI能做什么"这一问题,而应正面面对一直被搁置的问题:什么应被视为研究成果,功劳归于谁,以及什么才能称得上"理解"。
陶哲轩将这一情况比作1900年至1930年间震动数学界的基础危机。当时,罗素悖论和哥德尔不完备定理迫使数学家们把此前默认略过的前提一一揭示,由此建立了支撑了一个世纪的严谨体系。陶哲轩指出,如今受到考验的不是真理的自洽性,而是那些从未被明文规定的惯例——即"什么算作贡献、什么应被奖励、能否说机器完成了这项工作"。
AI已经在解决问题的证据
陶哲轩将自己的工作假设概括如下:"AI工具不久将能够以合理的成功率、质量、监督水平和成本,完成相当一部分研究级别的数学任务。"他所引用的依据是First Proof项目。在第二轮实验中,研究团队让4个AI系统在受控条件下解答10个尚未发表的研究问题,结果有7个问题至少获得一个系统的通过判定——几乎是无瑕的解答,或只需稍作修改即可,而每个问题的成本仅为几十到几百美元。
陶哲轩指出,数学的多重目标——解决问题、构建理论、形成学术共同体、培养下一代——原本紧密交织在一起,而AI有可能切断这种联系。在这里,他引入了古德哈特定律的概念:一旦某项指标本身成为目标,它就不再是一个好的衡量标准。他认为,生成式AI天生倾向于追求"看起来好"的结果,而非实际成果,因此尤其容易陷入这一陷阱。AI行业的投资结构也加剧了这一问题,因为它恰恰奖励了数学家们长期以来用作深层目标替代品的、易于引用、可用基准衡量的成果。
证明堆积的速度,验证跟不上
陶哲轩警告称,如果他的假设成立,数学可能会从证明稀缺的时代,转变为证明泛滥的时代——AI生成的证明将以任何人都无法全部确认、阅读或消化的速度堆积。他指出,埃尔德什问题数据库中已经积累了数十份AI生成的提交,却没有任何专家出面加以验证。
经AI打磨的证明还存在另一个问题。人写的证明中难免会留下自然的"摩擦感"——精心构造的辅助定理、明显改动过的符号、显然反复修改过的段落。而过度打磨的AI证明会将这些噪音和信号一并抹去,变成"读起来容易,但从中学不到东西"的文字。陶哲轩写道:"人类撰写的说明中的'瑕疵',实际上可能对读者真正有帮助。"
《莱顿宣言》与陶哲轩的判断标准
作为具体指引,陶哲轩提出了2026年6月发布、获得国际数学联盟支持的《莱顿宣言》。他本人设立的原则也很明确:"除非能令人信服地证明,作者本人能够对自己的结果进行准确、恰当归功、且达到专业水准的清晰阐述,否则该结果不应被发表。"他认为,即便是经过形式化验证的证明,如果没有人能够真正解释清楚,也应被视为未完成。
他还补充说,培养青年数学家需要特别注意。数学家应守护自身工作中"不可化约的人类维度",并严格限制AI工具的使用。仅靠生成答案正确的作业,培养不出真正的数学家。陶哲轩本人表示,他仅将AI用于文献检索、制作图表、补全文本,以及将幻灯片转换为论文格式等工作。
陶哲轩这篇文章与近期菲尔兹奖得主蒂莫西·高尔斯(Timothy Gowers)和数学家彼得·萨纳克(Peter Sarnak)之间的争论——即LLM虽具备真正的数学能力,但在真正的新想法面前仍有局限——立意不同。高尔斯和萨纳克问的是"AI能做什么",而陶哲轩问的是"数学这个学科本身想要什么"。
编辑视角
这篇文章令人不安之处,不在于人们担心AI的实力,而在于担心它的实力"半生不熟"。如果完全解不出来,忽略即可;如果完美解出,验证一下就够了。真正的问题出在像First Proof实验那样,十个问题里能像模像样地解出七个的那个区间。这里发生的不是质量下降,而是数量的爆炸式增长,埃尔德什数据库中堆积的未经验证的提交正是证据。验证由人来做,而生产由机器来做,瓶颈必然会卡在验证这一端。
长期经历论文审稿的人对这种结构并不陌生。审稿人不足一直是学界的老毛病,而一旦投稿量突然增至三四倍,这种慢性病就会变成急性病。陶哲轩提出的解决方案不是依靠基准分数,而是回归到"作者能否在专家面前解释清楚自己的结果"这种口头答辩式的检验,这一点意义重大。这意味着,机器生产成果的真伪,最终要通过人类的解释能力来加以验证。
同样的问题很快也会降临到国内的数学与科学界。无论是学位论文答辩、学术会议报告,还是研究经费评审,都很快需要一套询问"这一结果中有多少是AI完成的"的程序。目前能做的准备很简单:把AI工具的使用范围限定在文献检索、初稿撰写等辅助性工作上,并预先制定规则,要求核心证明或论证必须由作者本人消化到能够口头进行辩护的程度。可以预见,未来几个月内,参考《莱顿宣言》等指引的学会与期刊,可能会陆续出台AI使用披露规定。
评论