QingXuJiaZhi
3.16D
V2EX  ›  随想

陶哲轩等数学家反对 AI,论失败的意义

  •  
  •   QingXuJiaZhi · 16h 14m ago · 3504 views
    [反 AI 声明] 本文 AI 含量为零,未使用 AI 辅助创作,也未使用 AI 润色


    2026 年 9 月 12 日,陶哲轩、邓煜等 25 位菲尔兹奖得主联合警告,AI 攻破数学难题可能有害。这件事有点反直觉,很多人不理解,为什么人类破解难题就是大好事,而 AI 破解难题却是坏事?

    如果你了解人类数学的发展历史,就很容易理解了。在数学专业的圈子里,最想得到的从来不是一道难题的答案,而是在解决难题的过程中发展出来的全新数学工具。

    数学是一种“工具”,只有在解决难题的过程中经历无数次失败,才可能改善工具、发明新工具。有无数的商业案例表明,如果你独占一种技术,完全不让别人使用,那么别人就会有极大的动力去研究,很有可能找到新的方法来实现这种技术。

    因此,一种比较常见的策略是自己只保留一部分最新技术的机密,然后低价卖技术给别人,让别人刚好卡在一个尴尬的处境:自己研究的成本太高,直接买反而更便宜。这就能打击别人研究的积极性。AI 破解数学难题恰好实现了类似的效果,人类自己不研究数学,直接向 AI“采购”数学答案,长此以往,对于人类来说数学这个工具就消亡了,再也难以发展。

    在现实生活中,有很多“头铁”的人,大家说这件事肯定会失败,但他偏要亲自去闯一闯,最终果然失败了。但是,失败就一定是吃亏吗,失败就一定没有意义吗?我认为,“头铁”是人类最宝贵的品质之一。失败是学习的最佳途径,甚至可以说,失败是学习的唯一途径。如果考试允许直接抄答案,那还有多少人愿意学习呢?

    陶哲轩说,传统研究像徒步去寻找一处瀑布,人会走错路、认识地形、发现岔路,甚至在途中看到另一处值得探索的景观; AI 则更像一架直升机,可以直接把研究者送到瀑布前。虽然过程效率提高了,但沿途形成的那张“地图”不会因此自动出现。
    69 replies    2026-09-14 01:40:12 +08:00
    failman
        1
    failman  
       16h 5m ago
    AI 也是一种“工具”,同样也会失败
    QingXuJiaZhi
        2
    QingXuJiaZhi  
    OP
       16h 3m ago
    @failman AI 失败了,对数学有帮助吗?
    yidinghe
        3
    yidinghe  
    PRO
       16h 3m ago
    不依靠提升人类的认知来获得超出人类认知的知识,后果是无法预料的。
    riscv
        4
    riscv  
       15h 58m ago via Android
    人类现在不知道 alphago 为什么走这步棋,也明白不了神经网络的原理,以后也会看不懂 ai 的数学成果。这些旧势力不过是螳臂当车罢了。
    QingXuJiaZhi
        5
    QingXuJiaZhi  
    OP
       15h 53m ago via Android
    @riscv 数学不存在人类看不懂的问题。因为,但是人类看不懂的数学证明过程,都不能判断为“正确”。

    AI 给出了一个正确的证明过程,本身就意味着人类看懂了。(如果没看懂,谁敢说对错)
    Lockroach
        6
    Lockroach  
       15h 50m ago
    支持基础学科减少 ai 的影响,应用学科用 ai 可以。基础学科的探索过程本身就是有价值的,不能全使用 ai 替代
    Jim142857
        7
    Jim142857  
       15h 38m ago
    @QingXuJiaZhi 看懂和理解是两码事。一道数学题你能对着答案一步步 follow 下来,不意味着你理解了答案为什么在这里是这么做的。后者比前者宝贵多了
    Ley
        8
    Ley  
       15h 36m ago
    可以理解他们的担忧,甚至作为外行认同他们的观点
    但是另一方面,如果 AI 真的能够远超人类去解决数学问题,那么任何试图阻挡这个趋势的努力,恐怕都会失败
    L4Linux
        9
    L4Linux  
       15h 34m ago via Android
    同样的话其实能套在编程上,最终还是要人懂才行。汇编语言,现在懂的人也不在少数。
    jerseyhero
        10
    jerseyhero  
       15h 34m ago   ❤️ 2
    可能数学家也怕像程序员一样失业吧
    june4
        11
    june4  
       15h 33m ago
    @QingXuJiaZhi 谁说人类能看懂的? ai 给了几千万行 lean 证明,然后人类去一行行读?人类只要证明 lean 这个系统是正确的就行。到这份上人类已经不能明白推理过程和思路,也就不能指挥 ai 干活,以后只能全靠 ai 自主发挥了,人脑可以退休搞搞娱乐了。
    413420
        12
    413420  
       15h 33m ago   ❤️ 1
    别的不说,我觉得论坛上就该全是纯人类创作的文本,我很喜欢
    L4Linux
        13
    L4Linux  
       15h 31m ago via Android
    @june4 如果人看不懂,绝对不能说这个证明是正确的。
    QingXuJiaZhi
        14
    QingXuJiaZhi  
    OP
       15h 29m ago via Android
    @Ley 数学里有一些猜想很难证明,每次证明都会引起全球轰动,但是,数学家们高兴吗,为什么高兴呢,对此很多人存在误解,以为数学家是因为知道了答案而高兴,其实最让他们高兴的是为了解决这个问题而发明出来的新方法、新数学工具,他们最想要的不是答案,而是新工具。
    aitobox
        15
    aitobox  
       15h 26m ago
    我觉得这是因为目前 AI 的数学能力还没有完全碾压人类;如果有一天,它像围棋一样,完全碾压了;甚至为什么这么走会提高胜利,为什么这么证明会得出结论,人类怎么也研究不明白,但是结果就是对的;

    被碾压的围棋选手咋办的? 估计发展是一样的;
    QingXuJiaZhi
        16
    QingXuJiaZhi  
    OP
       15h 21m ago via Android
    @aitobox 数学界有很多猜想,超级计算机怎么算都对,找不到反例,但只要没有证明,那就只是猜想。

    结果正确与有证明过程,是完全不一样的。
    wsseo
        17
    wsseo  
       15h 19m ago
    无论如何。AI 又炒作成功了。
    zeni123
        18
    zeni123  
       14h 48m ago
    所以 AI 真的能攻破难题咯...
    QingXuJiaZhi
        19
    QingXuJiaZhi  
    OP
       14h 44m ago via Android
    @zeni123 能,AI 的影响力仍然被低估,以后每年 AI 都会搞出大新闻。现在 AI 对人类社会的渗透率还非常低,发展前景非常巨大。
    QingXuJiaZhi
        20
    QingXuJiaZhi  
    OP
       14h 40m ago via Android
    @zeni123 举个例子,在诺基亚时代,没几个人能想象到互联网+智能手机的渗透程度会达到取代钱包的程度,纸币都几乎被“消灭”了,你现在看理所当然,但当年是很难想象的。
    QingXuJiaZhi
        21
    QingXuJiaZhi  
    OP
       14h 36m ago via Android
    要知道当年流量费极高,公共 WiFi 还是非常少见的东西,麦当劳只提供每人半小时的 WiFi 服务,那种状态下是不可能想到手机取代钱包的。

    我们现在对 AI 的应用场景的想象,肯定也是非常受限,非常保守。
    akira
        22
    akira  
       12h 56m ago
    人类在遇到问题的时候,需要的不仅仅是解决这个问题, 更重要的是,从这个问题中能学到什么,未来遇到 “同类“ 问题,是否有通用解法,能不能进一步抽象总结,形成规律,形成系统性。

    回来看 我们现在用 AI 的时候,为什么要强调复利,强调将知识沉淀。不就是 需要将处理 单个问题 的能力, 尽量向上抽象成处理一类问题么。 公司里面 为什么需要做 sop ,也是一样的。

    解决一个数学难题,你流弊。然后呢,没有新的数学工具的出现,没有新的数学理论, 整个数学大厦和之前,并没有本质的区别 。

    解决了 无数个 有理数领域的问题,也不如一个 无理数的概念的提出。
    解决了 无数个 实数领域的问题, 也比不上一个 复数概念的提出。

    一道数学题难,但是你知道用现有数据工具一定能解答,那他也就那么一回事。但是如果大家都认为 现有工具无法解答,希望这个题目的解答过程中,有人能发现创造新的工具。 然后你现在告诉大家,他就是形式化解决了,那也就那样咯。
    ndxxx
        23
    ndxxx  
       12h 52m ago via Android
    @zeni123 AI 攻克数学难题的本质:大模型通过批量学习最新的 paper ,蒸馏思路,然后去遍历那些犄角旮旯的历史遗留未解题目。

    本质上就是一个无脑民工刮彩票的模式,对于数学家的坏处:7/24 无休的 LLM 的遍历工作,压缩了前沿数学家的工作范围,也就是说一大批数学家的前期调研乃至工作内容本身都被 LLM 给干了,经费也没了。另外实际上 LLM 砸数学家 99%饭碗的时候也确实没有什么真的创新,反而让人类数学家的真正发散性的创新因为可见的经费压力给抹除掉了😅
    js9528
        24
    js9528  
       12h 5m ago via iPhone
    陶哲轩说,传统研究像徒步去寻找一处瀑布,人会走错路、认识地形、发现岔路,甚至在途中看到另一处值得探索的景观; AI 则更像一架直升机,可以直接把研究者送到瀑布前。虽然过程效率提高了,但沿途形成的那张“地图”不会因此自动出现。
    如同反对泰山装电梯。
    unused
        25
    unused  
       11h 50m ago via Android
    AI 也可以试错,也可以探索发展新的工具
    QingXuJiaZhi
        26
    QingXuJiaZhi  
    OP
       11h 48m ago via Android
    @unused 是的,但那不是数学工具。
    unused
        27
    unused  
       11h 46m ago via Android
    @QingXuJiaZhi 为什么不是?强 AI 可以做人能做的任何事。
    QingXuJiaZhi
        28
    QingXuJiaZhi  
    OP
       11h 46m ago via Android
    @js9528 如果泰山安于现状,不介意被人类圈养,也不打算发展自己的技术,那么泰山自己不会反对装电梯。

    现在,有一部分泰山说,我想自己研究制造电梯。
    QingXuJiaZhi
        29
    QingXuJiaZhi  
    OP
       11h 44m ago via Android
    @unused 强 AI 在未来,你怎么确定从现在开始锁死人类数学发展,是一条更快实现强 AI 的道路呢?
    unused
        30
    unused  
       11h 42m ago via Android
    @QingXuJiaZhi 那你怎么确定用现有 AI 解决数学问题不能促进强 AI 的实现呢?
    nickwzy129
        31
    nickwzy129  
       11h 41m ago
    不过是又一个 alpha go 时刻。
    QingXuJiaZhi
        32
    QingXuJiaZhi  
    OP
       11h 25m ago
    @unused 正文已经讲了,现有的 AI 无法提供新方法、新工具。

    一般来说大家喜欢把数学称为“大厦”,一直以来人类自己破解难题,会发现新方法新工具,相当于给数学大厦添砖加瓦,越来越完善。但 AI 破解难题,用的是旧范式,数学大厦不会改变,没有产生新东西。
    unused
        33
    unused  
       11h 12m ago via Android
    @QingXuJiaZhi 并没有证明这个过程中新方法新工具是必须的。可能强 AI 的实现只依赖于某几个具体问题的解决,甚至现有的数学工具已经足够,只需要某个工程上的改进。到时候你所谓的新工具就可以完全用 AI 生产。
    js9528
        34
    js9528  
       11h 8m ago via iPhone
    @QingXuJiaZhi 如果泰山安于现状,不介意被人类圈养,也不打算发展自己的技术,那么泰山自己不会反对装电梯。有了交通工具,不会阻碍你锻炼,锻炼你的体魄,只有你的懒惰才会。
    QingXuJiaZhi
        35
    QingXuJiaZhi  
    OP
       11h 4m ago
    @unused 如果一道难题的答案是苹果,人类努力解题过程中产生的新工具是西瓜。

    AI 解题可以得到苹果。人类解题可以得到苹果和西瓜。在未来具有极大不确定性的前提下,肯定是能全要就全要,技多不压身。
    QingXuJiaZhi
        36
    QingXuJiaZhi  
    OP
       11h 0m ago
    @js9528 正文里关于商业技术的案例就是说这个问题的。人类不是一个完美的物种,并不存在“超绝的意志力”,聪明的做法是明知一件事会打击积极性,那就尽量避免。孟母三迁,找个好环境很重要。
    unused
        37
    unused  
       10h 58m ago via Android
    很多程序员说 vibe 代码没有可读性和可维护性。实际上,随着 AI 的发展,一方面如果需要,它写的可读性会比人工写的还高;另一方面这些代码 AI 可以维护而并不必须人读懂。
    类似地,如果 AI 可以解决任何人类能解决的数学问题(包括用任何数学工具),你管它用了什么手段呢。
    就像楼上说的,这些观点只不过是害怕人被取代的防御性思维。
    QingXuJiaZhi
        38
    QingXuJiaZhi  
    OP
       10h 55m ago
    @unused

    > 如果 AI 可以解决任何人类能解决的数学问题

    问题就在于“如果”。现在 AI 并不能确保今后一帆风顺,而打击数学研究的热情却正在发生。也就是说承诺的好处不一定兑现,坏处你先吃着,这不对劲儿啊。
    js9528
        39
    js9528  
       10h 51m ago via iPhone
    @QingXuJiaZhi 短视频会严重妨碍积极性,能做到也是自己少看,而不是封了这些公司…而且研究那些问题,就算你迁一千次,我估计你也做不出一道题…我到有个疑惑 ai 都能解决那些获奖者解决的问题,方法比他们还优,他们在这方面还有存在意义不…
    QingXuJiaZhi
        40
    QingXuJiaZhi  
    OP
       10h 46m ago
    @js9528 数学家们可以发言反对,结果如何还要看双方博弈以及社会各界的反响,人类社会的规则都是这样定下来的,有时反对无效,有时反对有效。

    AI 能解题,但不能提出新工具。人类虽然解题慢,但历史上无数次提出了新工具,战绩可查。
    unused
        41
    unused  
       10h 46m ago via Android
    @QingXuJiaZhi 这个最终一定会实现的。我说的“如果”不是最终结果的如果,而是时间上的如果。就像因为会打击古法程序员热情而抵制 vibe 的论调一样,可以不情愿但这是历史的必然。好处当然有,就是 AI 正越来越多地在解决问题中起到作用。
    QingXuJiaZhi
        42
    QingXuJiaZhi  
    OP
       10h 43m ago
    @unused 如果缺少新的数学工具,最终能不能实现强 AI ,还真不一定。你猜能,我猜不能,我们都没有依据,都只是瞎猜。
    unused
        43
    unused  
       10h 33m ago via Android
    @QingXuJiaZhi 我看不出和数学工具有什么直接的联系。这轮 AI 爆发在数学上有什么新东西吗?我看没有吧。
    捋一下:实现强 AI 未必依赖新工具;有新的工具未必能实现强 AI;弱 AI 未必不能发明新工具;一旦实现强 AI 则能持续发明新工具。
    所以因为这样莫须有的猜测就不让用未免也太霸道了。
    QingXuJiaZhi
        44
    QingXuJiaZhi  
    OP
       10h 27m ago
    @unused 道理很简单:面对不确定性的未来,多准备一手肯定更好。

    举个例子,现在要去和别的部落战斗,我们有枪,我建议刀和枪都带上。你说反正不知道能不能打赢,只带刀也有可能打赢啊,那就不带枪了。
    unused
        45
    unused  
       10h 25m ago via Android
    @QingXuJiaZhi 好好好
    把刀枪都带上 = 不让用 AI
    QingXuJiaZhi
        46
    QingXuJiaZhi  
    OP
       10h 20m ago
    @unused 我拿着枪朝北面打,喊前面拿刀的兄弟稍稍挪一下去东北面砍人,别在我前面挡着枪。你说好好好,有枪了不起,不让用刀了。
    unused
        47
    unused  
       10h 12m ago
    @QingXuJiaZhi 偷换概念,明明是你不让用 AI,谁不让你用古法证明了?
    应该是用枪的兄弟击杀效率太高,影响了拿刀兄弟的积极性,发明新招式速度慢了,所以禁止用枪。
    QingXuJiaZhi
        48
    QingXuJiaZhi  
    OP
       10h 4m ago
    @unused

    我说刀和枪都带上,意思是 AI 要发展,数学也要发展。

    道路 A:用 AI 主导解数学难题,对 AI 的发展没有帮助,同时会打击数学的发展。
    道路 B:只要不用 AI 主导解数学难题,数学就能继续发展,同时也不影响 AI 的发展。

    你选哪条路?
    legendBro
        49
    legendBro  
       9h 6m ago
    让 AI 总结解决问题时发明的工具
    SiLenceControL
        50
    SiLenceControL  
       8h 55m ago   ❤️ 2
    我猜你对数学的理解不是很深,我赞同部分你的观点,但是你要知道,数学家们说的工具和你说的 AI 工具完全不是一个东西,并且大部分的名校正常科研的博士(我相信在国内读过硕博的知道我什么意思)“头铁”失败了也依然可以博士毕业,因为他们依然为人类的文明开疆阔土

    数学家真正在说的是
    1. 构建一个必要的问题这个本身就需要对数学充分的理解
    2. 在探索一个问题的时候,伴随着探索的路途中发明的工具(例如微积分)往往比单纯计算到那个不规则物体的面积更有意义
    3. 让人类理解这背后的逻辑,而不是用 AI 这种力大专飞的工具直接得到答案,数学家使用 AI 应该是自己的想法和逻辑让 AI 实现,不是让数以万记的 AI 在那挨个尝试,就像让一万只猴子在那按键盘,总规会按出你想要的句子
    SiLenceControL
        51
    SiLenceControL  
       8h 52m ago
    @SiLenceControL 我还想补充第四点,那就是鼓舞,如果全是 AI 计算好的答案等着人类验证和理解,没有新鲜血液会还想去学数学,我在大学 tutor 数学相关知识都发现跟我另一节工科课程比起来,人数连一半都不到
    QingXuJiaZhi
        52
    QingXuJiaZhi  
    OP
       8h 45m ago
    @SiLenceControL 关于第四点,在本文附言的网页里我看到一个相关的说法:人类解决数学难题的过程,能促进数学社区的形成,数学届的交流,也有利于培养新人。
    digitO
        53
    digitO  
       8h 40m ago
    只要 AI 能实现自我进化,人类让出主宰地位未尝不是一个答案,我已经不期盼于于人类的自我进化,因为很难,现代社会已经失去了优胜劣汰;硅基觉醒,未尝不是一个新的篇章
    idealhs
        54
    idealhs  
       8h 39m ago
    AI 思维链可以看的吧,数学家为什么不看呢
    cpstar
        55
    cpstar  
       8h 17m ago
    我记得工程上有不是人类大脑能设计出来的结构但能够运行,所以这算啥,有害还是有利?
    QingXuJiaZhi
        56
    QingXuJiaZhi  
    OP
       8h 8m ago via Android
    @idealhs 数学家看的。你是不是想说人类能否理解 AI 逻辑的问题?上面有讨论到。
    QingXuJiaZhi
        57
    QingXuJiaZhi  
    OP
       8h 6m ago via Android
    @cpstar 这种偶然碰到一次的事情没啥影响。AI 主要是眼看能暴力破解很多问题了,影响力很大,才需要讨论。
    yyh0808
        58
    yyh0808  
       8h 6m ago
    其实有点像奖励机制的问题,AI 时代后,应该鼓励人的失败尝试,过去的成功是无数失败经验的结论,并且为了得到正确答案,把正确答案附近的结论都探索了一遍,最后才得到的正确结论,获得大量数据。

    有点像游戏中开地图,为了开图必须把附近全部跑一遍,而 AI 后,直接开最终目的地的图,而周边仍是黑暗,并没有建立系统性对答案的理解,这种开挂的到的结论并不是研究的目的。

    目前我认为没有定论,传统方式是向前探索,但是如果未来是先用 AI 得到结论,然后向后探索,哪种方式更好,对人类这个物种本身更有价值,没有衡量标准。
    WilliamZuo
        59
    WilliamZuo  
       7h 31m ago via Android
    现在的社会不鼓励你去试错,至少国内如此。想试错先评估下自己在别人的 ai 竞赛面前有没有资本。
    zhuangzhuang1988
        60
    zhuangzhuang1988  
       7h 24m ago
    《赡养上帝》
    Overfill3641
        61
    Overfill3641  
       7h 11m ago
    没啥意义,就像各国虽然明面上签了各种协议阻止研究可能毁灭人类的武器,私底下还是会偷偷进行,都怕别人抢先一步。
    Planarians
        62
    Planarians  
       7h 6m ago
    怎么就成反对 ai 了 别断章取义好吗
    QingXuJiaZhi
        63
    QingXuJiaZhi  
    OP
       6h 55m ago via Android
    @Planarians 我标题写错了,应该是警惕 AI ,发现时 V 站这里已无法修改,我自己博客已改标题。
    v2exgo
        64
    v2exgo  
       5h 53m ago
    @ndxxx 你可别说了,很多数学难题,证明之后,其实对科技以及人类福祉发展 吊毛用都没有
    v2exgo
        65
    v2exgo  
       5h 47m ago
    如果你了解软件工程的发展历史,就很容易理解了。在程序员的圈子里,最想得到的从来不是某个功能的实现代码,而是在实现复杂系统的过程中沉淀出来的全新工具、框架和范式。

    编程是一种"工具",只有在解决难题的过程中经历无数次崩溃、重构和推倒重来,才可能改善工具、发明新工具。有无数的商业案例表明,如果你独占一种技术,完全不让别人使用,那么别人就会有极大的动力去研究,很有可能写出一个开源的替代品来实现同样的功能。

    因此,一种比较常见的策略是自己只保留一部分核心技术的机密,然后低价开放 API 或 SDK 给别人,让别人刚好卡在一个尴尬的处境:自己从零造轮子的成本太高,直接调用反而更便宜。这就能打击别人自研的积极性。AI 生成代码恰好实现了类似的效果,程序员自己不写代码,直接向 AI"采购"实现,长此以往,对于人类来说编程这个工具就消亡了,再也难以发展。

    在现实生活中,有很多"头铁"的程序员,大家说这个东西肯定写不出来、这个轮子肯定造不好,但他偏要亲自去写一遍,最终果然写砸了。但是,写砸就一定是吃亏吗,写砸就一定没有意义吗?我认为,"头铁"是程序员最宝贵的品质之一。踩坑是学习的最佳途径,甚至可以说,踩坑是学习的唯一途径。如果面试允许直接复制粘贴 AI 的答案,那还有多少人愿意真正去理解代码呢?


    现实是大家 vibecoding 飞起,古法编程被吊打
    fatigue
        66
    fatigue  
       5h 43m ago
    说的没什么毛病,就像搬起一顿重的物品,上十个人搬,和发明个起重机搬,虽然都搬动了,但明显发明起重机这个过程对人类更有意义,现在 AI 就是那个起重机,数学家担心的是遇到更重的物品时,可能以后就变成上十个起重机,而不是发明更牛逼的装置
    QingXuJiaZhi
        67
    QingXuJiaZhi  
    OP
       5h 36m ago
    @v2exgo

    > 在程序员的圈子里,最想得到的从来不是某个功能的实现代码,而是在实现复杂系统的过程中沉淀出来的全新工具、框架和范式。

    只管模仿,不管对错吗?明显错误的话,就这样长篇大论发出来?
    PrinceofInj
        68
    PrinceofInj  
       5h 26m ago
    说的粗鲁一点,本来过程是你跟你喜欢的妹子从认识到熟悉到恋爱结婚生子,这是一个很美好的过程。然后现在的过程就是你正在跟妹子谈恋爱呢,隔壁来了个五大三粗的胖子,带着四个打手,把你按住,把你妹子绑了去强奸然后生一个他的孩子。你是什么感觉?
    davidqw
        69
    davidqw  
       2h 2m ago
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   871 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 132ms · UTC 19:42 · PVG 03:42 · LAX 12:42 · JFK 15:42
    ♥ Do have faith in what you're doing.