OpenAI与Anthropic出资1500万美元,请数学家检验AI成果
新智元报道 10月6日,OpenAI一口气公开了722篇由内部AI模型生成的数学手稿。仅过一天,其中3篇就被宣布撤回。让三篇手稿一起翻车的,居然只是一处正负号错误:一篇出了错,另外两篇沿用了同一套构造,也被一并撤回。AI批量交卷之后,两大巨头联手为「验卷」买单。10月15日,Simons基金会宣布,与OpenAI、An
新智元报道
新智元报道
10月6日,OpenAI对外发布了722篇数学手稿,这些稿件均由内部AI模型生成。可刚过一天,其中3篇就宣告撤回。
三篇手稿同时被撤,起因只是一处正负号写错。一篇出了错,另外两篇沿用了同一套构造,结果一并被撤回。
AI大批量交卷,为「验卷」掏钱的则是两大巨头。10月15日,Simons基金会对外表示,已与OpenAI、
Anthropic共同承诺投入1500万美元资金及资源,用于支持数学家检验、理解并拓展AI取得的成果。
其中OpenAI拿出500万美元,还提供模型和算力,目的是把AI的进展转成人类更深入的理解与新发现。
Anthropic承诺的500万美元支持里,既有资金,也有算力和Claude使用权限。它同时坦言,要在数学乃至更广的科学研究中把AI用好,需要时间、精力和资源。
Simons基金会负责管理这笔相关资助,工作坊、会议等活动是它的用途。
说白了,这件事就是请数学家来给AI「验卷」:把那些长篇证明读懂、讲明白,再把其中真正有价值的方法用起来。
近几个月,
先是公布了10项涉及长期开放问题的研究成果,接着宣称给出了千禧年大奖难题之一——纳维–斯托克斯问题的证明,之后又集中放出数百篇数学手稿。
成果像潮水一样涌来,人类这边有点「消化不良」。
陶哲轩
陶哲轩在讲稿中提出了「证明充裕的时代」这一说法。
MIT工程教育副院长Justin Solomon做客播客节目时坦言,OpenAI那份纳维–斯托克斯证明,他读了开头几页就读不下去了。
Solomon在《Odd Lots》播客中坦言,面对OpenAI给出的纳维–斯托克斯证明,自己连开头几页都没能读下去。
AI可以快速生成长篇推导,但人类的理解并不会随之自动生成。
10月6日,OpenAI在GitHub上把这批来自内部未发布模型的成果公开,第二天更新日志里就记下了撤回3篇、修订14篇。
10月7日的更新日志显示:3篇手稿被撤回,另有14篇做了修订。
毛病出在一个符号上:
论文约定该取-1,AI在证明里却按+1来算。改过来之后,原本以为会归零的计数并不是零,所用定理的前提也就站不住了。
同一套方法还被另外两篇手稿沿用,它们也一起被撤回。其中一篇研究的是K3曲面乘积的有理霍奇猜想。
这些成果源自模型对约4000道题的尝试和筛选。数量确实惊人,可验证环节没跟上:
约42%的主要结果附有Lean形式化材料,推理过程能交给计算机核查。还有一些结果尚未形式化,问题仍可能存在。
证明本身没问题,也不代表研究做到头了。
算对了还不够,还得清楚是怎么算对的——关键在于用了什么方法,适用条件能不能放宽,能不能拿来解决别的题目。
数学研究里,作者既要看懂自己的证明,也要对它负责。
可AI写出的推导可能很长,连出题的研究员都读不明白,更谈不上核对对错。
找出错误,只是第一步。
更要紧的是把其中真正管用的方法说明白,让其他人学得会、用得上,还能顺着往下做研究。
学术圈的火气也被彻底点着了。
大家争的已经不只是那三篇手稿里有没有错,而是AI一下子交出这么多成果,谁来花时间查错、读懂,再把研究往下推进?
10月7日,人类数学协会AHM发表措辞严厉的声明,批评这种一口气倾倒七百多个文件的做法是在「展示权力」,甚至呼吁数学家停止与OpenAI合作。
陶哲轩博客刊登的AHM客座声明,保留工作组署名。
这份声明由协会传播工作组署名,陶哲轩也把它作为客座文章发在了自己的博客上。
康奈尔大学
OpenAI应当先公布经过Lean验证的手稿,其他材料另行放出、请大家协助检查,别把验证过的和尚未验证的混在一起。
MIT高级研究科学家Andrew Sutherland认可OpenAI快速纠错的态度。不过他提到,要真正重建信任,后续还得做更多事情。
外界忧虑的点在于:AI公司动用手头那些学界接触不到的内部模型,抢先把成果做了出来;数学家手里没有同样的工具,在自己领域反倒被甩在了后面。
一批手稿由AI公司集中放出,核对错误、读懂内容这些活儿,最终压到了人类研究者肩上。
普林斯顿高等研究院的顾问组(AGMAI)9月底就提过:AI实验室别光想着发成果,还得出钱、出资源,让人有能力把这些成果读明白。
这一回OpenAI和Anthropic共同出手支持,恰好接上了学术界先前提的诉求。
钱和支持到手,不等于话语权被买断。学术界拿了支持,也不意味着就认同AI实验室的每一项做法。
公告的说法是,基金会面向外界公开征集项目,资助研究者审查AI成果、掌握新工具,并就这些工具的使用方式和标准展开共同讨论。
AGMAI先前还提过另外的思路:围绕复杂证明开设暑期学校,或者组建长期协作的研究小组,给足时间和资源,让AI写出的长篇证明能被逐步骤拆解、讲清楚。
Simons基金会主席David Spergel同样强调:
相关讨论的主导权,必须握在数学共同体手里。
AI公司出资源可以,但研究哪些问题、怎么验证、接下来朝哪儿走,还是由人来定。
学术圈拿资助,不等于放弃质疑,独立判断的空间也得留着。
David Spergel在公告里说得很清楚:数学不只是证明和定理的堆叠,它更是人类好奇心推着走出来的集体理解。
AI能成批产出研究材料之后,衡量科学进展的尺子就得把后续工作一并算进去。光惊叹AI写出多少篇论文没用,得追问:哪些结果经得起检查?旁人能不能看懂、接着往下用?这些成果又打开了哪些新方向?
陶哲轩那张Math 2.0示意图,把「人类理解」放在了正中间。
讨论其实已经溢出数学。Simons的公告明确写到,OpenAI和Anthropic出的工具和算力,还会投向数学之外的基础科学研究。
那别的学科也得提前想清楚:谁来查错,谁看得懂,出了岔子谁担责。
就在近日,理论物理测试里冒出一个反转——GPT-6 Astra先被判错,专家复核后发现,部分参考答案自己就有问题。改过来以后,Astra在TheoPhysEval的50道研究级题目里答对49道,正确率98%。
AI给出的答案要核,专家提供的参考答案也得核。
复杂的推导过程还得讲明白,让旁人看得懂、用得上,这些成果才可能成为下一次发现的起点。
参考资料: