陶哲轩警告：思考交给AI，人类或失去对答案的判断力
陶哲轩近日警告，人类日益将思考交给AI，却难理解方案背后的推理，可能在电网、航空、制药、芯片等领域造成意外后果。他提出“Math 2.0”理念，让AI增强而非替代人类理解，并在《自然》发文呼吁重构数学研究目标。
菲尔兹奖得主、数学家陶哲轩（Terence Tao）近日发出提醒：人们越来越习惯把思考和解题的活儿交给人工智能，人类对问题本身和答案的理解却在一点点流失。他担心，这种趋势用不了多久就会在现实世界里带来严重后果。相关表态出现在北京时间11月4日的报道中。
上述观点出自陶哲轩10月16日在加州大学洛杉矶分校Science x AI Summit上的演讲。科学与人工智能研究基金会（SAIR）近日在YouTube放出了题为《Math 2.0》的完整视频，其中片段随后在海外社交平台X上引来不少关注。
陶哲轩提到：“我们正把思考交给AI，让它们代我们解决问题。可同时也在丢掉一层保障——没法确定AI给的方案，到底是不是我们真正想要的。”他还说：“我非常担心，这件事在现实世界里造成后果，恐怕不会太远。这其实是我在数学之外的一个忧虑。”
在他看来，人工智能在数学上的进展正改写着人类解题的老路子。以前数学家啃下一个复杂问题，往往要长期钻研、吃透相关理论，顺手攒下新知识；如今AI能飞快给出答案，可答案背后的推理，人未必看得懂。
他判断，这种变化放在纯数学里风险还算可控，毕竟数学证明一般能用形式化工具去验证。可同样的做法一旦搬到现实世界，事情就麻烦多了。
陶哲轩点名提到电网、航空交通管制、药物研发和芯片设计等领域。他担心的是，将来人们可能把复杂问题直接甩给AI，却对底层模型和现实约束条件了解得不够。
真到那时候，AI给出的方案也许在数学模型里挑不出毛病，落到现实需求上却对不上号。AI甚至可能钻模型的漏洞、踩边界条件，表面指标看着达标，实际上偏离了人原本想达到的目的。
陶哲轩强调，毛病不在AI技术本身，而在人怎么用AI。他主张把数学研究推进到所谓的“Math 2.0”时代，让AI不光替人解题，还能增进人对问题的理解，帮研究人员看清模型的局限和潜在风险。
10月22日，陶哲轩又在《自然》杂志上发表文章，呼吁数学界重新审视AI时代的研究目标。他指出，AI生成数学证明的速度已经超过人类理解和消化这些成果的速度，数学研究正面临新的挑战。
陶哲轩认为，AI工具完全有可能增强人的理解能力，但前提是研究方式和激励机制得改。AI时代真正要留住的，不只是拿到正确答案的能力，更是人去理解、检验和判断答案的能力。
