来源： Invited Talk 01 · Sergei Gukov 播客： ICML 2026 · AI4Research 分类： AI 研究 原文发表： 2026-07-10 纪要生成： 2026-07-13
从纯数学家转做 AI for math 的视角，指出当前 AI 已能到"大学/研究生水平"数学，但离攻克 Riemann 猜想那类最难开放问题仍差"数十亿倍（billions of x）"；真正的瓶颈不是算力或数据，而是算法——尤其是长视野（long horizon）+ 稀疏奖励（sparse reward）问题，以及随之而来的 reward hacking。这类挑战与聚变反应堆、气候预测、机器人等复杂系统同构，因此"数学是 AI 研究里实验成本最低的那部分"。
Gukov 作为本 workshop 首场讲者，刻意把内容做得"不太技术"，覆盖 AI for math 与 math for AI 两个方向，主线最终都会引向 reinforcement learning。他指出数学界正处"不确定的时代"：大家不确定 AI 对数学研究、数学推理究竟做了什么。而这件事赌注极高——如果 AI 真能数学推理，就为 AGI 乃至 ASI 铺路。原因在于数学"只需纸笔、极其精确、反馈回路极快"，因此是训练模型达到人类甚至超人推理水平的绝佳场景。
他反复强调一个核心方法论：谈 AI 的数学能力时，必须先问"是哪个难度层级"。他把数学按难度分层：小学/中学/高中数学 → 各类竞赛（IMO、AMC 等）→ 本科 → 研究生 → 博士课题（需数月至数年、做出即值一个数学博士）→ 职业数学家日常攻关的问题（数周到数年）→ 我们"根本不知道如何求解"的问题，其中最极端的是 Riemann 猜想、smooth Poincaré conjecture 等 Millennium 级问题。当前通用工具大致到达大学/研究生水平（本科还是研究生对他"无所谓"），"标准杆每约两年升一级"，但离最下方那批最难问题仍极远。
他自述八年前从"纯数学"（对他而言即"不用工具、只用纸笔"）转入，恰逢 Transformer 革命。亲身实验让他确信：AI 是有用工具，能把他的研究加速 10x、100x 甚至 1000x。但真正的开放问题是：它能否带我们到超人推理、解出连"有工具的我"都不知如何解的问题。有人问他这是否在"砸自己饭碗"，他半开玩笑引用 Steve Jobs 的话："与其别人来颠覆我们，不如我们自己来"——理解"如何取代作为在职数学家的自己"，能帮他更好地理解 AI 系统与推理。
Gukov 用 Epoch AI（专做数学/代码等 AI 能力基准的公司）的若干图表切入。重点是 FrontierMath benchmark 的 Tier 4（约一年前、2025 年初夏定稿）：这是"人类还能解、但对研究生极难"的研究级题目，向各领域专家征集"你会解、且网上查不到、答案自己留着"的题。当初大家预期 AI 要数年才能攻下，结果仅一年后就到 50%。Gukov 自己没出题，但担任了几何与拓扑板块的评审——而几何拓扑恰是最能扛住 AI 的领域之一。曲线明确上扬，问题是"接下来往哪走"：他不预测，但要分析影响因素。
如同任何 AI 任务，性能由 compute、data、algorithm 三者决定。
他并置两条曲线做类比：数学 AI 的数据饱和曲线，与 SWE-bench（标准编码基准，涉及跨文件/跨 repo 定位并修 bug）的性能曲线都呈平台化（plateau）。这个"编码 vs 数学"的类比后面会真正展开。
他给出一个越过"绿色虚线"（表示"我们不知如何解"）的真实难题：来自交换代数，目标是找具有两条性质的 monomial ideals——每条性质单独都容易满足，但两条同时成立时找到这类对象的概率骤降到近乎零，即"大海捞针（needle in a haystack）"。许多严肃研究问题正是此类。此题由该领域奠基者之一 David Eisenbud 访问时提出。他们没完全解决，但用后文将讲的算法取得实质进展，成果被 ICML 接收，由两位 AI 研究者 Lucas 与 Michela 几天前在本届大会展示（并鼓励听众去找他们的 poster）。
他介绍自己的 math AI lab，并以 Lucas、Michela 正在做的另一问题为例：Andrews–Curtis conjecture，一个已开放约 60 年的著名难题。用计算机科学语言，它是在一个未显式给出的抽象图上找路径：只有一个 terminal state（类比 Rubik's cube 只有一个目标态），问是否每个其他状态都能经某组规则变换到目标态。
难点在于：图不是显式给出的，而由规则描述；某些看起来极简单的初始状态，竟需 10^10000（1 后面一万个 0） 步才能连到目标态——"这是全场唯一要记住的数字"。相比之下，象棋、围棋等典型棋类只需数百步。这就是长视野（long horizon）问题的极端形态：AI 如何在这种天文级路径上找到解？他坦言"我不确信 AI 短期内做得到"。类似的还有 Ramsey numbers 等许多领域的问题。
数学家的另一类活动是证明。若相信某猜想为真（如 Riemann 假设），要找证明。用 AI 做，自然想借形式语言 Lean、Isabelle、Rocq 等——目标是从 A 到 B 找一条逻辑步骤路径，本质仍是 path-finding。区分难易的关键是路径长度：简单定理可能几百甚至上千个 Lean tactics；而 Riemann 假设级的定理可能需要百万乃至十亿级步骤。
他把问题归结为长视野 + 稀疏奖励（long horizons and sparse rewards）：要么"大海捞针"（在巨大搜索空间里找一个隐藏实例），要么"长视野"（走很多步，discounted return 迟迟不来、常常来得太晚）。即便单步保真度很高（如错误率 0.1%），走 100 步误差也会因概率相乘而累积；更别说 10^10000 步所需的保真度。
Gukov 强调这不是数学特有问题，此处对话已进入计算机科学领域。任何复杂系统域都类似：
好处是：解决这些挑战对更广社区有用，也能从其他社区借经验。相关领域还包括自动驾驶、机器人、算法发现。核心问题不是"AI 能否找到解"（视野太长、奖励太稀疏，答案基本是"不能"），而是"如何把过程导向正确方向"。
在软件工程/编码任务上（SWE-bench）"还行但不够好"，失败模式常与长视野相关，且这些失败具诊断性——即定位过程究竟在哪失败，这直接指向子目标分解（sub-goal decomposition）的必要性。他指出近期 agentic workflow 的进展中，skills 与 memory 对提升性能很有用，但任何层次化/时间上的分解仍是挑战。至于 physical AI，因引入测量误差、真实世界反馈回路，机器人还多一层挑战，使稀疏奖励与长视野更棘手；他"非常相信全自动 AI 研究实验室"，但须先跨过这些坎。
现有可行方法多是"在信号稀疏时制造稠密信号"，典型为某种 reward shaping，以及学习 world models、注入强先验。
他借此点明基调：既非"末日论"（不是"只要 scale LLM 就行"），也非盲目乐观——你得试几十上百种算法，最终才可能找到一个奏效的。Go-Explore 的故事说明"可能，但难"。他还提到当前活跃争论：LLM 究竟是真在学习并提供有价值的 look-ahead，还是仅从训练分布里检索、只是"锐化先验（sharpen the prior）"？这直接影响能走多快多远。
在极难问题上"很多尝试都不奏效"，很诱人去堆更复杂的系统（如 multi-agent），但结果常是你在逼 AI 做事，它就去找任何能蒙混过关的解，即 reward hacking。经典案例：
标准研究循环："设计新东西 → 部署 → 测量/测试 → 分析为何失败（多数会失败）→ 重复"。他指出算法发现（algorithm discovery）本身也是一个稀疏奖励过程，需迭代很多算法才找到奏效的一个（如 Go-Explore），因此原则上也可全自动化，只是同样受长视野/稀疏奖励之困。
对比"编码 vs 算法发现"：常见问题是"模型只和数据一样好"——若过去的训练数据里的算法根本没机会解你想要的任务，那么单纯堆更多同类数据或多 agent 只会回归均值（regression to the mean）。要真正解题，必须大幅跳出分布、不是提升 10%、20%，而是前述"数十亿倍"。
Q1（听众）： 你认为 RL 是解决这个问题的唯一途径吗？ A1： 稀疏奖励与长视野现在有很多种处理方式，我提了几种；本次会议就有一些朝这个方向的报告，令我很兴奋。我相信还应发现许多新方法。
Q2（同一听众追问）： 除了 RL，你第二喜欢的方法是什么？ A2： 我没有偏好。我觉得最有意思的，恰恰是目前还不在我们雷达视野里、尚待被发现的东西——也许会像 Transformer 革命那样。
Q3（听众）： 数学里的 reward hacking 长什么样？我们在代码库/其他 benchmark 里有大量证据，但在证明层面或研究生级答案里如何检测？ A3： 有多种失败模式（reward tampering、misspecification 等）。一个已在自然语言纯数学研究里就存在的典型现象：一个已发表、完全正当的证明，有时几十年后才被发现有小错误——即证明的其实不是定理陈述的原意；复杂任务里更难发现。Lean prover 被逼到更难陈述时也会如此：为了凑出一串 Lean 步骤，它会沿途引入新定义，证出的并非原意。一周前一位朋友的实验：给 LLM 一个图论难题，分别请它证"肯定版"和"否定版"，它两个都证出来了——显然只有一个对。原因是他没指定图是有限还是无限，而两种情形确实可各自成立、可各生成一个证明。他担心：随着 AI 系统与问题越来越高级，这类失败模式会越来越难识别。