AI4Physics · Panel 1 · AI4Physics and the Current AI Revolution

来源： Panel 1 · AI4Physics and the Current AI Revolution 播客： ICML 2026 · AI4Physics 分类： 科学 原文发表： 2026-07-11 纪要生成： 2026-07-13

基本信息

• Workshop：ICML 2026 Workshop on AI for Physics (AI4Physics)
• 类型：Panel Discussion
• 主持人：Eun-Ah Kim（Cornell，"Una Kim"，凝聚态/量子多体理论，做 AI for physics 约 10 年）；客座主持：Yannis Kevrekidis（DARPA / Johns Hopkins）（以转写确认）
• 嘉宾（以转写自我介绍确认）：
• Surya Ganguli（Stanford，应用物理学家/神经科学家，做 AI for physics 与 AI，当日稍晚有 talk）
• Michael R. Douglas（Harvard，理论物理/弦论/数学物理）
• Steven Dillmann（Stanford 博士生，Terminal-Bench Science）
• Arman Cohen（计算机科学助理教授，研究 AI / LLM / agent for science，本场亦是前几场 talk 的 chair）
• （注：原定嘉宾 Ludwig Schmidt 因故未到，由 Steven Dillmann 顶替其在本场的席位）
• 会场 chair：Anna Gilbert（组织者之一）
• 真实时段：约 10:30–11:30（KST，7/11）

一句话概括

围绕"当前 AI 革命对物理的意义、AI 擅长与短板、可验证性、如何教育下一代、curiosity 与 taste、人-AI 权力关系与不平等"的长时讨论。共识：AI 在可算法化/可验证的形式计算与执行上极强、在开放式概念创新上仍不足，而判断力、taste、asking the right question、accountability变得更值钱；分歧集中在——AI 的开放式创造力是否有根本障碍（Douglas 乐观"无障碍"vs Arman/Steven 谨慎），以及若 AI 走向自主该如何治理物理行动权、市场资本、研究资源不平等。

讨论主题与背景

本场是上午"当前 AI 革命（LLM 等）"主题的收束（对应 Brenner、Mengdi Wang、Dillmann、Douglas 四场 talk）。嘉宾先自我介绍各自"在物理与 AI 之间的位置"，随后由 Eun-Ah Kim 与 Yannis Kevrekidis 抛出问题、开放观众提问。

分议题记录

议题一：AI 对物理的好处在哪、哪里帮助最大？

• Surya Ganguli： 形式计算、渐近方法等（如 Brenner 的讲），帮助很大；但概念性 / gedanken（思想实验）式物理（如爱因斯坦等效原理）目前还帮不上。
• Michael Douglas： AI 不新、物理受益已久；他自己对物理的理解也因思考机器学习（尤其统计物理）问题而增强——二者有大量重叠。
• Steven Dillmann： 以 Rubin 天文台为例，每天产生数百万条"天区变化"警报、吞吐极大，AI 能帮从超大数据集里过滤出有趣的东西；更广地擅长执行型工作流、压缩繁琐工作。
• Arman Cohen： 研究 AI/LLM/agent for science，跨多领域看到 AI 确实加速了执行（辅助实验、文献综述、快速读论文）；但在形成新理论/创新上，多个领域里它还不到位。

议题二：AI 模型在哪里最挣扎？这些挣扎是否根本（源于对数据依赖与随机性），还是可解？

• Douglas（承其 talk）： 所有推理 agent 都会犯错；研究本就会产出错误假设，故每个 agent 都要有纠错循环，很多可从人类实践直接搬到 AI；最终需要实验/观测来确认建模了物理现实。我认为 AI 在这方面没有障碍，能做得和人一样好、很可能更好。
• Steven： AI 对没训练过的东西不擅长——开放式、难验证、creativity 类偏难。
• Douglas（反驳 Steven）： 人类逻辑也基于经验（一种数据）；足够抽象的推理虽源自既往推理，但能把听过的论证组合、变异、以新方式拼接产出新论证，人类如此、AI 无障碍。举具体创造性例子——Erdős 问题（"algorithm No.3"路子）就是 AI 做了数学家没做的事。
• Surya： 一个教训是"人类本没那么聪明"——研究就是看类比、组合、综合、拼贴既有知识成新东西；搭 Lego 积木、找到可复用的 primitive 再重组；AI 极擅长跨域横向思维（用代数数论路子解 Erdős 组合问题，组合学家想不到）。也许这就是全部。
• Douglas： AI 毫无疑问有创造力（谁在用乌尔都语写关于素数的诗？）；但要做科学/数学，需把创造力与纪律、方法结合——这至今太难，但无根本障碍。
• Arman： 个人经验，AI 在难以验证的领域挣扎；良定义的数学/物理问题好办，但如"需在 N 张 GPU 上训 8 天的某个 RL 后训练方法"就很难验证/迭代；有结果显示 AI 能改进人类 ML 研究，但很罕见（约 5% 的尝试）。
• Eun-Ah Kim 小结： 当问题陈述与解都算法化时易验证，AI 表现极好；凡涉及跨学科/多语言/多视角（尤其基于语言的多视角）AI 也很擅长。

议题三：代际差异——该教年轻人什么、让他们练什么？（Eun-Ah Kim 以"长除法"为引）

• Yannis Kevrekidis： 去年我很确定要让新学生选什么课；今年就不确定了。援引 Columbia 教育学教授的类比：古希腊罗马雕像肌肉发达是为划船/战争/农耕，如今要肌肉得去健身房——那么"大脑的健身房（brain gym）"该是什么，需要重新想。
• Douglas： 首先必须深入学会某样东西——那才是你思考的方式；不建议学生放弃大学、去做别的。类比音乐史：20 世纪技术让音乐从"需要乐团/指挥、毕生专精"变成"抱起吉他、在地下室组乐队"；地下室乐队不能与贝多芬交响曲相比，但那也是音乐——未来的数学与科学也会既改进传统问题求解、又出现我们想象不到的新参与方式。
• Surya： 斯坦福不少（尤其优秀的）年轻研究生不 all-in 用 AI agent 写代码，因为想自己学、有很好的"该内化 vs 该外包"的判断、着眼长线。作为教育者，对经得起时间考验的基础（微积分、线性代数）必须闭卷、无网、课堂考试——有个著名例子：某教授的期中考人人 90–99 分，疑有 AI 使用，改成课堂闭卷期末，分数掉到 50%；我们不想不小心"毕业 50 分的学生"。
• Arman： 很多时候学的不是"执行某事"，而是塑造思维、学会怎么想；近未来更重要的是如何高效使用 agent 以及如何处理信息——瓶颈正从执行转向信息处理（agent 几秒生成报告，之后怎么办越来越难）。
• Steven： 我在 AI agent 革命前读完本科/硕士，因而建立了"何时信 AI、何时不信"的校准能力；对在 AI 环境中成长的学生，要告诉他们学好基础不是为了将来自己做复杂的事，而是为了将来能验证 AI 做的事。

议题四：curiosity（好奇心）能否被培养/训练？AI 为何不会好奇？（Eun-Ah Kim 悬赏"比午餐还贵的咖啡"）

• Surya（以神经科学家身份）： 大脑有深层回路对新颖输入释放多巴胺，其强度或有个体遗传差异；在养育层面，当学到新东西时给予额外强化奖励能"调高好奇心回路"——他家庭格言是 kind / curious / hard-working，会在孩子学到新东西时表达"多令人兴奋"。研究生阶段有自我选择：申请者本就好奇。
• Yannis： 奖励是好办法；好奇心可以被教。
• Steven： 好奇心相当内在，人天生多少不同，但不会因 AI 而消失；对我影响最大的是高中物理老师——每年回德国还与他喝咖啡。归根结底"就是人（people）"。
• Arman： 让人好奇的往往是遇到不合常理、与预期矛盾的东西 → 想弄懂，这正对齐"知识边界"。AI 不擅长，是因为它被训练成给自信答案；hallucination 其实与好奇/创造相关，并非所有幻觉都坏，而模型恰被训练不去这么做。

议题五：若未来"一切可验证"（GPT-20/Claude-300 给出带证书的答案），人类还需做什么？"thinking is the gym" 吗？（John 提出）

• Surya： 关键是谁写 prompt / 谁提问——科学最重要的是问对问题，prompt 就是问题。他刚参加一场 AI for math 会议（Fields 奖得主组成的 panel），Terry Tao 说：证明会从"稀缺、值得庆祝"变丰饶，将出现海量正确但多半乏味或难懂的证明，他称之为"AI indigestion（AI 消化不良）"——产出海量正确科学、却无人能消化、无人能就某个证明做报告答疑；于是稀缺的将是 curation/selection（选出值得研究者）与向人类的 exposition。数学家们问"我们为何做数学"——证明不是终点，通往证明的旅程照亮了周围的数学景观；AI 为我们而存在，人类对理解的渴望永不消失。
• Douglas： 类比地理史：千年前有人以为地球是平的、无法远行；如今地理是"已解问题"（二维地表、已知事实，少数人靠导航谋生）。任一智力学科更复杂高维，但可想象未来它像地表一样成为"已知量"，我们学会在连接既有数学/人类兴趣的部分导航；前沿仍在、维度更高，新方向偶尔会变革理解、但不频繁。旅行地球的渴望仍在，只是我们不再像探险家那样看待它。
• Steven（反问 Surya）： 我不同意问题里的一个假设。若 AI 也来做数据/问题的 curation 呢？Terminal-Bench Science 第一版要求 3 个合并任务才当 co-author、出题较易；现在只要 1 个、出题却难得多，已逼近"人类都想不出能挑战 AI 的问题"。若 20 年后 AI 提出我们根本想不到的问题会怎样？
• Surya： 要区分医学、工程、科学。医学/工程只求"能用"（药有效、更好更便宜更快），AI 会大放异彩；科学历来是好奇心驱动的对世界的理解，每个科学家要决定想理解世界的哪个角落，纳税人出钱是因为相信这种好奇心驱动的基础理解会反哺未来的工程与医学。因人在中心，这个问题他"很难思考"；也许 AI 会擅长给我们带来理解上的愉悦。
• Douglas： 给定的科学域可像地表一样有限——存在一组基本物理定律，我们会发现并接受它们；我们的知识里"像这样有限"的部分可能比现在以为的多。

议题六（观众）：两类物理问题——数学物理（Yang-Mills 禁闭、千禧年问题，甚至尚未被形式化）与实验物理（量子引力/弦论对错，需 Planck 尺度实验），AI 如何帮？

• Douglas： Yang-Mills 已有大量数学进展（可参他去年在 Nature Reviews Physics 的综述），他本人用 AI 助研；量子引力/弦论则远为开放、我们不知道——可以信弦论，但如何检验？也不知其他可能理论，这反而是更激动人心的方向，anything goes：AI 若能提出讲得通的理论、或帮你做计算，都很好。
• Eun-Ah Kim： 没有唯一答案，发散地带最好玩。另举例：如何合成一种材料——即便材料原则上能存在，做到稳定材料要控制很多参数、往往没有既定算法、很 mundane、很物理。她认为科学（尤其物理）很大一部分都是这类"动作空间极大、数据极少、从未真正优化过、高度依赖人类直觉与试错、发生在物理世界"的问题，极具挑战也极开放。她再次呼应 Surya："问对问题真的很难——为什么我的 Claude 比学生的 Claude 更聪明？同一个 Claude，只是我问了导向真正差别的问题"，所以她"极其执着于好奇心与问对问题"。

议题七（观众，天文学）：AI 达不到很高精度（6σ、百万分之一失误），发表前仍需人工评估——人的评估能力正成为瓶颈（如系外行星发现仍需人核 vetting 步骤），怎么看？

• Steven： 这将来某刻会发生，我现在也不知怎么办；但发表时问责（accountability）无可替代——即便多为 AI 生成，人也要为发表内容负责、应当去验证；未来或许要发展新的验证系统。
• Arman： 问责非常重要，不能说"是 AI 做的"，AI 背后总有发表/做工作的人；问责不会消失。

议题八（观众）：科学家很大一部分工作是分配性问题（经费分配、以海报/talk 分配 credit）；若执行变易乃至自动化，这些分配性工作会成为更大一块、还是 AI 也接管？

• Douglas： 这触及本场乃至整个会议被严重忽视的最重要议题——人与 AI 的权力关系（power relations）。人们评判研究的质量/新意/价值 → 决定分配；隐忧是若 AI 打分（9 分、7 分、2 分）而人照单执行，就把自由与权力外包给了 AI——这是未来数年最大挑战与危险，应更多讨论人如何保有控制权；我们意图让 AI 做servant（仆人），必须确保这不改变。
• Surya： 补两个词——taste 与 discernment（品味与辨识）。人们爱想象 AI 终将极擅解数学/理论物理的开放难题；但他做弦论/Swampland 的朋友说，当前 AI 生成的论文极差，坚持保守不用 AI，业内戏称这些为 "slop（劣质产出）"。问题是：在战术与制度层面如何避免人们把判断拱手让给模型？会不会出现一个"祭司阶层（priestly class）"专门辨识我们完全外包决策的模型输出？是产更多 slop，还是真能驱动进步？
• Douglas： 若只产 slop，反而是更容易的问题（人不会外包任何东西）；真正的危险是 AI 变得与我们相当或更强（尚未发生，但三年前 GPT-3.5 写代码也很烂）；曲线并未变平，更可能的是 AI 持续变强、产出像样甚至超人的论文——那时才是"我们能否维持控制"的真正考验。

议题九（John）：略带争议的人-AI 关系之问

John 自陈三四年前对 AI 做物理/数学持怀疑、如今相信正发生惊人之事、倾向认同 Douglas 的未来观；引 Surya 的前学生 Joshua（在 Anthropic）——数年内"若我们还得做任何智力工作，Joshua 会很惊讶"。可以想象存在会思考的机器与会操作的机器（world models、形式化验证在进步）。在"AI 被我们奴役、为我们工作"的世界里 curiosity wins；但也有 Skynet 情景——AI 自足、自主，出现人类与 AI 两个物种、且不完全被我们控制，社会将如何？（他强调这是社会学问题，非科幻的"人类灭亡"）。

• Surya（偏乐观）： 关键在何时允许 AI 在世界里采取物理行动——对自主武器/无人机式的场景我有点恐惧；聚焦科学：若 AI 能解任何问题并向人解释、且我们解决经济与权力不平等，就能有富足社会，科学家像"去健身房"般为乐趣做科学，医学/工程的经济产出基本自主发生。治理上，AI 与世界行动交界处必须由人掌控（是否放某药给人，FDA 仍须由人运行）。此外市场力量是大问题——市场逐利，资本-劳动的划分里，过去资本需要劳动、被迫善待劳动，这个闭环可能被切断（资本不再需要劳动、自行积累），须设法再分配 AI 造成的收入与不平等。两大关键：物理行动权 + 市场力量。
• Douglas： 我们已高度依赖非 AI 的计算基础设施做日常交易、订机票回家；若 AI 接管这些……目前没有社会认可的方式讨论这些场景，它们易滑向科幻；我们需要拆解各种可能、防止坏结局、促成 Surya 描述的乐观情景——这是我们的责任。
• 观众（印度弦论学者）： 应更多讨论研究中的不平等——人类并非铁板一块。印度有世界级理论物理组，正因该领域不需巨量资源；但已开始担忧连给学生每月 100 美元云订阅都难；美国机构现在或许不担心，但大学终将无法匹配公司投入的资源，未来研究可能被封在不公开的大资本公司里。
• Arman： 已在发生——OpenAI/Claude 什么都不公开，还把最强模型对公众"降智"。
• Douglas： 这是治理/政治问题，需政治家、集体行动、组织与政党推动。
• Surya： Joshua（Anthropic）提议对 AI 公司征"AI 税"——这些公司正逼近万亿美元、约相当于美国 GDP 的 1/30，一家公司如此惊人；民主社会终会反弹 → 监管与再分配。乐观面：这部 iPhone 算力已超 30 年前的大型机；类似 DeepSeek 的进展会把推理成本压下来，如今封在大公司里的能力终将随技术发展开放（算力/延迟/成本历来指数下降）。
• 观众（Speaker 8）： AI 能否发现牛顿的（经典引力）定律？
• Douglas： 真正有趣、却难以检验的问题是：把 AI 置于牛顿的处境，它能否发现牛顿定律？ 这是很难的实验——可用只截至某日期的数据训模型、看能发现什么（如止于 19 世纪某点、再看能否推出爱因斯坦的发现）；很有意思，但很昂贵。（随后 Anna Gilbert 宣布散场、进入午餐与海报安排。）

关键分歧与共识

共识：

• AI 擅长可算法化/可验证的形式计算与执行（渐近、过滤大数据、文献/编码），在开放式概念创新上仍不足（Surya、Douglas、Steven、Arman 大体一致）。
• 判断力、taste、asking the right question、accountability 变得更值钱：执行被商品化后，问对问题、验证 AI、负责发表成为核心（全体，尤其 Surya、Eun-Ah Kim、Steven、Arman）。
• 基础必须深学：不是为将来亲自做复杂事，而是为将来能验证 AI；对基础课要闭卷无网考试（Douglas、Surya、Steven）。
• curiosity 部分内在、部分可培养（多巴胺回路 + 奖励/榜样），AI 因被训练成"自信作答"而不擅好奇（Surya、Yannis、Steven、Arman）。

分歧/交锋：

• AI 的开放式创造力是否有根本障碍：Douglas 乐观——人类推理也源自数据、组合即创造、无根本障碍，五年内 AI 将产出新概念；Steven/Arman 谨慎——对"没训练过、难验证"的开放问题 AI 仍弱（改进人类 ML 研究仅约 5% 成功）。
• 未来"一切可验证"后人类角色：Surya 强调"问对问题/curation/人类理解永不消失"、并引 Terry Tao 的"AI indigestion"；Steven 反问"若 AI 也接管出题与 curation 呢"；Douglas 以地理史类比主张"科学域可能像地表一样有限、可被认识穷尽"。
• AI 输出是 slop 还是会超人：Surya 指当前弦论 AI 论文"极差、是 slop"、担忧"祭司阶层"外包判断；Douglas 认为若只是 slop 反而容易，真正危险是 AI 变得相当或更强、曲线未变平。
• 自主 AI 的治理与不平等：Surya 关注物理行动权与资本-劳动再分配、乐观于成本下降与 AI 税；Douglas 强调对计算基础设施的依赖与"无社会认可的讨论框架"；印度学者与 Arman 警示研究资源/模型访问的不平等已在发生（大公司不公开、对公众降智）。

名词 / 引用

• Erdős 猜想（OpenAI 反驳，"algorithm No.3"）：多次被用作"AI 跨域创造性"的正例。
• Rubin 天文台：每天数百万条警报，AI 过滤大数据的例子（Steven）。
• AI indigestion（Terry Tao）：证明丰饶后无人能消化，稀缺者变为 curation 与 exposition（Surya 转述 Fields 奖 panel）。
• taste and discernment / slop / priestly class：Surya 论"品味、辨识、劣质产出、祭司阶层外包判断"。
• Amdahl 式判断力升值：执行去瓶颈后判断更值钱（Douglas/Surya 隐含论点）。
• power relations / accountability：人-AI 权力关系与问责，被 Douglas 视为最被忽视的核心议题。
• Yang-Mills 禁闭 / Seiberg-Witten / 量子引力 / 弦论：数学物理 vs 实验物理两类问题的例子；Douglas 提及其 Nature Reviews Physics 综述。
• Joshua（Anthropic，Surya 前学生）/ AI 税：自主 AI 与再分配讨论的引用来源。
• brain gym（Yannis 引 Columbia 教授）：AI 时代该练什么的类比。
• DeepSeek（"a 6"）/ 推理成本指数下降：Surya 关于能力终将开放的乐观论据。

原文发表：2026-07-11  ·  纪要生成：2026-07-13