AI4Physics · Invited Talk 07 · Surya Ganguli
来源: Invited Talk 07 · Surya Ganguli
播客: ICML 2026 · AI4Physics
分类: 科学
原文发表: 2026-07-11
纪要生成: 2026-07-13
基本信息
- Workshop:ICML 2026 Workshop on AI for Physics (AI4Physics)
- 类型:Invited Talk
- 题目:High-Dimensional Geometry and Dynamics of Quantum Optimizers Composed of Atoms and Photons(由原子与光子构成的量子优化器的高维几何与动力学)
- 讲者:Surya Ganguli(斯坦福大学应用物理系 University Professor;MIT 本科读物理/数学/电子工程,理论物理与弦论博士,UCSF 博士后,深耕神经科学与机器学习/AI;两次获顶会 Outstanding Paper、NSF CAREER 奖,以指导学生著称)
- 真实时段:约 16:45–17:15(KST,7/11)
一句话概括
与全天"用 AI 理解物理"的主流不同,本讲聚焦第三条路线——用新颖物理搭建的器件来做计算/优化,并从第一性原理"共同设计(co-design)"物理动力学与计算动力学。核心是两类由原子与光子构成的物理系统:相干伊辛机(coherent Ising machine) 的高维能量地形几何与退火动力学;以及腔量子电动力学(cavity QED)中的联想记忆 / 量子自旋玻璃——展示纠缠、最速上升动力学、以及"极化子式"自旋-位置耦合如何带来更好的优化与记忆性质。
背景与动机
AI 与物理交互的三条路线
Ganguli 开场("我是站在你们和颁奖之间的唯一障碍")先给出 AI+物理的整体版图:
- 用 AI 理解复杂物理系统——今天讨论最多的方向。但他指出一个张力:我们用着自己尚不理解的 AI,去研究我们(理想上)也不理解的物理。类比:一个天文学家如果不懂自己望远镜的信噪特性,短期能出成果,长期却难以造出更好的望远镜、更好的 AI,也难以更快理解自然。
- 用物理(及数学、CS、神经科学)来理解 AI——他们刚启动了 Simons Collaboration on the Physics of Learning and Computation(组内有一系列关于"AI 物理学"的综述讲座)。方向 1 与 2 之间存在良性循环:更懂工具→更好地应用于自然;更懂理解自然的需求→开发更好的工具。
- 用具有新颖物理的器件来实现 AI,并用数学/物理理论来理解并共同设计物理动力学与计算动力学的关系。他在《Daedalus》(美国艺术与科学院刊)关于"统一物理、神经科学与 AI"的特刊上写了一篇观点文章。大脑是物理与计算共同设计的终极范例之一,但它是脊椎动物脑经 5 亿年演化而来的。
本讲聚焦路线 3,内容均已发表或在 arXiv。分两个主题:(A) 相干伊辛机的能量地形几何与动力学;(B) 联想记忆、量子自旋玻璃、以及腔量子电动力学中的优化动力学与纠缠。
主要内容
主题 A:相干伊辛机(Coherent Ising Machine)
为什么关心伊辛机? 许多组合优化问题都能编码为伊辛优化问题:优化问题的结构编码在一组自旋之间的连接里,找最小能量构型即求解该组合问题。很多问题都可以这样重述。
物理实现:他在应用物理系的同事造了一台由相互作用的光子构成的相干伊辛机。腔中光场在镜面间来回反射,配一束泵浦光;插入一块非线性晶体,使光子场在 XP 正交相空间中呈压缩态(squeezed state);腔内振荡的电磁场相对泵浦光的相位倾向于稳定到两个值——0 相位或 π 相位,可分别解读为自旋向上 / 向下。把许多这样的光参量振荡器(OPO) 用光纤耦合起来(已造出含 10 万个自旋 的机器),并可编程耦合系数以实现任意伊辛优化问题。
经典极限下的抽象:
- 原始伊辛问题一般难解。做谱松弛(spectral relaxation):自旋不再取 ±1,而是活在球面上,变分问题即求矩阵 J 的主特征向量;对其分量取符号(round)即得一个解,能量一般高于全局最小。
- 相干伊辛机可视为求解一个优化问题:单点势里有一个参数 a(对应物理机器里的激光泵浦功率)。操作方式是从低功率开始逐渐加大功率:a=0 时单点势是四次势,随功率加大发生分岔成双稳势(对应 0 相 / π 相)。这是单个 OPO 的行为;耦合后加上耦合项,当 a 从 −∞ 到 +∞,系统在二次势与伊辛系统之间插值,最终求解目标问题。
它有效吗? 在 Sherrington–Kirkpatrick(SK)自旋玻璃(J 是 i.i.d. 高斯随机矩阵,属较难但不算极难的优化)上:动力学从原点出发,加大激光功率、做梯度下降、重复——即在一个动态演化的能量地形上做梯度下降。结果:退火得到的能量很接近 SK 伊辛模型的理论基态能量,明显优于谱松弛。
它为何有效——高维能量地形的几何:如何理解 10 万维能量地形?在"能量 / 距原点半径 / 泵浦功率 a"的坐标里问:全局最小在哪?最可能的局部最小在哪?各种指标(index)的鞍点在哪?(鞍点=梯度消失点,Hessian 有若干正/负特征值,index = 负曲率方向数目。)
- 大 a 时的地形:非常复杂、崎岖。全局最小坐落在大半径处;稍高能量、更小半径处是一"墙"的典型局部最小;再往内依次是 index-1 鞍、index-2 鞍……直到原点处的全局最大。若在大 a 直接做梯度下降而不退火,你必须穿过所有这些鞍、并穿过一整墙局部最小才能到全局最小——这是一个困难的优化。
- 理论 + 实验的论证:数值上对 n=15 系统用牛顿法暴力搜索临界点,在"每自旋能量 vs 半径"平面上标出,发现一团临界点气体,其半径、能量、index 彼此相关——高 index 临界点在高能量/小半径,低 index 在低能量/大半径。理论上用 Kac–Rice 公式计数给定 index 与能量的临界点、用副本法(replica method) 对随机矩阵 J 求平均、用超对称(supersymmetry) 处理地形对连接矩阵变化的敏感性——理论红线与数值黑点吻合。
- 临界点的精细结构:不同 a 下,对鞍点、局部最小、全局最小,看 (i) 自旋 x_i 的分布,(ii) Hessian 特征谱。数值(蓝直方图)与解析理论(橙曲线)漂亮吻合。现象:随 a 增大,最小处的自旋逐渐"committed"到 ±1;局部最小很"软"——特征谱一直延伸到 0,有很多平坦方向,故局部最小虽多却平坦、易被挤出;全局最小则从"软"变"硬(stiff)"——特征谱不再触及原点,出现最小正曲率("质量隙 mass gap")。
- 一系列相变:随 a 增大,高维能量地形经历相变——(1) 单一全局最小;(2) 一大堆平坦最小,全局最小与局部最小同能量(所有临界点都是全局最小,但很多个);(3) 全局最小在能量上与指数多的局部最小分离;(4) 全局最小变"硬"(Hessian 谱不再延伸到原点)。
退火为何奏效——"洋葱表面"图像:退火时,梯度下降在变化的地形上所走的轨迹紧贴全局最小,在能量上低于那一墙局部最小。机制:鞍点与局部最小的结构像洋葱表面一样随 a 膨胀——低 a 时只有一个最小,随后长出一墙局部最小、你被推到其边缘;改变 a,结构膨胀,你始终坐在洋葱表面上,直到终点时你已处在能量空间中非常好的点(接近全局最小)。这解释了从简单到复杂退火能量地形,为何能到达复杂地形中的好点(若一味往能量下方走则到不了)。由此还学到了优于其他方案的最优退火调度。他们也研究了 planted solution 等(略)。
主题 B:把记忆存在原子与光子里(Cavity QED 联想记忆)
转向另一套物理系统(与 Benjamin Lev 等合作的四篇工作):一个腔量子电动力学(cavity QED) 系统——一团玻色–爱因斯坦凝聚(BEC) 的原子(带自旋)处在多模腔中,镜面间稳定着多种光的驻波模式。
它天然是个神经网络:原子自旋像神经元(上/下),光子被原子吸收/发射、能翻转其他原子的自旋,故光子像突触;连接结构由光场结构与原子位置决定——"原子的位置决定它们之间的连接"(后文关键)。固定原子位置时,自旋的有效动力学又像一个伊辛系统,但连接是 Hopfield 模型式的低秩连接,因而能存少量记忆。
Hopfield 回顾:自旋动力学在能量地形上演化,存储的记忆是能量最小;给一个落在某记忆吸引域内的损坏图案,动力学会清洗并补全它。但存太多记忆就会相变成自旋玻璃——出现指数多的局部最小,损坏图案不再流向记忆态。
关键发现①:最速上升动力学(steepest ascent)优于 Glauber:统计物理学家通常用经典 Glauber 动力学(随机翻一个自旋,算能量变化,ΔE<0 就接受,ΔE>0 以温度相关概率接受)。但分析这套 cavity QED 系统的动力学发现它做的是很不同的事——因量子态间转移率的形式,它大致是在对全部 n 个自旋做并行搜索,找出"翻转后最能降低能量"的那个自旋并翻转,即最速上升动力学。对比记忆性质:最速上升存的记忆更鲁棒、吸引域更大;而且能改变"记忆数目 vs 吸引域大小"的权衡——经典 Hopfield 这一权衡很差,cavity QED 动力学则显著推进了这条帕累托前沿。这是"自然物理动力学带来更好计算性质"的一个例子。
关键发现②:纠缠帮助下降:更量子的情形——纠缠如何改变在高维能量/误差地形上的下降?
- 半经典模拟(电磁场当经典、自旋量子):自旋间无纠缠,每个自旋处于纯态、被限制在 Bloch 球表面;此时能量势垒会限制所能达到的最低能量。
- 完整量子动力学(含纠缠):对密度矩阵做偏迹(partial trace)、迹掉其他自旋后,剩下那个自旋因纠缠处于混合态,能探索 Bloch 球内部("隧穿"不完全准确,但它进入内部并抵达两个理想位置)。整个纠缠系统能探索 Hilbert 空间中更多的态,故在开放耗散设定下能绕过能量势垒、到达更低能量态。
- 直觉类比:为何小神经网络难训、大网络反而好训——小网络能量地形有局部最小;增加自由度后,局部最小可能变成鞍点,多出一条下山路。纠缠让量子系统探索更大的 Hilbert 态空间,从而在开放耗散下到达更低能量。
关键发现③:极化子式自旋-位置耦合(polaronic spin–position coupling):一篇"实验力作、由他们的理论指引、刚被 Science 接收"的工作(同样来自 Benjamin Lev 实验室)。回到 Hopfield 式 cavity QED:若原子位置固定,则自旋上有固定能量地形、弛豫到某些最小。但实际发生的是——自旋弛豫时,较低能量的自旋构型会反作用到原子位置上(类比牛顿第三定律的反作用);原子随被"回忆"出的自旋构型移动,这种移动又进一步降低该记忆的能量、强化它。于是能量地形是"弹性"的:自旋下降的同时地形本身因原子运动而形变,改变连接、改变地形。(图示:不同初条件下回忆出红/蓝记忆,原子分别移到对红/蓝更优的两组位置。)
神经科学类比——"蹦床机制(trampoline)":在这项工作完成前,他们正研究神经系统中的短时突触可塑性,有着完全一致的动力学。设想一个存有长期记忆的 Hopfield 模型(能量在若干固定位置被压低=长期记忆);再加短时 Hebbian 可塑性(关联前后突触活动、压低你当前所在处的能量)——于是有长期(存记忆)与短时(对当前神经活动位置反应)两种可塑性。能量地形现在像一张蹦床:球=当前神经活动,球所在处能量被压低,如同重球在蹦床上滚动。
- 当 Hopfield 处于超容量的自旋玻璃相时:若从存储记忆初始化,系统会短暂流向该记忆、随即离开流向指数多局部最小之一——图中 K=0(无短时可塑性)时,网络与记忆的重叠先升后降。
- 神奇之处:打开短时可塑性强度 K——球滚下山的同时把山越压越低,可被困在记忆附近并停留。短时可塑性把当前神经活动处的能量面压低,使动力学能被困在"静态地形本无最小、但动态地形出现最小"的位置;突触与神经元的联合动力学在该处有稳定最小。这就是蹦床机制:能量地形是动态的,像不平的蹦床上滚着重球。
关键结论 / Takeaways
- AI 与物理交互的第三条路线最令他兴奋:回到第一性原理,共同设计物理动力学与计算动力学,发展相辅相成的新物理与新计算,并在理论上同时理解两者,而非拼凑(hack together)。
- 相干伊辛机:用 Kac–Rice + 副本法 + 超对称刻画出高维能量地形的"洋葱式"临界点结构与一系列相变;解释了退火(从简单到复杂地形)为何能到达好解,并据此设计出更优退火调度。理论与数值实验高度吻合。
- cavity QED 联想记忆:自然物理动力学(最速上升)比经典 Glauber 有更鲁棒、更大吸引域的记忆,并改善"记忆数 vs 吸引域"权衡。
- 纠缠让开放耗散量子系统探索更大 Hilbert 空间、绕过能量势垒到达更低能量(类比大网络比小网络好训)。
- 极化子式自旋-位置耦合 / 蹦床机制:能量地形随系统状态弹性形变,可把动力学"困在"静态地形本无最小之处——在物理与神经科学中同构。
Q&A / 讨论亮点
- Q(James,Los Alamos): 我做很多高维优化,损失地形非常崎岖、常常阻碍收敛。你觉得这个"蹦床机制"能否迁移到机器学习,帮我们找到更鲁棒的收敛点?
A: 有可能。蹦床机制可推广到任意地形——只要额外加一个损失项,对应"你当前所在处的能量",就能实现类蹦床机制。但要注意:短时可塑性存在一个最优强度——太强,你只挪一点就被自己困住;太弱,你会冲过目标再被困住。存在一个最优时间尺度:让短时可塑性的时间尺度匹配暂态(transience)的时间尺度,所以还需要对地形上的动力学有一点了解才能调对。(因时间关系仅取一个问题。)
名词 / 引用
- 三条路线 / Simons Collaboration on the Physics of Learning and Computation / 《Daedalus》观点文章:AI 与物理交互的框架。
- Coherent Ising Machine / 光参量振荡器(OPO)/ 压缩态 / 0 相与 π 相 = 自旋上下 / 10 万自旋。
- Sherrington–Kirkpatrick 自旋玻璃 / 谱松弛(主特征向量)/ 泵浦功率 a。
- Kac–Rice 公式 / 副本法 replica method / 超对称 supersymmetry:计数临界点、对随机 J 求平均、处理连接矩阵敏感性。
- 临界点 index / Hessian 特征谱 / 软最小 vs 硬最小(mass gap)/ "洋葱表面"退火图像 / 一系列相变。
- Cavity QED / 玻色–爱因斯坦凝聚 / 多模腔 / Hopfield 低秩连接:原子=神经元、光子=突触、位置决定连接。
- Glauber 动力学 vs 最速上升动力学(steepest ascent)/ 记忆数-吸引域权衡的帕累托前沿。
- 纠缠 / 偏迹 / Bloch 球内部 / 开放耗散系统绕过能量势垒;类比"大网络比小网络易训"。
- 极化子式自旋-位置耦合(polaronic spin–position coupling,Science 接收)/ 短时 Hebbian 可塑性 / 蹦床机制。
- 合作者:Benjamin Lev(实验)。
原文发表:2026-07-11 · 纪要生成:2026-07-13