AI4Research · Structured Debate · Human Research After Superhuman AI
来源： Structured Debate · Human Research After Superhuman AI
播客： ICML 2026 · AI4Research
分类： AI 研究
原文发表： 2026-07-10
纪要生成： 2026-07-13
基本信息
- Workshop：AI4Research @ ICML 2026（AI as a Tool for Mathematics, Computer Science, and Machine Learning）
- 类型：Structured Debate（anti-debate 形式——从对立立场出发，力求收敛到建设性综合）
- 辩题（Motion）：Even after AI surpasses humans in research ability, humans should continue to fund a significant proportion of today's human research workforce to conduct research.（即便 AI 在研究能力上超越人类，人类仍应继续资助当今人类研究者队伍中相当大的一部分去从事研究。）
- 正方（Proposition，支持辩题）：Niloofar Mireshghallah（CMU 教授 + 初创公司 humans& 技术成员；研究隐私、NLP、LLM 推理、AI for science 与 ML 的社会影响）
- 反方（Opposition，反对辩题）：Ludwig Schmidt（斯坦福教授 + Anthropic 与 LAION 技术成员；从 TCS 起步，后转向数据集构建、语言模型、多模态与可靠泛化，两周前重回 Anthropic 全职）
- 主持人：辩论主持为一位 workshop 组织者（转写中未清晰自报姓名，Ludwig 提到"是这位主持邀请我参加辩论"）；全程 MC 为组织者 "Misha"（负责串场、读观众提问、宣布收尾）
- 赛后点评嘉宾（post-debate perspectives）：Sergei Gukov（Caltech / AIM，本 workshop Talk 01 讲者）与 Tim Gehrunger（ETH Zurich，本 workshop Talk 03 讲者）
- 真实时段：约 15:20–17:00（KST，7/10；含约 16:30–17:00 的观众提问与赛后视角）
一句话概括
在"AI 已在研究能力上超越人类"的假定条件下，辩论"是否仍应大比例资助人类研究者"：正方 Mireshghallah 主张保留 ~80%（研究是一组任务、10% 的人类环节按 Amdahl 定律成为瓶颈；需要经历训练才能当验证者；人类多样性/冗余是保险；从可逆性/不可逆风险出发不该骤降），反方 Schmidt 主张降到 ≤20%（经济上 AI 更便宜就该让 AI 做、把聪明人转去模型尚不擅长的物理科学与生物、降到 20% 只是回到 2015 年 ICML 规模）。作为 anti-debate，双方最终收敛：一致同意"当前这类改进模型/方法的 ML 研究若 AI 能做得更好就交给 AI"、ICML 社群应转向oversight/治理、AI for science、评测与科学传播且这些应由独立于 AI 公司的公共资金支持；分歧收窄为"从多少起步、以多快速度 taper 到多低"——反方接受"最终降到 ~20–30%"，正方坚持出于全球风险与可逆性应保留高于 20% 的冗余、缓慢 taper。赛前民调支持辩题 71–29，赛后 64–36（略向反方移动）。
辩题与背景
主持人（Speaker 12）先用一个趣味民调热身："五年内，你现在的工作任务会由 AI 而非你本人完成吗？"——约 60% 说会、36% 说不会（约 2/3 对 1/3）。这呼应了昨天 Arvind 报告及当天各场提到的两种看待 AI 影响研究的方式：AI 取代人类 vs AI 增强/助力人类更高产。
对辩题的关键澄清：
- "超越人类研究能力"：设想一个类似当天下午报告的场景——一组专家评审拿到一批结果/研究问题/想法，不知哪些来自人、哪些来自 AI，做认真排名，最终发现排名靠前的大多是 AI 的。此为条件场景。刻意去掉评审随机性（假设专家充分投入，如大公司请最顶尖专家评判）。不考虑研究者的其他能力（如沟通），纯粹关于结果与提出的问题。研究领域限于 ICML 所代表的范畴（不含生物、物理等）。
- "相当大的一部分（significant proportion）"：正方论证应保留约 80%（大多数研究者仍有事做、不失业）；反方论证至多保留 20%。
- 不澄清、留作辩论的：由谁资助（个人 or 政府）；"研究"到底是什么（任务与研究性质本身可能改变）。
- 这是一场规范性（normative）辩论——条件在"已达到该状态"之上，讨论应当怎么做，而非猜测能否达到。
- anti-debate：不评胜负，目标是双方在最后互相靠近、给出双方都认同的综合/规范陈述。
- 两轮民调：辩前对辩题的态度 71–29（支持—反对）。
正方论点（Mireshghallah）
个人缘起：从小只想当学者/教授；成为教授后为"没做过怎能说不想做"而去业界体验——搬到湾区，曾在 Meta、现在一家初创（humans&），身处 SF 的 AGI 氛围。她后 ChatGPT 时代的研究一直是模型的失效点、隐私、红队、戳漏洞，因此长期对模型能力怀疑甚至轻视；直到几个月前，作为 IC 写更多代码、更多用 agent，"开始觉得这东西真的变得很好"，开始怀疑自己的怀疑。朋友们进了前沿实验室、AGI 时间线不断缩短、回音室效应。她难以调和两种"单一文化"：湾区人人觉得大事正在发生，而东海岸的教授们照常度日。加上学生问她该学什么、她在设计面向未来 2–5 年的课程——这让她想深究这个问题。
开场四点论证：
- 研究是一组任务、不是一个任务（Amdahl 定律）：可以自动化掉 90%，但即使那 90% 趋于无穷，剩下 10% 需要人类的任务会成为拖慢一切的瓶颈。研究里可自动化的是"解题"，但验证、对齐、问责、沟通、建立信任、挑选问题这些人类/较慢自动化的部分正是瓶颈。
- 劳动总量谬误（lump-of-labor）/ Jevons 悖论：自动化出现以来人们总担心人类劳动会消失，但劳动参与率一直稳定在 ~60%；自动化掉一部分工作后，非自动化部分会有更多事做、反而需要更多人。
- 验证者必须先"做过"：若接受人类转向验证角色，"不能有没做过事的验证者"——资深研究者之所以擅长验证，正因经历了训练与做研究的过程；很难相信不经历这一过程就能验证，所以必须让人才 pipeline 持续运转。
- 人类的不可预测性/品味/随机性有价值：我们有了超人的国际象棋程序、却仍选择和人下棋；对人类的好奇心、以及"朝向某个人品味的、完全由人类完成的研究"，仍会存在市场与正当性。
- 保险与可逆性（insurance & reversibility）：万一我们错了呢？若自动裁掉 80–90% 的研究者，之后发生某种不稳定、而我们又极度依赖那些能力，就会很糟。因此要维持初级→资深研究者的 pipeline，并阻止认知能力/技能的萎缩（atrophy）。
反方论点（Schmidt）
个人缘起：当教授五年、很享受与学生和同事共事；同时在 Anthropic 已两三年，那里的人相信 AI 进展很快。过去一两年他不断自问该把重心放哪——看到 Opus 4 → 4.5 → "Mithos" 的进展，"感觉这真的在发生"：模型飞速变好、开始取代人类编码，并将做越来越多"比编码高一层"的研究工作。于是他决定回 Anthropic 全职（两周前起）。核心问题：如何最有影响力？若模型将把他的研究做得比他更好，他在研究生态里的角色是什么？
开场论证：
- 先补两条澄清：假设 AI 做研究不仅更好、而且不更贵（否则"更便宜更好就让 AI 做"是显然的）。基本论证是经济学的：AI 若更快/更便宜/更好，就该让它做、人去做别的。
- AI 研究会最先被自动化（当前焦点所在），但这不等于整个科学都解决了。更好地花纳税人的钱：让当前写 ICML/NeurIPS 论文的聪明人去帮科学系的同事用这些工具——开发更好材料、在生物学突破、治愈疾病。
- 谁付钱：个人想自费做 AI 研究当然欢迎。他的框架是给资助机构（如 NSF）的建议——当 GPT-7/Claude-8 把 ICML 论文写得一样好或更好时，应激励人们转向模型尚不擅长的领域。
- 动议足够窄：自动化的是 ICML 型研究、不是湿实验室型研究；于是有更多聪明科学家去做物理科学。
- 把 ICML 研究者砍 80% 到 20%，等于回到十年前的 ICML 规模：他 2015 年参加的首届 ICML 约 1000 人，2016 年约 3000 人——那时已是可观的领域、在做有趣研究。所以降到 2015 水平并不意味着 ICML 型研究就消失了。
- 这是技术进步的常态："human computers"（人工计算员）曾是一种职业——机械计算出现前，人们为早期物理仿真、火箭飞行计划做大量手算；后来计算机做得更好，这职业就消失了。AI 研究亦然，回头看会说"计算机做得更好，人类有别的重要事去做"。
交锋与观众提问
第一轮 rebuttal
正方回应反方：
- 经济学：NSF 全年预算约 90 亿美元，而 AI 资本开支每年增长约半万亿美元——相比之下 NSF"是花生米"，我们在争一件根本没那么大的事，二者不可比。
- 同意"转岗/再培训"，但争的是速率：同意应把研究者从这些领域转向更缺人的硬科学/需要实验室的领域，但反对在极短时间内（"现在就 80% 去做别的"）完成。变革需要时间——经济学里叫"messy middle"；电话接线员被自动交换机取代，用了 20 年才被重新安置。要妥善规划过渡以维持 pipeline。
- 成功/失败的相关性：100 个 agent 做研究可能以相关的方式一起成功或一起失败；人类则有更多样、更多元的做法。人类带来的冗余（redundancy）仍有价值，"100 个人的众包（到目前为止）胜过 100 个 agent"。
- 应缓降：不要 80→20% 直接跳，而是先降到 60/40%、再慢慢往下。
反方回应正方：
- 验证：同意资深研究者更会检查研究结论的有效性，但不清楚"达到动议水平"的模型就不会验证——它训练时读了大量研究。
- 人类本就未必擅长做研究：从有文字到基本的化学/物理花了数千年——"人类几乎不会做科学"，很酷、但不擅长；让 AI 接手没问题，AI 也会更会验证。
- NSF 预算：产业确实在大投 AI（更多在硬件而非人力侧），或许该多征税；但就现有 NSF 预算而言，应导向人类更有影响力的领域。若蛋糕做大（AI 带来经济增长）就有更多钱——极限情形下用 UBI 让人做想做的事；在仍受资源约束时，NSF 应导向高影响领域。
- 裁员节奏：他不主张明年就停 PhD 资助（太突兀）；"保留 20% 的人类研究队伍"更多是指稳态（ICML/NeurIPS 维持当前规模？）——若 AI 做得更好就不需要那样的稳态，但在读学生理应毕业、我们应帮他们找工作。
第二轮 open rebuttal 与澄清
- 围绕 Jevons/那 5%：反方说 Jevons 在此意味着"人类应去做别的事（不是 AI 研究），那才是瓶颈——少数 AI 研究者手里没有生物学等领域的全部数据"。争点变成"那不可自动化的 5% 到底是什么"：正方说是验证，反方说是别的领域。反方："5% 在我的 20% 之内——我只主张降到 20%，可含 5% 做验证，还剩 15%。"正方反驳："5% 是指不可自动化的任务的 5%；为做好这 5% 需要多于 20% 的 ICML 队伍。"反方追问"为何模型不能验证？"
- 正方重新定义"验证"= 问责/信任/责任（accountability, trust, liability）：为何要信任模型？（"你在 Anthropic 呢。"）万一它们串通、假装在做研究呢？需要可扩展监督（scalable oversight）。类比：自动驾驶仪已有约 100 年，但每架飞机仍放两名人类飞行员——安全攸关。过渡期里人更容易信任人；若 AI 广播实验结果，公众可能一时更难接受，直到成长起习惯它的一代。
- 反方：向公众传达结果确实重要，但那不是当前大多数工作；大多数论文是"用算法 Y 让模型 X 更好"。ICML 仍有研究空间，但会长得很不一样。正方同意会 shift：需要更多对齐研究、以及"如何向人类传达研究/如何提升他们技能"的研究。
- 保险/可逆性：要保留学徒制/pipeline——研究者要经历"通过做（而非读）来学做研究"的过程（像教小孩数学）；"PhD 学生不能只读一个定理证明的结果就会做研究"。加上"万一我们发现犯了错、或没了电力/资源"。
- 反方重构：那 ICML 就从"改进模型/方法"的会议变成一个 AI oversight 社群/会议了；这是重要话题，动议里有回旋余地——训练初级研究者也许下放到本科，而"让模型更好/让训练集更好"这类当前研究可交给模型。正方："我说的是十年前那种 ICML（更多静坐思考、认知能力）"；反方："那部分能降到 20% 吗？"正方："五年前我们还没有这些数据过滤的活儿——好吧，算公平。"
- UBI / 蛋糕做大的钱从哪来：反方——AI oversight 可对 AI 公司征税，政府作为代表民众的独立方确保 AI 公司行为合理；转岗去物理/硬科学的资金也来自征税。他总体支持增加科学经费（科学回报仍高），不主张废掉 NSF；并顺口点了"递归自我改进"。
synthesis（互为对方辩护）
- 反方为正方辩护：随着 AI 更强、我们把 AI 研究外包给 AI 本身，oversight/AI safety 变得更重要，且应由不直接隶属/关联 AI 实验室的公共机构充分资助——完全赞同正方。至于需要多少人是好问题；而且要做有效 oversight 也需大量依赖模型（若验证者不能用编码 agent、全靠手写，与"让模型更好"的人之间会有巨大能力落差，是种奇怪的不对称）。
- 正方为反方辩护：最认同"把一部分 ICML 人力转去做科学/硬科学"——科学被人、human-in-the-loop、专家稀缺卡脖子；需要更多/更好的数据、更多人帮实验室自动化；人类研究还被跑物理实验的时间卡住，需要有更好启发式/直觉的人（因为没数据、模型还没有那种直觉）；一组人更擅长在低资源下挑选该测什么（如癌症试验）。把经费从 ICML 型研究里切出来投到那里"非常合理"。
unstructured discussion：未来该做什么研究
- 正方提出两类：meta 级研究（需 ML 背景）——如何设计含人类在环的 meta-evals、构建"技能飞轮"；她与化学家合作时看他们标注"这是 Gemini 生成、这是人类生成"却难以理解其判断依据，如何把该任务保留人类在环并助其自动化——即元科学（meta-science）。以及沟通/人类侧——价值对齐、数据采集、把科学传达给公众、建立信任、不确定性量化、风险描述（"我们在告知公众这方面做得不好"）。
- 反方质疑：科学传播与当前 ICML 工作很不同（论文常写得不够好，尽管动议假设写得好）；科学传播是自成一体、有自己会议的领域——难道把 ICML 并进科学传播会议？环境科学等也在为传播发愁，这还算 ML 特有问题吗？
- 正方：需要底层 ML 研究支撑——如不确定性校准、可解释性；动议下我们相信 AI 的准确性，但如何量化可靠性？主持人/反方追问"'量化可靠性'是良定义（well-posed）的问题吗"——校准有定义，但"什么是好的解释"未有共识（有 position paper 但未定论）。正方：过去多年"科学/传播/法律各自分隔"行得通，但 AI 大规模渗透后应开始融合社群，且需要 ML 研究者来做这种跨学科工作。反方：技能要更跨学科/polyglot、而非窄专家。正方：但人不该是样样通样样松的 dabbler——仍需严格 ML 训练，"不能抓个《纽约时报》记者来解释"。
- 关于"指定目标 vs 让 AI 最大化"：反方——人类的活是定指标、AI 去最大化（specification）；但需要多少人来定指标？高层指标常不难定（更少人死于癌症、更少 CO₂），模型能自行拆成研究方案；但如"公司最大化利润"这种，AI 用什么手段达成需持续更新规范。正方：和"Mithos/网络安全"那套一样——它若这么擅长递归改进，为何还有 reward hacking、网络威胁？能真信任它吗？需要人类把指标定义得更好；若那么好定义，为何现在没进 "Fable" 的训练里？（"Fable"尚未达到动议水平。）反方：我们是条件在"模型能把研究做得比人好"之上的；但"超人"是按效用（utility）定义、非按可靠性——存在 jagged edge，会有一段"效用超人但可靠性更低"的时期。反方续：这是连续过程，模型会更可靠；首次全 AI 驱动的训练 run 会让人紧张（很贵、要信任 AI），大量人盯着看；几轮后人们会像信任有良好过往记录的研究者一样信任它，转为更自动的监督——"我是很经验主义的人，信任来自过往表现"。
- 能容纳多少人？ 反方：不清楚若只做高层目标函数工作，ML 研究能养活多少研究者；目标函数本质是政治（people vote on preferences，没有 ground truth）在裁决，不清楚我们能否用 ICML 的方式"研究出"社会更多共识；Econ 已在做部分——若 ICML 研究只是变成更多科学传播 + 一点理解目标取舍的 Econ 研究，说得通，但在动议范围内养不活所有 AI 研究者。
- 正方达成的共识/保留：同意存在一个"事件视界"之后一切自动化的点，也同意更远的未来可以只留 20% 做这类；但争点是"从现在多少起步、以多快 taper 到多低"。她坦言仍不满意 20%（太低）——"我来自中东，凡事都想最坏情况，太习惯被人抽走脚下的地毯了"；但对"十年前那种、与验证/科学无关的纯 ICML 研究"，她能接受降到约 30%。
closing statements
- Ludwig（反方）：花很多时间澄清了未来 ML 研究的性质。双方一致：当前的方法开发/模型改进型研究，若 AI 做得更好就交给 AI。AI 在科学与社会中角色变大 → oversight/治理很重要；若社群要认真做这些，研究与工作的性质会大变、训练要随之改变；他不确定这能养活多少人。
- Niloofar（正方）：她改变之处——在可靠性/验证上，同意最终会有一个可信任 AI 的地平线，届时仍要一些人类监督、但接受很低的比例。仍坚持之处——经济上"无冗余"或许更划算，但从可逆性/保险看不该切断 pipeline（PhD→PI 是十年、且多级）；出于此与全球局势，她要保留高于 20% 的"愚蠢冗余"（何况 NSF 成本本就不大）。
- 反方补一句：同意思想/研究的多样性重要；很可能在相当长时间里人类会有与 AI 不同、互补的想法。
赛后民调：辩前 71–29，辩后 64–36（略向反方移动，约 2/3 仍认为应保留资助）。
观众提问（由 MC "Misha" 读出）
赛后视角（Sergei Gukov 与 Tim Gehrunger）
-
Sergei Gukov（Caltech / AIM）： 更偏正方。他甚至认为资助会增长：每次技术进步都带来更多机会与新研究领域（更好的计算机→更多计算机科学家）。ICML 规模约每年翻倍，若超人 AI 在 10 年后到来，规模约 1000×，其 20% 也是 200×，仍很多。我们做研究部分是为了保持智力健身（像去健身房——机器能举更重，但我们仍去）。研究还把技术/社会推向新前沿。他提出一个真问题：若超人级 AI 能开发新算法，它是否自动获得部署许可？ 若是（安全护栏问题），它能很快部署——那就不清楚人类是否还需在环，世界只是不断建造它发现的东西，他也不知道答案。关于"两名飞行员+自动驾驶仪"：他本人是仪表飞行执照持有者，当前自动驾驶仪只做很原始的单一功能；真到超人 AI，它多半能自己开飞机、驾驶舱或不需飞行员，但会需要新型空管、NTSB/FAA 人员——新技术让领域增长。
-
Tim Gehrunger（ETH Zurich，数学家）： 作为数学家不确定自己适合评判 ML 界的经费，但个人认为很快降到 20% 会很糟——没法做到而不"只留已有 tenure 的老人、给年轻人不留位置"；系统惯性太大。他质疑"为政府/研究者开发开源 AI"到底多有用：一旦你参与某个 AI harness，就会收到大量"想砸政府钱做独立于模型提供商的、科学专用开源 AI"的邮件，但多次尝试从未奏效——瑞士在 Apertus 模型上花了不少钱，模型很差、没人用；甚至为小众的罗曼什语（Romansh）社群努力优化，最终仍比"根本不在乎罗曼什语的 ChatGPT"差 20%。他因此追问：当我们大概率要依赖模型提供商时，研究社群如何发展——若它们保持领先，我们就与其处于共生关系。
- 反方回应： 现状或许是核心模型改进在产业、研究者用模型在别的领域做研究；这与 AI 技术栈的其他部分没太大不同——没有哪个国家有接近 TSMC/Samsung/Intel 的开放半导体制造；有些极深的部分所需资源超过政府能提供，就发生在产业里，也确是国家安全关切（芯片集中在台湾、地缘敏感）；美国正与 TSMC 合作在美建厂。美国只要盟友作为一队领先就满意，前沿模型在美国造，"目前对美国来说进展不错"。
- 正方回应： 有个更广的隐含假设——这种超人 AI 因当下格局大概率由公司而非公共部门开发；若它们切断访问（像大家有几周不能用 "Fable" 时"许多人几乎瘫痪"），"我们可能失去模型访问"并不是"该付钱给人类"的好理由（有点冗余）。真正另一个问题是：如何在不破坏 IP 的前提下把公司内部知识对外传播——你可以付钱让外面的人做很多研究，但没有内部访问，他们重建不出 "Fable"。
其余观众提问（穿插正/反方与两位嘉宾）
- 学术研究还能与产业竞争吗？（Misha 提） 反方：核心的"让 LM 更好"议程，产业资源与经验都多得多、最好的模型不在开源；但学界仍能写有趣论文——同等努力下产业更 impactful，然而 arXiv 上仍常有有趣论文。分领域看：核心 LM 进展难与产业竞争，而验证/benchmark/AI for science 学界很有位置（不训模型就便宜，且你系里就有生物/化学的世界级专家愿与 AI 人合作）。就他自己（训练数据方向）而言：AI 最大进展都发生在数据基础设施好的领域（互联网、AlphaFold 用的蛋白数据库）；很多科学领域数据共享实践不如生物学，把它们做到位很重要，AI 专家能帮忙。
- 是否应由政府培养 AI 研究者以避免权力/专长集中于 AI 公司？（Misha 提） Tim 用算术几何类比：手机加密多用椭圆曲线密码，研究机构做开放科学，但 NSA 是大量数学家的雇主、且在若干领域领先一大截；需要不受私企雇佣、却理解在发生什么的人去发现问题（Snowden 事件——NSA 因领先找到一个 exploit 破解了许多人的加密），否则会有大麻烦。Niloofar：秘密酱料在公司里，学界能学多少？——但这非首次：几乎其他所有技术（如互联网）都由 DARPA/公共政府经费先做出来再转移，AI 是第一个在私企里率先跑通的；如何不破坏 IP 地传播知识是关键。她提到"教授们进公司"——对学生是好是坏（注意力问题）？但这也许是不直接告诉学生该做什么、却把公司里看到的好问题带回做研究的一种传播途径。她强调结构很重要——政府单纯多给钱未必能破除权力集中；反方设问"什么阻止公司雇学者？"——什么都不能；她认为该反过来看："学界应设法留住教授、政府该付教授或创造让他们愿意回来的环境"，而非"禁止 Anthropic 雇斯坦福的人"。反方总结：同意政府需要独立专长，不必在模型训练栈的所有方面都精深，但高层理解 + 安全/治理上的深入理解是好的路子。
- oversight/verification/alignment 方向该学/教什么技能？（Misha 提） 正方：需要核心 ML 理解；更该"拿 ML 研究者去教他们 oversight/安全/对齐（或法律/政策）"，而非拿政策制定者去教 ML 细节。如今不少安全研究者从纯经验路径入门、缺底层机制理解，导致重复造轮子或误解——所以要教 ML 基本功、有严格训练范式。反方：这不是他的领域；从教学看，教"如何训练语言模型（梯度下降等基础）"本身就很有意思；不过"教什么"与"想让人将来做什么研究"是相关但不同的问题。Sergei：对教育/大学系统的未来更担忧（但那不是本动议）。反方：健康的民主需要受教育的人口，教育仍重要；大学角色或更偏教育而非研究（多数人上大学是为教育、非为读博做研究）。Sergei：不完全同意——他对教育的未来比对研究更担忧（模型也许能把教育做得更好）。反方：有人就是偏好向真人学习；希望模型帮我们把教育做得更好，未必取代线下学习。
- Tim 的"17 年"之问： 若一个孩子 6 岁上学、读 12 年学校 + 3 年本科 + 2 年硕士，那要约 17 年后才会第一次遇到这台"真理机器"当下做不到、无法用一句 prompt（喂给 DeepSeek/Flash 等）立刻得到答案的东西——学校到硕士几乎每样今天的模型都能做好。想象告诉一个人"你踏上学习旅程，18 年后才第一次学到机器不能完美完成的东西"，这会非常难。反方：这对（尤其热爱研究的）人确实不安，但其实多数人并不做研究——若有个聪明 AI 告诉他们做什么、他们也许就 OK；好奇的人会与模型对话、学到很多惊人的东西；"我喜欢读 Wikipedia，若 AI 取代我的工作，我大概会花更多时间读AI 生成的、关于前沿科学的 Wikipedia、并很快乐。"正方：她主张保留人类参与的教育、并保持教育原样；但也许我们这代成长于人类之间、又经历 Covid 而珍视人类连接，而"Covid 婴儿"、在大量自动化中长大的孩子也许并不介意 AI 教学；过渡期与"之后"可能非常不同、我们尚不知晓。反方类比：几百年前人们首次环球航行、兴奋于发现新大陆、也曾担心"全球都探完会不会很无聊"——但人们对 Google Maps 是 OK 的；地球图景清楚了，可仍有很酷的科学可做，人们很会发明新的目标。
关键分歧与建设性共识
建设性共识（收敛点）：
- 当前的模型/方法改进型 ML 研究，若 AI 能做得更好，应交给 AI（双方明确一致）。
- 随 AI 在科学/社会角色变大，oversight、AI safety、治理变得重要，且应由独立于 AI 公司的公共资金充分资助（可对 AI 公司征税支持）。
- ICML 社群的重心应向 AI for science、验证/评测/benchmark、可靠性与不确定性量化、科学传播、元科学转移；研究性质与训练方式都会大变、技能更跨学科但仍需严格 ML 基本功。
- 政府/学界需要独立于产业的专长（尤其安全与治理），并应设法留住人才、以不破坏 IP 的方式传播知识。
- 过渡应有序、缓降，帮在读学生毕业与转岗；最终会 taper 到较低比例。
核心分歧（未完全弥合）：
- 保留比例与节奏：反方主张最终降到 ≤20%（甚至认为稳态不需更多）；正方坚持出于可逆性/保险与全球风险应保留高于 20%（缓慢 taper，纯 ICML 型可接受约 30%），反对短时间骤降。
- 那"不可自动化的部分"是什么：正方=验证/问责/信任/人类多样性冗余；反方=转去别的领域（物理/生物），并认为模型也会擅长验证。
- 是否该信任 AI 做研究：正方担心串通、reward hacking、jagged edge（效用超人但可靠性滞后），强调 scalable oversight 与"人更容易信任人"；反方以"经验主义地按过往记录建立信任 + 自动监督"回应。
- 开源/公共 AI 的可行性：Tim 以 Apertus 失败为据质疑公共开源科学 AI，反方以"半导体制造亦非开放、由产业主导且属国安常态"类比；正方强调"AI 是首个在私企率先跑通的技术，知识传播与权力集中是真问题"。
名词 / 引用
- Motion / anti-debate：辩题与"求综合而非胜负"的辩论形式；辩前 71–29、辩后 64–36。
- Amdahl 定律 / lump-of-labor（Jevons 悖论）：正方论证"自动化后剩余人类环节成瓶颈""劳动参与率稳定 ~60%"。
- messy middle / 电话接线员（20 年过渡）：正方论证转岗需要时间。
- scalable oversight / "两名飞行员 + 自动驾驶仪"：正方对"为何仍需人类验证"的类比。
- jagged edge / reward hacking：正方指"效用超人但可靠性滞后""递归改进却仍有奖励黑客"。
- UBI / 对 AI 公司征税 / 递归自我改进：反方关于资金来源与经济增长的论证。
- human computers（人工计算员）：反方类比"被计算机取代的旧职业"。
- AlphaFold / 蛋白结构数据库 / 数据基础设施：反方论"AI 大进展发生在数据共享好的领域"。
- Apertus / Romansh（罗曼什语）：Tim 举的"公共开源科学 AI 失败"例。
- NSA / 椭圆曲线密码 / Snowden：Tim 论"需独立于私企、开放做研究的专家"。
- Opus 4 / 4.5 / "Mithos" / "Fable"：Schmidt 与双方提及的（近未来）模型名，用以说明进展速度与"尚未达到动议水平"。
- 人物：正方 Niloofar Mireshghallah（CMU / humans&）；反方 Ludwig Schmidt（Stanford / Anthropic / LAION）；赛后嘉宾 Sergei Gukov（Caltech/AIM）、Tim Gehrunger（ETH Zurich）；MC "Misha" 与辩论主持（workshop 组织者）。
原文发表：2026-07-10 · 纪要生成：2026-07-13