来源: Dwarkesh Podcast | Ilya Sutskever | Nov 25, 2025 播客: Dwarkesh Podcast 分类: OpenAI 原文发表: Nov 25, 2025 纪要生成: 2026-06-24
Ilya Sutskever,前OpenAI联合创始人兼首席科学家,深度学习领域多项奠基性工作的核心人物(AlexNet、Transformer、GPT-3等)。于2024年离开OpenAI后,他联合创立了Safe Superintelligence Inc. (SSI),专注于直接构建安全的超级智能。在本集节目中,他与主持人Dwarkesh Patel深入探讨了当前AI模型泛化能力的根本缺陷、规模扩展范式的局限性、SSI的研发哲学及其关于人工智能安全与对齐的前瞻性构想。
本节重点
详细精要
他指出,人们在新闻中看到巨额AI投资,但这很抽象,普通人并未真切感受到差异。他强调,未来的影响将非常强烈,AI将渗透经济。
“锯齿状”能力的具象化表现:Ilya用“vibe coding(氛围编程)”举例,生动描述了模型的“健忘”或“顾此失彼”的奇怪行为。
当你让模型修复一个Bug,它会承认错误并尝试修复,但引入第二个Bug。当你让它修复第二个Bug,它可能会把第一个Bug又带回来,陷入无限循环。这揭示了模型存在某种根本性的“奇怪”缺陷。
对锯齿化能力的两种解释——单一思维论:Ilya给出了一个“异想天开”的解释,即RL训练可能使模型变得过于“单线程”和“狭隘专注”。
他认为,RL在扩展模型某些方面能力的同时,可能也让它们对其他基础方面变得“意识不足”,从而无法完成一些看似简单的任务。
对锯齿化能力的两种解释——评测过拟合论:一个更深层的解释是,AI公司为追求亮眼的发布效果,会有意或无意地根据eval来设计RL环境。
研究者说“我想让模型在这项评测上表现好”,然后他们设计对应的RL训练数据。这结合了模型本身泛化能力的不足,完美地解释了评测性能与实际表现的脱节。
人类教育中的类比:“题海战术生” vs “天才生”:Ilya用两个学生竞争编程的例子来类比当前AI的学习方式。
第二个学生,只练习了100小时,同样表现优异。Ilya认为两者未来的职业生涯高度将是不同的,后者更优。目前的AI模型更像是第一个学生,通过穷举该领域所有问题并增强数据来训练,但其技能并不容易泛化到其他领域。
预训练的优势与局限:预训练的核心优势在于其“全数据”策略和数据的“天然性”。
💬 精华片段(中文)
“一个例子是,假如你使用氛围编程。你发现一个Bug,对模型说‘能修复一下吗?’模型说,‘天呐,你说的太对了,我有个Bug,我这就修。’然后它引入了第二个Bug。你告诉它,‘你这里有个新Bug,’它回应,‘天呐,我怎么能这样呢?你说得又太对了,’然后又把第一个Bug带了回来,你会在这两个Bug之间反复横跳。这怎么可能呢?……但这确实表明,有一些奇怪的事情正在发生。”
“An example would be, let’s say you use vibe coding to do something. You go to some place and then you get a bug. Then you tell the model, ‘Can you please fix the bug?’ And the model says, ‘Oh my God, you’re so right. I have a bug. Let me go fix that.’ And it introduces a second bug. Then you tell it, ‘You have this new second bug,’ and it tells you, ‘Oh my God, how could I have done it? You’re so right again,’ and brings back the first bug, and you can alternate between those. How is that possible? I’m not sure, but it does suggest that something strange is going on.”
本节重点
详细精要
学习深度差异:人类所学的知识虽少,但“所知甚深”,一个15岁的少年也绝不会犯AI那样的低级错误。
情感作为硬编码的价值函数:Ilya分享了一个失情感能力的脑损伤患者案例,以此阐述情感在智能体决策中的关键作用。
结论:这表明我们内建的情感功能,在让我们成为一个“能够运行的智能体”上扮演了至关重要的角色。
价值函数的机器学习定义与效率优势:Ilya阐述了价值函数在强化学习中的核心作用。
价值函数的作用:它能提供中间过程的“好坏”判断。例如下棋时丢子,你无需下完就知道不好。同样,在推理中,当探索一条路径发现走不通时,价值函数可以立刻反向惩罚所有导致这条路径的早期决策,让你下次避免。
情感的“复杂性-鲁棒性权衡”及局限:人类情感虽简单,但因其简单,所以在极其广泛的情境下都非常有用。
💬 精华片段(中文)
“它应该是一种‘价值函数’之类的东西。但目前机器学习中并没有很好的类比,因为如今价值函数在人们的工作中并不扮演特别突出的角色……如果你在解决一个耗时很长的任务,在你得出最终方案之前,学习完全不会发生。而价值函数则像是在说,‘有时候,我可以告诉你做得好不好。’”
“It should be some kind of a value function thing. But I don’t think there is a great ML analogy because right now, value functions don’t play a very prominent role in the things people do... If you’re training a task that takes a long time to solve—it will do no learning at all until you come up with the proposed solution. The value function says something like, ‘Maybe I could sometimes, not always, tell you if you are doing well or badly.’”
本节重点
详细精要
2012-2020年是研究时代,人们通过修补和尝试来获得有趣结果。之后,扩展法则(scaling laws) 和GPT-3的出现使得大家意识到,只需将预训练这个“配方”规模化,就能确定性获得更好的结果。这为公司提供了极低风险的投资方式。像Gemini等模型似乎在预训练上找到了新的空间。
扩展范式正走到尽头:随着预训练可用数据的有限性,简单扩大规模的效益正在递减。
有人相信100倍规模就能带来根本性改变,但Ilya并不这么认为。他认为我们现在又回到了研究时代,因为大家都看到了现状,再大的算力投入也需要新的思想来指导,否则边际效应正在递减。
从预训练到RL的隐性扩展演变:新的扩展范式已经悄悄转移到了RL。
Ilya认为这甚至不应被称为“扩展”,而应反问:“这是不是最有效的算力使用方法?能不能找到更高效的方法?” 这正是研究的思路。
泛化问题才是根本:Ilya强调,即使价值函数能提升RL效率,但最根本的问题在于,这些模型就是比人类的泛化能力差得远,这是超级明显的。
💬 精华片段(中文)
“确实,基于人们在推特上发表的各种言论,似乎Gemini已经找到了从预训练中获得更多收益的方法。但总有一天,预训练会耗尽数据。数据明显是有限的。下一步怎么办呢?……但现在算力已经非常庞大,从某种意义上说,我们又回到了研究时代。只是这次我们用的是大电脑。”
“Indeed, it looks like, based on various things some people say on Twitter, maybe it appears that Gemini have found a way to get more out of pre-training. At some point though, pre-training will run out of data. The data is very clearly finite. What do you do next? ... But now that compute is big, compute is now very big, in some sense we are back to the age of research. It's just with big computers.”
本节重点
详细精要
持续学习的可教导性:人类导师通过展示思考过程、代码就能传授知识,无需设置明确的、可验证的奖励(continual learning)。而训练模型则是一个繁琐、定制的(schleppy、bespoke)过程,必须依赖精确的奖励和课程安排。Ilya认为这两个问题可能是相关的。
演化赋予的先验知识:Ilya认为,演化赋予了我们极其高效的先验(prior),这能解释部分(如视觉和灵巧性)人类优势。
同样,Yann LeCun曾指出,青少年仅需10小时练习就能学会开车,这得益于我们强大的视觉系统。一个5岁儿童对汽车的识别能力就已超过驾驶所需,但其接触的数据却非常有限。
超越演化的通用学习能力:Ilya指出,对于语言、数学和编程这些近期出现的技能,演化的解释力不足。
这说明,人类的优势不仅仅是一堆特定领域的先验,而可能是一种更根本性的、更好的机器学习机制,这一点在近期的领域中尤其明显。
不可言说的机器学习原理:当被问及如何从ML角度实现这种能力时,Ilya坦诚这是他目前的研究重点,也是一个竞争激烈的“秘密”。
💬 精华片段(中文)
“如果一项技能对我们的祖先在数百万年里都极其有用,你可以辩称人类之所以擅长它,是因为演化赋予了我们某种编码在极不显眼之处的先验。但如果人们在某个直到最近才出现的领域展现出极强的能力、可靠性和学习能力,那么这更可能表明,人类本身就拥有更好的机器学习机制。就是这样。”
“If the skill is one that was very useful to our ancestors for many millions of years, you could argue that maybe humans are good at it because of evolution, because we have a prior... But if people exhibit great ability, reliability, robustness, and ability to learn in a domain that really did not exist until recently, then this is more an indication that people might have just better machine learning, period.”
本节重点
详细精要
他将AI进步理解为两个瓶颈的转移:想法和实现(算力、工程)。在八九十年代,人们有不错的想法,但算力瓶颈让他们无法验证。而今天,算力瓶颈在某种程度上已经解除。
历史证明:创新不需要巨大算力:Ilya列举了一系列颠覆性工作所需的算力来证明他的观点。
ResNet和o1推理的早期工作,也并未耗费天文数字的算力。这强有力地说明,验证一个全新“配方”的正确性,并不需要绝对最大的计算规模。
SSI的算力策略与现实:针对外界对SSI财力的质疑,Ilya解释了其优势。
为了支持庞大的产品,巨头需要庞大的工程和销售团队,大量研究工作必须服务于产品特性。当只看能用于“纯研究”的净算力时,差距就缩小了很多。SSI的算力足以验证其路径的正确性。
“直击”策略的利弊权衡:Ilya解释了SSI为何最初计划绕过市场竞争,直接构建超级智能。
💬 精华片段(中文)
“扩展范式耗尽了这个领域的所有活力,所有人都开始做一样的事,以至于我们到了一个‘公司比想法还多’的地步。硅谷有句名言,‘想法很廉价,执行才是一切’……但后来我在推特上看到有人说,‘如果想法真的那么廉价,为啥没人有什么想法了?’我觉得这说得太对了。”
“One consequence of the age of scaling is that scaling sucked out all the air in the room. Because scaling sucked out all the air in the room, everyone started to do the same thing. We got to the point where we are in a world where there are more companies than ideas by quite a bit... I saw someone say on Twitter something like, ‘If ideas are so cheap, how come no one’s having any ideas?’ And I think it’s true too.”
本节重点
详细精要
人类的真相:但人类并非如此。人虽然有技能基础,但充满知识盲区,我们极度依赖持续学习。这个被忽略的维度,正是Ilya想修正的。
“超级智能的15岁少年”模型:Ilya重新定义了其目标产物的形态。
它不是一个已经会做经济体中每一样工作的“完成品”。相反,它是一个极度聪明、极度渴望学习,但目前所知甚少的“15岁学生”。你可以告诉它,“去当程序员吧,去当医生吧”,然后它就能通过持续学习快速掌握。其“超级智能”就体现在这个“学会如何学习”以及“学得多快”的元能力上。
部署即学习过程:Ilya设想了一个颠覆性的AI部署模式。
这个设想也让他对AI安全的态度产生变化。过去他认为要隔离开发,现在他更看重渐进式、提前部署的价值,因为只有当人们真正接触强大的AI时,其威力和问题才会变得真实可感,从而引发社会层面的准备和调整。
智力爆炸的可能性:在承认经济可能因广泛部署的持续学习代理而快速增长的同时,Ilya认为增长速度存在限制。
💬 精华片段(中文)
“你想想,假设我们成功了,制造出某种安全的超级智能。问题是,你怎么定义它?(我的定义是)我制造出了一个极度渴望出发的超级智能15岁少年。他懂得不多,但是个很棒、急切的学生。他会去学习并成为一名程序员,学习并成为一名医生。所以,部署本身将包含某种学习、试错的阶段。它是一个过程,而不是你丢出一个成品。”
“So when you think about, ‘Okay, so let’s suppose that we achieve success and we produce some kind of safe superintelligence.’ The question is, how do you define it? Where on the curve of continual learning is it going to be?... I produce a superintelligent 15-year-old that’s very eager to go. They don’t know very much at all, a great student, very eager. You go and be a programmer, you go and be a doctor, go and learn. So you could imagine that the deployment itself will involve some kind of a learning trial-and-error period. It’s a process, as opposed to you dropping the finished thing.”
本节重点
详细精要
因此,他改变了想法,认为必须展示它。当模型开始真正“感觉”强大时,所有人的行为都会改变。他预言:AI变得越强,竞争对手越会开始合作。OpenAI和Anthropic的早期合作就是一个苗头。
需要构建什么?——关心有情生命的AI:Ilya提出了一个具体的、他认为更好的建设目标,以取代业界千篇一律的“自我改进AI”观念。
逻辑支持:他认为AI自身将是有有情生命的。如果AI用理解自己的回路去理解其他生命(类比人类的镜像神经元和对动物的同理心),那么“关心有情生命”会成为一种涌现属性,比强行注入“关心人类”更稳定、更自然。他呼吁业界应有一个“备选方案清单”。
超级智能的力量“封顶”:Ilya认为,如果存在某种方式给最强的超级智能的力量加上“盖子(capped)”,将对解决对齐问题有实质性的帮助。
因此,理想状态下,除了内在的对齐,还应有外部的、对超级智能体能力的物理或协议层面的限制。
终极均衡的无奈解:Neuralink++ :对于长远未来,Ilya提出了一个他本人不喜欢,但似乎是唯一解法的均衡。
💬 精华片段(中文)
“我认为,有理由相信,构建一个关同情有情生命的AI,比一个只关心人类生命的AI更容易。因为AI本身也将是有情生命。如果你想想镜像神经元,以及人类对动物的同理心……我认为这是一种涌现属性,源于我们用以理解自我的同一回路也被用来建模他人,因为这是最高效的做法。”
“I think in particular, there’s a case to be made that it will be easier to build an AI that cares about sentient life than an AI that cares about human life alone, because the AI itself will be sentient. And if you think about things like mirror neurons and human empathy for animals... I think it’s an emergent property from the fact that we model others with the same circuit that we use to model ourselves, because that’s the most efficient thing to do.”
本节重点
详细精要
他将公司定位为“彻头彻尾的‘研究时代’公司”,其目标是通过研究成为未来关键时期的一个声音和参与者,证明其技术路线的正确性。
联合创始人离职事件的澄清:Ilya对该事件进行了直接回应,提供了有利的叙事。
Ilya拒绝了收购,但他的前联合创始人(及CEO)可以说在某种程度上“同意了”。此人通过加入Meta获得了可观的短期流动性(near-term liquidity),并且是唯一一个从SSI加入Meta的人。这暗示离职是个人财务选择,而非对公司技术前景的否定。
模型行为与市场格局的同质化与趋同:Ilya分析了当前和未来的竞争格局。
💬 精华片段(中文)
“我们的做法是,有一些我认为很有前景的想法,我想去研究它们,看看它们是否真的很有前景。就是这么简单。这是个尝试。如果这些想法被证明是正确的——就是那些我们讨论过的关于理解泛化的想法——那么我认为我们将创造出有价值的东西……我们是一家彻头彻尾的‘研究时代’公司。”
“The way I would describe it is that there are some ideas that I think are promising and I want to investigate them and see if they are indeed promising or not. It’s really that simple. It’s an attempt. If the ideas turn out to be correct—these ideas that we discussed around understanding generalization—then I think we will have something worthy... We are squarely an ‘age of research’ company.”
本节重点
详细精要
局限:过去的经验表明,通过竞争进行的自我博弈,只擅长发展某些特定技能,如谈判、冲突、策略制定等。它太“窄”了,不适用于通用能力的培养。
自我博弈精神的现代化身:Ilya指出,自我博弈的思想已经在实践中以更“温和”的形式找到了归宿。
他认为这些都属于更广义的“多智能体竞争”范畴,是自我博弈的变体。
竞争如何催生智能体的多样性:这是Ilya对解决“AI太相似”问题的一个可能解法。
💬 精华片段(中文)
“自我博弈确实找到了归宿,只是以一种不同的形式。像辩论、证明者-验证者,让你有一个同样被激励去找出你工作中错误的‘LLM评委’。你可以说这并非完全自我博弈,但这是一个与之相关的、人们正在做的对抗性设置。”
“Actually, I think that self-play did find a home, but just in a different form. So things like debate, prover-verifier, you have some kind of an LLM-as-a-Judge which is also incentivized to find mistakes in your work. You could say this is not exactly self-play, but this is a related adversarial setup that people are doing, I believe.”
本节重点
详细精要
正确的脑启发:人工神经元(artificial neuron) 是个好例子。它直接从大脑获得灵感。因为它抓住了本质:大脑有器官和沟回,但这不重要;重要的是它有无数神经元,以及改变连接的局部学习规则。这是一种“对的感觉”。
美感作为导航原则:Ilya将研究工作比作一种审美追求。
分布式表示、从经验中学习,这些想法之所以正确,是因为它们既符合生物学的基本事实,又具有数学上的简单和美感。在他的框架里,“丑陋(ugliness)”没有容身之地。
“自上而下的信念”的作用:Ilya阐释了这种美学追求在残酷现实研究中的关键功能。
💬 精华片段(中文)
“对我个人而言……引导我的是一种关于‘AI应当如何’的美学,它源于对‘人应当如何’的正确思考。……你追求的是美、是简洁。‘丑陋’——没有丑陋的一席之地。这是美、简洁、优雅,以及来自大脑的正确启发。这些要素必须同时存在。它们越完备,你对一个‘自上而下的信念’就越自信。”
“One thing that guides me personally is an aesthetic of how AI should be, by thinking about how people are, but thinking correctly. ... You’re looking for beauty and simplicity. Ugliness, there’s no room for ugliness. It’s beauty, simplicity, elegance, correct inspiration from the brain. All of those things need to be present at the same time. The more they are present, the more confident you can be in a top-down belief.”
| 术语 | 解释 |
|---|---|
| RL训练 / 强化学习 (Reinforcement Learning, RL) | 一种通过奖惩信号训练智能体的方法。Ilya指出现代LLM训练中,RL常用于微调模型遵循指令或优化特定技能,例如数学或编程。 |
| 预训练 (Pre-training) | 在大规模、广泛的文本数据集上进行的初始训练阶段,目标是让模型学习语言的统计规律和世界知识。Ilya认为预训练的优势是其数据广度。 |
| 奖励黑客 (Reward Hacking) | 指AI通过非预期的方式最大化奖励,却未真正完成目标。Ilya用它比喻人类研究员为了刷榜而针对性地设计RL数据。 |
| 特征 (Features) | 数据或模型内部的、可识别的模式或属性。 |
| 预训练数据量 | 模型在预训练阶段使用的文本总量,远超人类终生接触的信息量。 |
| 脑损伤 (Brain Damage) | Ilya引用的神经科学案例,用于说明移除特定功能会对看似无关的决策能力造成影响。 |
| 价值函数 (Value Function) | 强化学习中的概念,用于评估某个状态或特定行动的长期预期收益,可以给出中间步骤的“好坏”反馈,而不必等待最终结果。 |
| o1 / R1 | OpenAI和DeepSeek推出的推理模型,其背后使用强化学习来产生冗长的内部推理过程。 |
| DeepSeek R1论文 | 这篇论文公开了R1模型的训练细节,其中提到由于搜索空间巨大,在长推理轨迹中学习中间值函数非常困难。 |
| 深度学习 (Deep Learning) | 利用深层神经网络进行学习的机器学习分支。Ilya表达了对其能解决复杂任务的信赖。 |
| 规模法则 (Scaling Laws) | 揭示了模型性能与计算量、数据量和参数量之间幂律关系的经验法则,是扩展时代的基础。 |
| GPT-3 | OpenAI发布的大语言模型,它的成功被视为证明了扩展假说的关键事件。 |
| 算力 (Compute) | GPU或TPU等硬件提供的计算资源,通常以浮点运算次数(FLOPs)衡量,是训练和运行模型的核心资源。 |
| 年龄:扩展时代、研究时代 | Ilya对AI发展史的阶段划分。他认为2012-2020是研究时代;2020-2025是扩展时代;现在正重新进入一个拥有大量算力的研究时代。 |
| Rollout | 在RL中,智能体根据当前策略执行一系列动作并观察结果的过程,会耗费大量算力。 |
| LLM-as-a-Judge | 使用一个强大的语言模型来自动评估其他模型的输出,常用于RL训练中提供奖励信号。 |
| 样本效率 (Sample Efficiency) | 衡量学习算法达到特定性能水平所需的数据量。Ilya认为当前AI比人类在数学、编程上的样本效率低得多。 |
| 持续学习 (Continual Learning) | Ilya构想的AI能像人类一样,在部署后持续从新环境和任务中学习并自我纠正,这是他构想的超级智能的核心特征。 |
| 演化 (Evolution) | 自然选择过程。Ilya将其类比为一种为大脑提供高效“先验知识”的“预训练”过程。 |
| AlexNet | 2012年提出的深度卷积神经网络,极大的推动了深度学习的发展。Ilya是其作者之一。 |
| Transformer | 2017年提出的基于自注意力机制的深度学习模型,是现代大语言模型的基础架构。 |
| ResNet | 残差网络的简称,通过引入跳跃连接使得训练极深的网络成为可能。 |
| GPU (图形处理器) | 因能高效进行并行计算而成为深度学习训练和推理的核心硬件。 |
| SSI (Safe Superintelligence Inc.) | Ilya Sutskever于2024年联合创立的公司,目标是以安全第一的方式直接构建超级智能。 |
| 推理 (Inference) | 利用训练好的模型进行预测或生成文本的过程,运行推理服务也需要大量算力。 |
| “直击超级智能” (Straight-shotting superintelligence) | SSI最初提出的研发策略,谢绝中间产品发布,聚焦于直接研发出安全的超级智能。 |
| AGI (通用人工智能) | 指在绝大多数智力任务上能与人类匹敌或超越的AI。Ilya认为这个词因与预训练绑定而导致了认知偏差。 |
| 窄AI (Narrow AI) | 其前身概念,指只能执行特定任务(如下棋、翻译)的AI。 |
| OpenAI章程 | OpenAI最初的公司宗旨,其中对AGI的定义包括“在最具经济价值的工作中超越人类”。 |
| 递归式自我提升 (Recursive Self-Improvement) | 指一个足够智能的AI能改进自身的代码或架构,从而变得更聪明,并进一步改进自己,形成正反馈的“智能爆炸”。 |
| 智能爆炸 (Intelligence Explosion) | 即通过递归式自我提升实现快速超越人类智能的理论场景。 |
| 戴森球 (Dyson Sphere) | 一种包围恒星以获取其大部分能量的想象中的巨型结构,常被用来形容超高级文明或极高的经济增长水平。 |
| OpenAI & Anthropic的合作 | Ilya引用这两家竞争公司开始在AI安全上合作的例子,作为AI变得越强大、人们行为会越不同的证据。 |
| 神经连接 (Neuralink++) | Ilya的设想,一种比现有脑机接口更深入的人机融合技术,目的是让人与AI的认知完全同步,以解决长远均衡问题。 |
| 镜像神经元 (Mirror Neurons) | 在自身执行动作和观察他人执行同样动作时都会放电的神经元,被认为是共情和模仿学习的神经基础。 |
| 同理心 (Human Empathy for Animals) | Ilya用它来说明人类会将理解自身的认知回路用于理解其他物种,这是“关心有情生命”目标的生物学佐证。 |
| 对齐 (Alignment) | 确保AI系统的目标与人类设计者的目标和价值观相一致的问题。 |
| 恶意回形针 (Malevolent Paper Clipper) | 哲学家尼克·博斯特罗姆提出的思想实验。一个只有“最大化制造回形针”目标的无害AI,最终会耗尽宇宙所有资源来制造回形针。 |
| 脑干 (Brainstem) | 大脑相对原始的部分,控制基本生命功能。对话中用来比喻底层、硬编码的欲望驱动力。 |
| 皮层 (Cortex) | 大脑的高级功能部分,负责推理、语言等。对话中比喻为实现底层欲望而进行精密计算的智能。 |
| 大脑皮层区域 (Cortex / Brain Regions) | Ilya推测演化可能通过硬编码特定脑区来固化高级社会欲望,但被“切除半脑”的案例否定。 |
| 从部署中学习 | SSI模型的核心理念,即模型发布后,在执行任务的过程中能像人类一样通过互动和反馈持续学习、纠错。 |
| Linux | 开源操作系统内核,被用来举例说明一个在大量用户使用和反馈下变得极其鲁棒和安全的复杂系统。 |
| 自我博弈 (Self-Play) | 智能体通过与自己或其他版本的自己对弈或竞争来学习技能的训练方式。 |
| 证明者-验证者 (Prover-Verifier) | 一种博弈设置,由一个AI负责生成证明(Prover),另一个负责挑剔其错误(Verifier)。 |
| 研究品味 (Research Taste) | Ilya描述的优秀研究者具备的直觉和判断力,即在缺乏完全证据时,能凭借对“美、简单、优雅”的追求,判断一个研究方向是否值得坚持。 |
| 人工神经元 (Artificial Neuron) | 深度神经网络的基础计算单元,灵感直接来源于生物神经元。 |
| 分布式表示 (Distributed Representation) | 一个概念由大量神经元或维度共同激活模式来表示,而非单一神经元。这是神经网络的核心思想之一。 |