Karpathy：智能体什么都干不好，AGI 至少还要十年

“这些问题不是不能解决，只是仍然很难。”——Andrej Karpathy

最近 AI 圈又在狂吹“智能体元年”，好像明天你的 AI 就能替你上班、理财、谈恋爱了。

但刚从幕后回归的 Andrej Karpathy，直接泼了盆冷水：“它们现在连鼠标都点不准。”

在最新一期《Dwarkesh Podcast》里，这位 OpenAI 创始元老、前特斯拉 AI 负责人、深度学习老炮儿，说了不少大实话：

• 别信“Agent今年爆发”——真正的智能体时代，至少还要十年；
• 今天的 AI 不是缺智商，是没记忆、没感官、没手脚、不会规划；
• 强化学习？他直言“是个糟糕的算法”，人类学东西可没这么笨；
• 甚至警告：用 AI 生成的数据继续训练，模型会越练越傻，最后变成复读机；
• 但他也留了希望：未来每个人都会有一个会陪你学习、提问、反思的AI伙伴。

没有 hype，没有末日预言，只有工程师式的清醒和一点点温柔的期待。

如果你也觉得AI最近“神得有点假”，这篇访谈，正好帮你把脚踩回地上。

原采访非常长，以下是核心要点。

（注：本文采用了 AI 工具结合人工校正的方式进行处理）

🌍 智能体至少需要 10 年

主持人 Dwarkesh 开场就问他：“为什么说是‘智能体的十年’，而不是‘智能体的一年’？”

Karpathy 笑了笑：“因为它们现在还什么都干不好。”

Karpathy 反对那句流行语——“这是智能体（Agent）的一年”。在他看来，这更像是一个“十年级别的时代”。

Claude、Codex 等模型确实聪明，但距离“能真正替人完成任务”的数字员工，还差几个关键环节：

• 没有记忆：缺乏持续学习（Continual Learning）；
• 不会看世界：多模态能力仍有限；
• 动不了手：无法高效操作电脑、执行复杂任务；
• 不懂规划：推理与目标分解仍十分脆弱。

这些问题并非无解，但每一项都非常难。

“要让智能体学会行动、感知、规划、执行，还需要整个生态系统的演化——算法、界面、硬件、社会结构都得跟上。”

Karpathy 的判断很理性：“十年，差不多是合理的时间尺度。”

这十年里，AI 将逐步拥有“感官”和“身体”，从单纯的语言助手，成长为具备行为与目标的“数字生命”。

🧩AGI 不是更大的模型，而是会行动的智能体

Karpathy 眼中的 AGI，不是一个更大的语言模型，而是一个会行动的智能体。

“AI 不该只是回答问题的机器，它应该理解世界、制定计划、执行任务、反思经验。”

他把人工智能的发展分成三个阶段：

• 深度学习阶段：AI 学会“看”，会识别图像（比如 AlexNet）。
• 强化学习阶段：AI 学会“动”，能玩游戏、能在环境里试错（比如 DeepMind 的 Atari）。
• 大语言模型阶段：AI 学会“想”，能理解人类语言。

“接下来这一阶段，就是智能体的时代。”

⚙️强化学习很糟糕

谈到强化学习，Karpathy 直言：“强化学习是个糟糕的算法，但比它更好的还没出现。”

他批评 RL 的本质太粗糙：它只是根据最终结果奖惩行为，却无法区分过程中的“对与错”。

“这就像一个学生，考完试才知道自己错哪题，却没人告诉他哪一步逻辑出错。”

而人类的学习方式完全不同：我们会对每一步进行反思和微调，不会等到最后才知道“好或坏”。

未来他更看好“过程监督”（Process-based Supervision）：让模型在每个推理步骤都获得反馈，而不是只看终点得分。

“这才更像人类的学习。”

💭模型坍缩，让 AI 变‘笨’

主持人问到：“为什么 LLM 无法像人一样真正‘思考’？”

Karpathy 提出了一个关键问题：模型在用自己生成的数据继续训练时，会逐渐“坍缩”——输出越来越单一、缺乏创造力，最终退化成“复读机”。

“这跟人类恰恰相反，人类的学习之所以有效，是因为我们会做梦、会走神、会胡思乱想——这些随机扰动让思维保持多样性。而 AI 没有梦，也没有混乱。”

他笑着说，也许未来 AI 也得“做梦”。

“也许在某种意义上，我们要让模型学会‘乱想’，才不会变笨。”

📈AGI 并不会带来“奇点爆炸”

面对主持人抛出的经典问题——“AGI 会不会引发生产力爆炸？”

Karpathy 给出一个出乎意料的冷静回答：

“不会。AGI 会融入人类社会 250 年来稳定的 2% 经济增长曲线。”

换句话说，AI 不是核爆，而是渐变的地质运动。

它会潜入社会底层、产业流程、教育体系，改变世界的节奏，但不会一夜之间颠覆人类文明。

🎓教育的未来是「人机共学」

在谈到教育时，Karpathy 变得温柔起来。

“未来的教育不会再是记忆知识，而是与智能体共同学习。”

每个人都可能拥有一个专属学习助手：它懂你的习惯、帮你提问、引导反思，就像一个终身学习的伙伴。

这也是他最看好的 AI 应用场景之一——“教育中的伴学智能体”。

🧠十年之后，数字生命会出现

整场访谈中，Karpathy 没有喊口号，也没有卖“未来焦虑”。

他只是不断重复一句话：

“这些问题都能解决，但仍然很难。”

他的语气冷静，却暗含兴奋。

十年前，他站在深度学习的起点。

十年后，他又一次站在“智能体时代”的门口。

这一次，他相信——真正的“数字生命”，正在酝酿。