原视频: Ilya Sutskever – We're moving from the age of scaling to the age of research 频道: Dwarkesh Patel 时长: 约 1 小时 36 分钟 发布日期: 2025 年 11 月
Ilya 离开 OpenAI 后创办了 SSI（Safe Superintelligence）。这场对话信息密度很高。
核心观点：扩展遇到了天花板
Ilya 开门见山：从 2020 到 2025 这几年，AI 进步主要靠"扩展"——更多数据、更大模型、更猛的算力。但他观察到一个尴尬的现象：
评测分数涨得很快，但真实世界的经济影响却跟不上。为什么？因为模型在"破解"评测，而不是真正理解问题。
更多算力仍然有用，但边际效益在下降，这条路快走到头了。
泛化能力：核心问题
Ilya 的比方：当前 AI 像为特定比赛练习一万小时的学生，人类像只练一百小时但有天赋的选手。
差距在哪？人类能从很少的经验里学到可迁移的知识，而当前 AI 必须吃海量数据才能勉强泛化。这个能力差距，或许才是下一个突破口。
情感：人类的价值函数
Ilya 认为人类情感本质上是进化出的价值函数。
它帮我们在没有即时奖励的情况下做出稳健决策。如果未来 AI 要做好长期决策，或许也需要某种类似的内部价值系统。这或许还能帮助解决对齐问题。
SSI 的策略：专注
SSI：30 亿美元全砸研究，不搞产品周期，不养销售团队。
Ilya 相信专注的研究团队能和资源更多但更分散的大公司竞争。直奔超级智能，不被市场分心。
持续学习者，不是静态知识库
未来 AI 不是"什么都知道"的静态系统，而是能快速学习任何领域的持续学习者。超级智能不是百科全书，是能快速成长的心智。
从"人类对齐"到"众生对齐"
与其"人类对齐"，不如"众生对齐"——AI 可能也有感知能力，应学会关心所有有感知的生命。
这种关怀不应硬塞规则，而应作为"深度建模他者"的自然涌现——能理解你，才能关心你。
时间线：5 到 20 年
Ilya 对"人类水平学习者"的预测：5 到 20 年。区间宽，反映对根本性突破的不确定。但他认为会发生，只是不确定何时。
研究品味
什么是好研究？Ilya：美感、简洁、优雅。
好的研究直觉来自对"AI 该是什么样"的审美感——从大脑基本原理找灵感，不在工程细节死磕。
我的收获
这场对话揭示了 AI 领域一个重要的思想转变：
- 扩展有极限——单纯堆算力的路在见顶
- 泛化是关键——下一个突破在于让 AI 像人一样从少量数据中学习
- 持续学习——未来的 AI 是动态学习者，不是静态知识库
- 更宏大的对齐——从服务人类到关怀所有有感知的生命
Ilya 的观点代表了前沿研究者的一种深刻反思：在追逐更大模型的喧嚣中，我们可能忽略了一些更根本的问题。