69岁强化学习之父Richard Sutton创业,成立Oak Lab打造20瓦人脑级智能体
2025年7月,2024年图灵奖得主、强化学习奠基人Richard Sutton宣布与博士生Khurram Javed共同创立新公司Oak Lab,旨在开发能够通过自身经验实时学习、实时规划的AI智能体,终极目标是构建万亿参数、整机功耗仅20瓦(与人脑持平)的通用智能体。Sutton此前于2023年加入John Carmack创办的Keen Technologies,合作不到三年后因对技术路线分歧而离开,但他公开称赞Carmack。
背景:从学术泰斗到创业者
Richard Sutton是现代强化学习的开山人物:本科在斯坦福攻读心理学,博士师从强化学习先驱Andrew Barto;提出时序差分算法,合著《强化学习导论》成为全球通用教材;2003年起长期担任阿尔伯塔大学教授,创办强化学习实验室RLAI;2017-2023年任职DeepMind杰出研究科学家,牵头建立Edmonton团队。他培养了大批AI顶尖人才,包括AlphaGo核心设计者David Silver、DeepMind蒙特利尔负责人Doina Precup等。
核心理念:经验驱动的实时学习
Sutton认为当前深度学习路线薄弱、低效,依赖人类生产、筛选的静态数据,模型无法在运行中持续更新自身能力。Oak Lab的核心架构OaK(Options and Knowledge,技能与知识)旨在让智能体从自身经验中发现时间抽象结构,转化为可调用的技能。与传统深度强化学习不同,Oak Lab采用batch size为1的实时学习方式,每得到一条新经验立即更新,不储存历史数据或回放经验。团队认为,结合事件驱动神经网络,计算量和能耗可下降数个数量级。
技术路线:OaK架构与大世界假说
OaK架构的核心是让智能体从经验中拆解出高层级技能(如“走到厨房”“拿起杯子”),后续遇到相似目标时直接调取技能并灵活调整。Sutton和Javed共同提出“大世界假说”:真实世界永远比AI复杂,模型需选择性记住有用内容、适时遗忘过时信息,持续在线学习。这与Sutton 2019年发表的《苦涩的教训》一脉相承——通用学习与搜索方法终将胜过依赖人类知识的系统。2025年,Sutton与David Silver联合提出“经验时代”,认为AI将从依赖人类数据转向依靠智能体与环境互动产生的经验。
各方反应与影响
Sutton创业引发行业关注。他此前加入Keen Technologies时,与Carmack计划在2030年前打造具备“AGI生命迹象”的原型系统,但最终因路线分歧离开。Sutton在推文中强调“关于John Carmack和Keen Technologies,我怎么夸都不为过”。Oak Lab的远期目标(万亿参数、20瓦功耗)目前仍是构想,但代表了强化学习学派对当前大模型Scaling Law路线的根本性质疑。Sutton创业后的第一站是上海WAIC,将发表题为《强化学习的第一性:从经验培育超级智能》的演讲。