EN
返回资讯列表
框架

翁荔连发博客:Harness工程或成AI自我改进新范式,Scaling Law地基松动

前OpenAI安全研究副总裁、现Thinking Machines Lab联合创始人翁荔(Lilian Weng)在两周内连续发布两篇技术博客,分别探讨Scaling Laws的局限性与Harness Engineering对AI自我改进的潜力。第一篇《Scaling Laws, Carefully》指出,经典Scaling Laws的拟合结果对参数计数方式、损失函数精度等细节高度敏感,Kaplan与Chinchilla的分歧源于bookkeeping级差异,且数据重复导致过拟合,使得“数据无限”前提崩塌。第二篇《Harness Engineering for Self-Improvement》系统梳理了包裹在基础模型外的执行系统(Harness)的设计模式,包括工作流自动化、文件系统持久记忆、子Agent并行等,并指出递归自我改进(RSI)近期更可能发生在Harness层而非模型权重直接重写。文章还介绍了ACE、Meta Context Engineering等上下文优化方法,以及Self-Harness、Darwin Gödel Machine等自我优化框架,并坦率列出评估模糊、记忆管理、多样性坍缩、奖励作弊等未解挑战。两篇文章共同指向一个趋势:当模型参数扩张边际效益递减时,Harness工程可能成为AI能力提升的第二条增长曲线。

2026年7月7日来源:综合整理