框架
翁荔连发博客:Harness工程或成AI自我改进新范式,Scaling Law地基松动
前OpenAI安全研究副总裁、现Thinking Machines Lab联合创始人翁荔(Lilian Weng)在两周内连续发布两篇技术博客,分别探讨Scaling Laws的局限性与Harness Engineering对AI自我改进的潜力。第一篇《Scaling Laws, Carefully》指出,经典Scaling Laws的拟合结果对参数计数方式、损失函数精度等细节高度敏感,Kaplan与Chinchilla的分歧源于bookkeeping级差异,且数据重复导致过拟合,使得“数据无限”前提崩塌。第二篇《Harness Engineering for Self-Improvement》系统梳理了包裹在基础模型外的执行系统(Harness)的设计模式,包括工作流自动化、文件系统持久记忆、子Agent并行等,并指出递归自我改进(RSI)近期更可能发生在Harness层而非模型权重直接重写。文章还介绍了ACE、Meta Context Engineering等上下文优化方法,以及Self-Harness、Darwin Gödel Machine等自我优化框架,并坦率列出评估模糊、记忆管理、多样性坍缩、奖励作弊等未解挑战。两篇文章共同指向一个趋势:当模型参数扩张边际效益递减时,Harness工程可能成为AI能力提升的第二条增长曲线。
2026年7月7日来源:综合整理
相关资讯
翁荔博客万字长文:Scaling Law 并非铁律,行业共识存在方法论瑕疵
6月28日 · 综合整理
翁荔万字长文剖析Scaling Law:OpenAI与DeepMind结论分歧,Chinchilla公式存方法论瑕疵
6月26日 · 综合整理
Anthropic前员工创业公司Mirendil获2亿美元种子轮融资,估值10亿美元
6月27日 · 综合整理
MCP(Model Context Protocol)正式发布,成为 Agent 接口新标准
11月25日 · modelcontextprotocol.io
LangGraph 发布:构建有状态 Agent 的新范式
7月15日 · LangChain Blog
Dify 开源 LLMOps 平台 GitHub Star 突破 5 万
1月5日 · Dify Blog