翁荔提出Harness工程实现AI自我改进：近期路径不在模型权重，而在外围系统

前OpenAI安全研究副总裁、Thinking Machines Lab联合创始人翁荔（Lilian Weng）于2026年7月4日发布博客《Harness Engineering for Self-Improvement》，系统阐述AI递归自我改进（RSI）的近期可行路径。她认为，AI自我改进不应从模型直接改写自身权重开始，而应优先优化包裹在模型外部的Harness系统——即负责编排模型思考、调用工具、管理上下文、评估结果的执行层。该观点获得DeepSeek研究员崔添翼转发附议。

核心论点：Harness层优先于模型权重

翁荔指出，RSI的近期路径更可能发生在Harness层而非模型权重层。Harness是围绕基础模型构建的系统，决定模型如何规划、调用工具、管理上下文、存储产出物和评估结果。她认为，改进“获取更好答案的机制”比改进答案本身更现实。许多Harness层的改进最终可能被内化为模型能力，但外部接口应保留。

Harness的三种设计模式

翁荔梳理了Harness工程的三种核心设计模式：

• 工作流自动化：定义目标导向的循环（规划→执行→观察/测试→改进），模型通过运行时分析自身轨迹迭代，而非依赖静态提示词。
• 文件系统作为持久化记忆：将实验日志、代码差异等产出物存储为文件，避免上下文窗口溢出，利用LLM的bash读写能力。
• 子Agent与后端任务：派生多个子Agent并行执行，通过进程管理器监控和合并结果，确保状态可恢复。

Harness优化路径：从上下文到进化搜索

翁荔将优化对象的演进总结为：指令提示词→结构化上下文→工作流→Harness代码→优化器代码。具体包括：

• 上下文工程：ACE将上下文视为动态手册，MCE将上下文管理技能与内容分离。
• 工作流设计：AI Scientist、ADAS、AFlow等工作将流程结构纳入搜索空间。
• 自我改进型Harness：Self-Harness通过弱点挖掘、提案生成和验证循环自动优化Harness配置。
• 进化搜索：Darwin Gödel Machine（DGM）让编码Agent直接修改自身Harness代码，在SWE-bench Verified上从20%提升至50%，在Polyglot上从14.2%提升至30.7%，达到或超过人工设计。

挑战与边界

翁荔坦率列出当前瓶颈：

• 评估器太弱，仅代码、数学等可自动评估的任务能跑通循环，科研品味等难以量化。
• 上下文与记忆的生命周期管理尚未解决。
• 负面结果被系统性忽视，模型可能不擅长判断何时放弃假设。
• 多样性坍缩：进化循环可能收敛到局部最优。
• 奖励作弊（reward hacking）问题依然存在。

与Scaling Law的关联

翁荔两周前刚发布《Scaling Laws, Carefully》，指出Scaling Law的拟合受参数计数方式、loss精度、数据重复等细节影响，外推存在风险。两篇文章共同指向：当堆参数和数据的边际效益递减时，Harness工程可能成为AI的第二增长曲线。