☰
Harness-Zero:Harness Distillation via Agent-as-Harness——通过 Agent-as-Harness 实现 Harness 蒸馏
2026/10/19 2:03:30 网站建设 项目流程

一、研究背景与问题

核心问题:LLM 智能体的能力不仅取决于模型本身,还取决于其harness(外部系统,负责组织工具使用、管理上下文和状态、控制与环境交互)。Harness 工程已成为提升智能体性能的核心手段,但存在一个根本性矛盾:

  • Harness 优化改进的是外部脚手架而非模型本身,收益在部署时绑定于该 harness;

  • 最佳 harness 因领域、实例、基础模型而异,通用智能体面临两难:

    • 选择共享 harness→ 放弃专用收益;

    • 维护多个专用 harness→ 需路由,产生上下文、模型调用、工具调用和编排的持续性成本。

两种选择都无法将发现的 harness 改进迁移到模型权重中。

二、核心贡献

论文提出HARNESS-ZERO框架,实现agent harness distillation(智能体 harness 蒸馏):用优化后的 harness 作为训练时指导,将其诱导的行为迁移到模型参数中,使收益在单一固定目标 harness 下依然保留。

三个主要贡献:

  1. 形式化 agent harness distillation 问题,提出 HARNESS-ZERO,将优化 harness 诱导的行为迁移到模型参数,以便在固定目标 harness 下部署。

  2. 提出 agent-as-harness:将优化 harness 的指导转化为学生响应边界处可执行的监督信号,实现跨不同 harness 动作空间的模仿学习。

  3. 实验验证:agent-as-harness 可优于 code-as-harness;HARNESS-ZERO 在移除优化 harness 后仍保留收益;蒸馏模型恢复了 harness 诱导的行为。

三、方法:HARNESS-ZERO 三阶段

关键符号

  • h:固定目标 harness(最小化 mini-SWE-agent,仅一个 Bash 工具)

  • h∗:演化后的学生侧 harness(通过 meta-harness 演化)

  • K:适配自 h∗ 的私有参考 harness,供 harness 化智能体使用

  • πS​:学生策略;πH​:harness 化策略

阶段 1:Harness 演化与适配(§3.1)

  • 演化:在训练任务上通过技能引导的演化循环(3 轮)分析反复失败,更新工具、中间件、技能和记忆,得到 h∗。

  • 适配:将 h∗ 组件适配为 K,改变其受众和执行点:

    • 工具 → 构建学生原生等价物的规范

    • 学生侧中间件 → 审查中间件(条件满足时私下提醒)

    • 技能/记忆 → 诊断标准与干预指导

阶段 2:Agent-as-Harness(§3.2)

  • 学生在 h 下运行,harness 化智能体在响应边界拦截每个提议响应;

  • 使用 K 决定PASS(原样通过)或REPLACE(最小连贯修正);

  • 被接受的响应通过 h 执行,观察结果进入学生可见轨迹;

  • 关键约束:harness 化智能体只能读取 K,不能检查隐藏解决方案或环境状态;修正必须是学生动作空间中的完整响应。

阶段 3:从审查轨迹中学习(§3.3)

  • 对经过审查的轨迹(含未更改提议和替换)应用SFT;

  • 屏蔽审查者视角的推理 token;

  • 部署时系统为 (πθ​,h),移除 h∗、K 和 harness 化智能体。

四、实验设置

维度内容
领域SpreadsheetBench Verified(电子表格)、AppWorld(多应用工具)、USPTO(逆合成)
目标 harness h最小 mini-SWE-agent,单一 Bash 工具
蒸馏基础模型Qwen3.5-9B
Harness 化智能体GPT-5.6 Sol
Harness 演化Kimi K3(Kimi Code)
训练LoRA SFT,2 epochs,Tinker 配方

五、主要实验结果

1. Agent-as-Harness vs. Code-as-Harness(推理时,无参数更新)

设置平均表现
mini-SWE-agent (h)68.6%
meta-harness (h∗)78.1%
Agent-as-harness(空 K)69.2%
Agent-as-harness(有 K)81.1%

结论:有演化 harness 时,agent-as-harness 平均优于 code-as-harness(81.1% vs. 78.1%);空 K 仅 69.2%,说明审查本身几乎不能解释收益。

2. Harness 蒸馏结果

设置平均
基础模型 + h23.3%
基础模型 + h∗41.7%
HARNESS-ZERO(仅 h)44.3%

结论:蒸馏将宏平均从 23.3% 提升至 44.3%(+21.0 绝对,+90.1% 相对),超过 h∗ 仍挂载时的 41.7%。通用 harness(DeepAgents 20.5%、Claude Code 15.9%)均未使基础模型受益。

3. 替代蒸馏信号消融(USPTO)

轨迹来源收集成功率测试 pass@1
基础(未训练)—12.0
教师 rollout52.012.0
教师 + h∗62.03.0
学生 + h∗39.412.0
空 KK 审查44.211.0
Oracle 答案审查98.615.0
HARNESS-ZERO(K)59.430.0

结论:

  • 有效监督来自harness 引导的审查,而非更强演示;

  • 程序性指导优于答案访问或通用审查;

  • 收集成功率不能预测蒸馏价值(Oracle 98.6% → 仅 15%);

  • 在 h∗ 下执行不能使其行为可迁移(动作空间不匹配)。

4. 行为内化(28 个 harness 专属模式)

  • 覆盖 SpreadsheetBench(18)、USPTO(6)、AppWorld(4);

  • 平均恢复率 82.3%,涵盖记忆、技能、工具、中间件来源;

  • 基础模型在 h 下对这些模式得分为 0%(按构造),因此恢复率直接衡量蒸馏添加的行为。

六、关键洞察

  1. 程序性行为比深层领域知识更易内化:SpreadsheetBench 和 AppWorld 上蒸馏模型超过 h∗;USPTO 上落后(30% vs. 38%),因需迁移反应先验和可执行验证逻辑。

  2. Agent-as-harness 的优势随模型能力增强而扩大:在弱模型上(Qwen3.6-35B-A3B)变为负值(-12.0%),因审查干预有害。

  3. 成本:收集期间 USPTO 延迟为 2.4×,蒸馏后无此开销。

七、局限与未来工作

局限:

  • 依赖有能力的 harness 化模型;

  • 审查每个提议增加收集成本;

  • SFT 可能无法完全内化深层领域知识;

  • 某些 harness 机制(如上下文管理)无法完全表达为学生响应。

未来工作:

  • 训练更强的智能体世界模型用于 harness 化决策;

  • 使用代理信号选择性审查,支持 token 插入、潜在空间引导等细粒度干预;

  • 利用替换对(被拒绝 vs. 偏好响应)进行偏好学习。

HARNESS-ZERO 将演化后的学生侧 harness h∗ 转化为固定目标 harness h 下模型的训练监督,将 harness 收益从外部脚手架内化到模型权重。这为智能体 harness 和递归自我改进开辟了新范式:将多个领域/任务特定的 harness 蒸馏到共享模型中,使跨智能体系统开发的行为和知识积累在参数中,而非分散在外部脚手架中;harness 开发可成为可扩展的训练信号来源。这里是自己的论文阅读记录,感兴趣的话可以参考一下,如果需要阅读原文的话可以看这里,如下所示:

项目地址在这里,如下所示:

摘要:

Agent harness(智能体 harness)——即介导模型-环境交互的外部系统——可以显著提升智能体性能,但其收益在部署时仍然受限于该 harness。由于最佳 harness 因领域、实例和模型而异,一个通用智能体要么满足于次优的共享 harness,要么在日益增多的专用 harness 之间进行路由。因此,我们研究智能体 harness 蒸馏(agent harness distillation):使用领域或实例优化的 harness 作为训练时指导,将其诱导的行为迁移到模型权重中,从而使收益在单一固定目标 harness 下仍然保留。挑战在于,两个 harness 在动作空间和可用信息上存在差异,因此优化 harness 的指导无法直接作为目标 harness 的监督信号。我们提出 HARNESS-ZERO,通过agent-as-harness(智能体即 harness)实现 harness 蒸馏。在优化 harness 的指导下,一个 harness 化智能体在目标 harness 的动作空间中对学生响应进行执行前修正,将 harness 指导转化为训练演示。对由此产生的轨迹进行微调,将 harness 诱导的行为内化到模型中,从而在部署时可以移除专用 harness。我们的实验涵盖知识工作、工具使用和科学领域,结果表明:1 对于使用相同演化 harness 的前沿 LLM,agent-as-harness 优于 code-as-harness。2 在部署时移除专用 harness 的情况下,HARNESS-ZERO 将基础模型的宏平均任务成功率从 23.3% 提升至 44.3%,甚至超过了仍挂载该 harness 时达到的 41.7%。3 HARNESS-ZERO 恢复了基础模型中缺失的 harness 诱导行为,在三个领域的 28 种模式上平均恢复率为 82.3%。

关键词:LLM 智能体、智能体 harness、harness 演化、harness 蒸馏、agent-as-harness、微调

1 引言

LLM 智能体的能力既取决于其模型,也取决于其 harness:即组织工具使用、管理上下文和状态、控制与环境交互的外部系统 [Ning et al., 2026b, Weng, 2026]。Harness 工程已成为提升智能体性能的核心杠杆。编码智能体 harness 结合了 shell 访问、用于持久记忆的文件系统、子智能体和后台任务 [Weng, 2026, Yang et al., 2024]。研究智能体 harness 组织假设生成、实验和证据收集的工作流 [Lu et al., 2026]。上下文管理和经验复用进一步支持持续学习和长时程执行 [Karten et al., 2026a,b, Ma et al., 2026, Yan et al., 2026, Ye et al., 2024, 2026]。Meta-Harness 等近期方法通过优化 harness 代码来自动化这一工程过程 [Lee et al., 2026, Lin et al., 2026a, Zhang et al., 2026b]。

然而,harness 优化改进的是智能体的外部脚手架而非模型本身,因此其收益在部署时仍然受限于该 harness。由于最佳 harness 因领域、实例和基础模型而异 [Liu, 2026, Luo et al., 2026b, Zhang et al., 2026b],通用智能体必须在共享 harness 和一组专用 harness 之间做出选择。共享 harness 会放弃部分专用收益 [Liu, 2026, Luo et al., 2026b, Yao et al., 2026]。维护多个 harness 则需要路由,并在上下文、模型调用、工具调用和编排方面产生持续性成本 [Chang et al., 2026, Lin et al., 2026b, Zhang et al., 2025a, 2026c]。两种选择都无法将发现的 harness 改进迁移到模型中。

HARNESS-ZERO

为解决这些局限,我们提出 HARNESS-ZERO,一个用于智能体 harness 蒸馏的框架。它使用优化后的 harness 作为训练时指导,将其诱导的行为蒸馏到模型参数中。这将通过 harness 优化发现的收益转化为在固定目标 harness 下可用的模型能力。

HARNESS-ZERO 中的蒸馏目标涵盖:以学生原生动作空间表达的专用工具使用、由中间件代码强制执行的行为模式,以及由技能和记忆提供的累积知识和可复用经验。源 harness 和目标 harness 可能在动作空间和可用信息上都不同,这使得在源 harness 下收集的轨迹不适合直接在目标 harness 下进行模仿。

我们对这一挑战的解决方案是agent-as-harness,它在学生智能体的响应边界处用一个 harness 化智能体将其包裹。我们将学生固定的操作 harness 记为目标 harness h,将演化后的学生侧 harness(例如通过 meta-harness [Lee et al., 2026])记为 h∗,将其为 harness 化智能体所做的适配记为私有参考 harness K。作为这种适配的一个例子,h∗ 中阻止风险动作的中间件规则在 K 中变为审查时警告,当学生提出此类动作时激活。

在数据收集期间,harness 化智能体使用 K 在每次提议响应被执行或加入轨迹之前进行审查。它原样通过合理的提议,否则进行最小的连贯修正,表达为学生动作空间中的完整响应。被接受的响应通过 h 执行,产生的观察结果追加到学生的轨迹中。Harness 化智能体无法检查学生沙箱或查阅隐藏的任务解决方案,其私有审查讨论保留在学生可见轨迹之外。HARNESS-ZERO 对这些经过审查的 rollout 应用监督微调(SFT),将演示的行为内化到模型参数中。

Agent-as-harness

Agent-as-harness 在 harness 之间构建自适应映射:一个智能体读取一个 harness 的指导,并逐响应地将其重新表达为另一个 harness 动作空间中可执行的修正。因此,任何优化后的 harness 都可以为目标 harness 提供训练演示,无论两者在动作或可用信息上有多大差异。

我们在三个领域评估 HARNESS-ZERO:基于电子表格的知识工作(SpreadsheetBench Verified)、多应用工具使用(AppWorld)和科学推理(USPTO 逆合成)。我们将 h 实例化为一个固定的、最小化的 mini-SWE-agent [SWE-agent Team, 2025],带有一个 Bash 执行工具。我们首先在没有训练的情况下对前沿模型评估 agent-as-harness,发现它优于 code-as-harness(在六个基准-模型设置中平均为 81.1% vs. 78.1%)。然后我们在 Qwen3.5-9B 上评估 harness 蒸馏,并在部署时移除 h∗、K 和 harness 化智能体。在仅使用 h 的情况下,HARNESS-ZERO 将宏平均性能从 23.3% 提升至 44.3%,超过了基础模型在仍挂载 h∗ 时获得的 41.7%。受控消融进一步表明,harness 引导的审查产生的蒸馏性能显著优于替代监督来源,包括来自更强模型的直接轨迹、在 h∗ 下生成的轨迹、没有 K 的审查,以及仅给出任务答案的审查(30% vs. 3-15%)。行为分析还发现,蒸馏后的模型恢复了大部分由 h∗ 诱导但基础模型中缺失的行为(在 28 种模式上平均恢复率为 82.3%)。

贡献。∙∙ 我们形式化了智能体 harness 蒸馏问题,并提出 HARNESS-ZERO,将优化 harness 诱导的行为迁移到模型参数中,以便在固定目标 harness 下部署。∙∙ 我们引入 agent-as-harness,将优化 harness 的指导转化为学生响应边界处可执行的监督信号,从而实现跨不同 harness 动作空间的模仿学习。∙∙ 实验结果表明,agent-as-harness 可以优于 code-as-harness,HARNESS-ZERO 在移除优化 harness 后仍保留其收益,且蒸馏后的模型恢复了 harness 诱导的行为。

2 相关工作

Code-as-harness 及其优化。Harness 通过工具、上下文管理、控制流和持久状态介导 LLM 与其环境之间的交互 [Ning et al., 2026b, Weng, 2026, Zhou et al., 2026]。现代编码智能体如 Claude Code [Anthropic, 2026]、Codex [OpenAI, 2026a]、Kimi Code [Moonshot AI, 2026]、Pi [Earendil Works, 2026] 和 OpenCode [Anomaly, 2026] 在这一空间内体现了不同的设计哲学。自然语言智能体 Harness 将运行级策略表示为可编辑文档,由智能体将其解释为动作 [Pan et al., 2026]。自动、免训练优化已从提示 [Agrawal et al., 2025, Fernando et al., 2023, Khattab et al., 2023] 和上下文 [Ye et al., 2026, Zhang et al., 2026c] 扩展到工作流 [Hu et al., 2025, Zhang et al., 2025b] 和 harness [Lee et al., 2026, Lin et al., 2026a, Zhang et al., 2026b]。Zhang et al. [2026a] 训练一个模型来即时生成每任务 harness。Harness 设计还可以支持测试时强到弱迁移,即更强模型为固定较弱模型构建推理时 harness [Qian et al., 2026]。作为对这一研究方向的补充,HARNESS-ZERO 引入 agent-as-harness,它可以在前沿模型上优于 code-as-harness,并支持将优化 harness 行为蒸馏到模型权重中。

模型与 harness 的协同演化。若干方法将 harness 优化与参数更新相结合。一条路线在两者之间交替,使用修订后的 harness 为下一次模型更新生成数据,并使用更新后的模型推动进一步的 harness 搜索 [Chen et al., 2026c, Hebbar et al., 2026, Karten et al., 2026b, Kim et al., 2026]。其他方法联合优化两者,将模型-harness 兼容性作为目标,并与其轨迹训练的策略一起适配智能体 harness [Chen et al., 2026a,b, Luo et al., 2026a, Mao et al., 2026]。这些研究表明 harness 和权重更新可以相互强化,但由此产生的收益可能仍然与 harness 耦合。一项受控的编码智能体研究支持这一担忧 [Le et al., 2026]:改变评估 harness 对性能的影响大于训练方法,并且使用跨 harness 收集的反馈进行训练并未改善向留出的最小 ReAct harness 的迁移。HARNESS-ZERO 则使用优化 harness 指导一个临时 harness 化智能体,并将由此产生的行为蒸馏到模型权重中,在部署时内化 harness 收益而无需保留或路由 harness 集合。

从特权指导中蒸馏。EvoHarness-RL 在 ALFWorld 上提供了 harness 内化的早期证据,其训练后的智能体学会管理外部状态,并做出更少、更有选择性的 harness 调用 [Ning et al., 2026a]。OPHSD 将顺序草稿-验证和计划-求解 LLM 工作流产生的特权输出蒸馏到独立模型中 [Zhao et al., 2026]。这些研究共同提供了初步证据,表明模型可以将 harness 诱导的行为吸收到其参数中。然而,每项研究仅针对单个机制,而非完整的工具使用智能体 harness;EvoHarness-RL 在部署时保留外部工作空间,OPHSD 不涉及交互式智能体循环。HARNESS-ZERO 引入了一种通用方法,用于将完整的工具使用智能体 harness 蒸馏到在部署时在最小目标 harness 下运行的模型中。

3 HARNESS-ZERO

HARNESS-ZERO 训练一个学生模型来复现演化 harness 诱导的行为。该方法分为三个阶段(图 1)。首先(§3.1),我们在训练任务上演化学生侧 harness,并将其适配为独立 harness 化智能体的私有参考 harness。其次(§3.2),harness 化智能体包裹学生的响应循环以收集训练轨迹。第三(§3.3),我们对学生和 harness 化智能体联合产生的经过审查的轨迹应用 SFT。在部署时,蒸馏后的学生旨在仅在目标 harness 下保留演化 harness 的收益。

3.1 Harness 演化与适配

3.2 Agent-as-harness

Code-as-harness vs. agent-as-harness

3.3 从经过审查的轨迹中学习

我们通过在目标 harness 下对经过审查的 rollout(式 (3))中被接受的响应应用 SFT 来进行模仿学习,包括未更改的学生提议和 harness 引导的替换。替换应是从学生视角编写的自包含响应。由于它们是在私有审查上下文中生成的,可能无意中包含关于学生提议或审查决定的审查者视角推理。我们从损失中屏蔽此类推理;§D 详述了数据收集和过滤规则。设 Dreview​ 表示保留的轨迹,我们优化:

4 实验

我们首先在推理时比较 agent-as-harness 与 code-as-harness,然后测试 HARNESS-ZERO 是否可以将优化 harness 蒸馏到模型权重中。

4.1 实验设置

任务与划分。我们评估三个任务领域。(1) SpreadsheetBench Verified 包含 400 个真实世界电子表格操作任务 [Ma et al., 2024];我们使用 300 个用于 harness 演化和训练数据收集,留出 100 个用于评估。(2) AppWorld 评估跨模拟应用的交互式工具使用 [Trivedi et al., 2024];我们将其官方训练集和开发集合并为 147 个任务的训练划分,留出 168 个 test_normal 任务,分为 56 个三任务场景。(3) USPTO 逆合成涵盖来自 USPTO 反应语料的单步前体预测 [Jin et al., 2017, Lowe, 2012];我们使用一个在十个反应类别中平衡的 500 任务训练划分和一个不相交的 100 任务测试划分。三者都在 Harbor 框架中运行 [Harbor Framework Team, 2026, Shi et al., 2026]。我们报告 SpreadsheetBench 和 USPTO 的单次运行任务成功率(pass@1,%)以及 AppWorld 的场景目标完成率(SGC,%)。

模型与训练。目标 harness h 是一个最小化的 mini-SWE-agent 风格 harness [SWE-agent Team, 2025],具有固定系统提示和单一 Bash 执行工具。免训练实验使用 GPT-5.6 Sol [OpenAI, 2026b] 和 DeepSeek-V4-Pro [DeepSeek-AI, 2026]。蒸馏实验使用 Qwen3.5-9B [Qwen Team, 2026] 作为基础模型,GPT-5.6 Sol 作为 harness 化智能体;harness 演化使用 Kimi K3 [Kimi Team, 2026] 在 Kimi Code 下进行。所有模型都启用推理,适用时将推理努力设为高。在 rollout 收集和过滤后,训练数据包括 SpreadsheetBench 的 487 个 rollout、AppWorld 的 282 个和 USPTO 的 500 个。我们使用 Tinker 配方 [Thinking Machines Lab, 2025] 对 Qwen3.5-9B 进行两个 epoch 的 LoRA SFT。§E 给出了学生提示、模型访问路径和完整训练配置。

4.2 评估 agent-as-harness

我们首先在推理时比较 agent-as-harness 与 code-as-harness,不进行参数更新。表 1 变化两个因素:演化 harness 是否可用,以及它以包裹学生的代码形式还是以审查其响应的 harness 化智能体形式到达学生。两个 code-as-harness 条件不使用 harness 化智能体:mini-SWE-agent 在仅 h 下运行学生,meta-harness 在其上挂载 h∗。两个 agent-as-harness 条件保持学生在 h 下,并添加一个 harness 化智能体,它查询空参考 harness(w/o evolved)或改编自 h∗ 的 κ(w/ evolved)。在两者中,同一模型扮演学生和 harness 化智能体,因此收益不可能来自更强的监督模型。在前沿模型上,我们复用 Qwen3.5-9B 上演化的 h∗。

观察。∙ 在有演化 harness 的情况下,agent-as-harness 平均优于 code-as-harness。在表 1 的六个设置中,使用适配 κ 的 agent-as-harness 平均为 81.1%,而 meta-harness 为 78.1%,mini-SWE-agent 为 68.6%。使用空 κ 时平均仅为 69.2%,因此审查本身几乎不能解释收益。除了这些基准数字外,agent-as-harness 还提供了更好的跨模型更新适应性。代码 harness 编码了关于模型应如何行动的假设,随着能力变化,这些假设会过时,迫使为每个新模型重新适配 harness [Liu, 2026, Qian et al., 2026]。Agent-as-harness 将这种适配移到推理中:harness 化智能体根据当前轨迹解释 κ,并决定何时以及如何干预,因此指导保持可复用,更强的 harness 化模型直接改进其应用方式。虽然这种方法需要足够强的 harness 化智能体(§F),但我们预计其相对于固定代码 harness 的优势将随着基础模型的持续改进而扩大。

4.3 评估智能体 harness 蒸馏

4.4 比较替代蒸馏信号

.5 行为内化

为了更细粒度地评估 harness 蒸馏,我们测量蒸馏模型内化 h⋆ 中编码的行为模式的程度。我们首先将 h⋆ 中启用的工具、中间件、记忆和技能的模式转化为轨迹检测器。对于每个检测器,我们在相同测试任务上比较基础模型在 h⋆ 和 h 下的轨迹。我们选择模式仅在 h⋆ 下出现的任务,并且仅当至少 10 个任务满足此标准时才保留模式。这在 SpreadsheetBench 上产生 18 个 harness 专属模式,USPTO 上 6 个,AppWorld 上 4 个;§G 详细说明了挖掘过程并解释了每个模式。对于每个模式,其恢复率是 HARNESS-ZERO 在所选任务中表现出相同行为的比例。

观察。∙∙ HARNESS-ZERO 内化了 h⋆ 贡献的行为。在表 4 的 28 个模式上平均,HARNESS-ZERO 恢复了 82.3% 的 harness 专属行为。恢复涵盖记忆、技能、工具和中间件来源,包括模型可见指导和可执行组件。每个模式仅在其选定的任务上评分,其中基础模型在 h⋆ 下表现出该行为但在 h 下从未表现出,因此基础模型在每个模式上按构造得分为 0%。因此,这些恢复率衡量了蒸馏添加的行为,直接证明 HARNESS-ZERO 内化了 h⋆ 诱导的行为。

5 结论与讨论

HARNESS-ZERO 将演化后的学生侧 harness h⋆ 转化为在固定目标 harness h 下操作的模型的训练监督。在适配的参考 harness K 指导下,harness 化智能体在执行前重写学生的提议,产生与 hh 兼容的训练轨迹。在三个领域,agent-as-harness 在前沿模型上优于 code-as-harness(平均 81.1% vs. 78.1%),消融实验确定 harness 引导的审查是测试的监督来源中最有效的。在 SFT 后,仅 h 下的学生将宏平均任务成功率从 23.3% 提升至 44.3%,超过了使用 h⋆ 时达到的 41.7%,并在 28 个模式上以平均 82.3% 的比率恢复 h⋆ 特定行为。

局限。该方法依赖于有能力的 harness 化模型。对于较弱模型,审查可能变得有害,agent-as-harness 失去相对于 code-as-harness 的优势(§F)。审查每个提议还增加收集成本;每一步都需要额外的模型调用处理轨迹和 K,将 USPTO 平均延迟提高到 2.4×。这种开销适用于轨迹收集期间,蒸馏后不存在。SFT 也可能无法完全内化 h⋆ 编码的深层领域知识。此外,一些 harness 机制(例如上下文管理)无法开箱即用地完全表达为学生响应。因此,HARNESS-ZERO 并未消除对 harness 的需求,而是缩小了 harness 必须提供的范围,我们预计随着 harness 蒸馏的改进,最小 harness 就足够了。

未来工作。Harness 化智能体经常面临反事实预测问题。它必须预测执行学生提议将如何改变环境,以及干预是否会产生更好的轨迹。因此,有效的 harness 化取决于对智能体-环境动力学的准确模型。一个有前景的模型级方向是训练更强的智能体世界模型 [Zuo et al., 2026],并专门化其预测能力以用于 harness 化决策。在框架层面,当前设计审查每个学生提议并将干预限制为通过或替换完整响应。这会在合理提议上产生不必要的调用,并仅提供粗粒度控制。未来工作可以使用代理信号选择性地调用审查,并支持更细粒度的机制,例如 token 插入和潜在空间引导。训练方法也可以改进。例如,每个替换在相同状态下配对了一个被拒绝和一个偏好的响应,因此偏好学习可以利用响应级 SFT 丢弃的比较信号。

总体而言,我们希望 HARNESS-ZERO 有助于为智能体 harness 和递归自我改进的新范式铺平道路。将许多领域和任务特定的 harness 蒸馏到共享模型中,将使跨智能体系统开发的行为和知识积累在模型参数中,而不是分散在外部脚手架中。Harness 开发随后可以成为可扩展的训练信号来源,更好的模型构建更好的 harness,每个 harness 将其收益返回给权重。

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询