☰
LLM-as-Judge实战:Context Engineering Kit SADD插件/do-and-judge质量门完全指南
2026/10/11 11:59:29 网站建设 项目流程
  • AI 技能/插件
  • 提示工程
  • AI 评测
  • 人工智能

【免费下载链接】context-engineering-kit

Hand-crafted Claude Code Skills focused on improving agent results quality. Compatible with OpenCode, Cursor, Antigravity, Gemini CLI, and others. Includes CodeRabbit open-source alternative.

项目地址:https://gitcode.com/gh_mirrors/co/context-engineering-kit
点击查看免费下载

Context Engineering Kit是一个手工打磨的 Claude Code 技能(Skills)开源仓库,兼容 OpenCode、Cursor、Gemini CLI 等主流 AI 编程工具。其 SADD 插件(Subagent-Driven Development,子代理驱动开发)提供的/do-and-judge命令,正是目前落地LLM-as-Judge(大模型当评委)最完整的质量门(Quality Gate)实践之一:先让子代理干活,再让独立的"评委代理"按评分标准打分,不达标就带着反馈自动重试,直到通过为止。本文将带你从零看懂这套"执行 + 评审 + 重试"闭环的设计原理与使用方法。

为什么 Agent 需要一道"LLM-as-Judge"质量门?

用 AI 编程代理写代码时,最常见的问题是:代理自己说"做完了",但结果质量参差。长会话中上下文会不断"污染"——假设过期、实现漂移、注意力涣散,代理往往对自己的疏漏毫无察觉。

LLM-as-Judge 的思路很直白:用一个独立的模型(或代理)来评审另一个模型的工作成果,按结构化评分标准(Rubric)打分、列证据、下结论。这比"让代理自查"可靠得多,因为评委与执行者上下文隔离,能发现自查的盲区。

Context Engineering Kit 的 SADD 插件把这一思路工程化为一条完整的流水线:

  • 🧩新鲜上下文:每个子代理干净启动,不受之前任务污染;
  • ⚖️外部验证:独立的 judge 代理机械地套用评分标准,捕获自查遗漏的盲点;
  • 🔄反馈循环:不达标时把评委指出的问题原样喂回执行代理,最多重试 3 次;
  • 🚦质量门:分数不达标的产出,不会"发货"。

/do-and-judge 的三角色分工:谁来干活、谁来定标准、谁来打分

/do-and-judge的核心设计是三个角色分离,分别对应"生产者—标准制定者—评估者":

角色代理职责
执行者(Producer)实现子代理(如sdd:developer)干净上下文中完成具体任务
标准制定者(Criteria-setter)meta-judge 代理在实现开始前生成本任务专属的评分规范 YAML(Rubric 维度 + Checklist + 权重)
评估者(Evaluator)judge 代理拿着评分规范对成果逐项打分、列证据,绝不自由发挥

三个角色各司其职的关键好处:评分标准是"先于实现"制定的,评委无法事后迎合实现;评委"只认规范、不认人情",连及格线是多少都不告诉它,从机制上避免打分偏松。

第一步:meta-judge 生成"本任务专属"评分标准

普通评审最大的坑是标准模糊——"代码质量良好"这种话没法机械执行。meta-judge 代理的职责就是把抽象的"质量"分解成可测量的具体维度,输出一份 YAML 评估规范,包含:

  • Rubric 维度:每个维度带权重、评分说明,以及一对"锚点样例"(一段明显不合格的score_2片段、一段明显达标的score_4片段),强制评委把成果定位在这两极之间的具体轴线上,而不是凭印象打分;
  • Checklist 布尔清单:原子化的是/否问题,按essential / important / optional / pitfall分级——关键项答"否"会触发总分封顶,反模式项答"是"会扣分;
  • 评分元数据:权重求和、门限与罚则。

这样评委拿到的不再是一句"请评审",而是一份可以直接照章执行的检查表。

第二步:并行派发——评审标准与实现同时进行

编排器(Orchestrator)在同一条消息里并行派发两个子代理:

  1. meta-judge 先生成评分规范(先派发是为了让它在实现改动文件之前观察代码基线);
  2. 实现子代理开始干活,其提示词自带"零样本思维链前缀 + 强制自我批判校验表",要求它提交前逐项回答"是否覆盖全部需求、是否遗漏边界情况"等问题并附证据。

并行执行让"定标准"不占用额外时间——这是该技能宣称的关键提速点。

第三步:judge 严格打分,且不知道及格线

实现完成后,编排器把 meta-judge 的评分规范 YAML原封不动(不得增删、缩写、改写)连同实现摘要一起交给 judge 代理。judge 的工作流是:

  1. 收集上下文,必要时运行 build/test/lint 做实证验证;
  2. 先独立起草"我认为正确答案应该长什么样"的参照基线,防止被实现输出带偏;
  3. 对照基线做差异分析(匹配/缺口/偏差/错误);
  4. 逐项过 Checklist,逐维度做"锚点定位"式评分——先写推理和证据,后出数字,杜绝"先给分再圆理由";
  5. 加权汇总、应用门限罚则,最后还做一轮自我校验(5 个自问问题)再提交报告。

值得注意的是:编排器永远不会告诉评委"4 分及格"。评委只知道证据和规范,分数是否达标由编排器判断——这是防止评委"放水凑及格"的刻意设计。

评分与重试循环:4 分及格、3 次重试上限

拿到VERDICT / SCORE / ISSUES结构化结论后,决策逻辑非常清晰:

  • score ≥ 4.0→ ✅ PASS,输出最终报告(含可选改进建议);
  • 3.0 ≤ score < 4.0→ 处于"自由裁量区间":若未决问题只有低/中优先级的"小瑕疵",可接受为 PASS 并列出遗留问题;只要有 High/Critical 问题则必须重试;
  • score < 3.0→ 无条件 FAIL,带着评委的具体问题清单进入重试。

重试时有一个容易被忽略的精细设计——模型分级升级(Escalation):

  • 如果首轮分数过低、或问题暴露出"模型没理解任务"而非"漏了细节",下一次重试把执行代理和评委一起升一档(haiku → sonnet → opus);
  • 如果只是明确的、可定位的具体缺陷,则保持原档位,用精确反馈重跑更快;
  • meta-judge不重跑:评分标准在整个重试周期内保持不变,保证跨轮次可比;
  • 3 次重试后仍不通过,立即停下来升级给人,给出全部评分历史、顽固问题和四个选项(补充上下文 / 升档重跑 / 修改需求 / 中止),绝不在opus档反复空转。

一行命令启用质量门:/do-and-judge 使用说明

先获取项目(安装 SADD 插件即可启用/do-and-judge命令):

git clone https://gitcode.com/gh_mirrors/co/context-engineering-kit

基本用法就是把任务描述直接交给命令:

/do-and-judge 重构 UserService 类,使用依赖注入

两个常用参数:

参数作用
--model haiku\|sonnet\|opus显式指定所有子代理(实现、meta-judge、judge)的模型档位,覆盖自动选择策略
--strict开启严格模式:取消自由裁量区间,只有 score ≥ 4.0 才算通过,否则重试到上限为止

例如:/do-and-judge 重写 API 认证文档覆盖 OAuth2 流程 --strict

模型档位怎么选?haiku / sonnet / opus 决策表

技能文档强调,选模型是"杠杆最大的决策",比任何提示词技巧都重要。默认档位是sonnet/haiku,opus必须"挣到"才启用:

任务形态档位例子
单文档/单行级修正、无代码推理haiku修错别字、更新链接
单文件小幅机械改动(≤10 行)haiku改常量、加守卫语句
常规代码编写:新函数、组件、测试,单模块sonnet加一个 endpoint、写服务方法+测试
多文件重构(≥3 文件)/ 关键路径(认证、支付、数据完整性、不可逆迁移)/ 复杂逻辑(并发、架构决策)opus跨切面重构、Schema 迁移

两条铁律:多条规则同时命中时取最高档(4 行安全关键代码也是 opus 的活);"纯机械的广范围改动"(如跨 40 个文件改名)不因此升档。

什么时候该用 /do-and-judge?

  • ✅ 单任务、边界清晰的实现工作(写功能、修 Bug、改文档)——最典型的场景;
  • ✅ 质量要求高、不能靠"看起来不错"交付的任务(用--strict);
  • ✅ 希望自动化闭环、少盯过程的日常开发;
  • ⚠️ 任务依赖你的整体架构愿景、需要与 Spec 严格对齐时,可考虑仓库中的 Spec-Driven Development(SDD)插件;
  • ⚠️ 多方案对比择优请用/do-competitively,多轮多评委辩论请用/judge-with-debate(见 SADD 命令总览)。

关键文件与延伸阅读

资源说明
plugins/sadd/skills/do-and-judge/SKILL.md/do-and-judge完整实现:五阶段流程、模型选择策略、重试与升级规则
plugins/sadd/agents/meta-judge.mdmeta-judge 代理:如何生成锚点式评分规范 YAML
plugins/sadd/agents/judge.mdjudge 代理:CheckEval 清单法 + 锚点定位打分的完整评审流程
plugins/sadd/README.mdSADD 插件总览:并行/顺序/竞争性执行与理论基础(LLM-as-a-Judge 等论文)
docs/plugins/sadd/usage-examples.md真实场景用例:批量执行、并行排查测试失败等
skills/do-and-judge/SKILL.md可直接安装的独立技能版本

小结:质量门的价值不止于"打分"

/do-and-judge把 LLM-as-Judge 从论文概念变成了可运行、可重试、可升级的工程质量流程:标准前置(meta-judge)、执行与评审上下文隔离、评分有证据可审计、重试带精确反馈、失败有明确的"升级给人"出口。对新手来说,只需记住一句话——把它当成一条带自动返工的流水线:你说清任务,它负责做到"4 分"才交卷。

  • AI 技能/插件
  • 提示工程
  • AI 评测
  • 人工智能

【免费下载链接】context-engineering-kit

Hand-crafted Claude Code Skills focused on improving agent results quality. Compatible with OpenCode, Cursor, Antigravity, Gemini CLI, and others. Includes CodeRabbit open-source alternative.

项目地址:https://gitcode.com/gh_mirrors/co/context-engineering-kit
点击查看免费下载

相关推荐

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询