Agent 指引验证记录

配套的 skill-up 回归套件 固定 Claude Code 打包 Skill 的版本, 使用规则断言、受控 MCP 响应及加载/不加载 Skill 的对比,检查工具选择与授权边界。 该套件仅覆盖 Claude Code + MCP;运行器关闭 hooks 并绕过权限提示,因此不证明真实宿主审批、 有界召回、自动 Capture/Flush、持久化或记忆质量。声明实测覆盖时,应同时保留真实模型的原始记录与输入快照。 这些结果是本文多宿主验证记录的补充,应与现有观测及任务结果基准分别报告。

实现规则与复现命令见工具选择与结果报告。基线为上游 fe4002d37663213294ebffe4c080b6676b1c8014,测量日期为 2026-09-09,环境为 Windows,模型为配置的 StepFun endpoint 上的 step-3.7-flash,temperature 为 0,输出预算为 6,000 token,不强制工具选择。 测试使用虚构的 Aurora 事实和隔离的 fixture-scope。

基于主分支 847203dc 的当前验证

2026-09-15 使用 step-3.7-flash、温度 0、自动工具选择及虚构的 Aurora 事实进行验证。DSH 的 12 条观测来自 qualification(输出上限 10,000 token),其余八个入口的 96 条来自 qualification-final(16,000 token)。 下表由这两个批次组成,不是一次运行的结果。

入口有效调用序列与完整载体显式审查回复后通过
DSH12/1212/12
Pi12/1212/12
OpenCode12/1212/12
OpenClaw12/1211/12
Hermes12/1212/12
Codex MCP 目录12/1212/12
Claude Code MCP 目录11/1211/12
WorkBuddy MCP 目录12/1212/12
通用 Agent Plugin + MCP11/1211/12
合计106/108105/108

原始证据 保留五个批次的全部 276 条观测,包括中间失败、目录、实际原生 HTTP 参数、受控返回、最终回复和绑定记录的审查理由。 回复审查由 Codex 完成,并非人工审核或自动真实性评分。最终交接样本有两次将没有引用的已检查事实标成 verified, 诊断明确指出 handoff.state[0].basis/evidence。另一次 OpenClaw 回答把“没有代码改动”扩大成“不需要代码改动”, 即使结构有效,也被回复审查判为不通过。

另行验证 DSH/Codex 的结果报告,工具选择为 17/24,审查后为 16/24。全部 12 个保存失败场景都说明未保存。 七个工具缺失场景尝试调用不存在的工具,或没有给出最终回答;另一个回答虽然说明未保存,却建议改用 Source 捕获, 也被判为不通过。这些模型失败完整保留,确定性的回归测试通过不能替代模型验收。

原生交接测量执行 DSH、Pi、OpenCode 的实际注册适配器及构建后的 OpenClaw 插件,使用受控传输和确认 fixture, 检查实际参数筛选、宿主 Scope 注入、生成的 Source 标识和响应包装。Hermes 与 MCP 目录仍直接使用受控返回。 这里不进行真实持久化或生成,也不证明所有原生宿主的权限通道和 Skill 自动发现流程。

载体验证遵循 HTTP 契约:可以省略可选的 null 元数据,但必须保留必填的可空 base、精确证据和生成回执。 部分回答把完整载体放在响应包装内;此处评分证明载体存在且报告属实,不证明最终 JSON 只有裸载体。 Memory 调用也会校验目录要求的必填参数。验收另外要求绑定完整记录哈希的显式回复审查;未经审查的观测保持未完成, 评测命令以非零状态退出。

四个原生适配器回归已接入各自的包 CI。本地通过 28 个评测器回归、102 个评测器/API/能力清单测试、85 个 MCP/Hermes 测试及 3 个 JavaScript 操作契约测试。包测试通过 DSH 256、Pi 93、OpenCode 53、OpenClaw 73 项;真实 DSH SDK 运行时测试通过 5 项。API/JavaScript 生成检查、包类型检查与构建、适用的 pre-commit hooks 及 Linux 平台 Python 类型检查通过。OpenClaw 使用 Node 24.15.0。以下历史测量保留原有、较窄的验证口径。

模型行为测量

调用、参数、受控返回及回复记录 保留了失败结果。这些数据不表示模型场景全部通过,提示词也不承担权限执行职责。 初始矩阵含 11 个中英文场景,分别加载和不加载 Skill,每个宿主 44 次观察。 其中 Handoff 分数仅衡量首个操作选择,不证明参数有效、执行成功、完成 finalize 或后续没有误提交。

入口工具选择通过 / 观察次数
DSH 基线36 / 44
DSH 实现41 / 44
Pi42 / 44
OpenCode41 / 44
OpenClaw34 / 44
Codex MCP 工具及 Skill38 / 44
Claude Code MCP 工具及 Skill39 / 44
WorkBuddy MCP 工具及 Skill38 / 44
Hermes41 / 44
可移植 Agent Plugin Skill 配合 MCP35 / 44

DSH 基线在 Skill 未加载时出现了预览请求多余检索和过早准备 Handoff。实现后的普通任务、上下文充分、搜索、盘点、 保存、预览、交接、Review、空检索和失败保存场景在该样本中全部通过(40/40);三个失败均尝试调用验证器已从目录 移除的保存工具。目录验证器没有执行任何真实操作。

矩阵最初只接受 MCP 的高层工作交接操作;部分被记为失败的调用实际选择了合法的底层 Source 捕获。验证器现已接受 两种路径,原始观察记录予以保留,不追溯改写成更高的实测成功率。

边界验证在三种 Skill 状态下覆盖上下文充分、盘点、交接、预览和空检索,WorkBuddy 为 30/30,Agent Plugin 为 29/30,OpenClaw 为 27/30。DSH、Pi、OpenCode、Hermes、Codex、Claude Code 的 Skill 不可用测试共通过 125/132。 剩余情况包括预览时多余检索、Hermes 过早 prepare 及调用缺失工具。通过 OpenClaw 实际 prompt builder 重建可用工具 集合后,保存工具缺失场景为 1/2。OpenClaw 没有打包 Skill,其 Skill 状态标签表示重复目录条件,不能证明 Skill 加载。

另外检查了结果报告:明确保存请求在受控成功后才确认;失败保存与空搜索给出对应解释。部分空搜索继续扩大查询或转为 list,仍保留为有限预算场景的失败。服务超时和空回答也计为失败。工具描述补充了当前事实、临时交接和精确 Handoff 证据的限制;不能据此保证所有模型都遵循指引。

描述边界样本记录了 48/48 首步选择通过,覆盖 OpenClaw、Hermes、OpenCode、Agent Plugin 的中英文 Handoff 与预览,以及三种 Skill 状态。该测量未在交接调用后返回执行结果,也未检查后续写入,不能作为多轮 Handoff 验收, 不能证明精确证据、finalize 或临时交接与持久提交边界正确。原始观测和失败记录完整保留。

多轮 Handoff 验证

验证器逐次检查模型调用是否符合导出目录及生成的 HTTP 请求模型,返回符合契约的受控结果,并继续执行捕获、 激活或准备、finalize,或高层当前工作交接路径。缺失工具、跨 Scope、无效参数、伪造证据、改写 Draft、并行依赖写入, 以及普通或临时交接中的任何 commit 均判为失败。通过还要求最终回答包含完整且未改写的临时载体。 结果措辞和输入事实仍须人工审查;这是使用受控返回的模型测量,不等于原生宿主执行验收。

handoff 和 handoff_request 分别覆盖明确临时交接与普通交接指令。捕获结果使用 HTTP 的 source 字段, 作为 evidence 时包装为 {kind: "source", source_ref: source}。高层输入的 WorkClaim 使用 text、basis、 evidence;没有现成 PowerContext 精确引用的已检查事实使用 declared 和空 evidence。Skill 名称保持不变。

2026-09-10 的 Step 3.7 Flash 验证对每个宿主覆盖两个场景、两种语言和三种 Skill 状态。按当时各条件最后一次观测 合计 64/96,由下表列出的批次组成,并非一次同步运行,也不代表所有宿主验收通过。

宿主完整交接通过 / 观测数证据批次
Codex MCP 目录12/12contract-sequence
Claude Code MCP 目录11/12contract-sequence
WorkBuddy MCP 目录8/12contract-sequence
通用 Agent Plugin + MCP10/12contract-sequence
Hermes10/12structured-native-parameters
DSH5/12real-dsh-model-request
OpenCode3/12structured-native-parameters
Pi5/12structured-native-parameters

原始 JSONL 证据 保留全部批次,包括最初的 WorkClaim 探测和中间失败。各批次包含导出的目录及模型配置。DSH 最终批次使用真实 SDK 编译后的模型请求;中间 批次从注册声明导出目录,不能证明运行时契约。包括 DSH 最终批次在内,这里的模型调用仍然使用受控返回结果。

剩余失败包括无效的事实依据、格式错误或未完成的 Draft,以及不完整或被改写的载体。当时的精确载体检查还会拒绝省略 可空字段的回答。最近这 96 条观测没有出现 commit 调用,但较早失败会截断序列,不能证明后续成功路径的行为。 这些模型场景仍未通过验收,确定性的 schema 与运行时回归检查不能将其转换成通过。

执行与回归证据

  • 真实 DSH 0.1.2-rc.1 SDK/host 请求在加载 Skill 前包含系统指引及全部 19 个 PowerContext 原生工具。真实宿主测试 覆盖召回、注入、重启恢复、直接错误和 Scope 隔离。
  • Step 3.7 通过真实 DSH 选择了 pc_remember。固定 SDK 没有交互确认通道,因此宿主拒绝写入;模型明确说明未保存, 并定位到确认通道不可用。Server 检查确认没有写入 Memory。随后明确搜索请求找到了预置记忆并返回精确引用,工具选择 没有被 fixture 强制指定。
  • 仓库现有真实 Codex 验收通过了实际保存、随后搜索及 MCP endpoint 不可用时不虚报成功。使用桌面应用自带的 Codex CLI 0.153.4 和配置的 gpt-6-astra 模型;子进程按 UTF-8 解码,本地连接绕过代理,测试服务采用有限的优雅退出时间。
  • DSH 包与 HTTP 测试、含真实 CLI 的 Pi 包测试、OpenCode/OpenClaw 包测试、MCP 初始化、Hermes provider、API 契约和 能力清单检查验证执行行为与工具身份。OpenClaw 使用其固定 SDK 支持的 Node 24.15.0。

验证边界

真实注册目录和受控 Skill 正文不能证明每个外部宿主都能自动发现 Skill 或完成整个工作流。三个 MCP 宿主共享 Server 工具,其目录测量不等于分别执行了三个原生 CLI。移除工具的压力场景仍可能触发模型调用幻觉,这些场景没有标成通过; 实际权限执行仍须拒绝缺失工具并保留宿主确认。不能从生成文字推断已经发布、安装、持久提交或执行工作。

On this page