跳转至

审计检查单 Audit Checklist

每项 = 行为契约 + 证据要求。证据栏写「找什么才算数」。 CLI 按本检查单逐项核对;人工审计同样适用。

A. 可靠性 Reliability(25 分)

# 检查项 证据要求 分值
A1 幂等键存在且被使用 STATE/代码中有幂等键生成与查重逻辑 8
A2 重复触发不产生重复数据 重跑记录/幂等测试通过 7
A3 静默失败防护 失败路径有记录/告警,存在「有触发无产出」检测 10

B. 可观测性 Observability(20 分)

# 检查项 证据要求 分值
B1 运行记录留存 monitor/runs.log 或等价的成败记录 8
B2 失败可见 失败样例能被找到(日志/告警记录) 7
B3 关键指标可查 至少 3 个指标有定义与采集方式 5

C. 可恢复性 Recoverability(20 分)

# 检查项 证据要求 分值
C1 状态先读后写 STATE.md 有非空历史记录 6
C2 检查点/断点续跑 中断后恢复的记录或测试 8
C3 回滚预案 部署快照机制或回滚文档存在 6

D. 质量控制 Quality(20 分)

# 检查项 证据要求 分值
D1 输出 schema 契约 schemas/*.schema.json 存在且被引用 6
D2 独立验证 Checker 与 Maker 分离的证据(独立 prompt/会话) 8
D3 红线清单 red-flags 类文件存在且非空 6

E. 进化能力 Evolution(15 分)

# 检查项 证据要求 分值
E1 反测集存在 regression.json / test-prompts.json 非空 6
E2 基线与指标 BASELINE/METRICS 类文件有实际数据 5
E3 改动过闸记录 闸门判定/升级记录留痕 4

判定等级

总分 等级 建议
≥ 85 Production Ready 可长期无人值守运行
60–84 Needs Hardening 按缺失项 hpp add 补齐
< 60 Prototype 只在有人监督下运行

Maker/Checker 专项证据(Pattern Evidence 示例)

✓ Maker exists         — maker prompt/角色存在
✓ Checker exists       — checker prompt/角色存在
✓ Separate execution   — 独立会话/子代理证据
✓ Output schema exists — schemas/ 非空且被 checker 引用
✓ Failure path exists  — FAIL 反馈模板 + 重试上限
✓ Evidence recorded    — 判定记录留痕