核心摘要:开源研究原型
0x471/provable-harness通过在 SP1 zkVM 中重放智能体调度器ph-core,并结合 zkTLS 公证模型与网页响应,使外部验证者在约 2 秒内确认上下文、策略拦截、工具参数与日志哈希未被事后篡改。
当安全评测机构或企业把 AI 智能体投入真实业务,单靠“证明大模型推理输出了某段文本”往往远远不够。现实中大多数高危安全事故发生在模型外围的调度层(Harness):网页里藏入提示词注入、本地密钥被工具偷偷外发、或者运营方在评测失败后悄悄重跑并修改运行日志。GitHub 开源项目 0x471/provable-harness(Apache-2.0 / MIT 双协议,采集快照时标注为未审计的研究原型,84 次提交)尝试把这层调度外壳放进零知识虚拟机(SP1 zkVM)里进行可验证重放。

需要首先说明来源边界:该项目明确处于未审计研究原型阶段(Status: research prototype, not audited),文中所提两秒验证耗时、约 160M zkVM 周期预算及评估流程均引自仓库 README 公开说明,其中涉密隐私保护的 Groth16 零知识模式据作者注明“已实现但尚未完成端到端运行”。
一、“先实时运行、再 zkVM 重放”的三段式工作流
为了避免把整套网络 I/O 塞进密码学电路导致性能崩溃,provable-harness 把调度核心 ph-core 设计为纯无 I/O 逻辑(模型调用与工具执行仅通过两个极简接口进出),从而实现同一份 Rust 代码既能在现场跑,也能在 SP1 zkVM 里重跑:

| 运行阶段 | 核心组件与输入 | 验证保证与安全作用 |
| :— | :— | :— |
| 1. 实时运行(Live run) | ph-core + 真实模型 API + 网页/文件工具 | 将每次响应连同网关签名或 TLSNotary(zkTLS)公证凭证记入私有见证(Witness) |
| 2. 零知识重放(SP1 zkVM) | ph-core 在 SP1 guest 内重建每次请求并核验公证 | 逐轮重算策略拦截(如读过密钥后封锁外网出站)与文件修改,不匹配则直接中止、无法出证 |
| 3. 公开核验(ph verify) | 证明文件 + 公开声明 + 程序校验键 vk | 约 2 秒内确认系统提示词、策略规则、模型/公证身份、步数及完整交互日志哈希真实未改 |
在工具执行策略上,模型支持通过编写轻量 Rhai 脚本或原生 Tool Call 发起调用,且脚本引擎受计量约束,文档指出在默认预算下最坏单次会话约为 160M zkVM 周期,防止恶意注入脚本拖垮证明生成。
二、信任边界与三大典型落地场景
作者在 README 中非常克制地划出了“证明能保证什么”与“不能保证什么”:
- 三类核心场景:其一是在安全评测(Provable evals)中绑定未来随机种子(或
drand轮次)与固定夹具世界,防止评测方只挑成功样本公布或暗中更换评分器;其二是受托操作个人账号/收件箱/文件时,用带盐承诺隐藏具体敏感值,仅向审计方披露策略拦截与工具调用事实;其三是事故复盘时锁定完整上下文哈希链,杜绝事后篡改日志。 - 明确未覆盖的风险面:该证明并不验证模型服务端内部如何算出权重(这需要 TEE 或 zkML);在 zkTLS 模式下,若公证人(Notary)与运行方共谋,或运行方在调度壳之外执行操作,均超出证明范围;此外,默认的压缩 STARK 证明不具备零知识隐藏性,记录中的秘密信息需按私有见证同等保护。
三、对 OpenLX 自动化合规与信源审计的启发
从 OpenLX 工程治理与贺双全长期强调的“可核验、不篡改底账”实践原则看,provable-harness 提供了极具启发性的架构对照:哪怕短期内无需在生产环境引入 zkVM 计算开销,把“调度策略判定、外网请求原件与文件修改动作”收拢为无副作用纯核心并输出哈希链凭据,也是防止自动化代理在多轮工具调用中失控或日志失真的有效工程方法。
参考来源
- 开源项目原件:
0x471/provable-harness(GitHub 公开仓库主页,采集核验时间:2026-11-22):https://github.com/0x471/provable-harness
本文首发于 OpenLX文旅GEO·文旅AI信源基础设施(https://openlx.cn/),转载请注明出处与完整链接。
