ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Harness Engineering权限设计:能力与权限分离,让AI Agent安全自主运行的完整清单

Harness Engineering权限设计:能力与权限分离,让AI Agent安全自主运行的完整清单 Harness Engineering权限设计能力与权限分离让AI Agent安全自主运行的完整清单【免费下载链接】harness-engineering Ryan Lopopolo’s anthology, field guide, and agent context bundle for harness engineering项目地址: https://gitcode.com/gh_mirrors/har/harness-engineeringHarness Engineering 是 Ryan Lopopolo 提出的 Agent 工程实践不改动模型本身而是通过塑造 Agent 周围的上下文与工具环境让 AI Agent 能安全地、自主地完成完整工作。其中权限设计是最关键的一环——能力Capability告诉 Agent 如何产生效果权限Authority规定某个身份可以对哪个资源、在哪个环境、多长时间、按什么审批与恢复契约产生效果。两者分离是 Agent 既能大胆试错、又不会越界的完整清单起点。能力与权限分离为什么这是 Agent 权限设计的核心很多团队的误区是把会做事当成被允许做事。在 Harness Engineering 中这两个概念是两个独立契约能力契约相对稳定的操作说明书定义 Agent 如何调用工具、如何解读结果、如何修复失败。权限契约随身份、环境、后果而变化的授权清单定义这次、这个人、这个环境里允许做什么。能力契约保持稳定权限授权可以按身份、环境、后果灵活变化——既能在可恢复的环境里给宽泛的自主空间也能在高风险边界上只给窄范围、可撤销的授权。完整论证见 docs/authority/README.md。清单一给可逆任务一个宽泛的行动包络安全问题的关键不是Agent 会不会犯错而是错误的后果是否可恢复。在效果被隔离、可回滚的环境里让 Agent 自由地检查、编辑、构建、测试、模拟、迭代——大多数失误只是廉价的反馈。每个权限授权grant应当显式写明 7 个要素工作身份worker identity操作与目标资源环境与范围授权有效期与撤销路径审批要求或职责分离审计回执与后置条件回滚或恢复路径清单二让凭据留在模型上下文之外 命令可以随手可用但凭据模型不能出现在模型的可视上下文里。推荐做法用broker 或 sidecar在行动边界从安全存储中解析窄范围密钥工具用起来像普通命令密钥却从不出现在对话上下文和仓库里为只看不动的 Agent 身份签发只读身份让它能充分检查但不具备变更权使用端点绑定访问可以单独停用某条 Agent 访问通道而无需暴露或轮换底层凭据——即使任务还在运行授权也能过期或撤销。清单三高影响操作按阶段分级授权把高后果工作拆成一个个独立可读的阶段每阶段只授予该阶段所需的权限评估 → 准备 → 金丝雀 → 审批 → 切换 → 验证 →失败则回滚仓库中记录了真实案例升级一台跑着开源固件的扫地机器人。Agent 可以在隔离槽位构建候选固件、用独立的 Tailscale 身份启动金丝雀验证远程访问金丝雀通过后再由人做生产备份并批准切换最后验证生产 SSH 与日志。两次人工授权对应两种不同后果创建新的网络身份、替换唯一的生产访问路径。金丝雀的证明不蕴含生产权限生产可访问也不代表部署健康。清单四通过权限契约解读每一条指令指令必须放在权限契约里解释而不是望文生义合并代码 走完仓库的保护性流程不隐含绕过权限准备部署 只授予准备权不授予生产切换权当目标或范围不可逆、且检查完本地策略后仍有歧义Agent 应当在越界前主动发问。人类介入的深度应与后果和可恢复性匹配改错别字、可回滚的测试部署、受保护的合并、生产凭据轮换需要的是完全不同的闸门。主轨迹依然可以拥有整个任务只为那一个必须由人做的决定去叫人。清单五把已定边界机械化稳定的权限规则不要留在口头或文档里而是写进身份策略、类型化领域操作、作用域工具、环境边界、测试和合并闸门——让错误操作在后果值得时直接不可用。机械策略只需要一个决策点在能力边界把请求的效果解码为类型化操作对照该身份的授权求值并返回精确的拒绝原因 安全的下一步。同一套权限模型同时约束直接命令、定时任务和高阶领域工具。延伸阅读权限只是 Harness 的一块拼图权限设计与上下文、工具、证明共同构成完整的 Harness权限契约本文主线docs/authority/README.md能力可读性与工具循环发现→调用→验证docs/tool-legibility/README.md在真实环境中证明结果docs/proof/README.md面向 Agent 的路由指南AGENTS.md十二个核心论点总索引docs/README.md✅一句话总结能力契约保持稳定、宽泛可用权限授权按身份、环境、后果窄化、可撤销、可审计、可恢复——这就是让 AI Agent 安全自主运行的完整清单。【免费下载链接】harness-engineering Ryan Lopopolo’s anthology, field guide, and agent context bundle for harness engineering项目地址: https://gitcode.com/gh_mirrors/har/harness-engineering创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
返回列表