主分支
权限、安全与数据治理
将授权、信任和数据生命周期放在模型之外执行。
要解决的问题Agent 能看到什么、能改变什么,谁来保证?
01 输入
- 身份
- 数据分类
- 动作风险
02 处理机制
- 限制能力
- 隔离不可信输入
- 审计与撤销
03 输出与证据
- 受控执行
- 可追溯责任
EXPLORE THIS BRANCH
继续深入 · 5 个方向
安全是贯穿系统的约束
攻击者可能控制输入、网页、上传文件、工具返回、仓库依赖和记忆候选。企业风险包括越权读、凭证泄漏、重复副作用和错误发布。提示词可以提醒模型识别风险,但真正边界来自身份、能力授权、隔离和外部状态核验。
本分支负责统一威胁与治理语义。工具页展开调用机制,知识页展开文档ACL,memory页展开记忆作用域,评测页展开红队;这些页面引用这里的原则。安全测试还需保持合法任务完成率,避免用全面拒绝伪装安全。
云端优先不等于忽略数据合同。模型推理、会话、文件、日志、备份与训练导出分别核对权限、保留、地区与删除。处理高影响领域时按具体业务实体、法域和用途落实专业审查,不能把通用架构图当作合规证明。
PRIMARY SOURCES
来源与阅读边界
来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。
- MCP:Security best practices ↗官方文档 / 声明
- OpenAI:API data controls ↗官方文档 / 声明