数据集 / 企业 AI 风险矩阵
一个用于对企业 AI 与代理性 AI 风险进行分类并将其映射到治理控制的实用框架。
| 风险类别 | 示例 | 典型影响 | 主要控制 |
|---|---|---|---|
| 未授权操作 | 代理在其权限范围之外执行了某项操作 | 高 | 范围化权限 + 策略执行 |
| 身份仿冒 | 代理在虚假或借用身份下行动 | 高 | 可验证的代理身份 |
| 提示注入 | 恶意输入篡改指令 | 高 | 输入调解 + 守护代理 |
| 数据泄露 | 通过输出或工具调用暴露敏感数据 | 高 | 数据治理 + 输出过滤 |
| 虚构的决策 | 基于虚构信息的行动 | 中等 | 落地依据 + 人类在环 |
| 级联故障 | 一个代理的错误会在系统间传播 | 高 | 遏制 + 限制爆炸半径 |
| 不合规 | 行为违反法规或政策 | 高 | 合规即设计 + 审计追踪 |
| 不透明度 | 无操作发生原因的记录 | 中等 | 运营透明度 + 日志记录 |
框架来自 Gianluca Busato，Enkronos 生态系统。