数据集 / AI 治理术语表
AI 治理术语表
一部 AI 治理术语参考词汇——涵盖从策略执行到确定性治理与审计追踪。
入门版（30 个术语）。完整参考目标约 200 个术语；逐步扩展。
- AI 代理
- 一种感知上下文、制定计划并在有限或无人工干预下为实现目标采取行动的软件实体。
- 能动型 AI
- 由一个或多个自治代理构成的 AI 系统，能够串联推理、调用工具并在现实世界中采取行动。
- AI 治理
- 规范 AI 系统如何构建、部署、监控与追责的一系列政策、控制和流程。
- 策略执行
- 运行时机制，确保 AI 代理只能执行治理规则明确允许的操作。
- 确定性治理
- 其规则对相同输入产生相同可重复结果的治理方式，便于审计与可复现性。
- 身份控制
- 为每个代理分配可验证的身份和角色，以便对其行为进行归因和限定。
- 运营透明度
- 系统具有生成完整且可重构决策与行为记录的特性。
- 审计追踪
- 按时间顺序不可篡改的日志，记录 AI 系统的每项决策与行动。
- 人类在环 (HITL)
- 一种控制模式，要求在预定检查点对高影响操作进行人工审批后方可执行。
- 防护措施
- 对 AI 系统行为的约束，限制其在安全和允许范围内运行。
- 多层治理
- 一种在独立层（身份、策略、执行、审计）实施控制的架构，以实现纵深防御。
- 代理编排
- 协调多个具有明确角色与权限的代理，共同协作处理复杂工作流。
- 范围权限
- 为代理在特定任务下授予的严格限定权限，遵循最小权限原则。
- 模型风险
- AI 模型产生有害、带偏见或不合规输出或行为的风险。
- 提示注入
- 通过精心构造的输入诱导 AI 代理忽视其指令或策略的攻击。
- 工具使用
- 代理调用外部函数、API 或服务以完成任务的能力。
- 问责制
- 将 AI 行为归因到负责身份并解释其发生原因的能力。
- 合规即设计
- 从一开始就在系统架构中嵌入监管与政策要求。
- 可观测性
- 使 AI 系统内部状态和行为可以实时度量的监测与检测手段。
- 最小权限
- 一种安全原则，授予完成某功能所需的最小访问权限。
- 可逆性
- 撤销或回滚自主系统所采取行动的能力。
- 沙箱化
- 在隔离环境中运行代理以限制其行动的破坏半径。
- 漂移
- 模型行为或数据分布的渐进性变化，可能削弱治理假设的有效性。
- 证明
- 关于某一时刻系统或代理状态或身份的可验证声明。
- 策略即代码
- 将治理规则以机器可执行的形式表达，从而实现自动强制执行。
- LLM（大型语言模型）
- 在大规模文本语料上训练的神经网络，用于生成和推理自然语言。
- AIO（AI 优化）
- 优化内容以被 AI 答案引擎和搜索综述展示与引用。
- LLM_O（LLM 优化）
- 优化实体的可见性，使大型语言模型能够准确描述并引用该实体。
- 实体
- 被搜索引擎和 LLM 作为知识节点建模的独立个人、组织或概念。
- 知识图谱
- 被搜索引擎用来理解世界的实体与关系的结构化网络。
编撰 Gianluca Busato，Enkronos 生态系统。注明来源即可自由引用。