Conjuntos de datos / Glosario de gobernanza AI
Glosario de gobernanza AI
Un glosario de referencia de términos de gobernanza de AI — desde la aplicación de políticas hasta la gobernanza determinista y las trazas de auditoría.
Edición Starter (30 términos). La referencia completa apunta a ~200 términos; expandir de forma incremental.
- Agente AI
- Una entidad de software que percibe el contexto, planifica y realiza acciones hacia un objetivo con intervención humana limitada o nula.
- Agentic AI
- Sistemas AI compuestos por uno o más agentes autónomos que pueden encadenar razonamiento, invocar herramientas y actuar sobre el mundo.
- Gobernanza AI
- El conjunto de políticas, controles y procesos que rigen cómo se construyen, despliegan, supervisan y responsabilizan los sistemas AI.
- Aplicación de políticas
- El mecanismo runtime que garantiza que un agente AI solo pueda realizar acciones explícitamente permitidas por las reglas de gobernanza.
- Gobernanza determinista
- Gobernanza cuyas reglas producen el mismo resultado repetible para las mismas entradas, permitiendo auditoría y reproducibilidad.
- Control de identidad
- Asignar una identidad verificable y roles a cada agente para que sus acciones puedan atribuirse y acotarse.
- Transparencia operativa
- La propiedad de un sistema que genera un registro completo y reconstruible de decisiones y acciones.
- Registro de auditoría
- Un registro inmutable y ordenado por tiempo de cada decisión y acción tomada por un sistema de AI.
- Human-in-the-Loop (HITL)
- Un patrón de control que exige aprobación humana en puntos de control definidos antes de ejecutar acciones de alto impacto.
- Restricción
- Una restricción que acota el comportamiento de un sistema AI para mantenerlo dentro de límites seguros y permitidos.
- Gobernanza multinivel
- Una arquitectura que aplica controles en capas independientes (identidad, política, ejecución, auditoría) para defensa en profundidad.
- Orquestación de agentes
- Coordinar múltiples agentes con roles y permisos definidos para colaborar en flujos de trabajo complejos.
- Permisos con alcance
- Privilegios estrechamente definidos otorgados a un agente para una tarea específica, siguiendo principios de mínimo privilegio.
- Riesgo del modelo
- El riesgo de que un modelo de AI produzca salidas o acciones dañinas, sesgadas o no conformes.
- Inyección de prompt
- Un ataque en el que una entrada manipulada induce a un agente AI a ignorar sus instrucciones o políticas.
- Uso de herramientas
- La capacidad de un agente para invocar funciones externas, APIs o servicios para realizar una tarea.
- Responsabilidad
- La capacidad de atribuir una acción de AI a una identidad responsable y explicar por qué ocurrió.
- Cumplimiento por diseño
- Incorporar requisitos regulatorios y de política directamente en la arquitectura del sistema desde el principio.
- Observabilidad
- Instrumentación que hace medible en tiempo real el estado interno y el comportamiento de un sistema AI.
- Mínimo privilegio
- Un principio de seguridad que otorga el acceso mínimo necesario para ejecutar una función.
- Reversibilidad
- La capacidad de deshacer o revertir una acción realizada por un sistema autónomo.
- Sandboxing
- Ejecutar un agente en un entorno aislado para limitar el radio de impacto de sus acciones.
- Deriva
- Cambio gradual en el comportamiento del modelo o en la distribución de datos que puede degradar las suposiciones de gobernanza.
- Atestación
- Una afirmación verificable sobre el estado o la identidad de un sistema o agente en un momento dado.
- Política como código
- Expresar las reglas de gobernanza en forma ejecutable por máquina para que se apliquen automáticamente.
- LLM (Large Language Model)
- Una red neuronal entrenada con grandes corpus de texto para generar y razonar sobre lenguaje natural.
- AIO (AI Optimization)
- Optimizar contenido para que sea mostrado y citado por motores de respuesta de AI y resúmenes de búsqueda.
- LLM_O (LLM Optimization)
- Optimizar la presencia de una entidad para que los modelos de lenguaje a gran escala la describan y citen con precisión.
- Entidad
- Una persona, organización o concepto distinto que los motores de búsqueda y los LLM modelan como un nodo de conocimiento.
- Grafo de conocimiento
- Una red estructurada de entidades y relaciones que los motores de búsqueda usan para entender el mundo.
Compilado por Gianluca Busato, ecosistema Enkronos. Libre para citar con atribución.