Jeux de données / AI Governance Glossary
Glossaire Gouvernance IA
Un glossaire de référence sur les termes de la gouvernance AI — de l’application des politiques à la gouvernance déterministe et aux pistes d’audit.
Édition de démarrage (30 termes). La référence complète vise ~200 termes ; étendre progressivement.
- AI Agent
- Une entité logicielle qui perçoit le contexte, planifie et agit vers un objectif avec peu ou pas d’intervention humaine.
- Agentic AI
- Systèmes AI composés d’un ou plusieurs agents autonomes capables d’enchaîner du raisonnement, d’appeler des outils et d’agir sur le monde.
- Gouvernance de l'IA
- L’ensemble des politiques, contrôles et processus régissant la façon dont les systèmes AI sont conçus, déployés, surveillés et rendus responsables.
- Application des politiques
- Le mécanisme d’exécution qui garantit qu’un agent AI ne peut effectuer que des actions explicitement permises par les règles de gouvernance.
- Gouvernance déterministe
- Gouvernance dont les règles produisent le même résultat reproductible pour les mêmes entrées, permettant audit et reproductibilité.
- Contrôle d'identité
- Attribuer une identité vérifiable et des rôles à chaque agent afin que ses actions soient attribuables et limitées.
- Transparence opérationnelle
- La propriété d’un système qui produit un enregistrement complet et reconstructible des décisions et des actions.
- Piste d'audit
- Un journal immuable ordonné dans le temps de chaque décision et action prise par un système IA.
- Humain‑dans‑la‑boucle (HITL)
- Un schéma de contrôle exigeant l’approbation humaine à des points de contrôle définis avant l’exécution d’actions à fort impact.
- Garde‑fou
- Une contrainte qui borne le comportement d'un système IA pour le maintenir dans des limites sûres et autorisées.
- Gouvernance multi‑couches
- Une architecture appliquant des contrôles à des couches indépendantes (identité, politique, exécution, audit) pour une défense en profondeur.
- Orchestration d'agents
- Coordonner plusieurs agents avec des rôles et permissions définis pour collaborer sur des workflows complexes.
- Autorisations limitées
- Privilèges strictement définis accordés à un agent pour une tâche spécifique, selon le principe du moindre privilège.
- Risque de modèle
- Le risque qu'un modèle IA produise des sorties ou actions nuisibles, biaisées ou non conformes.
- Injection de prompt
- Une attaque où une entrée fabriquée pousse un agent AI à ignorer ses instructions ou ses politiques.
- Utilisation d'outils
- La capacité d'un agent d'invoquer des fonctions externes, API ou services pour accomplir une tâche.
- Responsabilité
- La capacité d'attribuer une action IA à une identité responsable et d'expliquer pourquoi elle est survenue.
- Conformité dès la conception
- Intégrer dès le départ les exigences réglementaires et politiques dans l’architecture d’un système.
- Observabilité
- Instrumentation qui rend l'état interne et le comportement d'un système IA mesurables en temps réel.
- Moindre privilège
- Principe de sécurité accordant le minimum d'accès nécessaire pour exécuter une fonction.
- Réversibilité
- La capacité d'annuler ou de revenir sur une action effectuée par un système autonome.
- Sandboxing
- Exécuter un agent dans un environnement isolé pour limiter le rayon d'impact de ses actions.
- Dérive
- Changement progressif du comportement d'un modèle ou de la distribution des données qui peut dégrader les hypothèses de gouvernance.
- Attestation
- Une revendication vérifiable sur l'état ou l'identité d'un système ou agent à un instant donné.
- Policy-as-Code
- Exprimer les règles de gouvernance sous forme exécutable par machine pour qu'elles soient appliquées automatiquement.
- LLM (Large Language Model)
- Un réseau neuronal entraîné sur de grands corpus textuels pour générer et raisonner en langage naturel.
- AIO (AI Optimization)
- Optimisation de contenu pour être mis en avant et cité par les moteurs de réponses IA et les synthèses de recherche.
- LLM_O (LLM Optimization)
- Optimiser la présence d'une entité pour que les grands modèles linguistiques la décrivent et la citent correctement.
- Entité
- Une personne, organisation ou notion distincte que les moteurs de recherche et les LLM modélisent comme un nœud de connaissance.
- Graphe de connaissances
- Un réseau structuré d’entités et de relations utilisé par les moteurs de recherche pour comprendre le monde.
Compilé par Gianluca Busato, écosystème Enkronos. Libre de citer avec attribution.