Jeux de données / Matrice des risques IA en entreprise
Un cadre pratique pour classer les risques d’AI d’entreprise et d’agentic-AI et les mapper aux contrôles de gouvernance.
| Catégorie de risque | Exemple | Impact typique | Contrôle principal |
|---|---|---|---|
| Action non autorisée | Un agent exécute une action hors de son mandat | Élevé | Autorisations limitées + application des politiques |
| Usurpation d'identité | Un agent agit sous une identité fausse ou empruntée | Élevé | Identité d'agent vérifiable |
| Injection de prompt | Entrée malveillante qui outrepasse les instructions | Élevé | Médiation d'entrée + agents de garde |
| Fuite de données | Données sensibles exposées via une sortie ou un appel d'outil | Élevé | Gouvernance des données + filtrage des sorties |
| Décision halluciné | Action basée sur des informations fabriquées | Moyen | Ancrage + humain‑dans‑la‑boucle |
| Défaillance en cascade | L'erreur d'un agent se propage à travers les systèmes | Élevé | Confinement + limites du rayon d'impact |
| Non‑conformité | Action violant la réglementation ou la politique | Élevé | Conformité dès la conception + piste d'audit |
| Opacité | Aucun enregistrement expliquant pourquoi une action a eu lieu | Moyen | Transparence opérationnelle + journalisation |
Cadre par Gianluca Busato, écosystème Enkronos.