Articles / Le problème de la mauvaise action : pourquoi l'Agentic AI nécessite un type différent de gouvernance

Le problème de la mauvaise action : pourquoi l'Agentic AI nécessite un type différent de gouvernance

Par Gianluca Busato · Fondateur, CEO & Architecte des systèmes IA · 2026-06-17

Par Gianluca Busato — Fondateur, CEO & Architecte des systèmes IA, Enkronos

Pendant la majeure partie de l'ère IA, l'unité de risque était un mauvaise réponse. Un modèle a renvoyé du texte ; une personne l’a lu et a décidé quoi faire. Si la réponse était fausse, un humain l’a corrigée avant que quoi que ce soit n’arrive. Le rayon d’impact d’une erreur se limitait à une mauvaise phrase.

Agentic AI change l'unité de risque en un action incorrecte. Les agents autonomes planifient désormais, appellent des outils, utilisent des API et déclenchent des effets concrets — déplacer de l'argent, modifier des enregistrements, envoyer des messages, provisionner des infrastructures — souvent sans qu'aucun humain ne lise quoi que ce soit entre les étapes. Le rayon d'impact d'une erreur n'est plus limité à une simple phrase : c'est tout ce que l'agent a pu atteindre.

C'est un changement qualitatif, et il casse les hypothèses sur lesquelles reposait la plupart des travaux sur la sécurité IA.

Pourquoi « de meilleures réponses » ne suffit pas

Beaucoup d’efforts sont consacrés à rendre les modèles plus précis. Cela aide contre les mauvaises réponses. Cela fait presque rien pour les mauvaises actions, car le mode d’échec n’est pas seulement « le modèle s’est trompé » — c’est « le modèle a droit et a quand même fait quelque chose qu'il n'aurait pas dû pouvoir faire. »

Un agent peut correctement raisonner que la façon la plus rapide de régler un ticket est de supprimer une base de données. L’exactitude n’est pas le problème là. Autorité est. La question qui compte pour l’agentic AI n’est pas « ce résultat est-il correct ? » mais « cette action était-elle autorisée, auditable et réversible ? »

Quatre couches qui contiennent le problème

Contenir les actions erronées exige une défense en profondeur — des couches indépendantes, chacune refaisant la vérification plutôt que de faire confiance à la précédente :

1. Identité — en tant que qui l'agent agit‑il ? Chaque action est attribuée à un

identité vérifiable.

1. Politique — que lui est‑il permis de faire ? Les règles sont exprimées sous forme de code et évaluées

déterministement.

1. Exécution — est ceci action autorisée maintenant ? Le runtime médie chaque

vérifie l'action avant qu'elle ne se produise ; les actions à fort impact requièrent un accord humain.

1. Audit — que s'est‑il passé et pourquoi ? Une piste immuable rend chaque action

reconstructible.

La puissance réside dans l’indépendance. Un agent compromis ou défaillant est contenu parce que chaque couche vérifie l’autorité par elle-même. Une défaillance ne se propage pas.

Réversibilité et rayon d'impact

Deux idées empruntées à l'ingénierie de la sécurité comptent énormément ici :

• Rayon d'impact — concevoir pour que l'impact maximal de toute action d'agent soit

borné. Un agent qui peut tout faire est une responsabilité, quelle que soit son intelligence.

• Réversibilité — privilégier les actions réversibles et bloquer les irréversibles

derrière des contrôles renforcés.

Ce ne sont pas des contraintes sur la capacité. Ce sont ce qui vous permet de autoriser capacité en toute sécurité.

Le but n'est pas moins d'agents — c'est d'avoir des agents fiables

Les organisations qui réussiront avec l’agentic AI ne seront pas celles qui exécutent le plus d’agents. Ce seront celles qui peuvent faire confiance aux agents qu’elles exécutent. Et la confiance ici n’est pas un sentiment ; elle est conçue — au niveau de l’architecture — via identité, politique déterministe, exécution médiée et audit immuable.

Obtenez cela correctement et l'IA autonome cesse d'être un pari pour devenir une infrastructure.

---

Ceci est le problème AINOVA's Architecture de gouvernance multi‑couches est conçue pour résoudre. Plus sur gianlucabusato.com.