Artikelen / Het verkeerde-actieprobleem: waarom agentic AI een andere soort governance nodig heeft

Het verkeerde-actieprobleem: waarom agentic AI een andere soort governance nodig heeft

Door Gianluca Busato · Oprichter, CEO & AI-systeemarchitect · 2026-06-17

Door Gianluca Busato — Oprichter, CEO & AI-systeemarchitect, Enkronos

Gedurende het grootste deel van het AI-tijdperk was de eenheid van risico een verkeerd antwoord. Een model leverde tekst; een persoon las het en besloot wat te doen. Als het antwoord fout was, ving een mens het op voordat er iets gebeurde. De schade van een fout beperkte zich tot één slechte zin.

Agentic AI verandert de eenheid van risico in een verkeerde actie. Autonome agenten plannen nu, roepen tools aan, raken API's en veroorzaken echte effecten — geld verplaatsen, records aanpassen, berichten versturen, infrastructuur provisionen — vaak zonder dat iemand daar tussendoor iets leest. De blast radius van een fout is niet langer een zin; het is alles wat de agent kon aanraken.

Dit is een kwalitatieve verschuiving en doorbreekt de aannames waarop het merendeel van het AI‑veiligheidswerk was gebaseerd.

Waarom 'betere antwoorden' het niet oplost

Er wordt veel moeite gestoken in het nauwkeuriger maken van modellen. Dat helpt bij foute antwoorden. Het doet bijna niets tegen foute acties, omdat de faalmode niet alleen "the model was wrong" is — het is "the model was recht en deed toch iets wat het niet had mogen doen."

Een agent kan correct redeneren dat de snelste manier om een ticket op te lossen het verwijderen van een database is. Nauwkeurigheid is daar niet het probleem. Autoriteit is. De vraag die ertoe doet voor agentische AI is niet "is deze output correct?" maar "was deze actie geautoriseerd, is hij auditeerbaar en is hij omkeerbaar?"

Vier lagen die het probleem indammen

Het beheersen van verkeerde acties vereist defense‑in‑depth — onafhankelijke lagen die elk opnieuw controleren in plaats van de vorige te vertrouwen:

1. Identiteit — namens wie handelt de agent? Elke actie is toerekenbaar aan een

verifieerbare identiteit.

1. Beleid — wat mag het doen? Regels worden als code uitgedrukt en geëvalueerd

deterministisch.

1. Uitvoering — is dit actie nu toegestaan? De runtime bemiddelt elke

actie voordat die plaatsvindt; acties met grote impact vereisen menselijke goedkeuring.

1. Audit — wat gebeurde er en waarom? Een onveranderlijk spoor maakt elke actie

reconstructeerbaar.

De kracht zit in de onafhankelijkheid. Een gecompromitteerde of foutgedragende agent wordt ingeperkt omdat elke laag zelf de autoriteit controleert. Eén fout leidt niet tot een cascade.

Omkeerbaarheid en impactbereik

Twee ideeën uit security engineering zijn hier van groot belang:

• impactbereik — ontwerp zodat de maximale impact van elke individuele agentactie

beperkt. Een agent die alles kan, is een risico ongeacht hoe slim hij is.

• Omkeerbaarheid — geef de voorkeur aan acties die je kunt terugdraaien, en scherm de onomkeerbare af

achter sterkere controles.

Dit zijn geen beperkingen op mogelijkheden. Ze laten je Toekennen mogelijkheid veilig.

Het draait niet om minder agenten — maar om betrouwbare agenten

De organisaties die winnen met agentische AI zullen niet degene zijn die de meeste agenten draaien. Het zullen de organisaties zijn die de agenten die ze draaien kunnen vertrouwen. En vertrouwen is hier geen gevoel; het is ontworpen — op architectuurniveau — door identiteit, deterministisch beleid, gemedieerde uitvoering en onveranderlijke audit.

Krijg die zaken op orde en autonome AI stopt een gok te zijn en wordt infrastructuur.

---

Dit is het probleem AINOVADe meerlaagse governance-architectuur is gebouwd om dit op te lossen. Meer op gianlucabusato.com.