Artikler / Problemet med forkerte handlinger: hvorfor agentisk AI har brug for en anden form for styring

Problemet med forkerte handlinger: hvorfor agentisk AI har brug for en anden form for styring

Af Gianluca Busato · Stifter, CEO & AI-systemsarkitekt · 2026-06-17

Af Gianluca Busato — Stifter, CEO & AI-systemsarkitekt, Enkronos

I størstedelen af AI-æraen var risikoundheden en Forkert svar. En model returnerede tekst; en person læste den og besluttede, hvad der skulle gøres. Hvis svaret var forkert, opdagede et menneske det, før noget skete. Fejlens konsekvenser var en enkelt dårlig sætning.

Agentisk AI ændrer risikoundheden til en Forkert handling. Autonome agenter planlægger nu, kalder værktøjer, rammer APIs og udløser reelle effekter — flytter penge, redigerer poster, sender beskeder, provisioning af infrastruktur — ofte uden at et menneske læser noget imellem. Skadeomfanget af en fejl er ikke længere en sætning. Det er alt, hvad agenten havde adgang til.

Dette er et kvalitativt skift, der bryder med de antagelser, størstedelen af AI-sikkerhedsarbejdet bygger på.

Hvorfor "bedre svar" ikke løser det

Der bruges megen indsats på at gøre modeller mere præcise. Det hjælper mod forkerte svar. Det gør næsten intet for forkerte handlinger, fordi fejltilstanden ikke kun er "modellen tog fejl" — det er "modellen var Ret og alligevel gjorde noget, det ikke burde have haft lov til at gøre."

En agent kan korrekt ræsonnere, at den hurtigste måde at løse en ticket på er at slette en database. Nøjagtighed er ikke problemet der. Autoritet Det er. Det spørgsmål, der er afgørende for agentisk AI, er ikke "er dette output korrekt?" men "var denne handling autoriseret, kan den revideres, og er den reversibel?"

Fire lag, der indkapsler problemet

At indeholde forkerte handlinger kræver dybdeforsvar — uafhængige lag, hvor hvert enkelt genkontrollerer i stedet for at stole på det foregående:

1. Identitet — hvem agerer agenten som? Hver handling kan tilskrives en

Verificerbar identitet.

1. Politik — hvad må det gøre? Regler udtrykkes som kode og evalueres

Deterministisk.

1. Udførelse — er dette er handlingen tilladt lige nu? Runtime'en medierer hver

handling, før den sker; handlinger med stor indvirkning kræver menneskelig godkendelse.

1. Revision — hvad skete der, og hvorfor? Et uforanderligt spor gør hver handling

Rekonstruerbar.

Kraften ligger i uafhængigheden. En kompromitteret eller fejlagtig agent bliver indeholdt, fordi hvert lag selv tjekker autoritet. Én fejl kaskaderer ikke.

Reversibilitet og blast-radius

To idéer fra sikkerhedsingeniørarbejde er afgørende her:

• Blast-radius — design så den maksimale påvirkning af enhver enkelt agent-handling er

begrænset. En agent, der kan gøre alt, er en risiko uanset hvor klog den er.

• Reversibilitet — foretræk handlinger, du kan fortryde, og begræns de irreversible.

bag stærkere kontroller.

Det er ikke begrænsninger af kapabilitet. Det er det, der giver dig mulighed for at Tildel Kapabilitet sikkert.

Det handler ikke om færre agenter — men om agenter, man kan stole på.

De organisationer, der vinder med agentisk AI, bliver ikke dem, der kører flest agenter. Det bliver dem, der kan have tillid til de agenter, de kører. Og tillid her er ikke en følelse; det er konstrueret — på arkitekturniveau — gennem identitet, deterministisk politik, medieret eksekvering og uforanderlig audit.

Får man dem rigtigt, ophører autonom AI med at være et væddemål og bliver infrastruktur.

---

Dette er problemet AINOVA's flerlags-governance-arkitektur er bygget til at løse. Mere på gianlucabusato.com.