Artikler / Feil-handlingsproblemet: hvorfor agentisk AI trenger en annen type styring

Feil-handlingsproblemet: hvorfor agentisk AI trenger en annen type styring

Av Gianluca Busato · Grunnlegger, CEO & AI-systemsarkitekt · 2026-06-17

Av Gianluca Busato — Grunnlegger, CEO & AI-systemsarkitekt, Enkronos

Gjennom mesteparten av AI-æraen var risikouniteten en feil svar. En modell returnerte tekst; en person leste den og bestemte hva som skulle gjøres. Hvis svaret var feil, fanget et menneske det før noe skjedde. Feilens skadeomfang var én dårlig setning.

Agentisk AI endrer risikouniteten til en feil handling. Autonome agenter planlegger nå, kaller verktøy, treffer API-er og utløser reelle effekter — overfører penger, endrer poster, sender meldinger, tilrettelegger infrastruktur — ofte uten at noe menneske leser noe som helst underveis. Konsekvensområdet ved en feil er ikke lenger en setning. Det er alt agenten rakk å berøre.

Dette er et kvalitativt skifte, og det bryter forutsetningene som mesteparten av AI‑sikkerhetsarbeidet var bygd på.

Hvorfor «bedre svar» ikke løser det

Mye arbeid går med til å gjøre modeller mer nøyaktige. Det hjelper mot gale svar. Det gjør nesten ingenting mot gale handlinger, fordi feilmåten ikke bare er "modellen tok feil" — det er "modellen var rett og gjorde fortsatt noe det ikke skulle ha lov til å gjøre."

En agent kan korrekt resonnere at den raskeste måten å løse en sak på er å slette en database. Presisjon er ikke problemet der. Autoritet er. Det som betyr noe for agentisk AI er ikke «er denne outputen korrekt?» men «var denne handlingen autorisert, er den reviderbar, og er den reverserbar?»

Fire lag som rommer problemet

Å inneholde feilhandlinger krever forsvar i dybden — uavhengige lag, der hvert lag etterprøver i stedet for å stole på det foregående:

1. Identitet — hvem handler agenten som? Hver handling kan tilskrives en

verifiserbar identitet.

1. Retningslinje — hva har den lov til å gjøre? Regler uttrykkes som kode og evalueres

deterministisk.

1. Utførelse — er dette er handlingen tillatt akkurat nå? Runtime formidler hver

handling før den skjer; handlinger med stor effekt krever menneskelig godkjenning.

1. Revisjon — hva skjedde og hvorfor? Et uforanderlig spor gjør hver handling

rekonstruerbar.

Kraften ligger i uavhengigheten. En kompromittert eller feiloppførende agent blir innesperret fordi hvert lag sjekker autoritet selvstendig. Én feil kaskaderer ikke.

Reversibilitet og skadeomfang

To ideer fra sikkerhetsingeniørfaget er avgjørende her:

• Skadeomfang — design slik at maksimal påvirkning av en enkelt agenthandling er

begrenset. En agent som kan gjøre hva som helst er en risiko uansett hvor smart den er.

• Reversibilitet — foretrekk handlinger du kan angre, og sperr de irreversible

bak sterkere kontroller.

Dette er ikke begrensninger på kapasitet. De lar deg Gi kapabilitet trygt.

Poenget er ikke færre agenter — det er pålitelige agenter

De organisasjonene som lykkes med agentisk AI blir ikke de som kjører flest agenter. Det blir de som kan stole på agentene de kjører. Og tillit her er ikke en følelse; den er konstruert — på arkitekturnivå — gjennom identitet, deterministisk policy, formidlet utførelse og uforanderlig revisjon.

Får du disse på plass, slutter autonom AI å være et sjansespill og blir infrastruktur.

---

Dette er problemet AINOVA's flerlagsstyringsarkitektur er utviklet for å løse. Mer på gianlucabusato.com.