Artiklar / Problemet med felaktiga åtgärder: varför agentic AI behöver en annan typ av styrning

Problemet med felaktiga åtgärder: varför agentic AI behöver en annan typ av styrning

Av Gianluca Busato · Grundare, VD & AI-systemsarkitekt · 2026-06-17

Av Gianluca Busato — Grundare, VD & AI-systemsarkitekt, Enkronos

Under större delen av AI-eran var riskens enhet en fel svar. En modell returnerade text; en person läste och beslutade vad som skulle göras. Var svaret fel fångade en människa det innan något hände. En felaktig mening var skadeområdet.

Agentic AI ändrar riskens enhet till en fel åtgärdAutonoma agenter planerar nu, anropar verktyg, träffar API:er och utlöser verkliga effekter — flyttar pengar, redigerar register, skickar meddelanden, provisionerar infrastruktur — ofta utan att någon människa läser något däremellan. Räckvidden för ett misstag är inte längre en mening; det är allt agenten kunnat vidröra.

Detta är ett kvalitativt skifte, och det rubbar de antaganden som större delen av arbetet med AI‑säkerhet bygger på.

Varför "bättre svar" inte löser det

Mycket arbete läggs på att göra modeller mer exakta. Det hjälper mot felaktiga svar. Det gör nästan ingenting för felaktiga handlingar, eftersom felmoden inte bara är ’modellen hade fel’ — den är också ’modellen gjorde’. behörighet och gjorde ändå något den inte borde ha tillåtits göra.

En agent kan korrekt resonera att det snabbaste sättet att lösa ett ärende är att radera en databas. Noggrannheten är inte problemet där. Auktoritet är. Den fråga som spelar roll för agentisk AI är inte "är detta resultat korrekt?" utan "var denna åtgärd auktoriserad, kan den granskas, och är den reversibel?"

Fyra lager som ramar in problemet

Att begränsa felaktiga handlingar kräver försvar i flera lager — oberoende lager, där varje lager omkontrollerar istället för att lita på det föregående:

1. Identitet — vem agerar agenten som? Varje åtgärd kan tillskrivas en identitet.

verifierbar identitet.

1. Policy — vad får den göra? Regler uttrycks som kod och utvärderas deterministiskt.

deterministiskt.

1. Utförande — är detta är åtgärden tillåten just nu? Körtiden kontrollerar varje

åtgärd innan den sker; åtgärder med stor påverkan kräver mänskligt godkännande.

1. Revision — vad hände och varför? Ett oföränderligt spår gör varje åtgärd spårbar.

återkonstruerbar.

Kraften ligger i oberoendet. En komprometterad eller felaktigt fungerande agent hålls innesluten eftersom varje lager kontrollerar auktoritet självständigt. Ett fel sprider sig inte.

Återställbarhet och spridningsradie

Två idéer lånade från säkerhetsteknik är enormt viktiga här:

• spridningsradie — designa så att maximal påverkan av varje enskild agents åtgärd är begränsad.

begränsad. En agent som kan göra vad som helst är en risk oavsett hur smart den är.

• Återställbarhet — föredra åtgärder som kan ångras, och stänga av de irreversibla.

bakom starkare kontroller.

Detta är inte begränsningar av förmåga. Det är det som låter dig bevilja kapacitet säkert.

Poängen är inte färre agenter — det är pålitliga sådana

De organisationer som vinner med agentisk AI kommer inte vara de som kör flest agenter. Det är de som kan lita på de agenter de kör. Och förtroende här är ingen känsla; det är konstruerat — på arkitekturnivå — genom identitet, deterministisk policy, medierad exekvering och oföränderlig revisionslogg.

Får du dem rätt upphör autonom AI att vara ett lotteri och blir infrastruktur.

---

Detta är problemet AINOVAFlerlagersstyrningsarkitekturen är byggd för att lösa. Mer på gianlucabusato.com.