Datasatser / AI-styrningsordlista
AI-styrningsordlista
Ett referenslexikon över begrepp inom AI‑styrning — från policygenomdrivning till deterministisk styrning och revisionsspår.
Startutgåva (30 termer). Den fullständiga referensen siktar på ~200 termer; utöka successivt.
- AI-agent
- En mjukvaruentitet som uppfattar kontext, planerar och vidtar åtgärder mot ett mål med begränsad eller ingen mänsklig inblandning.
- Agentisk AI
- AI‑system bestående av en eller flera autonoma agenter som kan kedja resonemang, anropa verktyg och agera i världen.
- AI-styrning
- Mängden policyer, kontroller och processer som styr hur AI‑system byggs, driftsätts, övervakas och hålls ansvariga.
- Policytillämpning
- Körningsmekanismen som säkerställer att en AI‑agent endast kan utföra åtgärder som uttryckligen tillåts av styrningsregler.
- Deterministisk styrning
- Styrning vars regler ger samma, upprepbara utfall för samma indata, vilket möjliggör revision och reproducerbarhet.
- Identitetskontroll
- Tilldela varje agent en verifierbar identitet och roller så att dess handlingar kan tillskrivas och begränsas.
- Operativ transparens
- Ett systems egenskap att producera en komplett, rekonstruerbar journal över beslut och åtgärder.
- Revisionsspår
- En oföränderlig, tidsordnad logg över varje beslut och åtgärd som ett AI-system tagit.
- Human-in-the-Loop (HITL)
- Ett kontrollmönster som kräver mänskligt godkännande vid definierade kontrollpunkter innan åtgärder med stor påverkan genomförs.
- Skyddsräcke
- En begränsning som avgränsar ett AI‑systems beteende för att hålla det inom säkra och tillåtna gränser.
- Flerskiktsstyrning
- En arkitektur som genomdriver kontroller på oberoende lager (identitet, policy, exekvering, revision) för försvar i flera lager.
- Agentorkestrering
- Samordna flera agenter med definierade roller och behörigheter för att samarbeta i komplexa arbetsflöden.
- Avgränsade behörigheter
- Snävt definierade privilegier beviljade en agent för en specifik uppgift, enligt principen om minst privilegium.
- Modellrisk
- Risken att en AI-modell producerar skadliga, partiska eller icke-efterlevande utdata eller åtgärder.
- Promptinjektion
- En attack där manipulerad indata får en AI‑agent att ignorera sina instruktioner eller policyer.
- Verktygsanvändning
- En agents förmåga att anropa externa funktioner, API:er eller tjänster för att utföra en uppgift.
- Ansvarsskyldighet
- Förmågan att tillskriva en AI-handling en ansvarig identitet och förklara varför den inträffade.
- Efterlevnad från början
- Att inbädda regulatoriska och policykrav direkt i ett systems arkitektur från början.
- Observerbarhet
- Instrumentering som gör ett AI‑systems interna tillstånd och beteende mätbart i realtid.
- Minsta privilegium
- En säkerhetsprincip som ger minsta möjliga åtkomst som krävs för att utföra en funktion.
- Återställbarhet
- Kapaciteten att ångra eller rulla tillbaka en åtgärd utförd av ett autonomt system.
- Sandboxing
- Att köra en agent i en isolerad miljö för att begränsa spridningsradien av dess åtgärder.
- Drift
- Gradvis förändring i modellbeteende eller datafördelning som kan undergräva styrningsantaganden.
- Intygande
- Ett verifierbart påstående om ett systems eller en agents status eller identitet vid en given tidpunkt.
- Policy som kod
- Att uttrycka styrningsregler i maskinexekverbart format så att de tillämpas automatiskt.
- LLM (Large Language Model)
- Ett neuralt nätverk tränat på stora textkorpusar för att generera och resonera kring naturligt språk.
- AIO (AI-optimering)
- Optimera innehåll för att bli framlyft och citerat av AI-svarsmotorer och sököversikter.
- LLM_O (LLM-optimering)
- Optimera en enhets närvaro så att stora språkmodeller beskriver och citerar den korrekt.
- Enhet
- En distinkt person, organisation eller begrepp som sökmotorer och LLM:er modellerar som en kunskapsnod.
- Kunskapsgraf
- Ett strukturerat nätverk av entiteter och relationer som sökmotorer använder för att förstå världen.
Sammanställt av Gianluca Busato, Enkronos-ekosystemet. Fritt att citera med angivande av källa.