Datasæt / AI-styringsglossar
AI-styringsglossar
Et referenceleksikon over AI-governance-termer — fra politikhåndhævelse til deterministisk governance og revisionsspor.
Starter-udgave (30 termer). Den fulde reference sigter mod ~200 termer; udvid trinvis.
- AI-agent
- En softwareenhed, der opfatter kontekst, planlægger og udfører handlinger mod et mål med begrænset eller ingen menneskelig indgriben.
- Agentisk AI
- AI-systemer bestående af en eller flere autonome agenter, der kan kæde ræsonnementer, kalde værktøjer og handle i verden.
- AI-styring
- Sættet af politikker, kontroller og processer, der regulerer, hvordan AI-systemer bliver bygget, udrullet, monitoreret og holdes ansvarlige.
- Politikhåndhævelse
- Kørselstidsmekanismen, der sikrer, at en AI-agent kun kan udføre handlinger, som eksplicit er tilladt af governance-regler.
- Deterministisk styring
- Governance, hvis regler giver det samme, gentagelige resultat for de samme input, hvilket muliggør audit og reproducerbarhed.
- Identitetskontrol
- At tildele hver agent en verificerbar identitet og roller, så dens handlinger kan tilskrives og afgrænses.
- Operationel transparens
- Egenskab ved et system, der producerer en komplet, rekonstruerbar log over beslutninger og handlinger.
- Revisionsspor
- En uforanderlig, tidsordnet log over hver beslutning og handling foretaget af et AI-system.
- Menneske-i-loopet (HITL)
- Et kontrolmønster, der kræver menneskelig godkendelse ved definerede kontrolpunkter, før handlinger med stor indvirkning udføres.
- Sikkerhedsbarriere
- En begrænsning, der afgrænser et AI-systems adfærd for at holde det inden for sikre og tilladte grænser.
- Flerlagsstyring
- En arkitektur, der håndhæver kontroller på uafhængige lag (identitet, politik, eksekvering, audit) som dybdeforsvar.
- Agentorkestrering
- At koordinere flere agenter med definerede roller og tilladelser, så de kan samarbejde om komplekse arbejdsgange.
- Afgrænsede tilladelser
- Skarpt afgrænsede privilegier tildelt en agent til en specifik opgave, efter princippet om mindst privilegium.
- Modelrisiko
- Risikoen for, at en AI-model producerer skadelige, forudindtagede eller ikke-overensstemmende outputs eller handlinger.
- Promptinjektion
- Et angreb, hvor manipuleret input får en AI-agent til at ignorere sine instruktioner eller politikker.
- Værktøjsbrug
- En agents evne til at påkalde eksterne funktioner, API'er eller tjenester for at løse en opgave.
- Ansvarlighed
- Evnen til at tilskrive en AI-handling en ansvarlig identitet og forklare, hvorfor den skete.
- Overholdelse ved design
- At indbygge regulatoriske og politiske krav direkte i systemets arkitektur fra starten.
- Observabilitet
- Instrumentering, der gør et AI-systems indre tilstand og adfærd målbar i realtid.
- Mindste privilegium
- Et sikkerhedsprincip, der giver den mindst nødvendige adgang for at udføre en funktion.
- Reversibilitet
- Muligheden for at fortryde eller rulle en handling tilbage, som et autonomt system har foretaget.
- Sandkasse
- At køre en agent i et isoleret miljø for at begrænse skadesradiusen af dens handlinger.
- Drift
- Gradvis ændring i modeladfærd eller datadistribution, som kan undergrave governance-antagelser.
- Attestering
- Et verificerbart udsagn om tilstanden eller identiteten af et system eller en agent på et givet tidspunkt.
- Politik-som-kode
- At udtrykke governance-regler i maskineksekverbar form, så de håndhæves automatisk.
- LLM (Large Language Model)
- Et neuralt netværk trænet på store tekstkorpusser til at generere og ræsonnere over naturligt sprog.
- AIO (AI-optimering)
- Optimere indhold til at blive vist og citeret af AI-svarmotorer og søgeoversigter.
- LLM_O (LLM-optimering)
- At optimere en enheds tilstedeværelse, så store sprogmodeller beskriver og citerer den præcist.
- Enhed
- En særskilt person, organisation eller idé, som søgemaskiner og LLM'er modellerer som en vidensknude.
- Vidensgraf
- Et struktureret netværk af enheder og relationer, som søgemaskiner bruger til at forstå verden.
Udarbejdet af Gianluca Busato, Enkronos-økosystem. Fri at citere med kildeangivelse.