AI-Governance-Glossar

Datensätze / AI-Governance-Glossar

Ein Referenzglossar zu Begriffen der AI‑Governance — von Richtliniendurchsetzung über deterministische Governance bis zu Audit‑Trails.

Starter‑Ausgabe (30 Begriffe). Das vollständige Nachschlagewerk zielt auf ~200 Begriffe ab; schrittweise erweitern.

AI Agent: Eine Softwareentität, die Kontext wahrnimmt, plant und mit begrenzter oder keiner menschlichen Intervention zielgerichtete Aktionen ausführt.
Agentic AI: AI‑Systeme, die aus einem oder mehreren autonomen Agenten bestehen, die verkettetes Schlussfolgern, Werkzeugeaufrufe und Handeln in der Welt ermöglichen.
AI-Governance: Die Menge an Richtlinien, Kontrollen und Prozessen, die regeln, wie AI‑Systeme entwickelt, bereitgestellt, überwacht und zur Rechenschaft gezogen werden.
Richtliniendurchsetzung: Der Laufzeitmechanismus, der sicherstellt, dass ein AI‑Agent nur Aktionen ausführt, die von Governance‑Regeln ausdrücklich erlaubt sind.
Deterministische Governance: Governance, deren Regeln für gleiche Eingaben dasselbe wiederholbare Ergebnis liefern und so Auditierbarkeit sowie Reproduzierbarkeit ermöglichen.
Identitätskontrolle: Jedem Agenten eine verifizierbare Identität und Rollen zuweisen, damit seine Aktionen zugeordnet und eingegrenzt werden können.
Operative Transparenz: Die Eigenschaft eines Systems, einen vollständigen, rekonstruierbaren Verlauf von Entscheidungen und Handlungen zu erzeugen.
Audit-Trail: Ein unveränderliches, zeitlich geordnetes Protokoll jeder Entscheidung und Aktion eines AI-Systems.
Mensch-in-der-Schleife (HITL): Ein Kontrollmuster, das menschliche Genehmigung an definierten Kontrollpunkten verlangt, bevor folgenreiche Aktionen ausgeführt werden.
Guardrail: Eine Beschränkung, die das Verhalten eines AI‑Systems einschränkt, damit es innerhalb sicherer und erlaubter Grenzen bleibt.
Mehrschichtige Governance: Eine Architektur, die Kontrollen auf unabhängigen Schichten (Identität, Richtlinie, Ausführung, Audit) durchsetzt — zur mehrschichtigen Absicherung.
Agenten-Orchestrierung: Mehrere Agenten mit definierten Rollen und Berechtigungen koordinieren, damit sie an komplexen Workflows zusammenarbeiten.
Gefasste Berechtigungen: Eng definierte Privilegien, die einem Agenten für eine bestimmte Aufgabe gewährt werden, nach dem Prinzip der minimalen Rechte.
Model Risk: Das Risiko, dass ein AI-Modell schädliche, voreingenommene oder nicht konforme Ausgaben oder Handlungen erzeugt.
Prompt Injection: Ein Angriff, bei dem manipulierte Eingaben einen AI‑Agenten dazu bringen, seine Anweisungen oder Richtlinien zu ignorieren.
Tool-Einsatz: Die Fähigkeit eines Agenten, externe Funktionen, APIs oder Dienste zur Aufgabenerfüllung aufzurufen.
Rechenschaftspflicht: Die Fähigkeit, eine AI‑Handlung einer verantwortlichen Identität zuzuordnen und zu erklären, warum sie erfolgte.
Compliance-by-Design: Regulatorische und richtlinienbezogene Anforderungen von Anfang an direkt in die Systemarchitektur einbetten.
Observability: Instrumentierung, die den internen Zustand und das Verhalten eines AI‑Systems in Echtzeit messbar macht.
Least Privilege: Ein Sicherheitsprinzip, das den minimal nötigen Zugriff zur Ausführung einer Funktion gewährt.
Umkehrbarkeit: Die Fähigkeit, eine von einem autonomen System vorgenommene Aktion rückgängig zu machen oder zurückzurollen.
Sandboxing: Einen Agenten in einer isolierten Umgebung ausführen, um die Ausbreitungswirkung seiner Aktionen zu begrenzen.
Drift: Allmähliche Veränderungen im Modellverhalten oder in der Datenverteilung, die Governance‑Annahmen untergraben können.
Attestierung: Eine verifizierbare Aussage über den Zustand oder die Identität eines Systems oder Agenten zu einem Zeitpunkt.
Policy-as-Code: Governance‑Regeln in maschinell ausführbarer Form formulieren, sodass sie automatisch durchgesetzt werden.
LLM (Large Language Model): Ein neuronales Netzwerk, auf großen Textkorpora trainiert, das natürliche Sprache erzeugt und darüber schlussfolgert.
AIO (AI Optimization): Inhalte optimieren, damit sie von AI-Antwortengines und Suchübersichten angezeigt und zitiert werden.
LLM_O (LLM-Optimierung): Die Präsenz einer Entität so optimieren, dass große Sprachmodelle (LLMs) sie korrekt beschreiben und zitieren.
Einheit: Eine eindeutige Person, Organisation oder ein Konzept, das Suchmaschinen und LLMs als Wissensknoten modellieren.
Knowledge Graph: Ein strukturiertes Netzwerk von Entitäten und Beziehungen, das Suchmaschinen nutzen, um die Welt zu verstehen.

Zusammengestellt von Gianluca Busato, Enkronos-Ökosystem. Frei zitierbar mit Namensnennung.