Dataset / Glossario AI Governance
Glossario AI Governance
Un glossario di riferimento sui termini della governance dell'AI — dalla enforcement delle policy alla governance deterministica e alle tracce di audit.
Edizione starter (30 termini). La referenza completa mira a ~200 termini; espandere gradualmente.
- Agente AI
- Un'entità software che percepisce il contesto, pianifica e compie azioni verso un obiettivo con intervento umano minimo o assente.
- AI agentica
- Sistemi AI composti da uno o più agenti autonomi capaci di concatenare ragionamenti, invocare strumenti e agire sul mondo.
- AI Governance
- L'insieme di policy, controlli e processi che regolano come i sistemi AI vengono progettati, deployati, monitorati e resi responsabili.
- Applicazione della policy
- Il meccanismo runtime che garantisce che un agente AI possa eseguire solo azioni esplicitamente consentite dalle regole di governance.
- Governance deterministica
- Governance le cui regole producono lo stesso risultato ripetibile per gli stessi input, abilitando audit e riproducibilità.
- Controllo dell'identità
- Assegnare a ogni agente un'identità verificabile e ruoli in modo che le sue azioni possano essere attribuite e circoscritte.
- Trasparenza operativa
- La proprietà di un sistema che produce un registro completo e ricostruibile di decisioni e azioni.
- Audit Trail
- Un registro immutabile, ordinato nel tempo, di ogni decisione e azione presa da un sistema AI.
- Umano nel ciclo (HITL)
- Un modello di controllo che richiede l'approvazione umana in checkpoint definiti prima dell'esecuzione di azioni ad alto impatto.
- Guardrail
- Un vincolo che delimita il comportamento di un sistema AI per mantenerlo entro limiti sicuri e consentiti.
- Governance multilivello
- Un'architettura che applica controlli su livelli indipendenti (identity, policy, execution, audit) per la defense in depth.
- Orchestrazione degli agenti
- Coordinare più agenti con ruoli e permessi definiti per collaborare in workflow complessi.
- Autorizzazioni limitate
- Privilegi strettamente delimitati concessi a un agente per uno specifico compito, secondo il principio del minimo privilegio.
- Rischio del modello
- Il rischio che un modello AI produca output o azioni dannose, distorte o non conformi.
- Prompt Injection
- Un attacco in cui input appositamente confezionati manipolano un agente AI inducendolo a ignorare istruzioni o policy.
- Uso degli strumenti
- La capacità di un agente di invocare funzioni esterne, API o servizi per svolgere un compito.
- Responsabilità
- La capacità di attribuire un'azione dell'AI a un'identità responsabile e spiegare perché è avvenuta.
- Compliance-by-Design
- Incorporare i requisiti normativi e di policy direttamente nell'architettura di un sistema fin dall'inizio.
- Osservabilità
- Strumentazione che rende lo stato interno e il comportamento di un sistema AI misurabili in tempo reale.
- Privilegio minimo
- Un principio di sicurezza che concede il minimo accesso necessario per svolgere una funzione.
- Reversibilità
- La capacità di annullare o ripristinare un'azione compiuta da un sistema autonomo.
- Sandboxing
- Eseguire un agente in un ambiente isolato per limitare il raggio d'impatto delle sue azioni.
- Deriva
- Cambiamento graduale nel comportamento del modello o nella distribuzione dei dati che può degradare le ipotesi di governance.
- Attestazione
- Una dichiarazione verificabile sullo stato o sull'identità di un sistema o agente in un dato momento.
- Policy-as-Code
- Esprimere le regole di governance in forma eseguibile dalla macchina affinché vengano applicate automaticamente.
- LLM (modello linguistico di grandi dimensioni)
- Una rete neurale addestrata su ampi corpora testuali per generare e ragionare sul linguaggio naturale.
- AIO (AI Optimization)
- Ottimizzare i contenuti affinché vengano evidenziati e citati dai motori di risposta AI e dalle panoramiche di ricerca.
- LLM_O (Ottimizzazione LLM)
- Ottimizzare la presenza di un'entità affinché gli LLM la descrivano e citino accuratamente.
- Entità
- Una persona, organizzazione o concetto distinto che i motori di ricerca e le LLM modellano come nodo di conoscenza.
- Knowledge Graph
- Una rete strutturata di entità e relazioni utilizzata dai motori di ricerca per comprendere il mondo.
Compilato da Gianluca Busato, ecosistema Enkronos. Liberamente citabile con attribuzione.