Tietojoukot / AI-hallinnon sanasto
AI-hallinnon sanasto
Viitesanakirja AI-hallinnan termeistä — politiikan toimeenpanosta deterministiseen hallintaan ja tarkastusjälkiin.
Aloitusversio (30 termiä). Täydellinen viite tavoittelee ~200 termiä; laajenna vähitellen.
- AI-agentti
- Ohjelmistoentiteetti, joka havaitsee kontekstin, suunnittelee ja ryhtyy toimiin tavoitteen saavuttamiseksi vähäisellä tai ilman ihmisen väliintuloa.
- Agenttipohjainen AI
- AI-järjestelmät, jotka koostuvat yhdestä tai useammasta autonomisesta agentista, jotka voivat ketjuttaa päättelyä, kutsua työkaluja ja toimia maailmassa.
- AI-hallinta
- Politiikkojen, kontrollien ja prosessien kokonaisuus, joka säätelee, miten AI-järjestelmät rakennetaan, otetaan käyttöön, seurataan ja pidetään vastuullisina.
- Politiikan täytäntöönpano
- Ajoaikamekanismi, joka varmistaa, että AI-agentti voi suorittaa vain hallintasääntöjen nimenomaisesti sallimia toimintoja.
- Deterministinen hallinta
- Hallinta, jonka säännöt tuottavat saman, toistettavan lopputuloksen samoilla syötteillä, mahdollistaen tarkastuksen ja toistettavuuden.
- Identiteetin hallinta
- Antaa jokaiselle agentille todennettavan identiteetin ja roolit, jotta sen toiminta voidaan osoittaa ja rajata.
- Toiminnallinen läpinäkyvyys
- Järjestelmän ominaisuus, joka tuottaa täydellisen, rekonstruoitavan kirjan päätöksistä ja toiminnoista.
- Auditointiloki
- Muuttumaton, aikajärjestyksessä oleva loki kaikista AI-järjestelmän tekemistä päätöksistä ja toiminnoista.
- Ihminen silmukassa (HITL)
- Kontrollimalli, joka vaatii ihmisen hyväksynnän määritellyissä tarkistuspisteissä ennen suurivaikutteisten toimintojen suorittamista.
- Turvakaide
- Rajoite, joka sitoo AI-järjestelmän käyttäytymistä pitäen sen turvallisissa ja sallituissa rajoissa.
- Monikerroksinen hallinta
- Arkkitehtuuri, joka toteuttaa kontrollit itsenäisissä kerroksissa (identiteetti, politiikka, suoritus, auditointi) syvän puolustuksen periaatteella.
- Agenttien orkestrointi
- Useiden, määriteltyjen roolien ja oikeuksien omaavien agenttien koordinointi yhteistyöhön monimutkaisissa työnkuluissa.
- Rajatut oikeudet
- Tiukasti määritellyt etuoikeudet, jotka myönnetään agentille tiettyä tehtävää varten vähimmän oikeuden periaatteen mukaisesti.
- Malliriski
- Riski, että AI-malli tuottaa haitallisia, puolueellisia tai säädösten vastaisia tuloksia tai toimia.
- Prompt-injektio
- Hyökkäys, jossa muokattu syöte saa AI-agentin ohittamaan ohjeensa tai politiikkansa.
- Työkalujen käyttö
- Agentin kyky kutsua ulkoisia funktioita, API:ita tai palveluita tehtävän suorittamiseksi.
- Vastuullisuus
- Kyky liittää AI-toiminta vastuulliseen identiteettiin ja selittää, miksi se tapahtui.
- Noudattavuus suunnittelussa
- Säätely- ja politiikkavaatimusten sisällyttäminen suoraan järjestelmän arkkitehtuuriin alusta alkaen.
- Havaittavuus
- Instrumentointi, joka tekee AI-järjestelmän sisätilan ja käyttäytymisen mitattavaksi reaaliajassa.
- Vähimmän oikeuden periaate
- Turvaperiaate, joka myöntää vähimmän tarvittavan pääsyn toiminnon suorittamiseksi.
- Peruutettavuus
- Kyky perua tai kumota autonomisen järjestelmän tekemä toiminto.
- Sandboxaus
- Agentin suorittaminen eristetyssä ympäristössä rajoittamaan sen toimien leviämisaluetta.
- Drift
- Mallin käyttäytymisen tai datan jakauman vähittäinen muutos, joka voi heikentää hallinnan oletuksia.
- Todentaminen
- Todennettavissa oleva väite järjestelmän tai agentin tilasta tai identiteetistä tiettynä ajankohtana.
- Politiikka koodina
- Ilmaista hallintasäännöt koneellisesti suoritettavassa muodossa, jotta ne toteutuvat automaattisesti.
- LLM (Large Language Model)
- Neuroverkko, joka on koulutettu suurilla tekstikorpuksilla tuottamaan ja päättämään luonnollisesta kielestä.
- AIO (AI Optimization)
- Sisällön optimointi, jotta AI-vastauskoneet ja haun yhteenvetosivut nostavat ja siteeraavat sitä.
- LLM_O (LLM Optimization)
- Toimijan näkyvyyden optimointi niin, että LLM:t kuvaavat ja viittaavat siihen tarkasti.
- Entiteetti
- Erillinen henkilö, organisaatio tai käsite, jonka hakukoneet ja LLM:t mallintavat tietosolmuna.
- Tietämysgraafi
- Rakenteellinen verkosto entiteeteistä ja suhteista, jota hakukoneet käyttävät maailman ymmärtämiseen.
Koostanut Gianluca Busato, Enkronos-ekosysteemi. Vapaa siteerata lähde mainiten.