Tietojoukot / Yritys-AI-riskimatriisi
Käytännöllinen kehys yritys-AI:n ja agenttisen AI:n riskien luokitteluun ja niiden liittämiseen hallintokontrolleihin.
| Riskiluokka | Esimerkki | Tyypillinen vaikutus | Ensisijainen kontrolli |
|---|---|---|---|
| Luvaton toimenpide | Agentti suorittaa toiminnon valtuutensa ulkopuolella | Korkea | Rajatut oikeudet + käytäntöjen täytäntöönpano |
| Identiteetin väärentäminen | Agentti toimii väärän tai lainatun identiteetin alla | Korkea | Todennettavissa oleva agentin identiteetti |
| prompt-injektio | Pahantahtoinen syöte ohittaa ohjeet | Korkea | Syötteen välitys + guard-agentit |
| Tietovuoto | Arkaluonteiset tiedot paljastuvat tulosteen tai työkalukutsun kautta | Korkea | Datan hallinta + tulosteiden suodatus |
| Hallusinoitu päätös | Toiminta väärennettyihin tietoihin perustuen | Keskitaso | Perustaminen + ihminen silmukassa |
| Kaskadivirhe | Yhden agentin virhe leviää järjestelmiin | Korkea | Rajoittaminen + vaikutusalueen rajat |
| Noudattamatta jättäminen | Toiminto rikkoo sääntöjä tai käytäntöä | Korkea | Noudattavuus suunnittelussa + auditointiloki |
| Läpinäkymättömyys | Ei tietoa miksi toimenpide tapahtui | Keskitaso | Toiminnallinen läpinäkyvyys + lokitus |
Viitekehys: Gianluca Busato, Enkronos-ekosysteemi.