html
डेटासेट्स / एंटरप्राइज़ AI जोखिम मैट्रिक्स
एंटरप्राइज़ AI और एजेंटिक-AI जोखिमों को वर्गीकृत करने और उन्हें शासन नियंत्रणों से जोड़ने के लिए एक व्यावहारिक फ्रेमवर्क।
| जोखिम श्रेणी | उदाहरण | सामान्य प्रभाव | मुख्य नियंत्रण |
|---|---|---|---|
| अनधिकृत क्रिया | एजेंट अपने कार्याधिकर के बाहर कोई कार्रवाई करता है | उच्च | सीमित अनुमतियाँ + नीति प्रवर्तन |
| पहचान स्पूफिंग | एजेंट झूठी या उधार ली गई पहचान के तहत कार्य करता है | उच्च | सत्यापनीय एजेंट पहचान |
| प्रॉम्प्ट इंजेक्शन | दुर्भावनापूर्ण इनपुट निर्देशों को ओवरराइड कर देता है | उच्च | इनपुट मध्यस्थता + गार्ड एजेंट |
| डेटा रिसाव | आउटपुट या टूल कॉल के जरिए संवेदनशील डेटा का खुल जाना | उच्च | डेटा शासन + आउटपुट फ़िल्टरिंग |
| हैलुसिनेटेड निर्णय | गढ़ी हुई जानकारी पर आधारित क्रिया | मध्यम | ग्राउंडिंग + मानव-इन-द-लूप |
| श्रृंखलाबद्ध विफलता | एक एजेंट की त्रुटि सिस्टमों में फैल जाती है | उच्च | नियंत्रण + प्रभाव-क्षेत्र सीमाएँ |
| अनुपालन नहीं | क्रिया विनियमन या नीति का उल्लंघन करती है | उच्च | डिज़ाइन द्वारा अनुपालन + ऑडिट ट्रेल |
| अपारदर्शिता | किस कारण से क्रिया हुई इसका कोई रिकॉर्ड नहीं | मध्यम | ऑपरेशनल पारदर्शिता + लॉगिंग |
फ्रेमवर्क द्वारा Gianluca Busato, Enkronos इकोसिस्टम.