html उद्यम AI जोखिम मैट्रिक्स | Gianluca Busato

डेटासेट्स / एंटरप्राइज़ AI जोखिम मैट्रिक्स

एंटरप्राइज़ AI जोखिम मैट्रिक्स

एंटरप्राइज़ AI और एजेंटिक-AI जोखिमों को वर्गीकृत करने और उन्हें शासन नियंत्रणों से जोड़ने के लिए एक व्यावहारिक फ्रेमवर्क।

जोखिम श्रेणीउदाहरणसामान्य प्रभावमुख्य नियंत्रण
अनधिकृत क्रियाएजेंट अपने कार्याधिकर के बाहर कोई कार्रवाई करता हैउच्चसीमित अनुमतियाँ + नीति प्रवर्तन
पहचान स्पूफिंगएजेंट झूठी या उधार ली गई पहचान के तहत कार्य करता हैउच्चसत्यापनीय एजेंट पहचान
प्रॉम्प्ट इंजेक्शनदुर्भावनापूर्ण इनपुट निर्देशों को ओवरराइड कर देता हैउच्चइनपुट मध्यस्थता + गार्ड एजेंट
डेटा रिसावआउटपुट या टूल कॉल के जरिए संवेदनशील डेटा का खुल जानाउच्चडेटा शासन + आउटपुट फ़िल्टरिंग
हैलुसिनेटेड निर्णयगढ़ी हुई जानकारी पर आधारित क्रियामध्यमग्राउंडिंग + मानव-इन-द-लूप
श्रृंखलाबद्ध विफलताएक एजेंट की त्रुटि सिस्टमों में फैल जाती हैउच्चनियंत्रण + प्रभाव-क्षेत्र सीमाएँ
अनुपालन नहींक्रिया विनियमन या नीति का उल्लंघन करती हैउच्चडिज़ाइन द्वारा अनुपालन + ऑडिट ट्रेल
अपारदर्शिताकिस कारण से क्रिया हुई इसका कोई रिकॉर्ड नहींमध्यमऑपरेशनल पारदर्शिता + लॉगिंग
इसे कैसे इस्तेमाल करें। प्रत्येक जोखिम को अपने संदर्भ में संभाव्यता × प्रभाव के हिसाब से स्कोर करें, फिर सत्यापित करें कि उपयुक्त गवर्नेंस लेयर पर एक प्राथमिक नियंत्रण मौजूद है। अंतर ऐसे स्थानों को संकेत करते हैं जहाँ बहु-स्तरीय गवर्नेंस (जैसे AINOVA) आवश्यक है।

फ्रेमवर्क द्वारा Gianluca Busato, Enkronos इकोसिस्टम.