डेटासेट्स / AI शासन शब्दावली
AI शासन शब्दावली
AI शासन शब्दों का संदर्भ शब्दकोश — नीति प्रवर्तन से लेकर निर्धार्य शासन और ऑडिट ट्रेल्स तक।
स्टार्टर संस्करण (30 शर्तें)। पूरा संदर्भ लगभग 200 शर्तों का लक्ष्य रखता है; धीरे-धीरे बढ़ाएँ।
- AI एजेंट
- एक सॉफ़्टवेयर इकाई जो संदर्भ को महसूस करती है, योजना बनाती है, और सीमित या बिना मानव हस्तक्षेप के किसी लक्ष्य की ओर कार्रवाई करती है।
- Agentic AI
- ऐसे AI सिस्टम जो एक या अधिक स्वायत्त एजेंट्स से बने होते हैं जो श्रृंखलाबद्ध तर्क कर सकते हैं, टूल्स कॉल कर सकते हैं और दुनिया पर कार्रवाई कर सकते हैं।
- AI शासन
- नीतियों, नियंत्रणों और प्रक्रियाओं का वह सेट जो निर्धारित करता है कि AI सिस्टम कैसे बनाए, तैनात, मॉनिटर और जवाबदेह ठहराए जाते हैं।
- नीति प्रवर्तन
- रनटाइम मेकैनिज्म जो यह सुनिश्चित करता है कि एक AI एजेंट केवल वही क्रियाएँ कर सके जो शासन नियमों द्वारा स्पष्ट रूप से अनुमति दी गई हों।
- निश्चितात्मक शासन
- ऐसा शासन जिसके नियम समान इनपुट के लिए वही, पुनरावृत्त परिणाम उत्पन्न करते हैं, जिससे ऑडिट और पुनरुत्पादन संभव होता है।
- पहचान नियंत्रण
- प्रत्येक एजेंट को सत्यापनयोग्य पहचान और भूमिकाएँ सौंपना ताकि उसकी कार्रवाइयों को सौंपा और सीमाबद्ध किया जा सके।
- ऑपरेशनल पारदर्शिता
- किसी सिस्टम की वह गुण जो निर्णयों और कार्रवाइयों का पूर्ण और पुनर्निर्माणयोग्य रिकॉर्ड उत्पन्न करती है।
- ऑडिट ट्रेल
- किसी AI सिस्टम द्वारा लिए गए प्रत्येक निर्णय और क्रिया का अपरिवर्तनीय, समय-क्रमित लॉग।
- मानव-इन-द-लूप (HITL)
- एक नियंत्रण पैटर्न जो उच्च-प्रभाव वाले कार्यों के निष्पादन से पहले निर्दिष्ट चेकपॉइंट्स पर मानव अनुमोदन की माँग करता है।
- सुरक्षा सीमाएँ
- एक बाधा जो AI सिस्टम के व्यवहार को सुरक्षित और अनुमत सीमाओं के भीतर बांधती है।
- बहु-स्तरीय शासन
- एक वास्तुकला जो गहिराई में रक्षा के लिए स्वतंत्र परतों (पहचान, नीति, निष्पादन, ऑडिट) पर नियंत्रण लागू करती है।
- एजेंट ऑर्केस्ट्रेशन
- परिभाषित भूमिकाओं और अनुमतियों वाले कई एजेंट्स का समन्वय ताकि वे जटिल वर्कफ़्लो पर सहयोग कर सकें।
- सीमित अनुमतियाँ
- किसी एजेंट को एक विशिष्ट कार्य के लिए दिए गए संकुचित रूप से परिभाषित विशेषाधिकार, न्यूनतम-विशेषाधिकार सिद्धांतों का पालन करते हुए।
- मॉडल जोखिम
- वह जोखिम कि कोई AI मॉडल हानिकारक, पक्षपाती या अवैधानिक आउटपुट या क्रियाएँ उत्पन्न कर सकता है।
- प्रॉम्प्ट इंजेक्शन
- एक हमला जिसमें तैयार किया गया इनपुट AI एजेंट को उसके निर्देशों या नीतियों की अवहेलना करने के लिए प्रेरित करता है।
- टूल उपयोग
- किसी एजेंट की बाहरी फ़ंक्शन, API या सेवाओं को बुलाने की क्षमता किसी कार्य को पूरा करने के लिए।
- जवाबदेही
- किसी AI क्रिया को जिम्मेदार पहचान के साथ जोड़ने और यह स्पष्ट करने की क्षमता कि यह क्यों हुई।
- डिज़ाइन द्वारा अनुपालन
- नियमकारी और नीतिगत आवश्यकताओं को शुरुआत से ही सिस्टम की वास्तुकला में एम्बेड करना।
- पर्यवेक्षण
- इंस्ट्रूमेंटेशन जो AI सिस्टम की आंतरिक स्थिति और व्यवहार को वास्तविक समय में मापने योग्य बनाता है।
- न्यूनतम अधिकार
- एक सुरक्षा सिद्धांत जो किसी फ़ंक्शन को करने के लिए न्यूनतम आवश्यक पहुँच देता है।
- उलटने की क्षमता
- स्वायत्त सिस्टम द्वारा की गई क्रिया को पूर्ववत करने या रोलबैक करने की क्षमता।
- सैंडबॉक्सिंग
- एजेंट को एक अलग वातावरण में चलाना ताकि उसकी क्रियाओं का प्रभाव क्षेत्र सीमित रहे।
- ड्रिफ्ट
- मॉडल व्यवहार या डेटा वितरण में धीरे-धीरे होने वाला परिवर्तन जो शासन की धारणाओं को कमजोर कर सकता है।
- प्रमाणन
- किसी प्रणाली या एजेंट की स्थिति या पहचान के बारे में एक सत्यापन योग्य दावा, किसी विशिष्ट समय पर।
- नीति-कोड
- शासन नियमों को मशीन-निष्पादन योग्य रूप में व्यक्त करना ताकि वे स्वचालित रूप से लागू हों।
- LLM (विशाल भाषा मॉडल)
- एक न्यूरल नेटवर्क जिसे बड़े पाठ डेटा पर प्रशिक्षित किया गया है ताकि यह प्राकृतिक भाषा उत्पन्न और तर्क कर सके।
- AIO (AI अनुकूलन)
- ऐसा कंटेंट ऑप्टिमाइज़ करना कि वह AI उत्तर इंजन और सर्च ओवरव्यूज़ में दिखे और उद्धृत हो।
- LLM_O (LLM अनुकूलन)
- किसी इकाई की उपस्थिति का अनुकूलन ताकि बड़े भाषा मॉडल उसे सटीक रूप से वर्णन और उद्धृत करें।
- इकाई
- एक विशिष्ट व्यक्ति, संगठन या अवधारणा जिसे सर्च इंजन और LLMs ज्ञान के एक नोड के रूप में मॉडल करते हैं।
- नॉलेज ग्राफ
- इकाइयों और संबंधों का एक संरचित नेटवर्क जिसका उपयोग सर्च इंजन दुनिया को समझने के लिए करते हैं।
संकलित — Gianluca Busato, Enkronos इकोसिस्टम। उद्धरण के साथ मुफ्त में उद्धृत करें।