लेख / गलत-क्रिया समस्या: क्यों agentic AI को अलग प्रकार के गवर्नेंस की आवश्यकता है
द्वारा Gianluca Busato · संस्थापक, CEO और AI सिस्टम आर्किटेक्ट · 2026-06-17
द्वारा Gianluca Busato — संस्थापक, CEO और AI सिस्टम्स आर्किटेक्ट, Enkronos
AI युग के अधिकांश भाग में, जोखिम की इकाई... गलत उत्तरमॉडल ने टेक्स्ट लौटाया; एक व्यक्ति ने उसे पढ़ा और तय किया कि क्या करना है। अगर जवाब गलत था, तो मानव ने कुछ भी होने से पहले उसे पकड़ लिया। गलती का फैलाव एक खराब वाक्य तक सीमित था।
Agentic AI जोखिम की इकाई को एक नए रूप में बदल देता है गलत क्रिया. ऑटोनॉमस एजेंट अब योजना बनाते हैं, टूल्स कॉल करते हैं, APIs हिट करते हैं और वास्तविक प्रभाव ट्रिगर करते हैं — पैसे भेजना, रिकॉर्ड संपादित करना, संदेश भेजना, इन्फ्रास्ट्रक्चर प्रोविजन करना — अक्सर बिना बीच में किसी इंसान के कुछ पढ़े। गलती का विस्फोट‑क्षेत्र अब सिर्फ़ एक सज़ा नहीं है; यह वह सब कुछ है जिसे एजेंट छू सका।
यह एक गुणात्मक परिवर्तन है, और यह उन मान्यताओं को तोड़ देता है जिन पर अधिकांश AI सुरक्षा कार्य आधारित थे।
कई कोशिशें मॉडल्स को और अधिक सटीक बनाने में लगती हैं। वह गलत उत्तरों में मदद करता है। गलत क्रियाओं के लिए यह लगभग कुछ नहीं करता, क्योंकि विफलता का तरीका केवल "मॉडल गलत था" नहीं है — यह "मॉडल था" के बाद का है। अधिकार और फिर भी उसने कुछ ऐसा किया जो उसे करने की अनुमति नहीं होनी चाहिए थी।"
एक एजेंट सही ढंग से तर्क कर सकता है कि किसी टिकट का सबसे तेज़ हल डेटाबेस को मिटा देना है। सटीकता वहाँ समस्या नहीं है। प्राधिकरण है। एजेंटिक AI के लिए मायने रखने वाला प्रश्न "क्या यह आउटपुट सही है?" नहीं है बल्कि "क्या यह कार्रवाई अधिकृत थी, क्या यह ऑडिटयोग्य है, और क्या यह उलटने योग्य है?"
गलत कार्रवाइयों को सीमित करने के लिए गहराई में रक्षा चाहिए — स्वतंत्र परतें, जिनमें से हर एक पहले वाली पर भरोसा करने के बजाय पुनः जांचती है:
सत्यापित पहचान।
नियतात्मक रूप से।
क्रिया होने से पहले उसकी जांच; उच्च-प्रभाव वाली क्रियाओं के लिए मानव अनुमोदन आवश्यक है।
पुनर्निर्मित करने योग्य।
शक्ति स्वतंत्रता में है। एक समझौता या गलती करने वाला एजेंट इसलिए बंध जाता है क्योंकि हर परत स्वयं प्राधिकरण की जाँच करती है। एक विफलता श्रृंखलाबद्ध नहीं होती।
सुरक्षा इंजीनियरिंग से उधार ली गई दो विचार यहाँ अत्यंत महत्वपूर्ण हैं:
सीमित होना चाहिए। जो एजेंट कुछ भी कर सकता है, वह चाहे कितना भी बुद्धिमान हो, जोखिम है।
मज़बूत जांच के पीछे।
ये क्षमता पर पाबंदी नहीं हैं। ये वही हैं जो आपको... करने देते हैं अनुदान क्षमता सुरक्षित रूप से।
एजेंटिक AI के साथ सफल होने वाले संगठन वे नहीं होंगे जो सबसे ज़्यादा एजेंट चलाते हैं। वे वे होंगे जो अपने एजेंटों पर भरोसा कर सकते हैं। और यहाँ भरोसा एक भावना नहीं है; यह आर्किटेक्चर‑स्तर पर इंजीनियर किया गया है — पहचान, निर्धारक नीति, मध्यस्थ निष्पादन और अपरिवर्तनीय ऑडिट के माध्यम से।
इन्हें सही कर लो तो स्वायत्त AI सट्टा होना बंद हो जाता है और यह इन्फ्रास्ट्रक्चर बन जाता है।
यह समस्या है AINOVA's बहु-परत गवर्नेंस आर्किटेक्चर इसी समस्या को सुलझाने के लिए बनाया गया है। और देखें: gianlucabusato.com.