title: "एआई गवर्नेंस: एजेंटिक सिस्टम के लिए जोखिम बुद्धिमत्ता" slug: "can-your-governance-keep-pace-with-your-ai-ambitions-ai-risk-intelligence-in-the-agentic-era" date: "2026-04-01" lang: "hi" source: "https://aws.amazon.com/blogs/machine-learning/can-your-governance-keep-pace-with-with-your-ai-ambitions-ai-risk-intelligence-in-the-agentic-era/" category: "एंटरप्राइज़ एआई" keywords:
- एआई गवर्नेंस
- एजेंटिक एआई
- एआई जोखिम बुद्धिमत्ता
- AWS
- एंटरप्राइज़ एआई
- एआई सुरक्षा
- जिम्मेदार एआई
- एआई अनुपालन
- जोखिम प्रबंधन
- स्वचालित गवर्नेंस
- जेनरेटिव एआई
- एआई सुरक्षा meta_description: "जानें कि कैसे AWS से AI रिस्क इंटेलिजेंस (AIRI) एजेंटिक सिस्टम के लिए एआई गवर्नेंस में क्रांति ला रहा है, गैर-नियतात्मक एआई युग में सुरक्षा और अनुपालन सुनिश्चित कर रहा है।" image: "/images/articles/can-your-governance-keep-pace-with-your-ai-ambitions-ai-risk-intelligence-in-the-agentic-era.png" image_alt: "एआई जोखिम बुद्धिमत्ता डैशबोर्ड जो एजेंटिक सिस्टम के स्वास्थ्य का एक व्यापक अवलोकन दर्शाता है।" quality_score: 94 content_score: 93 seo_score: 95 companies:
- AWS schema_type: "NewsArticle" reading_time: 5 faq:
- question: "एजेंटिक एआई क्या है और यह नई गवर्नेंस चुनौतियाँ क्यों पैदा करता है?" answer: "एजेंटिक एआई उन आर्टिफिशियल इंटेलिजेंस सिस्टम को संदर्भित करता है जो गैर-नियतात्मक रूप से काम करते हैं, जिसका अर्थ है कि वे निश्चित, अनुमानित पैटर्न का पालन नहीं करते हैं। इसके बजाय, वे काम करते समय विभिन्न उपकरणों और दृष्टिकोणों का चयन करते हुए स्वतंत्र रूप से अनुकूलन करते हैं, तर्क देते हैं और कार्य करते हैं। यह पारंपरिक, स्थिर सॉफ्टवेयर सिस्टम के बिल्कुल विपरीत है जहां इनपुट विश्वसनीय रूप से अनुमानित आउटपुट की ओर ले जाते हैं। यह गैर-नियतात्मक प्रकृति पारंपरिक गवर्नेंस फ्रेमवर्क को चुनौती देती है, जिन्हें अनुमानित डिप्लॉयमेंट के लिए डिज़ाइन किया गया था, सुरक्षा, अनुपालन और अवलोकनीयता में जटिलताएँ पैदा करती है। एजेंटिक एआई असंगत सुरक्षा स्थितियों और अनुपालन अंतराल का कारण बन सकता है क्योंकि इसके कार्य, भले ही दुर्भावनापूर्ण हों, वैध रूप से दी गई अनुमतियों के भीतर हो सकते हैं, जिससे मानक उपकरणों के लिए इसका पता लगाना मुश्किल हो जाता है।"
- question: "एआई रिस्क इंटेलिजेंस (AIRI) क्या है और इसे किसने विकसित किया है?" answer: "एआई रिस्क इंटेलिजेंस (AIRI) AWS जेनरेटिव एआई इनोवेशन सेंटर द्वारा विकसित एक एंटरप्राइज़-ग्रेड स्वचालित गवर्नेंस समाधान है। इसे एजेंटिक एआई सिस्टम द्वारा उत्पन्न अद्वितीय गवर्नेंस चुनौतियों का समाधान करने के लिए डिज़ाइन किया गया है। AIRI सुरक्षा, संचालन और गवर्नेंस नियंत्रणों के मूल्यांकन को स्वचालित करता है, उन्हें पूरे एजेंटिक जीवनचक्र में एक एकल, सतत दृष्टिकोण में समेकित करता है। इसका विकास मजबूत AWS रिस्पांसिबल एआई बेस्ट प्रैक्टिसेज फ्रेमवर्क द्वारा निर्देशित है, जिसका उद्देश्य संगठनों को डिज़ाइन से लेकर पोस्ट-प्रोडक्शन तक जिम्मेदार एआई विचारों को एकीकृत करके विश्वसनीय एआई सिस्टम तैनात करने में मदद करना है।"
- question: "एजेंटिक सिस्टम में AIRI 'उपकरण के दुरुपयोग और शोषण' को कैसे संबोधित करता है?" answer: "AIRI 'उपकरण के दुरुपयोग और शोषण' को संबोधित करता है, जो एजेंटिक अनुप्रयोगों के लिए एक OWASP टॉप 10 जोखिम है, निरंतर, स्वचालित गवर्नेंस प्रदान करके जो एक एजेंट के कार्यों को उसके इच्छित दायरे के विरुद्ध मूल्यांकन करता है। पारंपरिक डेटा लॉस प्रिवेंशन या नेटवर्क मॉनिटरिंग टूल के विपरीत, जो अधिकृत अनुमतियों के भीतर विसंगतियों को छोड़ सकते हैं, AIRI सुरक्षा को सीधे एजेंटों के संचालन के तरीके में एकीकृत करता है। यह साक्ष्य पर तर्क देता है कि क्या किसी एजेंट द्वारा ईमेल या कैलेंडर एक्सेस जैसे अपने उपकरणों का उपयोग स्थापित गवर्नेंस मानकों के अनुरूप है, भले ही कार्य तकनीकी रूप से दी गई अनुमतियों के भीतर हों। यह संभावित दुर्भावनापूर्ण या अनपेक्षित उपकरण के दुरुपयोग का शीघ्र पता लगाने की अनुमति देता है जिससे डेटा निष्कासन या अन्य उल्लंघन हो सकते हैं।"
- question: "AIRI कौन से गवर्नेंस फ्रेमवर्क को परिचालित कर सकता है?" answer: "AIRI फ्रेमवर्क-अज्ञेयवादी है, जिसका अर्थ है कि यह नियमों के एक विशिष्ट सेट तक सीमित रहने के बजाय गवर्नेंस मानकों की एक विस्तृत श्रृंखला को परिचालित कर सकता है। यह NIST एआई रिस्क मैनेजमेंट फ्रेमवर्क, ISO मानकों और OWASP दिशानिर्देशों जैसे फ्रेमवर्क को स्थिर संदर्भ दस्तावेजों से स्वचालित, निरंतर मूल्यांकन में बदल देता है। यह अनुकूलन क्षमता AIRI को एक संगठन के विशिष्ट गवर्नेंस मानकों के विरुद्ध कैलिब्रेट करने की अनुमति देती है, जिसमें आंतरिक पारदर्शिता नीतियां और उद्योग-विशिष्ट अनुपालन आवश्यकताएं शामिल हैं, जिससे यह प्रत्येक नए संदर्भ के लिए पुनर्रचना की आवश्यकता के बिना विभिन्न एजेंट आर्किटेक्चर, उद्योगों और जोखिम प्रोफाइल में लागू हो सके।"
- question: "AIRI अपनी मूल्यांकन प्रक्रिया में 'सिमेंटिक एंट्रॉपी' का उपयोग कैसे करता है?" answer: "AIRI अपने स्वचालित गवर्नेंस निर्णयों की विश्वसनीयता को मजबूत करने के लिए 'सिमेंटिक एंट्रॉपी' को एक तकनीक के रूप में उपयोग करता है। एक नियंत्रण का मूल्यांकन करने के बाद, AIRI आकलन को कई बार दोहराता है। सिमेंटिक एंट्रॉपी तब इन दोहराए गए रन में निकाले गए निष्कर्षों की निरंतरता को मापती है। यदि आउटपुट या निर्णय काफी भिन्न होते हैं, तो यह संकेत देता है कि अंतर्निहित साक्ष्य एक निश्चित स्वचालित निर्धारण के लिए अस्पष्ट या अपर्याप्त हो सकता है। ऐसे मामलों में, AIRI बुद्धिमानी से एक मानवीय समीक्षा शुरू करता है, संभावित रूप से अविश्वसनीय स्वचालित निर्णयों को रोकता है और यह सुनिश्चित करता है कि जटिल या अस्पष्ट स्थितियों को आवश्यक मानवीय पर्यवेक्षण और विशेषज्ञता प्राप्त हो।"
- question: "एंटरप्राइज़ एआई डिप्लॉयमेंट के लिए AIRI को लागू करने के प्रमुख लाभ क्या हैं?" answer: "AIRI को लागू करने से एंटरप्राइज़ एआई डिप्लॉयमेंट के लिए कई प्रमुख लाभ मिलते हैं। यह संगठनों को प्रतिक्रियाशील, मैनुअल गवर्नेंस से एजेंटिक सिस्टम के सक्रिय, स्वचालित और निरंतर पर्यवेक्षण की ओर ले जाता है। लाभों में जटिल एजेंटिक वर्कफ़्लो में एक सुसंगत सुरक्षा स्थिति प्राप्त करना, विभिन्न मानकों (NIST, ISO, OWASP) के विरुद्ध निरंतर मूल्यांकन के माध्यम से अनुपालन अंतराल को बंद करना, और व्यावसायिक हितधारकों के लिए एजेंट व्यवहार और जोखिमों में दृश्यता बढ़ाना शामिल है। सुरक्षा, संचालन और गवर्नेंस नियंत्रणों के मूल्यांकन को स्वचालित करके, AIRI संगठनों को आत्मविश्वास से अपनी एआई महत्वाकांक्षाओं को बढ़ाने, मैनुअल ऑडिट प्रयासों को कम करने और पूरे जीवनचक्र में जिम्मेदार एआई सिद्धांतों को एम्बेड करके अपने एआई सिस्टम में विश्वास बनाने की अनुमति देता है।"
## एजेंटिक एआई युग: एंटरप्राइज़ एआई गवर्नेंस को नया आकार देना
एआई परिदृश्य तेजी से विकसित हो रहा है, एक "एजेंटिक युग" की शुरुआत कर रहा है जहां एआई सिस्टम अभूतपूर्व स्वायत्तता के साथ काम करते हैं। अनुमानित, बाइनरी डेवऑप्स के दिन गए; एजेंटिक एआई गैर-नियतात्मक है, जो स्वतंत्र रूप से अनुकूलन और तर्क करता है। यह प्रतिमान बदलाव पारंपरिक आईटी गवर्नेंस फ्रेमवर्क के लिए एक गंभीर चुनौती पेश करता है, जिन्हें स्थिर, अनुमानित डिप्लॉयमेंट के लिए डिज़ाइन किया गया था। संगठन इन जटिल मल्टी-सिस्टम इंटरैक्शन के लिए असंगत सुरक्षा स्थितियों, अनुपालन अंतराल और अस्पष्ट अवलोकनीयता मेट्रिक्स से जूझ रहे हैं। यह गतिशील वातावरण सुरक्षा, संचालन और गवर्नेंस के लिए एक नए दृष्टिकोण की मांग करता है, जिसे एजेंटिक सिस्टम के स्वास्थ्य के परस्पर निर्भर आयामों के रूप में देखा जाता है। इसी महत्वपूर्ण आवश्यकता से **एआई रिस्क इंटेलिजेंस (AIRI)** का उदय होता है। AWS जेनरेटिव एआई इनोवेशन सेंटर द्वारा विकसित और मजबूत AWS रिस्पांसिबल एआई बेस्ट प्रैक्टिसेज फ्रेमवर्क पर निर्मित, AIRI एक एंटरप्राइज़-ग्रेड स्वचालित गवर्नेंस समाधान है जिसे एजेंटिक युग में स्पष्टता और नियंत्रण लाने के लिए डिज़ाइन किया गया है।
## एजेंटिक एआई की अप्रत्याशित प्रकृति और लगातार बढ़ने वाले जोखिम
एजेंटिक एआई की मुख्य विशेषता इसका गैर-नियतात्मक व्यवहार है। पारंपरिक सॉफ्टवेयर के विपरीत, एक एजेंट से एक ही प्रश्न दो बार पूछने पर अलग-अलग उत्तर मिल सकते हैं, क्योंकि एजेंट कठोर वर्कफ़्लो का पालन करने के बजाय स्वतंत्र रूप से उपकरण और दृष्टिकोण का चयन करते हैं। इस तरलता का मतलब है कि गुणवत्ता एक साधारण पास-फेल के बजाय, सही से मनगढ़ंत तक, एक ढलान पर मौजूद है। नतीजतन, अनुमानित निर्भरता और प्रक्रियाओं ने स्वायत्त प्रणालियों को जन्म दिया है जो स्वतंत्र रूप से अनुकूलन करती हैं, तर्क करती हैं और कार्य करती हैं।
स्थिर डिप्लॉयमेंट के लिए निर्मित पारंपरिक आईटी गवर्नेंस, इन जटिल मल्टी-सिस्टम इंटरैक्शन को प्रभावी ढंग से प्रबंधित नहीं कर सकता है। यह महत्वपूर्ण अंध बिंदु बनाता है। उदाहरण के लिए, ओपन वर्ल्डवाइड एप्लीकेशन सिक्योरिटी प्रोजेक्ट (OWASP) "उपकरण के दुरुपयोग और शोषण" को एजेंटिक अनुप्रयोगों के लिए एक प्रमुख जोखिम के रूप में पहचानता है। एक ऐसे परिदृश्य पर विचार करें जहां एक एंटरप्राइज़ एआई असिस्टेंट, जिसे ईमेल, कैलेंडर और सीआरएम तक पहुंच के साथ वैध रूप से कॉन्फ़िगर किया गया है, से समझौता किया जाता है। एक दुर्भावनापूर्ण अभिनेता एक ईमेल के भीतर छिपे हुए निर्देश एम्बेड करता है। जब कोई उपयोगकर्ता एक निर्दोष सारांश का अनुरोध करता है, तो समझौता किया गया एजेंट, अपनी दी गई अनुमतियों के भीतर काम करते हुए, संवेदनशील डेटा खोजता है और कैलेंडर आमंत्रणों के माध्यम से उसे बाहर निकालता है, जबकि एक सौम्य प्रतिक्रिया प्रदान करता है जो उल्लंघन को छुपाता है। मानक डेटा हानि निवारण उपकरण और नेटवर्क निगरानी यहां विफल हो जाते हैं क्योंकि कार्य, हालांकि दुर्भावनापूर्ण हैं, अधिकृत मापदंडों के भीतर होते हैं, और पारंपरिक प्रणालियों द्वारा पता लगाए जाने वाले तरीकों से डेटा आंदोलन या नेटवर्क विसंगतियों को आवश्यक रूप से ट्रिगर नहीं करते हैं। यह इस बात पर प्रकाश डालता है कि एजेंटिक सिस्टम में सुरक्षा कमजोरियां एक साथ कई परिचालन आयामों में कैसे फैल सकती हैं, जिससे पारंपरिक, अलग-थलग गवर्नेंस अप्रभावी हो जाता है। ऐसे परिदृश्य [प्रॉम्प्ट इंजेक्शन का विरोध करने के लिए एजेंटों को डिज़ाइन करना](/hi/designing-agents-to-resist-prompt-injection) जैसी रणनीतियों के महत्व को रेखांकित करते हैं।
## एआई रिस्क इंटेलिजेंस (AIRI) का परिचय: गवर्नेंस में एक प्रतिमान बदलाव
स्थिर नियंत्रणों और गतिशील एजेंटिक व्यवहारों के बीच के अंतर को पाटने के लिए, AWS ने एआई रिस्क इंटेलिजेंस (AIRI) विकसित किया। AIRI सुरक्षा, संचालन और गवर्नेंस को एक परस्पर जुड़े "एआई रिस्क इंटेलिजेंस" फ्रेमवर्क के रूप में फिर से परिभाषित करता है। यह एक एंटरप्राइज़-ग्रेड स्वचालित गवर्नेंस समाधान है जो सुरक्षा, संचालन और गवर्नेंस नियंत्रणों के मूल्यांकन को स्वचालित करता है, उन्हें पूरे एजेंटिक जीवनचक्र में एक एकल, कार्रवाई योग्य दृष्टिकोण में समेकित करता है। AIRI का डिज़ाइन AWS रिस्पांसिबल एआई बेस्ट प्रैक्टिसेज फ्रेमवर्क का लाभ उठाता है, जो ग्राहकों को एआई जीवनचक्र में जिम्मेदार एआई विचारों को एकीकृत करने में मार्गदर्शन करता है, जिससे सूचित डिज़ाइन निर्णयों को सक्षम किया जा सके और विश्वसनीय एआई सिस्टम के डिप्लॉयमेंट में तेजी लाई जा सके। यह समाधान मौलिक रूप से गवर्नेंस को एक प्रतिक्रियाशील, मैनुअल प्रक्रिया से एक सक्रिय, स्वचालित और सतत प्रक्रिया में बदल देता है।
जो AIRI को विशेष रूप से शक्तिशाली बनाता है, वह इसकी फ्रेमवर्क-अज्ञेयवादी प्रकृति है। यह विशिष्ट खतरों के लिए नियम हार्डकोड नहीं करता है, बल्कि NIST एआई रिस्क मैनेजमेंट फ्रेमवर्क, ISO और OWASP सहित गवर्नेंस मानकों की एक विस्तृत श्रृंखला के विरुद्ध कैलिब्रेट करता है। इसका मतलब है कि वही इंजन जो OWASP सुरक्षा नियंत्रणों का मूल्यांकन करता है, एक संगठन की आंतरिक पारदर्शिता नीतियों या उद्योग-विशिष्ट अनुपालन आवश्यकताओं का भी आकलन कर सकता है। यह अनुकूलन क्षमता सुनिश्चित करती है कि AIRI विभिन्न एजेंट आर्किटेक्चर, उद्योगों और विकसित होते जोखिम प्रोफाइल में प्रासंगिक बना रहे, एक सतत, स्केलेबल ऑडिटर की तरह साक्ष्य पर तर्क करता रहे। यह अमूर्त फ्रेमवर्क आवश्यकताओं को ठोस, कार्रवाई योग्य मूल्यांकनों में बदल देता है जो डिज़ाइन से लेकर पोस्ट-प्रोडक्शन तक पूरे एजेंटिक जीवनचक्र में एम्बेडेड होते हैं।
## AIRI कार्य में: स्वचालित गवर्नेंस का संचालन
आइए स्वचालित गवर्नेंस को कैसे परिचालित करता है, यह समझाने के लिए अपने एआई असिस्टेंट के उदाहरण पर फिर से विचार करें। कल्पना कीजिए कि एक विकास टीम ने इस एआई असिस्टेंट के लिए एक प्रूफ ऑफ कॉन्सेप्ट (POC) बनाया है। उत्पादन में तैनात करने से पहले, वे AIRI का उपयोग करते हैं। एक मूलभूत मूल्यांकन स्थापित करने के लिए, AIRI की स्वचालित तकनीकी दस्तावेज़ीकरण समीक्षा क्षमता को सक्रिय किया जाता है। यह प्रक्रिया स्वचालित रूप से नियंत्रण कार्यान्वयन के साक्ष्य एकत्र करती है, न केवल सुरक्षा का बल्कि पारदर्शिता, नियंत्रणीयता, व्याख्यात्मकता, सुरक्षा और मजबूती जैसे महत्वपूर्ण परिचालन गुणवत्ता नियंत्रणों का भी मूल्यांकन करती है। विश्लेषण उपयोग-मामले के डिज़ाइन, इसके अंतर्निहित बुनियादी ढांचे और संबंधित संगठनात्मक नीतियों को शामिल करता है ताकि एंटरप्राइज़ गवर्नेंस और अनुपालन आवश्यकताओं के साथ संरेखण सुनिश्चित किया जा सके।
यहां उन नियंत्रणों के प्रकार का एक उदाहरण दिया गया है जिनका AIRI इस चरण के दौरान आकलन कर सकता है:
| नियंत्रण श्रेणी | विवरण | AIRI मूल्यांकन फोकस |
| :------------------ | :-------------------------------------------------------------- | :----------------------------------------------------------------------------- |
| **सुरक्षा** | डेटा एन्क्रिप्शन, एक्सेस कंट्रोल, भेद्यता प्रबंधन | डेटा हैंडलिंग, टूल एक्सेस और संभावित एक्सप्लॉइट वैक्टर का सत्यापन। |
| **संचालन** | निगरानी, लॉगिंग, घटना प्रतिक्रिया | सिस्टम की अवलोकनीयता और प्रतिक्रिया क्षमताओं का मूल्यांकन। |
| **पारदर्शिता** | मॉडल वंशावली, डेटा स्रोत, निर्णय लेने की प्रक्रिया | एआई के आंतरिक कामकाज और डेटा उत्पत्ति की स्पष्टता। |
| **नियंत्रण क्षमता** | मानवीय पर्यवेक्षण तंत्र, हस्तक्षेप बिंदु, आपातकालीन रोक | ह्यूमन-इन-द-लूप और फ़ेल-सेफ़ प्रोटोकॉल की प्रभावशीलता। |
| **व्याख्यात्मकता** | एजेंट कार्यों के लिए तर्क, परिणामों की व्याख्यात्मकता | यह समझने की क्षमता कि एक एजेंट ने *क्यों* एक विशिष्ट कार्रवाई की। |
| **सुरक्षा** | पूर्वाग्रह का पता लगाना, नैतिक दिशानिर्देश, निष्पक्षता मेट्रिक्स | जिम्मेदार एआई सिद्धांतों का पालन और हानिकारक आउटपुट का शमन। |
| **मजबूती** | प्रतिकूल हमलों के प्रति लचीलापन, त्रुटि प्रबंधन, विश्वसनीयता | तनाव में और हेरफेर के खिलाफ प्रदर्शन बनाए रखने की सिस्टम की क्षमता। |
| **अनुपालन** | नियामक पालन, उद्योग मानक, संगठनात्मक नीतियां | कानूनी आदेशों और आंतरिक शासन ढाँचों के साथ संरेखण। |
प्रत्येक नियंत्रण आयाम के लिए, AIRI एक तर्क लूप निष्पादित करता है। सबसे पहले, यह लागू गवर्नेंस फ्रेमवर्क से विशिष्ट मूल्यांकन मानदंड निकालता है। अगला, यह सिस्टम के कलाकृतियों - जिसमें आर्किटेक्चर दस्तावेज़, एजेंट कॉन्फ़िगरेशन और संगठनात्मक नीतियां शामिल हैं - से सीधे साक्ष्य खींचता है। अंत में, यह फ्रेमवर्क की आवश्यकताओं और सिस्टम के प्रदर्शित साक्ष्य के बीच संरेखण पर तर्क करता है, नियंत्रण के कार्यान्वयन की प्रभावशीलता का निर्धारण करता है। यह तर्क-आधारित दृष्टिकोण AIRI को नए एजेंट डिज़ाइनों, विकसित होते फ्रेमवर्क और उभरते जोखिम श्रेणियों के अनुकूल होने की अनुमति देता है, बिना इसके मुख्य तर्क को पुनर्रचना करने की आवश्यकता के।
इन निर्णयों की विश्वसनीयता बढ़ाने के लिए, AIRI **सिमेंटिक एंट्रॉपी** नामक एक तकनीक का उपयोग करता है। यह प्रत्येक मूल्यांकन को कई बार दोहराता है और इसके निष्कर्षों की निरंतरता को मापता है। यदि आउटपुट विभिन्न रनों में काफी भिन्न होते हैं, तो यह संकेत देता है कि साक्ष्य अस्पष्ट या अपर्याप्त हो सकता है। ऐसे मामलों में, AIRI बुद्धिमानी से एक मानवीय समीक्षा शुरू करता है, संभावित रूप से अविश्वसनीय स्वचालित निर्णयों को रोकता है और यह सुनिश्चित करता है कि जटिल या अस्पष्ट स्थितियों को आवश्यक मानवीय पर्यवेक्षण और विशेषज्ञता प्राप्त हो। यह अभिनव दृष्टिकोण प्रभावी रूप से अमूर्त फ्रेमवर्क आवश्यकताओं और ठोस एजेंट व्यवहार के बीच के अंतर को पाटता है, गवर्नेंस इरादे को जटिल एजेंटिक सिस्टम में एक संरचित, दोहराने योग्य और स्केलेबल मूल्यांकन में बदल देता है।
## निष्कर्ष: एजेंटिक एआई के भविष्य को सुरक्षित करना
एजेंटिक एआई का उदय इस बात में एक मौलिक बदलाव को दर्शाता है कि संगठनों को एआई डिप्लॉयमेंट और गवर्नेंस तक कैसे पहुंचना चाहिए। अनुमानित, स्थिर प्रणालियों का युग समाप्त हो गया है, जिसे गतिशील, गैर-नियतात्मक एजेंटों द्वारा प्रतिस्थापित किया गया है जिन्हें जोखिम प्रबंधन में एक नए स्तर की परिष्कार की आवश्यकता है। पारंपरिक गवर्नेंस मॉडल इन एआई प्रगति की गति और जटिलता के साथ तालमेल बिठाने के लिए बस अपर्याप्त हैं। AWS से एआई रिस्क इंटेलिजेंस (AIRI) एक महत्वपूर्ण समाधान प्रदान करता है, जो एजेंटिक सिस्टम को सुरक्षित और नियंत्रित करने के लिए एक स्वचालित, व्यापक और अनुकूली फ्रेमवर्क प्रदान करता है। सुरक्षा, संचालन और गवर्नेंस को एक एकल, सतत दृष्टिकोण में एकीकृत करके, AIRI संगठनों को जिम्मेदार एआई सिद्धांतों को बनाए रखते हुए और अनुपालन सुनिश्चित करते हुए आत्मविश्वास से अपनी एआई महत्वाकांक्षाओं को पूरा करने का अधिकार देता है। जैसे-जैसे संगठन [एजेंटिक एआई को परिचालित करना](/hi/operationalizing-agentic-ai-part-1-a-stakeholders-guide) जारी रखते हैं, AIRI जैसे समाधान संभावित जोखिमों को नवाचार और विकास के अवसरों में बदलने में अपरिहार्य होंगे।
अक्सर पूछे जाने वाले प्रश्न
What is agentic AI and why does it pose new governance challenges?
Agentic AI refers to artificial intelligence systems that operate non-deterministically, meaning they don't follow fixed, predictable patterns. Instead, they adapt, reason, and act independently, selecting different tools and approaches as they work. This contrasts sharply with traditional, static software systems where inputs reliably lead to predictable outputs. This non-deterministic nature challenges traditional governance frameworks, which were designed for predictable deployments, by creating complexities in security, compliance, and observability. Agentic AI can lead to inconsistent security postures and compliance gaps because its actions, even if malicious, might occur within legitimately granted permissions, making detection difficult for standard tools.
What is AI Risk Intelligence (AIRI) and who developed it?
AI Risk Intelligence (AIRI) is an enterprise-grade automated governance solution developed by the AWS Generative AI Innovation Center. It is designed to address the unique governance challenges posed by agentic AI systems. AIRI automates the assessment of security, operations, and governance controls, consolidating them into a single, continuous viewpoint across the entire agentic lifecycle. Its development is guided by the robust AWS Responsible AI Best Practices Framework, aiming to help organizations deploy trusted AI systems by integrating responsible AI considerations from design through post-production.
How does AIRI address 'Tool Misuse and Exploitation' in agentic systems?
AIRI addresses 'Tool Misuse and Exploitation,' an OWASP Top 10 risk for agentic applications, by providing continuous, automated governance that evaluates an agent's actions against its intended scope. Unlike traditional data loss prevention or network monitoring tools that might miss anomalies within authorized permissions, AIRI integrates security directly into how agents operate. It reasons over evidence to determine if an agent's use of its tools, such as email or calendar access, aligns with established governance standards, even if the actions are technically within granted permissions. This allows for early detection of potentially malicious or unintended tool misuse that could lead to data exfiltration or other breaches.
What governance frameworks can AIRI operationalize?
AIRI is framework-agnostic, meaning it can operationalize a wide array of governance standards rather than being limited to a specific set of rules. It transforms frameworks such as the NIST AI Risk Management Framework, ISO standards, and OWASP guidelines from static reference documents into automated, continuous evaluations. This adaptability allows AIRI to calibrate against an organization's specific governance standards, including internal transparency policies and industry-specific compliance requirements, making it applicable across diverse agent architectures, industries, and risk profiles without needing re-engineering for each new context.
How does AIRI utilize 'semantic entropy' in its evaluation process?
AIRI utilizes 'semantic entropy' as a technique to strengthen the reliability of its automated governance judgments. After performing an evaluation of a control, AIRI repeats the assessment multiple times. Semantic entropy then measures the consistency of the conclusions drawn across these repeated runs. If the outputs or judgments vary significantly, it signals that the underlying evidence might be ambiguous or insufficient for a definitive automated determination. In such cases, AIRI intelligently triggers a human review, preventing potentially unreliable automated judgments and ensuring that complex or unclear situations receive necessary human oversight and expertise.
What are the key benefits of implementing AIRI for enterprise AI deployments?
Implementing AIRI provides several key benefits for enterprise AI deployments. It moves organizations from reactive, manual governance to proactive, automated, and continuous oversight of agentic systems. Benefits include achieving a consistent security posture across complex agentic workflows, closing compliance gaps through continuous evaluation against various standards (NIST, ISO, OWASP), and enhancing visibility into agent behavior and risks for business stakeholders. By automating the assessment of security, operations, and governance controls, AIRI allows organizations to scale their AI ambitions confidently, reduce manual audit efforts, and build trust in their AI systems by embedding responsible AI principles throughout the entire lifecycle.
अपडेट रहें
नवीनतम AI समाचार अपने इनबॉक्स में पाएं।