Amazon Web Services (AWS) Launches Automated Reasoning Checks in Preview to Combat AI Hallucinations
अमेज़ॅन वेब सर्विसेज (एडब्ल्यूएस) ने अपने चल रहे री:इन्वेंट सम्मेलन में एक नई सेवा शुरू की जो उद्यमों को कृत्रिम बुद्धिमत्ता (एआई) मतिभ्रम की घटनाओं को कम करने में मदद करेगी। सोमवार को लॉन्च किया गया, ऑटोमेटेड रीज़निंग चेक टूल पूर्वावलोकन में उपलब्ध है और इसे अमेज़ॅन बेडरॉक रेलिंग के भीतर पाया जा सकता है। कंपनी ने दावा किया कि उपकरण गणितीय रूप से बड़े भाषा मॉडल (एलएलएम) द्वारा उत्पन्न प्रतिक्रियाओं की सटीकता को मान्य करता है और तथ्यात्मक त्रुटियों को मतिभ्रम से बचाता है। यह ग्राउंडिंग विद गूगल सर्च फीचर के समान है जो जेमिनी एपीआई और गूगल एआई स्टूडियो दोनों पर उपलब्ध है।
AWS स्वचालित तर्क जाँच
एआई मॉडल अक्सर गलत, भ्रामक या काल्पनिक प्रतिक्रियाएँ उत्पन्न कर सकते हैं। इसे एआई मतिभ्रम के रूप में जाना जाता है, और यह मुद्दा एआई मॉडल की विश्वसनीयता को प्रभावित करता है, खासकर जब किसी उद्यम क्षेत्र में उपयोग किया जाता है। हालांकि कंपनियां उच्च गुणवत्ता वाले संगठनात्मक डेटा पर एआई प्रणाली को प्रशिक्षित करके समस्या को कुछ हद तक कम कर सकती हैं, लेकिन पूर्व-प्रशिक्षण डेटा और वास्तुशिल्प खामियां अभी भी एआई को भ्रमित कर सकती हैं।
AWS ने एक ब्लॉग पोस्ट में AI मतिभ्रम के समाधान के बारे में विस्तार से बताया। ऑटोमेटेड रीज़निंग चेक टूल को एक नए सुरक्षा उपाय के रूप में पेश किया गया है और इसे अमेज़ॅन बेडरॉक रेलिंग के भीतर पूर्वावलोकन में जोड़ा गया है। अमेज़ॅन ने बताया कि वह एलएलएम द्वारा उत्पन्न जानकारी को सत्यापित करने के लिए “गणितीय, तर्क-आधारित एल्गोरिथम सत्यापन और तर्क प्रक्रियाओं” का उपयोग करता है।
प्रक्रिया बहुत सीधी है. उपयोगकर्ताओं को अमेज़ॅन बेडरॉक कंसोल पर संगठन के नियमों का वर्णन करने वाले प्रासंगिक दस्तावेज़ अपलोड करने होंगे। बेडरॉक स्वचालित रूप से इन दस्तावेज़ों का विश्लेषण करेगा और एक प्रारंभिक स्वचालित तर्क नीति बनाएगा, जो प्राकृतिक भाषा के पाठ को गणितीय प्रारूप में परिवर्तित कर देगी।
एक बार हो जाने पर, उपयोगकर्ता सुरक्षा उपाय अनुभाग के अंतर्गत स्वचालित रीज़निंग मेनू पर जा सकते हैं। वहां, एक नई नीति बनाई जा सकती है और उपयोगकर्ता मौजूदा दस्तावेज़ जोड़ सकते हैं जिनमें वह जानकारी होती है जो एआई को सीखनी चाहिए। उपयोगकर्ता मैन्युअल रूप से प्रसंस्करण पैरामीटर और नीति का उद्देश्य भी निर्धारित कर सकते हैं। इसके अतिरिक्त, एआई को एक विशिष्ट इंटरैक्शन को समझने में मदद करने के लिए नमूना प्रश्न और उत्तर भी जोड़े जा सकते हैं।
एक बार यह सब हो जाने के बाद, एआई तैनात होने के लिए तैयार हो जाएगा, और यदि चैटबॉट कोई गलत प्रतिक्रिया देता है तो स्वचालित रीज़निंग चेक टूल स्वचालित रूप से सत्यापित करेगा। वर्तमान में, टूल केवल यूएस वेस्ट (ओरेगन) AWS क्षेत्र में पूर्वावलोकन में उपलब्ध है। कंपनी की योजना इसे जल्द ही अन्य क्षेत्रों में भी लागू करने की है।
