Microsoft Launches ‘Correction’, an AI Feature That Can Detect and Fix AI Hallucinations
माइक्रोसॉफ्ट ने मंगलवार को एक नई कृत्रिम बुद्धिमत्ता (एआई) क्षमता लॉन्च की, जो एआई मॉडल द्वारा गलत जानकारी उत्पन्न करने की स्थिति की पहचान करेगी और उसे ठीक करेगी। “करेक्शन” नाम से इस सुविधा को Azure AI कंटेंट सेफ्टी के ग्राउंडेडनेस डिटेक्शन सिस्टम में एकीकृत किया जा रहा है। चूँकि यह सुविधा केवल Azure के माध्यम से उपलब्ध है, इसलिए इसका उद्देश्य तकनीकी दिग्गजों के उद्यम ग्राहकों को लक्षित करना है। कंपनी एआई मतिभ्रम की घटनाओं को कम करने के लिए अन्य तरीकों पर भी काम कर रही है। विशेष रूप से, यह सुविधा यह स्पष्टीकरण भी दिखा सकती है कि पाठ के एक खंड को गलत जानकारी के रूप में क्यों हाइलाइट किया गया था।
माइक्रोसॉफ्ट “सुधार” सुविधा लॉन्च की गई
एक ब्लॉग पोस्ट में, रेडमंड स्थित तकनीकी दिग्गज ने नई सुविधा के बारे में विस्तार से बताया, जिसके बारे में दावा किया गया है कि यह एआई मतिभ्रम की घटनाओं से लड़ता है, एक ऐसी घटना जहां एआई गलत जानकारी के साथ एक प्रश्न का जवाब देता है और इसकी झूठ को पहचानने में विफल रहता है।
यह सुविधा Microsoft की Azure सेवाओं के माध्यम से उपलब्ध है। Azure AI कंटेंट सेफ्टी सिस्टम में ग्राउंडेडनेस डिटेक्शन नामक एक टूल है। यह पहचानता है कि उत्पन्न प्रतिक्रिया वास्तविकता पर आधारित है या नहीं। जबकि उपकरण स्वयं मतिभ्रम की घटनाओं का पता लगाने के लिए कई अलग-अलग तरीकों से काम करता है, सुधार सुविधा एक विशिष्ट तरीके से काम करती है।
सुधार को कार्यान्वित करने के लिए, उपयोगकर्ताओं को Azure के ग्राउंडिंग दस्तावेज़ों से जुड़ा होना चाहिए, जिनका उपयोग दस्तावेज़ सारांश और रिट्रीवल-ऑग्मेंटेशन-जेनरेशन-आधारित (RAG) Q&A परिदृश्यों में किया जाता है। एक बार कनेक्ट होने के बाद, उपयोगकर्ता सुविधा को सक्षम कर सकते हैं। उसके बाद, जब भी कोई निराधार या गलत वाक्य उत्पन्न होता है, तो सुविधा सुधार के लिए अनुरोध को ट्रिगर करेगी।
सीधे शब्दों में कहें तो, ग्राउंडिंग दस्तावेज़ों को एक दिशानिर्देश के रूप में समझा जा सकता है जिसका एआई सिस्टम को प्रतिक्रिया उत्पन्न करते समय पालन करना चाहिए। यह क्वेरी या बड़े डेटाबेस के लिए स्रोत सामग्री हो सकती है।
फिर, फीचर ग्राउंडिंग दस्तावेज़ के विरुद्ध कथन का आकलन करेगा और यदि यह गलत सूचना पाया जाता है, तो इसे फ़िल्टर कर दिया जाएगा। हालाँकि, यदि सामग्री ग्राउंडिंग दस्तावेज़ के अनुरूप है, तो सुविधा यह सुनिश्चित करने के लिए वाक्य को फिर से लिख सकती है कि इसकी गलत व्याख्या नहीं की गई है।
इसके अतिरिक्त, उपयोगकर्ताओं के पास पहली बार क्षमता स्थापित करते समय तर्क को सक्षम करने का विकल्प भी होगा। इसे सक्षम करने से एआई फीचर को स्पष्टीकरण जोड़ने के लिए प्रेरित किया जाएगा कि उसने क्यों सोचा कि जानकारी गलत थी और सुधार की आवश्यकता थी।
कंपनी के एक प्रवक्ता ने द वर्ज को बताया कि ग्राउंडिंग दस्तावेजों के साथ आउटपुट को संरेखित करने के लिए सुधार सुविधा छोटे भाषा मॉडल (एसएलएम) और बड़े भाषा मॉडल (एलएलएम) का उपयोग करती है। प्रकाशन ने प्रवक्ता के हवाले से कहा, “यह ध्यान रखना महत्वपूर्ण है कि ग्राउंडेडनेस का पता लगाने से ‘सटीकता’ का समाधान नहीं होता है, बल्कि ग्राउंडिंग दस्तावेजों के साथ जेनरेटर एआई आउटपुट को संरेखित करने में मदद मिलती है।”
