Google Explains Bizarre Responses by AI Overviews, Reveals Measures to Improve Feature
Google ने गुरुवार (30 मई) को अपने कृत्रिम बुद्धिमत्ता (AI)-संचालित खोज उपकरण – AI ओवरव्यूज़ – के कारण हुई पराजय के लिए एक स्पष्टीकरण प्रकाशित किया, जिसमें कई प्रश्नों के लिए गलत प्रतिक्रियाएँ उत्पन्न हो रही थीं। खोज के लिए AI सुविधा 14 मई को Google I/O 2024 में पेश की गई थी, लेकिन कथित तौर पर खोज प्रश्नों पर विचित्र प्रतिक्रियाएँ प्रदान करने के लिए शीघ्र ही जांच का सामना करना पड़ा। एक लंबी व्याख्या में, Google ने समस्या के पीछे संभावित कारण और इसे हल करने के लिए उठाए गए कदमों का खुलासा किया।
गूगल की प्रतिक्रिया
एक ब्लॉग पोस्ट में, Google ने यह समझाते हुए शुरुआत की कि एआई ओवरव्यू फीचर अन्य चैटबॉट्स और लार्ज लैंग्वेज मॉडल्स (एलएलएम) से अलग कैसे काम करता है। कंपनी के अनुसार, एआई ओवरव्यूज़ केवल “प्रशिक्षण डेटा के आधार पर आउटपुट” उत्पन्न नहीं करता है। इसके बजाय, ऐसा कहा जाता है कि इसे इसके “कोर वेब रैंकिंग सिस्टम” में एकीकृत किया गया है और इसका उद्देश्य सूचकांक से पारंपरिक “खोज” कार्यों को पूरा करना है। Google ने यह भी दावा किया कि उसका AI-संचालित खोज उपकरण “आम तौर पर मतिभ्रम नहीं करता”।
कंपनी ने कहा, “चूंकि खोज में सटीकता सर्वोपरि है, एआई ओवरव्यू केवल शीर्ष वेब परिणामों द्वारा समर्थित जानकारी दिखाने के लिए बनाए गए हैं।”
तब क्या हुआ? Google के अनुसार, इसका एक कारण व्यंग्यपूर्ण और निरर्थक सामग्री को फ़िल्टर करने में AI ओवरव्यू सुविधा की अक्षमता थी। “मुझे कितने पत्थर खाने चाहिए” खोज क्वेरी का संदर्भ देते हुए, जिसके परिणाम में व्यक्ति को प्रतिदिन एक पत्थर खाने का सुझाव दिया गया, Google ने कहा कि खोज से पहले, “व्यावहारिक रूप से किसी ने भी यह सवाल नहीं पूछा था।”
कंपनी के अनुसार, इससे एक “डेटा शून्य” पैदा हो गया जहां उच्च गुणवत्ता वाली सामग्री सीमित है। इस विशेष प्रश्न के साथ व्यंग्य सामग्री भी प्रकाशित हुई। “तो जब किसी ने उस प्रश्न को खोज में डाला, तो एक एआई अवलोकन दिखाई दिया जो ईमानदारी से प्रश्न से निपटने वाली एकमात्र वेबसाइटों में से एक से जुड़ा हुआ था”, Google ने समझाया।
कंपनी ने यह भी स्वीकार किया कि एआई ओवरव्यूज़ ने मंचों से संदर्भ लिया, जो हालांकि “प्रामाणिक, प्रत्यक्ष जानकारी का एक बड़ा स्रोत” हैं, वे “कम-सहायक सलाह” दे सकते हैं, जैसे कि पनीर बनाने के लिए पिज्जा पर गोंद का उपयोग करना चिपकना। अन्य उदाहरणों में, खोज सुविधा ने वेब पेजों पर भाषा की गलत व्याख्या भी की है, जिससे गलत प्रतिक्रियाएँ हुईं।
Google ने कहा कि उसने “इन मुद्दों को हल करने के लिए तेजी से काम किया, या तो हमारे एल्गोरिदम में सुधार के माध्यम से या हमारी नीतियों का अनुपालन नहीं करने वाली प्रतिक्रियाओं को हटाने के लिए स्थापित प्रक्रियाओं के माध्यम से।”
एआई अवलोकनों को बेहतर बनाने के लिए उठाए गए कदम
Google द्वारा अपने AI अवलोकन सुविधा द्वारा उत्पन्न प्रश्नों की प्रतिक्रियाओं को बेहतर बनाने के लिए निम्नलिखित कदम उठाए गए हैं:
- इसने व्यंग्यात्मक और निरर्थक सामग्री के समावेश को सीमित करते हुए निरर्थक प्रश्नों के लिए बेहतर पहचान तंत्र का निर्माण किया है।
- कंपनी का कहना है कि उसने प्रतिक्रियाओं में उपयोगकर्ता-जनित सामग्री के उपयोग को सीमित करने के लिए सिस्टम को भी अपडेट किया है जो भ्रामक सलाह दे सकता है।
- कठिन समाचार विषयों के लिए एआई अवलोकन नहीं दिखाए जाएंगे जहां “ताजगी और तथ्यात्मकता” महत्वपूर्ण हैं।
Google ने यह भी दावा किया कि उसने कम संख्या में AI अवलोकन प्रतिक्रियाओं के लिए फीडबैक और बाहरी रिपोर्टों की निगरानी की है जो इसकी सामग्री का उल्लंघन करते हैं। हालाँकि, इसमें कहा गया है कि ऐसा होने की संभावना “प्रत्येक 7 मिलियन अद्वितीय प्रश्नों में से एक से भी कम” थी।
