Google Explains Bizarre Responses by AI Overviews, Reveals Measures to Improve Feature
गूगल ने अपने आर्टिफिशियल इंटेलिजेंस (एआई) संचालित सर्च टूल – एआई ओवरव्यूज़ – के कारण हुई परेशानी के लिए गुरुवार (30 मई) को स्पष्टीकरण प्रकाशित किया, जिसमें कई प्रश्नों के लिए गलत प्रतिक्रियाएँ उत्पन्न हुई थीं। सर्च के लिए एआई फीचर को 14 मई को गूगल आई/ओ 2024 में पेश किया गया था, लेकिन कथित तौर पर सर्च क्वेरी के लिए विचित्र प्रतिक्रियाएँ प्रदान करने के लिए कुछ ही समय बाद जांच का सामना करना पड़ा। एक लंबी व्याख्या में, गूगल ने समस्या के पीछे संभावित कारण और इसे हल करने के लिए उठाए गए कदमों का खुलासा किया।
गूगल का जवाब
एक ब्लॉग पोस्ट में, Google ने यह बताकर शुरुआत की कि AI ओवरव्यू फीचर दूसरे चैटबॉट और लार्ज लैंग्वेज मॉडल (LLM) से किस तरह अलग तरीके से काम करता है। कंपनी के अनुसार, AI ओवरव्यू केवल “प्रशिक्षण डेटा के आधार पर आउटपुट” उत्पन्न नहीं करता है। इसके बजाय, इसे इसके “कोर वेब रैंकिंग सिस्टम” में एकीकृत किया गया है और इसका उद्देश्य इंडेक्स से पारंपरिक “खोज” कार्यों को पूरा करना है। Google ने यह भी दावा किया कि उसका AI-संचालित खोज उपकरण “आम तौर पर भ्रम नहीं करता”।
कंपनी ने कहा, “चूंकि सर्च में सटीकता सर्वोपरि है, इसलिए AI ओवरव्यू केवल वही जानकारी दिखाने के लिए बनाए गए हैं जो शीर्ष वेब परिणामों द्वारा समर्थित हैं।”
फिर क्या हुआ? Google के अनुसार, इसका एक कारण AI ओवरव्यू फीचर की अक्षमता थी जो व्यंग्यपूर्ण और निरर्थक सामग्री को फ़िल्टर करने में असमर्थ थी। “मुझे कितने पत्थर खाने चाहिए” सर्च क्वेरी का संदर्भ देते हुए, जिसके परिणाम में व्यक्ति को एक दिन में एक पत्थर खाने का सुझाव दिया गया था, Google ने कहा कि खोज से पहले, “व्यावहारिक रूप से किसी ने यह सवाल नहीं पूछा था।”
कंपनी के अनुसार, इससे “डेटा शून्य” पैदा हुआ, जहाँ उच्च-गुणवत्ता वाली सामग्री सीमित है। इस विशेष क्वेरी के साथ, व्यंग्यात्मक सामग्री भी प्रकाशित हुई थी। “इसलिए जब किसी ने उस प्रश्न को सर्च में डाला, तो एक AI अवलोकन दिखाई दिया, जो उस प्रश्न को हल करने वाली एकमात्र वेबसाइट से ईमानदारी से जुड़ा हुआ था”, Google ने समझाया।
कंपनी ने यह भी स्वीकार किया कि एआई ओवरव्यूज़ ने फ़ोरम से संदर्भ लिया, जो हालांकि “प्रामाणिक, प्रत्यक्ष जानकारी का एक बड़ा स्रोत” हैं, लेकिन वे “कम-से-कम सहायक सलाह” की ओर ले जा सकते हैं, जैसे कि पनीर को चिपकाने के लिए पिज्जा पर गोंद का उपयोग करना। अन्य उदाहरणों में, खोज सुविधा ने वेब पेजों पर भाषा की गलत व्याख्या की है, जिससे गलत प्रतिक्रियाएँ हुई हैं।
गूगल ने कहा कि उसने “इन मुद्दों को हल करने के लिए तेजी से काम किया, या तो हमारे एल्गोरिदम में सुधार के माध्यम से या हमारी नीतियों का अनुपालन नहीं करने वाली प्रतिक्रियाओं को हटाने के लिए स्थापित प्रक्रियाओं के माध्यम से।”
एआई अवलोकन में सुधार के लिए उठाए गए कदम
गूगल ने अपने AI ओवरव्यू फीचर द्वारा उत्पन्न प्रश्नों के प्रत्युत्तर में सुधार लाने के लिए निम्नलिखित कदम उठाए हैं:
- इसने निरर्थक प्रश्नों के लिए बेहतर पहचान तंत्र विकसित किया है, तथा व्यंग्यात्मक और निरर्थक विषय-वस्तु के समावेश को सीमित किया है।
- कंपनी ने कहा है कि उसने प्रतिक्रियाओं में उपयोगकर्ता-जनित सामग्री के उपयोग को सीमित करने के लिए प्रणालियों को भी अद्यतन किया है, जो भ्रामक सलाह दे सकती हैं।
- कठिन समाचार विषयों के लिए एआई अवलोकन नहीं दिखाए जाएंगे जहां “ताज़गी और तथ्यात्मकता” महत्वपूर्ण हैं।
गूगल ने यह भी दावा किया कि उसने एआई ओवरव्यू प्रतिक्रियाओं की एक छोटी संख्या के लिए फीडबैक और बाहरी रिपोर्टों की निगरानी की है जो इसकी सामग्री का उल्लंघन करती हैं। हालांकि, इसने कहा कि ऐसा होने की संभावना “हर 7 मिलियन अद्वितीय प्रश्नों में से एक से भी कम” थी।
