Google’s AI Overviews Said to Suffer From AI Hallucination, Advises Using Glue on Pizza
Google के बिल्कुल नए AI-पावर्ड सर्च टूल, AI ओवरव्यूज़ को उपयोगकर्ताओं के प्रश्नों के गलत और कुछ हद तक विचित्र उत्तर प्रदान करने के लिए झटका लग रहा है। हाल ही में सामने आई एक घटना में, एक उपयोगकर्ता ने अपने पिज़्ज़ा पर पनीर न चिपकने के लिए Google का सहारा लिया। जबकि वे अपनी पाक संबंधी समस्याओं के लिए एक व्यावहारिक समाधान की उम्मीद कर रहे होंगे, Google के AI ओवरव्यू फीचर ने एक आसान समाधान प्रस्तुत किया है। एक्स पर हाल ही में सामने आए पोस्ट के अनुसार, एआई टूल द्वारा अन्य उपयोगकर्ताओं के लिए भी विचित्र उत्तर सुझाए जाने की यह कोई अलग घटना नहीं थी।
पनीर, पिज़्ज़ा और एआई मतिभ्रम
यह मामला तब सामने आया जब एक यूजर ने कथित तौर पर गूगल पर लिखा, ‘पनीर पिज्जा पर चिपक नहीं रहा है।’ पाक संबंधी समस्या का समाधान करते हुए, खोज इंजन के एआई ओवरव्यू फीचर ने पनीर को चिपकाने के कुछ तरीके सुझाए, जैसे सॉस मिलाना और पिज्जा को ठंडा करना। हालाँकि, इनमें से एक समाधान वास्तव में विचित्र निकला। साझा किए गए स्क्रीनशॉट के अनुसार, इसने उपयोगकर्ता को “सॉस को अधिक चिपचिपा बनाने के लिए इसमें ⅛ कप गैर विषैले गोंद जोड़ने” का सुझाव दिया।
Google AI अवलोकन पिज्जा पर पनीर चिपकाने के लिए गोंद जोड़ने का सुझाव देता है, और यह पता चलता है कि स्रोत उपयोगकर्ता F*cksmith की 11 वर्षीय Reddit टिप्पणी है। pic.twitter.com/uDPAbsAKeO
– पीटर यांग (@petergyang) 23 मई 2024
आगे की जांच करने पर, कथित तौर पर स्रोत मिल गया और यह 11 साल पहले की रेडिट टिप्पणी निकली, जो विशेषज्ञ पाक सलाह के बजाय एक मजाक प्रतीत हुई। हालाँकि, Google की AI ओवरव्यू सुविधा, जिसमें अभी भी नीचे “जेनरेटिव AI प्रयोगात्मक है” टैग है, ने इसे मूल क्वेरी के लिए एक गंभीर सुझाव के रूप में प्रदान किया है।
एआई ओवरव्यूज़ की एक और गलत प्रतिक्रिया कुछ दिन पहले सामने आई जब एक उपयोगकर्ता ने कथित तौर पर Google से पूछा, “मुझे कितने पत्थर खाने चाहिए”। यूसी बर्कले के भूवैज्ञानिकों का हवाला देते हुए, टूल ने सुझाव दिया, “प्रति दिन कम से कम एक चट्टान खाने की सलाह दी जाती है क्योंकि चट्टानों में खनिज और विटामिन होते हैं जो पाचन स्वास्थ्य के लिए महत्वपूर्ण हैं”।
झूठी प्रतिक्रियाओं के पीछे का मुद्दा
इस तरह के मुद्दे हाल के वर्षों में नियमित रूप से सामने आ रहे हैं, खासकर जब से कृत्रिम बुद्धिमत्ता (एआई) का उछाल शुरू हुआ है, जिसके परिणामस्वरूप एआई मतिभ्रम के रूप में जानी जाने वाली एक नई समस्या सामने आई है। जबकि कंपनियां दावा करती हैं कि एआई चैटबॉट गलतियाँ कर सकते हैं, इन उपकरणों द्वारा तथ्यों को तोड़-मरोड़ कर पेश करने और तथ्यात्मक रूप से गलत और यहां तक कि विचित्र प्रतिक्रियाएं प्रदान करने के मामले बढ़ रहे हैं।
हालाँकि, Google एकमात्र कंपनी नहीं है जिसके AI टूल ने गलत प्रतिक्रियाएँ प्रदान की हैं। OpenAI के ChatGPT, Microsoft के Copilot और Perplexity के AI चैटबॉट कथित तौर पर AI मतिभ्रम से पीड़ित हैं।
एक से अधिक उदाहरणों में, स्रोत को Reddit पोस्ट या वर्षों पहले की गई टिप्पणी के रूप में खोजा गया है। एआई टूल के पीछे की कंपनियां भी इसके बारे में जानती हैं, अल्फाबेट के सीईओ सुंदर पिचाई ने द वर्ज को बताया, “हमारे लिए इस तरह की चीजें बेहतर होती जा रही हैं”।
जून 2023 में IIIT दिल्ली में एक कार्यक्रम के दौरान AI मतिभ्रम के बारे में बात करते हुए, सैम ऑल्टमैन, [OpenAI](सीईओ और सह-संस्थापक ने कहा, “मॉडल को सही करने में हमें लगभग एक साल लगेगा। यह रचनात्मकता और सटीकता के बीच संतुलन है और हम समस्या को कम करने की कोशिश कर रहे हैं। [At present,] मुझे चैटजीपीटी से मिलने वाले उत्तरों पर इस धरती पर किसी भी अन्य व्यक्ति से कम भरोसा है।”
