OpenAI Warns ChatGPT Voice Mode Users Might End Up Forming ‘Social Relationships’ With the AI
ओपनएआई ने गुरुवार को चेतावनी दी कि चैटजीपीटी के लिए हाल ही में जारी वॉयस मोड फीचर के परिणामस्वरूप उपयोगकर्ता कृत्रिम बुद्धिमत्ता (एआई) मॉडल के साथ सामाजिक संबंध बना सकते हैं। यह जानकारी कंपनी के GPT-4o के लिए सिस्टम कार्ड का हिस्सा थी, जो एआई मॉडल के संभावित जोखिमों और संभावित सुरक्षा उपायों के बारे में एक विस्तृत विश्लेषण है जिसका कंपनी ने परीक्षण और अन्वेषण किया है। कई जोखिमों में से एक यह था कि लोगों द्वारा चैटबॉट को मानव रूप में अपनाने और उससे लगाव विकसित करने की संभावना थी। शुरुआती परीक्षण के दौरान इसके संकेत मिलने के बाद जोखिम जोड़ा गया।
चैटजीपीटी वॉयस मोड उपयोगकर्ताओं को एआई से जोड़ सकता है
सिस्टम कार्ड नामक एक विस्तृत तकनीकी दस्तावेज़ में, ओपनएआई ने जीपीटी-4ओ से जुड़े सामाजिक प्रभावों और अब तक जारी किए गए एआई मॉडल द्वारा संचालित नई सुविधाओं पर प्रकाश डाला। एआई फर्म ने इस बात पर प्रकाश डाला कि एंथ्रोमोर्फाइजेशन, जिसका अनिवार्य रूप से अर्थ है गैर-मानव संस्थाओं को मानवीय विशेषताओं या व्यवहारों का श्रेय देना।
ओपनएआई ने चिंता जताई कि चूंकि वॉयस मोड भाषण को मॉड्यूलेट कर सकता है और वास्तविक मानव के समान भावनाओं को व्यक्त कर सकता है, इसलिए इसका परिणाम यह हो सकता है कि उपयोगकर्ता इसके प्रति लगाव विकसित कर लें। यह आशंका निराधार भी नहीं है। अपने शुरुआती परीक्षण के दौरान जिसमें रेड-टीमिंग (कमजोरियों का परीक्षण करने के लिए उत्पाद पर हमलों का अनुकरण करने के लिए नैतिक हैकर्स के एक समूह का उपयोग करना) और आंतरिक उपयोगकर्ता परीक्षण शामिल थे, कंपनी ने ऐसे उदाहरण पाए जहां कुछ उपयोगकर्ता एआई के साथ सामाजिक संबंध बना रहे थे।
एक विशेष उदाहरण में, इसने एक उपयोगकर्ता को साझा बंधन व्यक्त करते हुए पाया और AI से कहा “यह हमारा साथ में आखिरी दिन है”। ओपनएआई ने कहा कि इस बात की जांच करने की आवश्यकता है कि क्या ये संकेत लंबे समय तक उपयोग में रहने पर अधिक प्रभावशाली बन सकते हैं।
अगर आशंकाएं सच हैं, तो एक बड़ी चिंता यह है कि एआई मॉडल मानव-से-मानव बातचीत को प्रभावित कर सकता है क्योंकि लोग चैटबॉट के साथ सामाजिकता के लिए अधिक अभ्यस्त हो रहे हैं। ओपनएआई ने कहा कि इससे अकेले रहने वाले व्यक्तियों को लाभ हो सकता है, लेकिन यह स्वस्थ रिश्तों पर नकारात्मक प्रभाव डाल सकता है।
एक और मुद्दा यह है कि विस्तारित एआई-मानव संपर्क सामाजिक मानदंडों को प्रभावित कर सकते हैं। इस पर प्रकाश डालते हुए, ओपनएआई ने उदाहरण दिया कि चैटजीपीटी के साथ, उपयोगकर्ता किसी भी समय एआई को बाधित कर सकते हैं और “माइक ले सकते हैं”, जो मानव-से-मानव बातचीत के मामले में मानक-विरोधी व्यवहार है।
इसके अलावा, एआई के साथ मनुष्यों के संबंध बनाने के व्यापक निहितार्थ हैं। ऐसा ही एक मुद्दा प्रेरक क्षमता है। जबकि ओपनएआई ने पाया कि मॉडल का प्रेरक स्कोर चिंताजनक होने के लिए पर्याप्त नहीं था, यह बदल सकता है यदि उपयोगकर्ता एआई पर भरोसा करना शुरू कर देता है।
फिलहाल, एआई फर्म के पास इसका कोई समाधान नहीं है, लेकिन वह इस विकास को आगे भी देखने की योजना बना रही है। ओपनएआई ने कहा, “हम भावनात्मक निर्भरता की संभावना का और अध्ययन करने का इरादा रखते हैं, और उन तरीकों का अध्ययन करना चाहते हैं जिनसे हमारे मॉडल और सिस्टम की कई विशेषताओं का ऑडियो मोडैलिटी के साथ गहन एकीकरण व्यवहार को संचालित कर सकता है।”
