OpenAI Warns ChatGPT Voice Mode Users Might End Up Forming ‘Social Relationships’ With the AI
ओपनएआई ने गुरुवार को चेतावनी दी कि चैटजीपीटी के लिए हाल ही में जारी वॉयस मोड फीचर के परिणामस्वरूप उपयोगकर्ता कृत्रिम बुद्धिमत्ता (एआई) मॉडल के साथ सामाजिक संबंध बना सकते हैं। जानकारी GPT-4o के लिए कंपनी के सिस्टम कार्ड का हिस्सा थी, जो AI मॉडल के संभावित जोखिमों और संभावित सुरक्षा उपायों के बारे में एक विस्तृत विश्लेषण है जिसे कंपनी ने परीक्षण और अन्वेषण किया था। कई जोखिमों में से एक जोखिम यह था कि लोगों द्वारा चैटबॉट को मानवरूप देने और उससे लगाव विकसित करने की संभावना थी। प्रारंभिक परीक्षण के दौरान इसके संकेत मिलने के बाद जोखिम जोड़ा गया था।
चैटजीपीटी वॉयस मोड उपयोगकर्ताओं को एआई से जोड़ सकता है
सिस्टम कार्ड लेबल वाले एक विस्तृत तकनीकी दस्तावेज़ में, ओपनएआई ने जीपीटी-4ओ से जुड़े सामाजिक प्रभावों और एआई मॉडल द्वारा संचालित नई सुविधाओं पर प्रकाश डाला है जो अब तक जारी किए गए हैं। एआई फर्म ने उस मानवरूपीकरण पर प्रकाश डाला, जिसका अनिवार्य रूप से अर्थ मानवीय विशेषताओं या व्यवहारों को गैर-मानवीय संस्थाओं के लिए जिम्मेदार ठहराना है।
ओपनएआई ने चिंता जताई कि चूंकि वॉयस मोड भाषण को नियंत्रित कर सकता है और वास्तविक इंसान की तरह भावनाओं को व्यक्त कर सकता है, इसलिए इसके परिणामस्वरूप उपयोगकर्ताओं में इसके प्रति लगाव विकसित हो सकता है। आशंकाएं निराधार भी नहीं हैं. अपने शुरुआती परीक्षण के दौरान जिसमें रेड-टीमिंग (कमजोरियों का परीक्षण करने के लिए उत्पाद पर हमलों का अनुकरण करने के लिए एथिकल हैकर्स के एक समूह का उपयोग करना) और आंतरिक उपयोगकर्ता परीक्षण शामिल थे, कंपनी को ऐसे उदाहरण मिले जहां कुछ उपयोगकर्ता एआई के साथ सामाजिक संबंध बना रहे थे।
एक विशेष उदाहरण में, इसमें एक उपयोगकर्ता को साझा बंधन व्यक्त करते हुए और एआई से यह कहते हुए पाया गया कि “यह हमारा एक साथ आखिरी दिन है”। ओपनएआई ने कहा कि इस बात की जांच करने की आवश्यकता है कि क्या ये संकेत लंबे समय तक उपयोग के बाद अधिक प्रभावशाली बन सकते हैं।
एक बड़ी चिंता, अगर आशंकाएं सच हैं, तो यह है कि एआई मॉडल मानव-से-मानव इंटरैक्शन को प्रभावित कर सकता है क्योंकि लोगों को चैटबॉट के साथ सामाजिककरण करने की अधिक आदत हो जाती है। ओपनएआई ने कहा कि हालांकि इससे अकेले व्यक्तियों को फायदा हो सकता है, लेकिन यह स्वस्थ रिश्तों पर नकारात्मक प्रभाव डाल सकता है।
एक और मुद्दा यह है कि विस्तारित एआई-मानव संपर्क सामाजिक मानदंडों को प्रभावित कर सकता है। इस पर प्रकाश डालते हुए, ओपनएआई ने उदाहरण दिया कि चैटजीपीटी के साथ, उपयोगकर्ता किसी भी समय एआई को बाधित कर सकते हैं और “माइक ले सकते हैं”, जो मानव-से-मानव इंटरैक्शन की बात आने पर मानक-विरोधी व्यवहार है।
इसके अलावा, मनुष्यों के एआई के साथ संबंध बनाने के व्यापक निहितार्थ हैं। ऐसा ही एक मुद्दा है प्रेरकता। जबकि ओपनएआई ने पाया कि मॉडलों का अनुनय स्कोर चिंताजनक होने के लिए पर्याप्त नहीं था, अगर उपयोगकर्ता एआई पर भरोसा करना शुरू कर दे तो यह बदल सकता है।
फिलहाल, एआई फर्म के पास इसका कोई समाधान नहीं है लेकिन वह आगे भी विकास पर नजर रखने की योजना बना रही है। ओपनएआई ने कहा, “हम भावनात्मक निर्भरता की संभावनाओं और उन तरीकों का अध्ययन करने का इरादा रखते हैं, जिनसे हमारे मॉडल और सिस्टम की कई विशेषताओं का ऑडियो मोडैलिटी के साथ गहरा एकीकरण व्यवहार को प्रेरित कर सकता है।”
