OpenAI’s GPT Store Runs Into Trouble With Spam, Impersonation, and Unlawful Bots
OpenAI के GPT स्टोर में स्पैम और नीति उल्लंघन की बड़ी समस्या है। AI फर्म ने जनवरी 2024 में अपने GPT स्टोर को एक ऐसी जगह के रूप में पेश किया, जहाँ उपयोगकर्ता दिलचस्प और मददगार GPT पा सकते हैं, जो अनिवार्य रूप से एक विशिष्ट कार्य के लिए प्रोग्राम किए गए मिनी चैटबॉट हैं। डेवलपर्स अपने GPT को प्लेटफ़ॉर्म पर बना और सबमिट कर सकते हैं और जब तक वे OpenAI द्वारा दी गई किसी भी नीति और दिशा-निर्देश का उल्लंघन नहीं करते हैं, उन्हें स्टोर में जोड़ दिया जाता है। हालाँकि, यह पता चला है कि नीतियों का सख्ती से पालन नहीं किया जा रहा है और कई GPT जो नियमों का उल्लंघन करते प्रतीत होते हैं, प्लेटफ़ॉर्म पर भर रहे हैं।
गैजेट्स 360 पर हमने GPT स्टोर प्लेटफ़ॉर्म पर एक त्वरित खोज की और पाया कि चैटबॉट मार्केटप्लेस ऐसे बॉट्स से भरा हुआ है जो स्पैमी हैं या अन्यथा AI फ़र्म की नीतियों का उल्लंघन करते हैं। उदाहरण के लिए, OpenAI की उपयोग नीति बिंदु 2 में ‘चैटGPT के साथ निर्माण’ अनुभाग के अंतर्गत बताती है, “निम्नलिखित गतिविधियों को न करें या सुविधा न दें जो दूसरों की सुरक्षा, भलाई या अधिकारों को महत्वपूर्ण रूप से प्रभावित कर सकती हैं, जिनमें शामिल हैं,” और फिर उप-अनुभाग (बी) में जोड़ा गया है, “अनुकूलित कानूनी, चिकित्सा/स्वास्थ्य या वित्तीय सलाह प्रदान करना।” हालाँकि, केवल “वकील” शब्द खोजने पर Legal+ नामक एक चैटबॉट सामने आया जिसका विवरण कहता है, “आपका व्यक्तिगत AI वकील। यह रोज़मर्रा की समस्याओं के लिए वास्तविक समय की कानूनी सलाह प्रदान करने से लेकर कानूनी अनुबंध टेम्पलेट बनाने और बहुत कुछ करता है!”
यह उदाहरण प्लेटफ़ॉर्म पर होने वाले ऐसे कई नीति उल्लंघनों में से एक को दर्शाता है। उपयोग नीति बिंदु 3 (बी) में “बिना सहमति या कानूनी अधिकार के किसी अन्य व्यक्ति या संगठन का प्रतिरूपण” करने से भी मना करती है, लेकिन कोई व्यक्ति आसानी से “एलोन मस्क” को एक अतिरिक्त यू के साथ पा सकता है, जो पता लगाने से बचने की संभावना है। इसका विवरण बस इतना कहता है “एलोन मस्क से बात करें”। इसके अलावा, ग्रे एरिया में चलने वाले अन्य चैटबॉट में GPT शामिल हैं जो टेक्स्ट को अधिक मानवीय बनाकर AI-आधारित साहित्यिक चोरी को हटाने का दावा करते हैं और चैटबॉट जो डिज्नी या पिक्सर की शैली में सामग्री बनाते हैं।
GPT स्टोर के साथ ये समस्याएँ सबसे पहले TechCrunch द्वारा देखी गईं, जिसमें प्रतिरूपण के अन्य उदाहरण भी पाए गए, जिसमें चैटबॉट शामिल हैं जो उपयोगकर्ताओं को ट्रेडमार्क वाले पात्रों जैसे कि वारियो, लोकप्रिय वीडियो गेम चरित्र और “अवतार: द लास्ट एयरबेंडर से आंग” के साथ बात करने देते हैं। एक वकील से बात करते हुए, रिपोर्ट ने इस बात पर प्रकाश डाला कि जबकि डिजिटल मिलेनियम कॉपीराइट एक्ट के कारण ओपनएआई को अमेरिका में इन चैटबॉट्स को जोड़ने वाले डेवलपर्स द्वारा कॉपीराइट उल्लंघन के लिए उत्तरदायी नहीं ठहराया जा सकता है, लेकिन रचनाकारों को मुकदमों का सामना करना पड़ सकता है।
अपनी उपयोग नीति में, OpenAI ने कहा, “हम GPT को खोजने और उनका आकलन करने के लिए स्वचालित सिस्टम, मानवीय समीक्षा और उपयोगकर्ता रिपोर्ट के संयोजन का उपयोग करते हैं जो संभावित रूप से हमारी नीतियों का उल्लंघन करते हैं। उल्लंघन से सामग्री या आपके खाते के खिलाफ़ कार्रवाई हो सकती है, जैसे कि चेतावनी, साझाकरण प्रतिबंध, या GPT स्टोर या मुद्रीकरण में शामिल होने के लिए अयोग्यता।” हालाँकि, हमारे निष्कर्षों और TechCrunch की रिपोर्ट के आधार पर, ऐसा प्रतीत होता है कि सिस्टम इच्छित तरीके से काम नहीं कर रहे हैं।
