OpenAI Reportedly Withholding ChatGPT Text Detection Tool Due to Fear of Backlash
ओपनएआई ने कथित तौर पर एक ऐसा उपकरण बनाया है जो यह पता लगा सकता है कि उसके आर्टिफिशियल इंटेलिजेंस (एआई) चैटबॉट का उपयोग करके टेक्स्ट कब तैयार किया गया है, लेकिन इसे जनता के लिए जारी करने के लिए तैयार नहीं है। रिपोर्ट के अनुसार, यह उपकरण काफी समय से जारी होने के लिए तैयार है, लेकिन एआई फर्म को चिंता है कि ऐसा पता लगाने वाला उपकरण चैटबॉट को उपयोगकर्ताओं के बीच अलोकप्रिय बना सकता है। हालाँकि, ऐसा उपकरण जारी न करने से शिक्षकों को यह पता लगाने में संघर्ष करना पड़ा है कि एआई की मदद से कोई असाइनमेंट या निबंध कब लिखा गया था।
ओपनएआई के पास कथित तौर पर एक एआई टेक्स्ट डिटेक्टर है
वॉल स्ट्रीट जर्नल की एक रिपोर्ट के अनुसार, ओपनएआई पिछले दो सालों से इस तरह के टूल को जारी करने पर विचार कर रहा है। रिपोर्ट में इस मामले से परिचित अनाम लोगों के हवाले से दावा किया गया है कि टेक्स्ट डिटेक्शन टूल भी लगभग एक साल से रिलीज़ के लिए तैयार है। एक सूत्र ने प्रकाशन को बताया कि टूल को जारी करना एक बटन दबाने जितना आसान था।
ऐसा उपकरण शिक्षकों और अन्य समान संस्थानों की मदद कर सकता है, जहाँ लोगों ने AI का उपयोग करके निबंध और शोध पत्र जैसी सामग्री तैयार करने का सहारा लिया है। इस साल की शुरुआत में, एल्सेवियर के सरफेस एंड इंटरफेस जर्नल में प्रकाशित एक सहकर्मी-समीक्षित वैज्ञानिक पत्र को AI द्वारा लिखा गया पाया गया था और बाद में ऑनलाइन ध्यान आकर्षित करने के बाद इसे वापस ले लिया गया था। AI के उपयोग का पता लगाने के लिए एक विश्वसनीय विधि की कमी के कारण यह AI-आधारित साहित्यिक चोरी शिक्षा जगत के लिए एक बड़ी चिंता का विषय बन गई है।
रिपोर्ट के अनुसार, ओपनएआई ने अपने एआई डिटेक्शन टूल को जारी करने से इनकार कर दिया है, क्योंकि उसे मौजूदा उपयोगकर्ताओं को खोने का डर है। कंपनी ने कथित तौर पर एक सर्वेक्षण किया और पाया कि अगर एंटी-चीटिंग मैकेनिज्म जारी किया जाता है, तो लगभग एक तिहाई उपयोगकर्ता चैटजीपीटी का उपयोग करने के लिए कम इच्छुक होंगे।
एक और डर यह था कि इसे चुनिंदा उपयोगकर्ताओं (जैसे शिक्षकों) के लिए उपलब्ध कराने से उपकरण की उपयोगिता कम हो सकती है, जबकि इसे बड़े समूह के लिए उपलब्ध कराने से वॉटरमार्किंग तकनीक को गलत लोगों द्वारा समझ लिया जा सकता है, जो फिर उन्नत मास्किंग उपकरण बना सकते हैं।
प्रकाशन द्वारा देखे गए आंतरिक दस्तावेजों के आधार पर, रिपोर्ट का दावा है कि AI टेक्स्ट डिटेक्शन टूल ChatGPT की मदद से लिखे गए टेक्स्ट को खोजने में 99 प्रतिशत प्रभावी है। यह कथित तौर पर काम करता है क्योंकि यह टूल अनिवार्य रूप से एक वॉटरमार्किंग तकनीक है जो टेक्स्ट को एक अदृश्य वॉटरमार्क के साथ एम्बेड करता है जिसे देखा नहीं जा सकता है लेकिन AI चेकर के माध्यम से चलाने पर फ़्लैग हो जाता है।
आंतरिक दस्तावेजों में टूल के कामकाज के बारे में भी बताया गया। रिपोर्ट के अनुसार, ChatGPT यह अनुमान लगाकर टेक्स्ट तैयार करता है कि कौन सा शब्द या वाक्यांश, जिसे टोकन भी कहा जाता है, अनुक्रम में आगे आना चाहिए। चयन एक छोटे पूल पर आधारित होता है ताकि वाक्य सुसंगत हो।
बदले में, AI डिटेक्शन टूल में टोकन के चयन के लिए थोड़ा अलग एल्गोरिदम है। ChatGPT द्वारा जेनरेट किए गए टेक्स्ट और टूल के टेक्स्ट के बीच बदलाव एक पैटर्न छोड़ते हैं, जो यह आकलन करने में मदद करता है कि टेक्स्ट जेनरेट करने के लिए AI का इस्तेमाल किया गया था या नहीं।
