कथित तौर पर ओपनएआई ने एक उपकरण बनाया है जो अपने कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट का उपयोग करके यह पता लगा सकता है कि टेक्स्ट कब उत्पन्न हुआ है, लेकिन वह इसे जनता के लिए जारी करने को तैयार नहीं है। रिपोर्ट के अनुसार, टूल काफी समय से रिलीज होने के लिए तैयार है, लेकिन एआई फर्म को चिंता है कि ऐसा डिटेक्शन टूल चैटबॉट को उपयोगकर्ताओं के बीच अलोकप्रिय बना सकता है। हालाँकि, इस तरह के टूल को जारी नहीं करने से शिक्षकों को यह पता लगाने में संघर्ष करना पड़ रहा है कि एआई की मदद से कोई असाइनमेंट या निबंध कब लिखा गया था।
कथित तौर पर OpenAI में AI टेक्स्ट डिटेक्टर है
द वॉल स्ट्रीट जर्नल की एक रिपोर्ट के अनुसार, OpenAI पिछले दो वर्षों से इस तरह के टूल को जारी करने पर बहस कर रहा है। रिपोर्ट में इस मामले से परिचित अज्ञात लोगों का हवाला देते हुए दावा किया गया है कि टेक्स्ट डिटेक्शन टूल भी लगभग एक साल से जारी करने के लिए तैयार है। एक सूत्र ने प्रकाशन को बताया कि टूल को जारी करना एक बटन दबाने जितना आसान है।
ऐसा उपकरण शिक्षकों और अन्य समान संस्थानों की मदद कर सकता है जहां लोगों ने एआई का उपयोग करके निबंध और शोध पत्र जैसी सामग्री तैयार करने का सहारा लिया है। इस साल की शुरुआत में, एल्सेवियर्स सर्फेस एंड इंटरफेसेस जर्नल में प्रकाशित एक सहकर्मी-समीक्षा वैज्ञानिक पेपर को एआई द्वारा लिखा गया पाया गया था और बाद में ऑनलाइन ध्यान आकर्षित करने के बाद इसे वापस ले लिया गया था। एआई के उपयोग का पता लगाने के लिए एक विश्वसनीय विधि की कमी के कारण यह एआई-आधारित साहित्यिक चोरी शिक्षा जगत के लिए एक बड़ी चिंता का विषय बन गई है।
रिपोर्ट के अनुसार, ओपनएआई ने अपने एआई डिटेक्शन टूल को जारी करने से इनकार मौजूदा उपयोगकर्ताओं को खोने के डर से किया है। कंपनी ने कथित तौर पर एक सर्वेक्षण किया और पाया कि यदि एंटी-चीटिंग तंत्र जारी किया गया तो लगभग एक तिहाई उपयोगकर्ता चैटजीपीटी का उपयोग करने के लिए कम इच्छुक होंगे।
एक और डर यह था कि इसे शिक्षकों जैसे चुनिंदा उपयोगकर्ताओं के लिए उपलब्ध कराने से टूल की उपयोगिता कम हो सकती है, जबकि इसे एक बड़े समूह के लिए उपलब्ध कराने से वॉटरमार्किंग तकनीक खराब कलाकारों द्वारा समझी जा सकती है जो बाद में उन्नत मास्किंग टूल बना सकते हैं। .
प्रकाशन द्वारा देखे गए आंतरिक दस्तावेजों के आधार पर, रिपोर्ट में दावा किया गया है कि एआई टेक्स्ट डिटेक्शन टूल चैटजीपीटी की मदद से लिखे गए टेक्स्ट को खोजने में 99 प्रतिशत प्रभावी है। यह कथित तौर पर काम करता है क्योंकि टूल मूल रूप से एक वॉटरमार्किंग तकनीक है जो टेक्स्ट को एक अदृश्य वॉटरमार्क के साथ एम्बेड करता है जिसे देखा नहीं जा सकता है लेकिन एआई चेकर के माध्यम से चलाने पर यह चिह्नित हो जाता है।
आंतरिक दस्तावेज़ों में टूल की कार्यप्रणाली के बारे में भी बताया गया था। रिपोर्ट के अनुसार, चैटजीपीटी यह अनुमान लगाकर टेक्स्ट तैयार करता है कि किस शब्द या वाक्यांश, जिसे टोकन के रूप में भी जाना जाता है, को एक क्रम में पालन करना चाहिए। चयन एक छोटे पूल पर आधारित है इसलिए वाक्य सुसंगत है।
बदले में, एआई डिटेक्शन टूल में टोकन के चयन के लिए थोड़ा अलग एल्गोरिदम होता है। चैटजीपीटी-जनरेटेड टेक्स्ट और टूल के टेक्स्ट के बीच परिवर्तन एक पैटर्न छोड़ते हैं, जो यह आकलन करने में मदद करता है कि टेक्स्ट उत्पन्न करने के लिए एआई का उपयोग किया गया था या नहीं।
