OpenAI Implements New Watermarking Technology in AI-Generated Images by DALL-E 3
ओपनएआई ने घोषणा की है कि वह DALL-E 3 द्वारा बनाई गई आर्टिफिशियल इंटेलिजेंस (AI) द्वारा जनरेट की गई छवियों के मेटाडेटा में वॉटरमार्क जोड़ेगा। कंपनी ने कहा कि वह अब गठबंधन फॉर कंटेंट प्रोवेंस एंड ऑथेंटिसिटी (C2PA) द्वारा अपनाए गए ओपन टेक्निकल स्टैंडर्ड का उपयोग करेगी, और यह जानकारी जोड़ेगी कि छवि AI द्वारा बनाई गई थी, AI टूल का नाम और अपने मेटाडेटा में छवि बनाने के लिए इस्तेमाल किए गए ऐप का नाम। यह कदम तब उठाया गया है जब मेटा ने घोषणा की कि AI फर्मों को अपने सोशल मीडिया प्लेटफॉर्म पर AI कंटेंट को पहचानने और लेबल करने में मदद करने के लिए डिटेक्शन टूल्स की मदद के लिए एक सामान्य मानक अपनाने की जरूरत है।
एक पोस्ट में, OpenAI ने इस कदम के साथ-साथ इसके बारे में तकनीकी विवरण का खुलासा किया। इसने कहा कि वेब क्लाइंट और API पर ChatGPT के साथ उत्पन्न की गई छवियाँ, जो DALL-E 3 मॉडल का उपयोग करती हैं, में अब C2PA मानक के अनुसार एक नया मेटाडेटा होगा। 12 फरवरी तक ChatGPT ऐप में भी यही वॉटरमार्क प्रक्रिया शुरू की जाएगी। C2PA मानक एक विशिष्ट वॉटरमार्किंग तकनीक है जो छवि पर ही एक स्टैम्प जोड़ती है और छवि के अंदर भी जानकारी एम्बेड करती है। नतीजतन, छवि के ऊपर बाईं ओर एक CR प्रतीक देखा जा सकता है और इसके मेटाडेटा में एक विस्तृत संस्करण की जाँच की जा सकती है।
मेटाडेटा के ज़रिए, उपयोगकर्ता छवि की उत्पत्ति की जाँच कर सकते हैं, जिसमें AI मॉडल और इसे बनाने के लिए इस्तेमाल किए गए ऐप की जानकारी शामिल है। OpenAI द्वारा साझा किए गए उदाहरणों में, मेटाडेटा एक सामग्री सारांश दिखाता है जो कहता है, “यह छवि एक AI टूल के साथ बनाई गई थी।” प्रक्रिया के लिए एक अलग टैब दिखाता है कि अंतर्निहित AI मॉडल दिखाने के अलावा, API, वेब क्लाइंट या ChatGPT का उपयोग किया गया था या नहीं। कंपनी के अनुसार, मेटाडेटा जोड़ने से छवि का आकार थोड़ा बढ़ सकता है, लेकिन गुणवत्ता पर कोई प्रभाव नहीं पड़ेगा।
हालांकि यह छवि को केवल एक विज़ुअल मार्कर की तुलना में अधिक सुरक्षित बनाता है, फिर भी इसे बायपास करने के तरीके हैं। OpenAI ने इस बात पर प्रकाश डाला कि कई सोशल मीडिया प्लेटफ़ॉर्म अपलोड की गई छवि से मेटाडेटा हटा देते हैं, और छवि का स्क्रीनशॉट लेने से भी यह हट जाएगा। इसलिए, यह विधि यह निर्धारित करने के लिए पर्याप्त नहीं हो सकती है कि कोई छवि वास्तव में DALL-E 3 या अन्य AI मॉडल द्वारा बनाई गई थी या नहीं।
C2PA में Adobe, Microsoft, BBC, Sony, Leica, Nikon और अन्य कंपनियाँ शामिल हैं। यह AI-जनरेटेड कंटेंट का पता लगाने और उसे सही ढंग से लेबल करने के तरीके के रूप में इस तकनीक को अपनाने पर जोर दे रहा है। Adobe द्वारा बनाया गया CR प्रतीक भी इसी समूह द्वारा दिया गया था।
