Meta to Label AI Generated Images on Facebook Instagram Threads
मेटा ने घोषणा की कि वह फेसबुक, थ्रेड्स और इंस्टाग्राम सहित अपने सभी प्लेटफ़ॉर्म पर आर्टिफिशियल इंटेलिजेंस (AI) द्वारा निर्मित छवियों को लेबल करना शुरू कर देगा। 6 फरवरी को की गई यह घोषणा, कंपनी के ओवरसाइट बोर्ड द्वारा AI-जनरेटेड कंटेंट पर मेटा की नीति को बदलने और इससे होने वाले नुकसान को रोकने पर ध्यान केंद्रित करने की आवश्यकता पर प्रकाश डालने के ठीक एक दिन बाद आई, जो अमेरिकी राष्ट्रपति जो बिडेन के डिजिटल रूप से बदले गए वीडियो से जुड़ी शिकायत का जवाब दे रही थी जो ऑनलाइन सामने आई थी। मेटा ने कहा कि हालांकि यह अपने स्वयं के AI मॉडल द्वारा बनाई गई फोटोरीलिस्टिक छवियों को लेबल करता है, लेकिन अब यह अन्य कंपनियों के साथ मिलकर अपने प्लेटफ़ॉर्म पर साझा की गई सभी AI-जनरेटेड छवियों को लेबल करने के लिए काम करेगा।
मंगलवार को एक न्यूज़रूम पोस्ट में, मेटा के ग्लोबल अफेयर्स के अध्यक्ष निक क्लेग ने उपयोगकर्ताओं की सुरक्षा और गलत सूचना को रोकने के लिए AI-जनरेटेड कंटेंट को लेबल करने की आवश्यकता को रेखांकित किया, और साझा किया कि इसने समाधान विकसित करने के लिए उद्योग के खिलाड़ियों के साथ काम करना शुरू कर दिया है। उन्होंने कहा, “हम उद्योग भागीदारों के साथ मिलकर सामान्य तकनीकी मानकों पर काम कर रहे हैं जो संकेत देते हैं कि सामग्री का एक टुकड़ा AI का उपयोग करके बनाया गया है।” सोशल मीडिया की दिग्गज कंपनी ने यह भी खुलासा किया कि वर्तमान में, यह Google, OpenAI, Microsoft, Adobe, Midjourney और Shutterstock की छवियों को लेबल कर सकता है। यह मेटा के अपने AI मॉडल द्वारा बनाई गई छवियों को “AI के साथ कल्पना” के रूप में लेबल कर रहा है।
AI द्वारा जनरेट की गई छवियों को सही ढंग से पहचानने के लिए, पहचान उपकरणों को ऐसी सभी छवियों में एक सामान्य पहचानकर्ता की आवश्यकता होती है। AI के साथ काम करने वाली कई फर्मों ने छवियों के मेटाडेटा में अदृश्य वॉटरमार्क जोड़ना और जानकारी एम्बेड करना शुरू कर दिया है ताकि यह स्पष्ट हो सके कि इसे मनुष्यों द्वारा नहीं बनाया या कैप्चर नहीं किया गया है। मेटा ने कहा कि यह हाइलाइट की गई कंपनियों से AI छवियों का पता लगाने में सक्षम था क्योंकि यह उद्योग द्वारा अनुमोदित तकनीकी मानकों का पालन करता है।
लेकिन इसके साथ कुछ मुद्दे हैं। सबसे पहले, हर AI इमेज जनरेटर ऐसे उपकरणों का उपयोग नहीं करता है जिससे यह स्पष्ट हो सके कि छवियां वास्तविक नहीं हैं। दूसरा, मेटा ने देखा है कि अदृश्य वॉटरमार्क को हटाने के तरीके हैं। इसके लिए, कंपनी ने खुलासा किया है कि वह वॉटरमार्किंग के लिए एक एकीकृत तकनीक बनाने के लिए उद्योग भागीदारों के साथ काम कर रही है जिसे आसानी से हटाया नहीं जा सकता है। पिछले साल, मेटा के AI अनुसंधान विंग, फंडामेंटल AI रिसर्च (FAIR) ने घोषणा की कि वह स्टेबल सिग्नेचर नामक एक वॉटरमार्किंग तंत्र विकसित कर रहा है जो मार्कर को सीधे छवि निर्माण प्रक्रिया में एम्बेड करता है। Google के DeepMind ने भी SynthID नामक एक समान उपकरण जारी किया है।
लेकिन इसमें सिर्फ़ तस्वीरें शामिल हैं। AI-जनरेटेड ऑडियो और वीडियो भी आजकल आम हो गए हैं। इस पर बात करते हुए मेटा ने माना कि ऑडियो और वीडियो के लिए ऐसी ही पहचान तकनीक अभी तक नहीं बनाई गई है, हालाँकि इस पर काम चल रहा है। जब तक इस तरह की सामग्री का स्वचालित रूप से पता लगाने और पहचानने का कोई तरीका नहीं आ जाता, तब तक इस तकनीक की दिग्गज कंपनी ने अपने प्लेटफ़ॉर्म पर उपयोगकर्ताओं के लिए एक सुविधा जोड़ी है, जिसमें वे AI-जनरेटेड वीडियो या ऑडियो शेयर करते समय बता सकते हैं। एक बार खुलासा होने के बाद, प्लेटफ़ॉर्म उस पर एक लेबल जोड़ देगा।
क्लेग ने यह भी बताया कि अगर लोग ऐसी सामग्री का खुलासा नहीं करते हैं, और मेटा को पता चलता है कि इसे डिजिटल रूप से बदला गया है या बनाया गया है, तो यह उपयोगकर्ता पर दंड लगा सकता है। इसके अलावा, अगर साझा की गई सामग्री उच्च जोखिम वाली प्रकृति की है और महत्वपूर्ण मामलों पर जनता को धोखा दे सकती है, तो यह उपयोगकर्ताओं को संदर्भ प्राप्त करने में मदद करने के लिए और भी अधिक प्रमुख लेबल जोड़ सकता है।
