मेटा एक नया टूल जारी कर रहा है जो कृत्रिम बुद्धिमत्ता (एआई) का उपयोग करके बनाए गए वीडियो में एक अदृश्य वॉटरमार्क जोड़ सकता है। डब किया गया वीडियो सील, नया टूल कंपनी के मौजूदा वॉटरमार्किंग टूल, ऑडियो सील और वॉटरमार्क एनीथिंग से जुड़ता है। कंपनी ने सुझाव दिया कि टूल ओपन-सोर्स किया जाएगा, हालाँकि, उसने अभी तक कोड प्रकाशित नहीं किया है। दिलचस्प बात यह है कि कंपनी का दावा है कि वॉटरमार्किंग तकनीक वीडियो की गुणवत्ता को प्रभावित नहीं करेगी, फिर भी वीडियो से उन्हें हटाने के सामान्य तरीकों के खिलाफ लचीली होगी।
जेनरेटिव एआई के उदय के बाद से डीपफेक ने इंटरनेट पर बाढ़ ला दी है। डीपफेक सिंथेटिक सामग्री है, जो आमतौर पर एआई का उपयोग करके उत्पन्न होती है, जो झूठी और भ्रामक वस्तुओं, लोगों या परिदृश्यों को दिखाती है। ऐसी सामग्री का उपयोग अक्सर किसी सार्वजनिक व्यक्ति के बारे में गलत सूचना फैलाने, नकली यौन सामग्री बनाने या धोखाधड़ी और घोटाले करने के लिए किया जाता है।
इसके अतिरिक्त, जैसे-जैसे एआई सिस्टम बेहतर होते जाएंगे, डीपफेक सामग्री को पहचानना कठिन हो जाएगा, जिससे वास्तविक सामग्री से अंतर करना और भी मुश्किल हो जाएगा। मैक्एफ़ी सर्वेक्षण के अनुसार, 70 प्रतिशत लोगों को पहले से ही लगता है कि वे वास्तविक आवाज़ और एआई-जनरेटेड आवाज़ के बीच अंतर बताने में आश्वस्त नहीं हैं।
समसब के आंतरिक आंकड़ों के अनुसार, 2022 में उत्तरी अमेरिका में डीपफेक धोखाधड़ी में 1,740 प्रतिशत और एशिया-प्रशांत क्षेत्र में 1,530 प्रतिशत की वृद्धि हुई। 2022 और 2023 के बीच यह संख्या दस गुना बढ़ गई।
जैसे-जैसे डीपफेक के बारे में चिंताएं बढ़ती हैं, एआई मॉडल विकसित करने वाली कई कंपनियों ने वॉटरमार्किंग टूल जारी करना शुरू कर दिया है जो वास्तविक सामग्री से सिंथेटिक सामग्री की पहचान कर सकते हैं। इस साल की शुरुआत में, Google ने AI-जनरेटेड टेक्स्ट और वीडियो को वॉटरमार्क करने के लिए SynthID जारी किया था। माइक्रोसॉफ्ट ने भी इसी तरह के टूल जारी किए हैं। इसके अलावा, गठबंधन फॉर कंटेंट प्रोवेनेंस एंड ऑथेंटिसिटी (C2PA) भी AI-जनित सामग्री की पहचान करने के लिए नए मानकों पर काम कर रहा है।
अब, मेटा ने AI वीडियो को वॉटरमार्क करने के लिए अपना स्वयं का वीडियो सील टूल जारी किया है। शोधकर्ता इस बात पर प्रकाश डालते हैं कि यह टूल वीडियो के हर फ्रेम को एक अगोचर टैग के साथ वॉटरमार्क कर सकता है जिसके साथ छेड़छाड़ नहीं की जा सकती है। ऐसा कहा जाता है कि यह धुंधलापन, क्रॉपिंग और संपीड़न सॉफ़्टवेयर जैसी तकनीकों के विरुद्ध लचीला है। हालांकि, वॉटरमार्क जोड़ने के बावजूद शोधकर्ताओं का दावा है कि वीडियो की गुणवत्ता से समझौता नहीं किया जाएगा।
मेटा ने घोषणा की है कि वीडियो सील को एक अनुमेय लाइसेंस के तहत ओपन-सोर्स किया जाएगा, हालांकि, इसने अभी तक टूल और इसके कोडबेस को सार्वजनिक डोमेन में जारी नहीं किया है।
