इंस्टाग्राम पर मेटा के आर्टिफिशियल इंटेलिजेंस (AI) कंटेंट डिटेक्शन टूल को ‘मेड बाय AI’ लेबल के साथ वास्तविक तस्वीरों को दर्शाते हुए देखा गया है। ऐसा ही एक पोस्ट जिसे गलत तरीके से लेबल किया गया था, वह कोलकाता नाइट राइडर्स के आधिकारिक इंस्टाग्राम अकाउंट से था, जिसने हाल ही में इंडियन प्रीमियर लीग (IPL) 2024 क्रिकेट टूर्नामेंट जीता था। अकाउंट द्वारा पोस्ट की गई तस्वीरों में से एक, जिसमें टीम ट्रॉफी उठाती हुई दिखाई दे रही है, को प्लेटफ़ॉर्म द्वारा AI द्वारा जनरेटेड लेबल किया गया था। सोशल मीडिया प्लेटफ़ॉर्म पर कई फ़ोटोग्राफ़रों ने इसी समस्या का अनुभव किया है।

फरवरी में, मेटा ने कहा कि यह एक एआई-जनरेटेड कंटेंट डिटेक्शन फीचर शुरू करने की प्रक्रिया में है जो उपयोगकर्ताओं को गलत सूचना से बचाएगा और डीपफेक (एआई-जनरेटेड या डिजिटल रूप से परिवर्तित छवियां और वीडियो जो किसी अन्य व्यक्ति, स्थान या घटना के समान दिखते हैं) के उदाहरणों को उजागर करेगा। यह फीचर हाल ही में इंस्टाग्राम पर लाइव हुआ, और ऐसा प्रतीत होता है कि यह वास्तविक तस्वीरों को एआई-जनरेटेड कंटेंट के रूप में लेबल कर रहा है। वर्तमान में, ये लेबल केवल iOS और Android ऐप पर ही देखे जा सकते हैं, वेब पर नहीं।

कोलकाता नाइट राइडर्स की तस्वीर पर ‘मेड बाई एआई’ का लेबल लगा है
फोटो क्रेडिट: इंस्टाग्राम/kkriders

केकेआर की फोटो इस गलती के सबसे हाई-प्रोफाइल उदाहरणों में से एक है, लेकिन कई अन्य ऐसे गलत लेबल भी उपयोगकर्ताओं द्वारा उजागर किए गए हैं। इनमें से एक पूर्व व्हाइट हाउस फोटोग्राफर पीट सूजा हैं जिन्होंने एक पुराने बास्केटबॉल खेल की तस्वीर पोस्ट की थी।

गलत लेबल जोड़े जाने के बाद, उन्होंने कैप्शन को संपादित करते हुए लिखा, “मुझे समझ नहीं आ रहा है कि इंस्टाग्राम मेरी पोस्ट पर “मेड विद एआई” का उपयोग क्यों कर रहा है। मेरी तस्वीरों में कोई एआई नहीं है।” उन्होंने यह भी बताया कि वे लेबल को अनचेक करने में असमर्थ थे क्योंकि प्लेटफ़ॉर्म इसे वापस जोड़ता रहा।

निराश उपयोगकर्ताओं ने मेटा द्वारा टेक्स्ट-आधारित सोशल मीडिया प्लेटफ़ॉर्म थ्रेड्स पर भी इस मुद्दे को उजागर करने के लिए इंस्टाग्राम हेड एडम मोसेरी को टैग करना शुरू कर दिया है। एक उपयोगकर्ता ने कहा, “फ़ेसबुक और इंस्टाग्राम पर एक भी फ़ोटोग्राफ़र या कलाकार को यह पता नहीं है कि “मेड विद एआई” लेबल को क्या ट्रिगर करता है। भले ही मोसेरी ने स्पष्ट किया कि वे केवल C2PA लेबल पढ़ रहे हैं, लेकिन कोई भी यह नहीं समझता कि इससे कैसे बचा जाए।”

इससे पहले, मेटा के वैश्विक मामलों के अध्यक्ष निक क्लेग ने कहा था कि कंपनी “उद्योग भागीदारों के साथ मिलकर काम कर रही है ताकि आम तकनीकी मानकों पर काम किया जा सके जो संकेत देते हैं कि कब कोई सामग्री AI का उपयोग करके बनाई गई है।” उन्होंने यह भी दावा किया कि डिटेक्शन टूल Google, OpenAI, Microsoft, Adobe, Midjourney और Shutterstock की छवियों को सही ढंग से लेबल कर सकता है।

हालाँकि, इस सुविधा का कार्यान्वयन त्रुटिपूर्ण प्रतीत होता है। एक रिपोर्ट में, पेटापिक्सल ने पाया कि एडोब के एआई-संचालित जेनरेटिव फिल का उपयोग करके किसी छवि में एक छोटा सा धब्बा हटाने पर भी छवियों को ‘मेड बाय एआई’ टैग मिल जाता है। हालाँकि, स्पॉट हीलिंग ब्रश टूल या क्लोन स्टैम्प टूल जैसे गैर-एआई टूल ने परिणाम समान होने के बावजूद लेबल नहीं जोड़ा।

प्रकाशन ने यह भी पाया कि जब एक छवि, जिसे पहले AI-जनरेटेड के रूप में लेबल किया गया था, को फ़ोटोशॉप पर वापस लोड किया गया और एक काले दस्तावेज़ पर कॉपी-पेस्ट करने के बाद सहेजा गया, तो AI लेबल दिखाई नहीं दिया।

मेटा के प्रवक्ता केट मैकलॉघलिन ने द वर्ज को बताया कि कंपनी अब हाल ही में मिले यूजर फीडबैक को ध्यान में रख रही है और अपने दृष्टिकोण का मूल्यांकन कर रही है। प्रकाशन ने मैकलॉघलिन के हवाले से कहा, “हम उद्योग मानक संकेतकों पर भरोसा करते हैं जिन्हें अन्य कंपनियां अपने टूल की सामग्री में शामिल करती हैं, इसलिए हम प्रक्रिया को बेहतर बनाने के लिए इन कंपनियों के साथ सक्रिय रूप से काम कर रहे हैं ताकि हमारा लेबलिंग दृष्टिकोण हमारे इरादे से मेल खाए।”