OpenAI Unveils New Tool to Identify AI-Generated Images, Highlights the Need for AI Content Authentication
ओपनएआई ने मंगलवार को अपने नए आर्टिफिशियल इंटेलिजेंस (एआई) इमेज आइडेंटिफिकेशन और डिटेक्शन टूल का अनावरण किया। एआई फर्म ने एआई-जनरेटेड कंटेंट को प्रमाणित करने और इसके बारे में जागरूकता पैदा करने की आवश्यकता पर प्रकाश डालते हुए नए टूल की घोषणा की। कंपनी औपचारिक रूप से कंटेंट प्रोवेंस एंड ऑथेंटिसिटी (C2PA) समिति में भी शामिल हो गई है, जिसने एआई-जनरेटेड कंटेंट को लेबल करने के लिए एक खुला मानक बनाया है। विशेष रूप से, ओपनएआई फरवरी 2024 से अपने डैल-ई-जनरेटेड इमेज में इस मानक का उपयोग कर रहा है और इमेज के मेटाडेटा में एआई-संबंधित जानकारी जोड़ना जारी रखता है।
एक ब्लॉग पोस्ट में, OpenAI ने AI-जनरेटेड कंटेंट की शुरुआत के साथ उभरी नई चुनौतियों पर प्रकाश डाला। कंपनी ने कहा, “जैसे-जैसे जेनरेटेड ऑडियोविज़ुअल कंटेंट अधिक आम होता जा रहा है, हमारा मानना है कि पूरे समाज के लिए नई तकनीक और मानकों को अपनाना बहुत ज़रूरी होगा, जो लोगों को ऑनलाइन मिलने वाले कंटेंट को बनाने के लिए इस्तेमाल किए जाने वाले टूल को समझने में मदद करें।” इसके अलावा, ChatGPT-निर्माता ने कहा कि वह AI कंटेंट प्रमाणीकरण में योगदान देने के लिए दो अलग-अलग उपाय कर रहा है।
अपने पहले कदम में, OpenAI औपचारिक रूप से C2PA समिति में शामिल हो गया और इसे डिजिटल सामग्री प्रमाणन के लिए व्यापक रूप से इस्तेमाल किया जाने वाला मानक कहा। कंपनी ने यह भी बताया कि मानक का पालन सॉफ्टवेयर कंपनियों, कैमरा निर्माताओं और ऑनलाइन प्लेटफ़ॉर्म की एक विस्तृत श्रृंखला द्वारा किया जाता है। सरल शब्दों में कहें तो, C2PA छवियों और अन्य फ़ाइल प्रकारों के मेटाडेटा में जानकारी जोड़ने की वकालत करता है ताकि यह पता चल सके कि उन्हें कैसे बनाया गया था। जबकि कैमरे द्वारा ली गई छवि में कैमरे का नाम और विनिर्देश शामिल होंगे, AI द्वारा उत्पन्न छवि में AI मॉडल का नाम शामिल होगा।
इस प्रकार की प्रमाणीकरण विधि का उपयोग इसलिए किया जाता है क्योंकि किसी छवि से मेटाडेटा को हटाना या बदलना कठिन होता है और यह छवि के साझा किए जाने, काटे जाने या किसी भी रूप में परिवर्तित किए जाने पर भी बना रहता है।
अपने दूसरे चरण पर प्रकाश डालते हुए, OpenAI ने कहा कि वह एक नए उपकरण पर काम कर रहा है जो AI द्वारा उत्पन्न छवियों की पहचान कर सकता है। उपकरण का नाम बताए बिना, कंपनी ने इसे “OpenAI का इमेज डिटेक्शन क्लासिफायर” कहा। यह उपकरण Dall-E द्वारा बनाई गई छवि की संभावना का अनुमान लगाता है। पोस्ट के अनुसार, फ़िल्टर का उपयोग करने या छवि को क्रॉप करने के बावजूद, उपकरण Dall-E द्वारा उत्पन्न छवियों में से 98 प्रतिशत को वास्तविक छवियों की तुलना में सही ढंग से टैग करने में सक्षम था। हालाँकि, जब Dall-E की AI छवियों की तुलना अन्य AI मॉडल से की जाती है, तो उपकरण संघर्ष करता है। AI फ़र्म ने कहा कि ऐसे मामलों में उपकरण नमूने के लगभग 5-10 प्रतिशत में गलतियाँ करता है।
हालाँकि, ओपनएआई ने अब इस टूल को सीमित सार्वजनिक परीक्षण के लिए खोल दिया है और अनुसंधान प्रयोगशालाओं और अनुसंधान-उन्मुख पत्रकारिता गैर-लाभकारी संगठनों को एआई फर्म के साथ पंजीकरण करने और टूल तक पहुंच प्राप्त करने के लिए आमंत्रित किया है।
