मेटा ने बुधवार को कहा कि उसने अपने फेसबुक और इंस्टाग्राम प्लेटफार्मों पर भ्रामक रूप से इस्तेमाल की गई “संभवतः एआई-जनरेटेड” सामग्री पाई है, जिसमें वैश्विक समाचार संगठनों और अमेरिकी सांसदों के पोस्ट के नीचे प्रकाशित गाजा में युद्ध से निपटने के लिए इजरायल की प्रशंसा करने वाली टिप्पणियां भी शामिल हैं।

सोशल मीडिया कंपनी ने तिमाही सुरक्षा रिपोर्ट में कहा कि ये अकाउंट यहूदी छात्रों, अफ्रीकी अमेरिकियों और अन्य चिंतित नागरिकों के रूप में संयुक्त राज्य अमेरिका और कनाडा में दर्शकों को लक्षित करते हैं। इसने इस अभियान का श्रेय तेल अवीव स्थित राजनीतिक मार्केटिंग फर्म STOIC को दिया।

एसटीओआईसी ने आरोपों पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।

यह महत्वपूर्ण क्यों है?

जबकि मेटा ने 2019 से प्रभाव संचालन में कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न बुनियादी प्रोफ़ाइल फ़ोटो पाए हैं, रिपोर्ट 2022 के अंत में उभरने के बाद से पाठ-आधारित जनरेटिव एआई तकनीक के उपयोग का खुलासा करने वाली पहली रिपोर्ट है।

शोधकर्ताओं ने चिंता व्यक्त की है कि जनरेटिव एआई, जो शीघ्रता से और कम खर्च में मानव-जैसे पाठ, चित्र और ऑडियो का उत्पादन कर सकता है, अधिक प्रभावी गलत सूचना अभियान चला सकता है और चुनावों को प्रभावित कर सकता है।

एक प्रेस वार्ता में मेटा सुरक्षा अधिकारियों ने कहा कि उन्होंने इजरायली अभियान को पहले ही हटा दिया था और उन्हें नहीं लगता कि नवीन एआई प्रौद्योगिकियों ने प्रभाव नेटवर्क को बाधित करने की उनकी क्षमता को बाधित किया है, जो संदेशों को आगे बढ़ाने के समन्वित प्रयास हैं।

अधिकारियों ने कहा कि उन्होंने ऐसे नेटवर्क नहीं देखे हैं जो राजनेताओं की एआई-जनरेटेड तस्वीरें इतनी वास्तविक हों कि उन्हें प्रामाणिक तस्वीरें समझ लिया जाए।

मुख्य उद्धरण

मेटा के खतरे की जांच के प्रमुख माइक डीविलांस्की ने कहा, “इन नेटवर्कों में ऐसे कई उदाहरण हैं कि कैसे वे सामग्री बनाने के लिए संभावित जनरेटिव एआई टूलिंग का उपयोग करते हैं। शायद यह उन्हें ऐसा तेज़ी से करने या अधिक मात्रा में करने की क्षमता देता है। लेकिन इससे वास्तव में उन्हें पहचानने की हमारी क्षमता पर कोई असर नहीं पड़ा है।”

संख्या के अनुसार

रिपोर्ट में छह गुप्त प्रभावकारी कार्यों पर प्रकाश डाला गया है जिन्हें मेटा ने पहली तिमाही में बाधित किया।

एसटीओआईसी नेटवर्क के अतिरिक्त, मेटा ने इजरायल-हमास संघर्ष पर केंद्रित ईरान-आधारित नेटवर्क को भी बंद कर दिया, हालांकि उसने उस अभियान में जनरेटिव एआई के किसी भी उपयोग की पहचान नहीं की।

प्रसंग

मेटा और अन्य प्रौद्योगिकी दिग्गज इस बात पर विचार कर रहे हैं कि नई एआई प्रौद्योगिकियों के संभावित दुरुपयोग को कैसे रोका जाए, विशेष रूप से चुनावों में।

शोधकर्ताओं को ओपनएआई और माइक्रोसॉफ्ट जैसी कम्पनियों के इमेज जनरेटरों के उदाहरण मिले हैं, जो मतदान से संबंधित गलत सूचना वाले फोटो तैयार कर रहे हैं, जबकि इन कम्पनियों के पास ऐसी सामग्री के विरुद्ध नीतियां हैं।

कंपनियों ने एआई-जनित सामग्री को उसके निर्माण के समय चिह्नित करने के लिए डिजिटल लेबलिंग प्रणालियों पर जोर दिया है, हालांकि ये उपकरण पाठ पर काम नहीं करते हैं और शोधकर्ताओं को उनकी प्रभावशीलता के बारे में संदेह है।

आगे क्या होगा

मेटा को जून के प्रारम्भ में यूरोपीय संघ और नवम्बर में संयुक्त राज्य अमेरिका में होने वाले चुनावों के कारण अपनी सुरक्षा के लिए महत्वपूर्ण परीक्षणों का सामना करना पड़ेगा।

© थॉमसन रॉयटर्स 2024