मेटा ने बुधवार को कहा कि उसे अपने फेसबुक और इंस्टाग्राम प्लेटफॉर्म पर भ्रामक रूप से उपयोग की जाने वाली “संभावित एआई-जनित” सामग्री मिली है, जिसमें वैश्विक समाचार संगठनों और अमेरिकी सांसदों के पोस्ट के नीचे गाजा में युद्ध से निपटने के लिए इजरायल की प्रशंसा की गई टिप्पणियां भी शामिल हैं।
सोशल मीडिया कंपनी ने एक त्रैमासिक सुरक्षा रिपोर्ट में कहा कि ये खाते यहूदी छात्रों, अफ्रीकी अमेरिकियों और अन्य संबंधित नागरिकों के रूप में प्रस्तुत किए गए हैं, जो संयुक्त राज्य अमेरिका और कनाडा में दर्शकों को लक्षित करते हैं। इसने इस अभियान के लिए तेल अवीव स्थित राजनीतिक विपणन फर्म STOIC को जिम्मेदार ठहराया।
STOIC ने आरोपों पर टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया।
यह महत्वपूर्ण क्यों है?
जबकि मेटा ने 2019 के बाद से प्रभाव संचालन में कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न बुनियादी प्रोफ़ाइल फ़ोटो पाई हैं, रिपोर्ट 2022 के अंत में सामने आने के बाद से टेक्स्ट-आधारित जेनरेटर एआई तकनीक के उपयोग का खुलासा करने वाली पहली है।
शोधकर्ताओं ने इस बात पर चिंता व्यक्त की है कि जेनरेटिव एआई, जो तेजी से और सस्ते में मानव-जैसे टेक्स्ट, इमेजरी और ऑडियो का उत्पादन कर सकता है, अधिक प्रभावी दुष्प्रचार अभियान और चुनावों को प्रभावित कर सकता है।
एक प्रेस कॉल में, मेटा सुरक्षा अधिकारियों ने कहा कि उन्होंने इज़राइली अभियान को जल्दी हटा दिया और यह नहीं सोचा कि नई एआई प्रौद्योगिकियों ने प्रभाव नेटवर्क को बाधित करने की उनकी क्षमता को बाधित किया है, जो संदेशों को आगे बढ़ाने के समन्वित प्रयास हैं।
कार्यकारी अधिकारियों ने कहा कि उन्होंने ऐसे नेटवर्क नहीं देखे हैं जो राजनेताओं की एआई-जनरेटेड इमेजरी को इतनी यथार्थवादी तरीके से तैनात करते हों कि प्रामाणिक तस्वीरों के लिए भ्रमित हो जाएं।
मुख्य उद्धरण
“इन नेटवर्कों में ऐसे कई उदाहरण हैं कि कैसे वे सामग्री बनाने के लिए संभावित जेनरेटिव एआई टूलिंग का उपयोग करते हैं। शायद यह उन्हें इसे तेज़ी से करने या अधिक वॉल्यूम के साथ ऐसा करने की क्षमता देता है। लेकिन इससे वास्तव में उनका पता लगाने की हमारी क्षमता पर कोई प्रभाव नहीं पड़ा है। ,” ख़तरे की जांच के मेटा प्रमुख माइक डविल्यांस्की ने कहा।
संख्याओं द्वारा
रिपोर्ट में छह गुप्त प्रभाव अभियानों पर प्रकाश डाला गया जिन्हें मेटा ने पहली तिमाही में बाधित किया।
एसटीओआईसी नेटवर्क के अलावा, मेटा ने इज़राइल-हमास संघर्ष पर केंद्रित एक ईरान-आधारित नेटवर्क को बंद कर दिया, हालांकि इसने उस अभियान में जेनेरिक एआई के किसी भी उपयोग की पहचान नहीं की।
प्रसंग
मेटा और अन्य तकनीकी दिग्गज इस बात से जूझ रहे हैं कि नई एआई प्रौद्योगिकियों के संभावित दुरुपयोग को कैसे संबोधित किया जाए, खासकर चुनावों में।
शोधकर्ताओं को ओपनएआई और माइक्रोसॉफ्ट सहित कंपनियों के छवि जनरेटर के उदाहरण मिले हैं, जो मतदान-संबंधी गलत सूचना के साथ तस्वीरें तैयार कर रहे हैं, बावजूद इसके कि कंपनियों के पास ऐसी सामग्री के खिलाफ नीतियां हैं।
कंपनियों ने इसके निर्माण के समय एआई-जनित सामग्री को चिह्नित करने के लिए डिजिटल लेबलिंग सिस्टम पर जोर दिया है, हालांकि उपकरण पाठ पर काम नहीं करते हैं और शोधकर्ताओं को उनकी प्रभावशीलता के बारे में संदेह है।
आगे क्या होगा
जून की शुरुआत में यूरोपीय संघ और नवंबर में संयुक्त राज्य अमेरिका में चुनावों के साथ मेटा को अपनी सुरक्षा के प्रमुख परीक्षणों का सामना करना पड़ेगा।
© थॉमसन रॉयटर्स 2024
