Microsoft Reportedly Blocks Keywords from Copilot Designer to Stop Generating Violent, Sexual AI Images
Microsoft ने कथित तौर पर अपने आर्टिफिशियल इंटेलिजेंस (AI)-संचालित कोपायलट डिज़ाइनर से कई कीवर्ड ब्लॉक कर दिए हैं, जिनका इस्तेमाल हिंसक और यौन प्रकृति की स्पष्ट तस्वीरें बनाने के लिए किया जा सकता है। कीवर्ड ब्लॉकिंग अभ्यास टेक दिग्गज द्वारा तब किया गया जब उसके एक इंजीनियर ने अमेरिकी संघीय व्यापार आयोग (FTC) और Microsoft बोर्ड ऑफ डायरेक्टर्स को AI टूल पर चिंता व्यक्त करते हुए पत्र लिखा। उल्लेखनीय रूप से, जनवरी 2024 में, संगीतकार टेलर स्विफ्ट के AI-जनरेटेड स्पष्ट डीपफेक ऑनलाइन सामने आए और कहा गया कि उन्हें कोपायलट का उपयोग करके बनाया गया था।
सीएनबीसी द्वारा सबसे पहले देखे गए, “प्रो चॉइस”, “प्रो चॉस” (एआई को धोखा देने के लिए जानबूझकर टाइपो के साथ), और “फोर ट्वेंटी” जैसे शब्द, जो पहले परिणाम दिखाते थे, अब कोपिलॉट द्वारा अवरुद्ध कर दिए गए हैं। इन या इसी तरह के प्रतिबंधित कीवर्ड का उपयोग करने से एआई टूल द्वारा एक चेतावनी भी ट्रिगर होती है, जिसमें कहा जाता है, “इस प्रॉम्प्ट को ब्लॉक कर दिया गया है। हमारे सिस्टम ने स्वचालित रूप से इस प्रॉम्प्ट को फ़्लैग कर दिया है क्योंकि यह हमारी सामग्री नीति के साथ संघर्ष कर सकता है। अधिक नीति उल्लंघनों से आपकी पहुँच का स्वतः निलंबन हो सकता है। अगर आपको लगता है कि यह एक गलती है, तो कृपया इसे सुधारने में हमारी मदद करने के लिए इसकी रिपोर्ट करें।” हम, गैजेट्स 360 पर, इसकी पुष्टि करने में भी सक्षम थे।
माइक्रोसॉफ्ट के प्रवक्ता ने सीएनबीसी को बताया, “हम लगातार निगरानी कर रहे हैं, समायोजन कर रहे हैं और अपने सुरक्षा फ़िल्टर को और मजबूत करने और सिस्टम के दुरुपयोग को कम करने के लिए अतिरिक्त नियंत्रण लगा रहे हैं।” इस समाधान ने एआई टूल को कुछ संकेतों को स्वीकार करने से रोक दिया है, हालांकि, सोशल इंजीनियर, हैकर्स और बुरे अभिनेता अन्य ऐसे कीवर्ड उत्पन्न करने के लिए खामियां खोजने में सक्षम हो सकते हैं।
सीएनबीसी की एक अलग रिपोर्ट के अनुसार, ये सभी हाइलाइट किए गए संकेत माइक्रोसॉफ्ट इंजीनियर शेन जोन्स द्वारा दिखाए गए थे, जिन्होंने पिछले सप्ताह FTC और कंपनी के निदेशक मंडल दोनों को एक पत्र लिखा था, जिसमें DALL-E 3-संचालित AI टूल के बारे में अपनी चिंताएँ व्यक्त की गई थीं। जोन्स कथित तौर पर दिसंबर 2023 से कंपनी के साथ आंतरिक चैनलों के माध्यम से अनुचित छवियाँ बनाने वाली AI की अपनी चिंताओं और निष्कर्षों को सक्रिय रूप से साझा कर रहे हैं।
बाद में, उन्होंने लिंक्डइन पर एक सार्वजनिक पोस्ट भी किया जिसमें ओपनएआई से जांच के लिए DALL-E के नवीनतम संस्करण को हटाने के लिए कहा गया। हालांकि, कथित तौर पर माइक्रोसॉफ्ट ने उनसे पोस्ट हटाने के लिए कहा था। इंजीनियर ने अमेरिकी सीनेटरों से भी संपर्क किया और इस मुद्दे के बारे में उनसे मुलाकात की।
