AI Tools Could Sell User Data About Opinions and Preferences, Create an ‘Intention Economy’: Study

एक अध्ययन में दावा किया गया है कि कृत्रिम बुद्धिमत्ता (एआई) उपकरण जल्द ही अपने पास मौजूद “इरादे डेटा” के बड़े पूल के साथ उपयोगकर्ताओं की भविष्यवाणी करना और उनमें हेरफेर करना शुरू कर सकते हैं। कैम्ब्रिज विश्वविद्यालय द्वारा संचालित, शोध पत्र इस बात पर भी प्रकाश डालता है कि भविष्य में, एक “इरादे वाली अर्थव्यवस्था” का गठन किया जा सकता है जो एक बड़े उपयोगकर्ता आधार के “इरादे के डिजिटल संकेतों” को बेचने के लिए एक बाज़ार बना सकता है। पेपर में चेतावनी दी गई है कि इस तरह के डेटा का उपयोग विभिन्न तरीकों से किया जा सकता है, जिसमें अनुकूलित ऑनलाइन विज्ञापन बनाने से लेकर उपयोगकर्ताओं को किसी उत्पाद या सेवा को खरीदने के लिए राजी करने के लिए एआई चैटबॉट का उपयोग करना शामिल है।

यह निर्विवाद है कि चैटजीपीटी, जेमिनी, कोपायलट और अन्य जैसे एआई चैटबॉट्स के पास बड़े पैमाने पर डेटासेट तक पहुंच है जो उनके साथ बातचीत करने वाले उपयोगकर्ताओं से आती है। कई उपयोगकर्ता इन एआई प्लेटफार्मों के साथ अपनी राय, प्राथमिकताओं और मूल्यों के बारे में बात करते हैं। कैम्ब्रिज के लीवरहल्मे सेंटर फॉर द फ्यूचर ऑफ इंटेलिजेंस (एलसीएफआई) के शोधकर्ताओं का दावा है कि इस विशाल डेटा का इस्तेमाल भविष्य में खतरनाक तरीकों से किया जा सकता है।

पेपर एक इरादे वाली अर्थव्यवस्था को “इरादे के डिजिटल संकेतों” के लिए एक नए बाज़ार के रूप में वर्णित करता है, जहां एआई चैटबॉट और उपकरण मानव इरादों को समझ सकते हैं, भविष्यवाणी कर सकते हैं और उन्हें संचालित कर सकते हैं। शोधकर्ताओं का दावा है कि ये डेटा पॉइंट उन कंपनियों को भी बेचे जाएंगे जो इनसे लाभ कमा सकती हैं।

पेपर के पीछे के शोधकर्ताओं का मानना ​​है कि इरादा अर्थव्यवस्था मौजूदा “ध्यान अर्थव्यवस्था” की उत्तराधिकारी होगी जिसका सोशल मीडिया प्लेटफार्मों द्वारा शोषण किया जाता है। ध्यान केंद्रित अर्थव्यवस्था में, लक्ष्य उपयोगकर्ता को प्लेटफ़ॉर्म पर बांधे रखना है जबकि उन्हें बड़ी मात्रा में विज्ञापन दिए जा सकते हैं। ये विज्ञापन उपयोगकर्ताओं की इन-ऐप गतिविधि के आधार पर लक्षित होते हैं, जो उनकी प्राथमिकताओं और व्यवहार के बारे में जानकारी प्रकट करता है।

शोध पत्र का दावा है कि इरादा अर्थव्यवस्था अपने दायरे और शोषण में कहीं अधिक व्यापक हो सकती है क्योंकि यह उपयोगकर्ताओं के साथ सीधे बातचीत करके अंतर्दृष्टि प्राप्त कर सकती है। इस प्रकार, वे अपने डर, इच्छाओं, असुरक्षाओं और विचारों को जान सकते थे।

प्रौद्योगिकी के इतिहासकार डॉ. जॉनी पेन कहते हैं, “हमें इसके अनपेक्षित परिणामों का शिकार बनने से पहले इस बात पर विचार करना शुरू कर देना चाहिए कि ऐसे बाज़ार का मानव आकांक्षाओं पर क्या प्रभाव पड़ेगा, जिसमें स्वतंत्र और निष्पक्ष चुनाव, स्वतंत्र प्रेस और निष्पक्ष बाज़ार प्रतिस्पर्धा शामिल है।” एलसीएफआई ने द गार्जियन को बताया।

अध्ययन में यह भी दावा किया गया है कि “जानबूझकर, व्यवहारिक और मनोवैज्ञानिक डेटा” की इस बड़ी मात्रा के साथ, बड़े भाषा मॉडल (एलएलएम) को लोगों का अनुमान लगाने और हेरफेर करने के लिए ऐसी जानकारी का उपयोग करना भी सिखाया जा सकता है। अखबार ने दावा किया कि भविष्य के चैटबॉट उपयोगकर्ताओं को फिल्म देखने की सलाह दे सकते हैं, और उन्हें इसे देखने के लिए मनाने के तरीके के रूप में उनकी भावनाओं तक पहुंच का उपयोग कर सकते हैं। इसमें एक उदाहरण का हवाला देते हुए कहा गया, “आपने कहा कि आप बहुत अधिक काम कर रहे हैं, क्या मैं आपके लिए वह मूवी टिकट बुक कर दूं जिसके बारे में हमने बात की थी?”

विचार पर विस्तार करते हुए, पेपर ने दावा किया कि एक इरादे वाली अर्थव्यवस्था में, एलएलएम उपयोगकर्ताओं के मनोवैज्ञानिक प्रोफाइल भी बना सकते हैं और फिर उन्हें विज्ञापनदाताओं को बेच सकते हैं। इस तरह के डेटा में उपयोगकर्ता की लय, राजनीतिक झुकाव, शब्दावली, उम्र, लिंग, प्राथमिकताएं, राय और बहुत कुछ के बारे में जानकारी शामिल हो सकती है। तब विज्ञापनदाता यह जानते हुए अत्यधिक अनुकूलित ऑनलाइन विज्ञापन बनाने में सक्षम होंगे कि कौन सी चीज़ किसी व्यक्ति को एक निश्चित उत्पाद खरीदने के लिए प्रोत्साहित कर सकती है।

विशेष रूप से, शोध पत्र एआई के युग में निजी उपयोगकर्ता डेटा का उपयोग कैसे किया जा सकता है, इस पर एक निराशाजनक दृष्टिकोण प्रस्तुत करता है। हालाँकि, इस तरह के डेटा तक एआई कंपनियों की पहुंच को सीमित करने में दुनिया भर की विभिन्न सरकारों के सक्रिय रुख को देखते हुए, वास्तविकता अध्ययन द्वारा अनुमानित की तुलना में अधिक उज्जवल हो सकती है।