एंथ्रोपिक ने सोमवार को अपने नवीनतम क्लाउड 3.5 सॉनेट एआई मॉडल के लिए सिस्टम प्रॉम्प्ट जारी किया। ये सिस्टम संकेत क्लाउड के वेब क्लाइंट के साथ-साथ आईओएस और एंड्रॉइड ऐप पर टेक्स्ट-आधारित बातचीत के लिए थे। सिस्टम प्रॉम्प्ट एआई मॉडल के मार्गदर्शक सिद्धांत हैं जो मानव उपयोगकर्ताओं के साथ बातचीत करते समय उसके व्यवहार को निर्धारित करते हैं और उसके ‘व्यक्तित्व’ को आकार देते हैं। उदाहरण के लिए, क्लाउड 3.5 सॉनेट को “बहुत स्मार्ट और बौद्धिक रूप से जिज्ञासु” के रूप में वर्णित किया गया था, जो इसे विषयों पर चर्चा करने, सहायता प्रदान करने और एक विशेषज्ञ के रूप में प्रदर्शित होने में भाग लेने में सक्षम बनाता है।
एंथ्रोपिक ने क्लाउड 3.5 सॉनेट सिस्टम प्रॉम्प्ट जारी किया
सिस्टम संकेत आमतौर पर एआई फर्मों के गुप्त रहस्य होते हैं, क्योंकि ये उन नियमों की अंतर्दृष्टि प्रदान करते हैं जो एआई मॉडल के व्यवहार को आकार देते हैं, साथ ही उन चीजों की भी जानकारी देते हैं जो यह नहीं कर सकता है और नहीं करेगा। यह ध्यान देने योग्य है कि इन्हें सार्वजनिक रूप से साझा करने का एक नकारात्मक पहलू भी है। सबसे बड़ी बात यह है कि बुरे कलाकार कमियां ढूंढने के लिए सिस्टम के संकेतों को उलट सकते हैं और एआई से ऐसे कार्य करवा सकते हैं जिनके लिए इसे डिज़ाइन नहीं किया गया था।
चिंताओं के बावजूद, एंथ्रोपिक ने अपने रिलीज़ नोट्स में क्लाउड 3.5 सॉनेट के लिए सिस्टम संकेतों का विवरण दिया। कंपनी ने यह भी कहा कि वह क्लाउड की प्रतिक्रियाओं में सुधार जारी रखने के लिए समय-समय पर प्रॉम्प्ट को अपडेट करती रहती है। इसके अलावा, ये सिस्टम संकेत केवल एआई चैटबॉट के सार्वजनिक संस्करण के लिए हैं, जो कि वेब क्लाइंट है, साथ ही आईओएस और एंड्रॉइड ऐप भी हैं।
प्रॉम्प्ट की शुरुआत में इसे अंतिम बार अद्यतन किए जाने की तिथि, ज्ञान की अंतिम तिथि और इसके निर्माता का नाम उजागर होता है। यदि कोई उपयोगकर्ता पूछता है तो एआई मॉडल को यह जानकारी प्रदान करने के लिए प्रोग्राम किया गया है।
क्लॉड को कैसा व्यवहार करना चाहिए और क्या नहीं करना चाहिए, इसके बारे में विवरण हैं। उदाहरण के लिए, AI मॉडल को URL, लिंक या वीडियो खोलने से प्रतिबंधित किया गया है। किसी विषय पर अपने विचार व्यक्त करने की मनाही है। विवादास्पद विषयों के बारे में पूछे जाने पर, यह केवल स्पष्ट जानकारी प्रदान करता है और एक अस्वीकरण जोड़ता है कि विषय संवेदनशील है, और जानकारी वस्तुनिष्ठ तथ्य प्रस्तुत नहीं करती है।
एंथ्रोपिक ने क्लाउड को निर्देश दिया है कि यदि वह कोई ऐसा कार्य नहीं कर सकता है – या नहीं करेगा – जो उसकी क्षमताओं या निर्देशों से परे है, तो वह उपयोगकर्ताओं से माफ़ी न मांगे। एआई मॉडल को यह उजागर करने के लिए “मतिभ्रम” शब्द का उपयोग करने के लिए भी कहा जाता है कि यह किसी अस्पष्ट चीज़ के बारे में जानकारी खोजने में त्रुटि कर सकता है।
इसके अलावा, सिस्टम निर्देश देता है कि क्लाउड 3.5 सॉनेट को “ऐसे जवाब देना चाहिए जैसे कि वह पूरी तरह से अंधा हो गया हो”। इसका मतलब यह है कि यदि कोई उपयोगकर्ता मानवीय चेहरे के साथ एक छवि साझा करता है, तो एआई मॉडल छवि में मनुष्यों की पहचान या नाम नहीं देगा या यह संकेत नहीं देगा कि वह उन्हें पहचान सकता है। भले ही उपयोगकर्ता एआई को छवि में व्यक्ति की पहचान के बारे में बताता है, क्लाउड उस व्यक्ति के बारे में चर्चा करेगा, बिना यह पुष्टि किए कि वह उस व्यक्ति को पहचान सकता है।
ये संकेत क्लाउड के पीछे एंथ्रोपिक के दृष्टिकोण को उजागर करते हैं और वह कैसे चाहता है कि चैटबॉट संभावित हानिकारक प्रश्नों और स्थितियों से गुजरे। यह ध्यान दिया जाना चाहिए कि सिस्टम संकेत उन कई रेलिंगों में से एक हैं जिन्हें एआई कंपनियां एआई सिस्टम में जोड़ती हैं ताकि इसे जेलब्रेक होने से बचाया जा सके और उन कार्यों में सहायता की जा सके जिनके लिए इसे डिज़ाइन नहीं किया गया है।
