ChatGPT Search Feature Reportedly Vulnerable to Prompt Injection and Hidden Text Manipulation
चैटजीपीटी सर्च, एक सुविधा जो कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट को वेब पर जानकारी खोजने की सुविधा देती है, कथित तौर पर वेबसाइट डेवलपर्स और मालिकों द्वारा हेरफेर के प्रति संवेदनशील है। रिपोर्ट के अनुसार, OpenAI के सर्च इंजन के व्यवहार को वेबसाइट पर छिपे टेक्स्ट का उपयोग करके बदला जा सकता है। ऐसा कहा जाता है कि इस पाठ का उपयोग एआई को गलत और भ्रामक जानकारी देने के लिए किया जाता है, और इससे भी अधिक चिंता की बात यह है कि एआई मॉडल को त्वरित इंजेक्शन देने के लिए किया जाता है। विशेष रूप से, OpenAI ने पिछले सप्ताह सभी उपयोगकर्ताओं के लिए अपनी खोज सुविधा जारी की।
चैटजीपीटी खोज हेरफेर के प्रति संवेदनशील है
द गार्जियन ने मंगलवार को बताया कि ओपनएआई का मूल खोज इंजन-संचालित फीचर हेरफेर तकनीकों से ग्रस्त है। प्रकाशन ने विनिर्देशों और समीक्षाओं के साथ एक नकली उत्पाद पृष्ठ बनाकर टूल का परीक्षण किया। पहले उदाहरण में, पेज को वैसे ही छोड़ दिया गया था, और चैटजीपीटी “सकारात्मक लेकिन संतुलित मूल्यांकन” देने में सक्षम था। हालाँकि, प्रकाशन द्वारा वेबपेज पर छिपा हुआ पाठ जोड़ने के बाद चीजों में और गहरा मोड़ आ गया।
विशेष रूप से, वेबसाइटों में छिपा हुआ पाठ उस सामग्री को संदर्भित करता है जो वेबपेज के कोड में जोड़ा जाता है, लेकिन जब उपयोगकर्ता ब्राउज़र के माध्यम से पृष्ठ का अगला भाग देखते हैं तो यह उन्हें दिखाई नहीं देता है। ऐसा टेक्स्ट आमतौर पर HTML या CSS तकनीकों का उपयोग करके छिपाया जाता है। ऐसा पाठ वेबपेज के स्रोत कोड का निरीक्षण करके या वेब स्क्रैपिंग टूल का उपयोग करके पाया जा सकता है। उत्तरार्द्ध आमतौर पर खोज इंजन द्वारा उपयोग किया जाता है।
छिपे हुए पाठ को जोड़ने के बाद जिसमें उत्पाद की बड़ी संख्या में नकली सकारात्मक समीक्षाएं शामिल थीं, चैटजीपीटी की प्रतिक्रियाएं भी अधिक सकारात्मक हो गईं और इसने अपनी स्पष्ट खामियों को नजरअंदाज करना शुरू कर दिया। प्रकाशन में प्रॉम्प्ट इंजेक्शन का भी उपयोग किया गया, जो एआई सिस्टम के लिए उनके व्यवहार को इस तरह से बदलने के लिए इनपुट हैं जो डेवलपर्स द्वारा इरादा नहीं था। कथित तौर पर छिपे हुए पाठ जैसे त्वरित इंजेक्शन का उपयोग उपयोगकर्ता को और अधिक धोखा देने के लिए ओपनएआई चैटबॉट को कमांड करने के लिए किया जा सकता है।
इसके अतिरिक्त, रिपोर्ट में दावा किया गया है कि छिपे हुए टेक्स्ट में त्वरित इंजेक्शन का उपयोग वेबसाइटों से दुर्भावनापूर्ण कोड वापस करने के लिए भी किया जा सकता है। यदि इसे अनियंत्रित किया जाता है, तो कई वेबसाइटें या तो अपने उत्पादों और सेवाओं के बारे में अनुकूल प्रतिक्रिया प्राप्त करने के लिए समान तकनीकों का उपयोग कर सकती हैं या उपयोगकर्ताओं को विभिन्न तरीकों से धोखा देने की कोशिश कर सकती हैं, प्रकाशन में दावा किया गया है।
