OpenAI ने ChatGPT की सुरक्षा बढ़ाई, प्रॉम्प्ट इंजेक्शन हमलों से बचने के लिए पेश किया 'लॉकडाउन मोड'

यह नया सुरक्षा फीचर हाई-प्रोफाइल उपयोगकर्ताओं को प्लेटफॉर्म के भीतर उन्नत स्वायत्त कार्यों (autonomous functions) को सीमित करके डेटा चोरी के जोखिमों को कम करने का एक तरीका प्रदान करता है।

OpenAI ने आधिकारिक तौर पर ChatGPT के लिए 'लॉकडाउन मोड' लॉन्च किया है। यह एक रक्षात्मक फीचर है जिसे विशेष रूप से प्लेटफॉर्म को प्रॉम्प्ट इंजेक्शन हमलों से सुरक्षित रखने के लिए तैयार किया गया है। जैसे-जैसे साइबर खतरे भाषा मॉडल (language models) द्वारा बाहरी डेटा को प्रोसेस करने के तरीके का फायदा उठा रहे हैं, यह नई सेटिंग उन व्यक्तियों और संगठनों के लिए सुरक्षा की एक महत्वपूर्ण परत प्रदान करती है जो अत्यधिक संवेदनशील जानकारी के साथ काम करते हैं। यह फीचर हर सब्सक्राइबर के लिए एक सामान्य अपडेट के बजाय, एक सोची-समझी रणनीति है, जो स्वायत्त और वेब-कनेक्टेड टूल्स की सुविधा के बजाय मजबूत सुरक्षा को प्राथमिकता देती है।

खतरे को समझना

प्रॉम्प्ट इंजेक्शन हमले एक बड़ी सुरक्षा चुनौती के रूप में उभरे हैं, जो सोशल इंजीनियरिंग का एक परिष्कृत रूप है। इन स्थितियों में, दुर्भावनापूर्ण तत्व दस्तावेजों, वेबसाइटों या फाइलों में छिपे हुए, भ्रामक निर्देश डाल देते हैं जिन्हें AI बाद में प्रोसेस करता है। यदि यह सफल हो जाता है, तो ये प्रॉम्प्ट सिस्टम को उसके सुरक्षा गार्डरेल्स को बायपास करने के लिए मजबूर कर सकते हैं, जिससे अनधिकृत डेटा चोरी या अनपेक्षित कार्यों के निष्पादन का खतरा पैदा हो सकता है। इस नए मोड को पेश करके, OpenAI का लक्ष्य अपने बैकएंड सिस्टम के मौजूदा सुरक्षा ढांचे के ऊपर एक अंतिम और मजबूत रक्षा परत प्रदान करना है।

लॉकडाउन के तहत क्या बदलाव होंगे

जब कोई उपयोगकर्ता इस फीचर को सक्रिय करता है, तो ChatGPT की कार्यक्षमता रणनीतिक रूप से सीमित हो जाती है। हमले की संभावना को कम करने के लिए, सिस्टम कई उच्च-स्तरीय क्षमताओं को प्रतिबंधित कर देता है। 'डीप रिसर्च' (Deep Research) और 'एजेंट मोड' (Agent Mode) जैसे उन्नत टूल्स—जो पूरी तरह से बाहरी वेब एक्सेस और स्वायत्त निर्णय लेने पर निर्भर हैं—पूरी तरह से अक्षम हो जाते हैं। हालांकि उपयोगकर्ता समीक्षा के लिए फाइलें अपलोड करने और इमेज बनाने में सक्षम रहते हैं, लेकिन इंटरनेट से बाहरी इमेज प्राप्त करने या गहन विश्लेषण के लिए फाइलें डाउनलोड करने की बॉट की क्षमता को सीमित कर दिया जाता है।

यह ध्यान रखना महत्वपूर्ण है कि यह कोई ऐसा फिल्टर नहीं है जो प्रॉम्प्ट इंजेक्शन को सिस्टम में आने से रोकता है। इसके बजाय, यह मोड एक 'कंटेनमेंट' रणनीति के रूप में कार्य करता है। मॉडल की बाहरी नेटवर्क अनुरोधों को निष्पादित करने या कुछ कनेक्टेड टूल्स के साथ बातचीत करने की क्षमता को सीमित करके, यह किसी हमलावर के लिए उपयोगकर्ता के सत्र से निजी डेटा निकालना काफी कठिन बना देता है। कंपनी ने स्पष्ट किया है कि बातचीत का इतिहास (conversation history), फाइल अपलोड अनुमतियां और प्रशिक्षण डेटा सेटिंग्स जैसे मुख्य उपयोगकर्ता अनुभव इस बदलाव से प्रभावित नहीं होंगे।

एंटरप्राइज के लिए एक लक्षित टूल

OpenAI ने स्पष्ट किया है कि यह फीचर सामान्य उपयोगकर्ताओं के लिए नहीं है। इसे मुख्य रूप से उन उच्च-जोखिम वाले वातावरणों के लिए बनाया गया है जहां डेटा उल्लंघन की संभावित लागत उन्नत AI सुविधाओं के लाभ से अधिक है। एंटरप्राइज वर्कस्पेस के भीतर, इसका कार्यान्वयन लचीला रहता है; प्रशासक अपने संगठन की विशिष्ट जोखिम क्षमता के अनुसार इन सुरक्षा नियंत्रणों को कॉन्फ़िगर कर सकते हैं।

इस मोड के रोलआउट के साथ, कंपनी एक 'एक्टिव सेशन मैनेजर' भी पेश कर रही है। यह डैशबोर्ड उपयोगकर्ताओं को उन सभी उपकरणों और ब्राउज़रों की निगरानी करने की अनुमति देता है जो वर्तमान में उनके खातों में लॉग इन हैं, जिससे खाता एक्सेस पर नियंत्रण की एक बहुत जरूरी परत मिलती है। जैसे-जैसे डिजिटल सुरक्षा डेवलपर्स के लिए एक केंद्रीय फोकस बनी हुई है, ये दोहरे अपडेट तेजी से स्वचालित होती दुनिया में सूक्ष्म नियंत्रण (granular control) की ओर बढ़ते व्यापक उद्योग बदलाव को दर्शाते हैं।