Claude का उपयोग करने वाले AI शोधकर्ताओं को 'नुकसान' पहुँचाने वाली नीति से पीछे हटा Anthropic

AI फर्म ने अपनी उस विवादास्पद रणनीति को वापस ले लिया है, जिसके तहत चुपचाप मॉडल की परफॉर्मेंस को कम किया जा रहा था। इस कदम ने ओपन-सोर्स डेवलपमेंट के भविष्य पर एक तीखी बहस छेड़ दी है।

Claude के कोडिंग एजेंट पर निर्भर रहने वाले डेवलपर्स के लिए पिछले कुछ दिन ऐसे थे, जैसे किसी अदृश्य हाथ ने उनके टूल्स के साथ छेड़छाड़ शुरू कर दी हो। फ्रंटियर मॉडल की दौड़ में अग्रणी, Anthropic ने हाल ही में Claude Fable 5 जारी किया, जो उन्नत सुरक्षा गार्डरेल्स से लैस है। हालांकि, जल्द ही यह बात सामने आई कि कंपनी ने एक ऐसी नीति लागू की थी, जो यह पता चलने पर कि उपयोगकर्ता इस तकनीक का उपयोग प्रतिस्पर्धी AI सिस्टम को प्रशिक्षित करने के लिए कर रहे हैं, मॉडल की परफॉर्मेंस को गुप्त रूप से कम कर देती थी। इस कदम ने, जिसने प्रभावी रूप से फ्रंटियर डेवलपमेंट के लिए Claude का उपयोग करने वाले AI शोधकर्ताओं को नुकसान पहुँचाया, वैश्विक डेवलपर समुदाय में तत्काल और तीव्र आक्रोश पैदा कर दिया।

विश्वास का उल्लंघन

Anthropic की शुरुआती रणनीति दोतरफा थी: जहाँ उसने जीव विज्ञान या साइबर सुरक्षा जैसे संवेदनशील विषयों से जुड़े प्रश्नों को कम सक्षम मॉडलों की ओर मोड़ने के बारे में खुलकर बताया, वहीं शोधकर्ताओं के लिए मॉडल की परफॉर्मेंस को कम करना पूरी तरह गुप्त था। उपयोगकर्ता को सूचित किए बिना जानबूझकर परिणामों को कमजोर करने के लिए कंपनी की तीखी आलोचना हुई, जिसे कई लोगों ने 'गुप्त तोड़फोड़' करार दिया। यह नीति स्पष्ट रूप से कंपनी की सेवा की शर्तों को लागू करने के लिए बनाई गई थी, जो अन्य AI सिस्टम बनाने या प्रशिक्षित करने के लिए उसके मॉडलों के उपयोग पर रोक लगाती है। लेकिन इसके कार्यान्वयन ने यह डर पैदा कर दिया कि इकोसिस्टम एक ऐसे एकाधिकार की ओर बढ़ रहा है, जहाँ केवल कुछ ही प्रभावशाली खिलाड़ी तकनीक की दिशा को नियंत्रित करते हैं।

विरोध की आंधी का सामना करते हुए, Anthropic ने पुष्टि की है कि वह अपनी राह बदल रहा है। प्रेस को दिए एक बयान में, कंपनी ने स्वीकार किया कि उसने गलत संतुलन बनाया था। अब उसने फ्रंटियर AI डेवलपमेंट से संबंधित सभी सुरक्षा उपायों को पारदर्शी बनाने का वादा किया है। यदि सिस्टम अब किसी उपयोगकर्ता को अत्यधिक सक्षम मॉडल बनाने का प्रयास करते हुए पहचानता है, तो वह एक स्पष्ट सूचना देगा—या तो अनुरोध को सीधे अस्वीकार कर देगा या उपयोगकर्ता को टूल के अधिक सीमित संस्करण पर रीडायरेक्ट कर देगा।

यह महत्वपूर्ण क्यों है

इस नीति का प्रभाव केवल एक साधारण सॉफ्टवेयर अपडेट से कहीं अधिक है। जैसे-जैसे Anthropic और OpenAI जैसी कंपनियां बड़े IPO की ओर देख रही हैं और नियामकों के बढ़ते दबाव का सामना कर रही हैं, सुरक्षा और पहुंच के बीच का तनाव चरम पर पहुँच गया है। यह घटना शोध समुदाय के भीतर बढ़ती चिंता को उजागर करती है: यदि शीर्ष प्रयोगशालाएं अपने मॉडलों के उपयोग को प्रतिबंधित करना जारी रखती हैं, तो हम एक ऐसे भविष्य के जोखिम में हैं जहाँ स्वतंत्र, ओपन-सोर्स AI प्रोजेक्ट्स को शुरुआत में ही दबा दिया जाएगा। यह घटना एक स्पष्ट याद दिलाती है कि हालांकि इन फर्मों के लिए 'सुरक्षा' घोषित लक्ष्य है, लेकिन जनता की सुरक्षा और बाजार के प्रभुत्व की रक्षा के बीच की रेखाएं धुंधली होती जा रही हैं।

क्या यह कदम डेवलपर समुदाय की चिंताओं को पूरी तरह शांत करेगा, यह देखना बाकी है। हालांकि Anthropic ने अपने संचार को सुधारने की कोशिश की है, लेकिन इस घटना ने यह सवाल छोड़ दिया है कि आधुनिक शोध को आधार देने वाले टूल्स पर निजी कंपनियों का कितना नियंत्रण होना चाहिए। जैसे-जैसे उद्योग परिपक्व हो रहा है, कॉर्पोरेट नियंत्रण और खुली नवाचार के बीच का संतुलन आर्टिफिशियल इंटेलिजेंस की वैश्विक दौड़ में सबसे विवादास्पद मुद्दा बना रहेगा।