'हैलुसिनेशन' स्कैंडल: फैक्ट-चेक के बाद KPMG ने अपनी प्रमुख 'एजेंटिक AI' रिपोर्ट वापस ली

ग्लोबल प्रोफेशनल सर्विसेज दिग्गज KPMG को एक हाई-प्रोफाइल रिपोर्ट वापस लेने के लिए मजबूर होना पड़ा है, क्योंकि जिन कंपनियों का इसमें जिक्र था, उन्होंने रिपोर्ट की केस स्टडीज को पूरी तरह से मनगढ़ंत बताया है।

दशकों से, 'बिग फोर' कंपनियां कॉर्पोरेट रिसर्च के लिए गोल्ड स्टैंडर्ड रही हैं, जो ऐसा डेटा प्रदान करती हैं जिस पर बोर्ड और सरकारें अपनी रणनीतियां तय करने के लिए भरोसा करती हैं। लेकिन इस हफ्ते, उनकी इस प्रतिष्ठा को बड़ा झटका लगा है। KPMG को अपनी वेबसाइट से 'रीडिफाइनिंग एक्सीलेंस इन द एज ऑफ एजेंटिक AI' शीर्षक वाली अपनी प्रमुख रिपोर्ट को हटाना पड़ा, क्योंकि जिन कंपनियों को इसमें शामिल किया गया था, उन्होंने सार्वजनिक रूप से इन निष्कर्षों को खारिज कर दिया।

यह रिपोर्ट, जिसमें यह दावा किया गया था कि कैसे प्रमुख संस्थान जटिल कार्यों को संभालने के लिए 'AI एजेंट्स' का सफलतापूर्वक उपयोग कर रहे हैं, पूरी तरह से काल्पनिक निकली। स्विस बैंक UBS से लेकर यूके की नेशनल हेल्थ सर्विस (NHS) और ट्रांसपोर्ट फॉर लंदन (TfL) तक, रिपोर्ट में नामित संस्थानों ने तुरंत इसका विरोध किया। उन्होंने न केवल निष्कर्षों से असहमति जताई, बल्कि यह भी कहा कि दावे तथ्यात्मक रूप से गलत थे और कुछ मामलों में तो उनके वास्तविक कामकाज से इनका कोई लेना-देना ही नहीं था।

जब मशीनें लिखती हैं 'सच'

एक शीर्ष फर्म से इतनी बड़ी गलती कैसे हो गई? GPTZero की टीम सहित, जिन्होंने सबसे पहले इन त्रुटियों को उजागर किया था, टेक शोधकर्ताओं का मानना है कि KPMG ने उसी तकनीक पर भरोसा किया जिसका वह विश्लेषण करने का दावा कर रही थी। ऐसा लगता है कि रिपोर्ट को जनरेटिव मॉडल का उपयोग करके तैयार किया गया था, जिसने 'हैलुसिनेट' किया—यानी आत्मविश्वास के साथ ऐसी सफलता की कहानियां गढ़ लीं जिनका कोई अस्तित्व ही नहीं था।

इसमें दी गई गलतियां काफी स्पष्ट थीं। रिपोर्ट में दावा किया गया था कि UBS ने एक कस्टम माइक्रोसॉफ्ट प्लेटफॉर्म का उपयोग करके अपने निवेश सलाहकार सिस्टम में AI एजेंट्स को एकीकृत किया है। UBS के प्रवक्ता ने इसे पूरी तरह गलत बताया। इसी तरह, NHS ग्रेटर मैनचेस्टर ने स्पष्ट किया कि मरीज के डेटा को ऑटोमेट करने और रीडमिशन की भविष्यवाणी करने के लिए AI का उपयोग करने के उनके दावे उनके वास्तविक कार्यप्रवाह से मेल नहीं खाते। TfL ने भी कंजेशन कोऑर्डिनेशन के लिए AI के उपयोग से संबंधित दावों को भ्रामक करार दिया।

बड़ी तस्वीर: यह मामला महत्वपूर्ण क्यों है?

यह घटना कोई अकेली तकनीकी खराबी नहीं है; यह उस उद्योग का लक्षण है जो सटीकता की कीमत पर 'AI-रेडी' दिखने की होड़ में लगा है। जब प्रोफेशनल सर्विसेज फर्म—जिनका मुख्य उत्पाद ही भरोसा और सत्यापन है—अपनी रिसर्च को उन्हीं 'ब्लैक-बॉक्स' मॉडल्स को आउटसोर्स करने लगती हैं जिन्हें वे खुद ग्राहकों को बेच रही हैं, तो जवाबदेही का चक्र टूट जाता है।

हम 'पॉइजनिंग द वेल' (कुएं में जहर) जैसा प्रभाव देख रहे हैं। जब वैश्विक कंसल्टेंसी फर्म अपने प्रकाशनों की बुनियादी तथ्यात्मक सटीकता की जांच करने में विफल रहती हैं, तो वे पूरी डिजिटल ट्रांसफॉर्मेशन की विश्वसनीयता को कमजोर करती हैं। प्रतिद्वंद्वी फर्म EY द्वारा हाल ही में इसी तरह की रिपोर्ट वापस लेने के बाद, यह घटना क्वालिटी कंट्रोल में एक प्रणालीगत विफलता की ओर इशारा करती है। व्यवसायों के लिए सबक साफ है: एजेंटिक AI को अपनाने की जल्दबाजी में, दिग्गज कंपनियां भी अपनी आलोचनात्मक सोच (क्रिटिकल थिंकिंग) का उपयोग करना भूल रही हैं।