एल्गोरिदम का काला कोना: इंस्टाग्राम विज्ञापनों को लेकर सरकार ने मेटा को क्यों घेरा

इंस्टाग्राम पर पेड प्रमोशन (सशुल्क विज्ञापनों) में बाल यौन शोषण सामग्री सामने आने की खबरों के बाद नई दिल्ली ने टेक दिग्गज को सख्त नोटिस जारी किया है।

ऐसा लगता है कि डिजिटल सुरक्षा घेरे में एक बड़ी सेंध लग गई है। नई दिल्ली और सिलिकॉन वैली के बीच बढ़ते तनाव के बीच, भारत सरकार ने मेटा को एक सख्त नोटिस जारी किया है। इसमें इंस्टाग्राम पर पेड विज्ञापनों में सामने आ रही बाल यौन शोषण सामग्री (CSEAM) के लिए तत्काल स्पष्टीकरण मांगा गया है और इसे हटाने का निर्देश दिया गया है। एक ऐसा प्लेटफॉर्म जो अपनी उन्नत कंटेंट मॉडरेशन और ऑटोमेटेड फिल्टर पर गर्व करता है, वहां प्रायोजित सामग्री में इस तरह की घृणित सामग्री का दिखना—जिसे सैद्धांतिक रूप से उच्च स्तर की समीक्षा से गुजरना चाहिए—निगरानी में एक बड़ी विफलता है।

इस चूक की कार्यप्रणाली

इंडस्ट्री के गलियारों में चल रही खबरों से पुष्टि होती है कि सरकार का निर्देश केवल कंटेंट हटाने का अनुरोध नहीं, बल्कि जवाबदेही की औपचारिक मांग है। मुख्य समस्या विज्ञापन आर्किटेक्चर में है; जहां ऑर्गेनिक पोस्ट को एआई द्वारा मॉडरेट किया जाता है, वहीं पेड विज्ञापन लाइव होने से पहले एक विशिष्ट समीक्षा प्रक्रिया से गुजरते हैं। जब CSEAM इन सुरक्षा घेरों को पार कर जाता है, तो यह मेटा के एल्गोरिदम के काम करने के तरीके में एक व्यवस्थित विफलता की ओर इशारा करता है, जो मोनेटाइज्ड कंटेंट को प्राथमिकता देने में या उसे फिल्टर करने में नाकाम रहा है।

सोशल मीडिया दिग्गज के लिए यह कोई अकेली घटना नहीं है। मेटा लंबे समय से बच्चों की सुरक्षा को लेकर वैश्विक स्तर पर लड़ाई लड़ रहा है। न्यू मैक्सिको में प्लेटफॉर्म की लत से जुड़े कानूनी विवादों से लेकर अपनी ही सेवाओं के खिलाफ मुकदमे करने वाले वादियों को भर्ती करने वाले विज्ञापनों को चुपचाप हटाने तक, कंपनी खुद को नियामकों के बीच घिरी हुई पा रही है, जो अब वादों से थक चुके हैं और सुरक्षा का प्रमाण मांग रहे हैं।

यह क्यों महत्वपूर्ण है

यह खींचतान इस बात का संकेत है कि दुनिया भर में सरकारें 'बिग टेक' के प्रति अपना रुख बदल रही हैं। सेल्फ-रेगुलेशन (स्व-नियमन) का दौर प्रभावी रूप से समाप्त हो गया है। यह नोटिस जारी करके सरकार यह संकेत दे रही है कि प्लेटफॉर्म्स को उनके द्वारा होस्ट की जाने वाली सामग्री के लिए जो छूट मिलती थी, वह अब इस तरह की सामग्री की गंभीरता के कारण खत्म हो रही है। जब एल्गोरिदम केवल एंगेजमेंट और राजस्व को प्राथमिकता देते हैं, तो वे अक्सर दुर्भावनापूर्ण तत्वों के लिए उन उपकरणों का दुरुपयोग करने का रास्ता खोल देते हैं जो वैध व्यापार के लिए बनाए गए थे।

एक आम भारतीय उपयोगकर्ता के लिए, इसके परिणाम चिंताजनक हैं। यदि एक सशुल्क विज्ञापन—जिसमें विश्वसनीयता का एक आवरण होता है—ऐसी अवैध सामग्री को जगह दे सकता है, तो यह सवाल उठाता है कि क्या ये प्लेटफॉर्म वास्तव में उस पैमाने को संभालने के लिए तैयार हैं जिसे उन्होंने खुद बनाया है। सरकार का यह कदम एक स्पष्ट चेतावनी है: यदि मेटा अपने डिजिटल घर को साफ नहीं कर सकता, तो आने वाले महीनों में नियामक हथौड़ा और जोर से चलेगा। उम्मीद है कि इससे देश के मौजूदा आईटी नियमों में संशोधन का एक नया दौर शुरू होगा, जिसका उद्देश्य उन प्लेटफॉर्म्स की जवाबदेही तय करना होगा जो अपने सबसे युवा उपयोगकर्ताओं की सुरक्षा करने में विफल रहते हैं।