Meta CSAM Action: भारत में सोशल मीडिया प्लेटफॉर्म्स पर बच्चों से जुड़े यौन शोषण वाले गैरकानूनी कंटेंट को लेकर सरकार का रुख लगातार सख्त होता जा रहा है। हालिया सरकारी बातचीत में Meta से कंटेंट मॉडरेशन, CSAM और अन्य गैरकानूनी सामग्री के खिलाफ ज्यादा प्रभावी कार्रवाई की अपेक्षा जताई गई है। सरकारी सूत्रों के मुताबिक, Meta ने ऐसे कंटेंट की पहचान और कार्रवाई से जुड़े अपने सिस्टम को मजबूत करने की दिशा में कदम उठाए हैं।
नई दिल्ली। सोशल मीडिया पर बच्चों की सुरक्षा से जुड़ा मुद्दा अब भारत में टेक कंपनियों की जवाबदेही का एक अहम हिस्सा बन गया है। खासतौर पर Child Sexual Abuse Material यानी CSAM को लेकर सरकार और सोशल मीडिया प्लेटफॉर्म्स के बीच निगरानी और अनुपालन का दबाव बढ़ा है। Meta के Facebook और Instagram जैसे प्लेटफॉर्म्स पर इस तरह की गैरकानूनी सामग्री को लेकर सरकार ने गंभीर चिंता जताई है।
हालिया घटनाक्रम में सरकार की ओर से Meta को यह स्पष्ट संदेश दिया गया कि भारत में काम करने वाले प्लेटफॉर्म्स को भारतीय कानूनों और कंटेंट मॉडरेशन से जुड़े नियमों का पालन करना होगा। रिपोर्टों के मुताबिक, सरकार और Meta के अधिकारियों के बीच हुई बातचीत में CSAM के साथ-साथ डीपफेक और प्लेटफॉर्म पर कंटेंट मॉडरेशन की प्रक्रियाओं को लेकर भी चर्चा हुई।
इस पूरे मामले को समझने के लिए सिर्फ यह जानना काफी नहीं है कि Meta ने कुछ कंटेंट हटाया या नहीं। असली सवाल यह है कि ऐसे कंटेंट की पहचान कैसे होती है, उसे दोबारा फैलने से रोकने के लिए प्लेटफॉर्म क्या कर सकते हैं, सरकार के पास कौन से कानूनी अधिकार हैं और Safe Harbour जैसी कानूनी सुरक्षा का इससे क्या संबंध है।
Meta CSAM Action मामला आखिर क्या है?
CSAM का मतलब Child Sexual Abuse Material है। यह बच्चों के यौन शोषण या उससे जुड़ी गैरकानूनी सामग्री को संदर्भित करता है। ऐसी सामग्री का ऑनलाइन प्रसार बच्चों की सुरक्षा के लिए गंभीर खतरा माना जाता है और इससे निपटने के लिए सोशल मीडिया प्लेटफॉर्म्स पर मजबूत मॉडरेशन सिस्टम की जरूरत होती है।
भारत सरकार की हालिया सख्ती ऐसे समय में सामने आई है जब सोशल मीडिया कंपनियों से गैरकानूनी ऑनलाइन सामग्री पर तेज कार्रवाई की अपेक्षा बढ़ रही है। Reuters की रिपोर्ट के मुताबिक, जुलाई 2026 में सरकार ने Meta से Instagram पर CSAM को बढ़ावा देने वाली सामग्री और विज्ञापनों को हटाने तथा यह स्पष्टीकरण देने को कहा था कि ऐसी सामग्री प्लेटफॉर्म पर कैसे दिखाई दी। इसके बाद Meta के अधिकारियों और सरकारी अधिकारियों के बीच बातचीत हुई।
Meta ने पहले भी CSAM को लेकर अपनी Zero-Tolerance Policy की बात कही है और कंटेंट डिटेक्शन सिस्टम को मजबूत करने की जानकारी दी है। लेकिन सरकार की चिंता सिर्फ एक-दो पोस्ट हटाने तक सीमित नहीं है। सवाल यह है कि प्लेटफॉर्म की तकनीकी व्यवस्था ऐसी सामग्री को शुरुआत में ही पहचानने और उसके दोबारा प्रसार को रोकने में कितनी प्रभावी है।
सरकार का फोकस सिर्फ कंटेंट हटाने पर क्यों नहीं है?
यही वजह है कि कंटेंट मॉडरेशन सिस्टम की क्षमता महत्वपूर्ण हो जाती है। प्लेटफॉर्म्स को ऐसी तकनीक विकसित करनी होती है जो संदिग्ध सामग्री की पहचान कर सके, उसे तेजी से समीक्षा के लिए भेज सके और कानून का उल्लंघन होने पर आवश्यक कार्रवाई कर सके।
सरकार की हालिया बातचीत में भी इसी व्यापक जवाबदेही पर जोर दिखाई देता है। सरकारी सूत्रों के मुताबिक, Meta के साथ बातचीत में कंटेंट मॉडरेशन और स्थानीय स्तर पर नियमों के पालन की जरूरत पर जोर दिया गया।
भारत में सोशल मीडिया कंपनियों पर कौन से नियम लागू होते हैं?
भारत में सोशल मीडिया और डिजिटल प्लेटफॉर्म्स के लिए Information Technology (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021 लागू हैं। इन नियमों में समय-समय पर बदलाव किए गए हैं।
MeitY के उपलब्ध आधिकारिक दस्तावेज के मुताबिक, 2026 में IT Rules में महत्वपूर्ण संशोधन किए गए हैं। इनमें सिंथेटिकली जनरेटेड इंफॉर्मेशन यानी AI या तकनीकी माध्यमों से तैयार सामग्री को लेकर भी अतिरिक्त अनुपालन आवश्यकताएं जोड़ी गई हैं।
यह बदलाव इसलिए महत्वपूर्ण हैं क्योंकि आज गैरकानूनी सामग्री सिर्फ सामान्य फोटो या वीडियो तक सीमित नहीं है। AI और दूसरे डिजिटल टूल्स की मदद से ऐसी सामग्री को बनाया, बदला या फैलाया भी जा सकता है। इसलिए प्लेटफॉर्म्स के लिए केवल पुराने कंटेंट की पहचान करना ही पर्याप्त नहीं रह गया है।
AI से बनाए गए CSAM पर भी सख्त नियम
2026 में अपडेट किए गए IT Rules में सिंथेटिकली जनरेटेड इंफॉर्मेशन के लिए विशेष प्रावधान जोड़े गए हैं।
आधिकारिक नियमों के अनुसार, जिन प्लेटफॉर्म्स पर ऐसी सामग्री बनाने, बदलने या शेयर करने की सुविधा उपलब्ध है, उन्हें उचित तकनीकी उपाय लागू करने होंगे ताकि कानून का उल्लंघन करने वाली सिंथेटिक सामग्री को रोका जा सके। इसमें child sexual exploitative and abuse material भी स्पष्ट रूप से शामिल है।
इसका मतलब यह है कि जिम्मेदारी केवल पारंपरिक फोटो या वीडियो की पहचान तक सीमित नहीं है। प्लेटफॉर्म्स को AI से तैयार या बदली गई गैरकानूनी सामग्री के खिलाफ भी तकनीकी सुरक्षा व्यवस्था विकसित करनी होगी।
यह बदलाव आने वाले समय में और महत्वपूर्ण हो सकता है क्योंकि जनरेटिव AI की मदद से वास्तविक और कृत्रिम सामग्री के बीच अंतर करना मुश्किल हो रहा है।
Safe Harbour क्या है और Meta के लिए क्यों महत्वपूर्ण है?
Safe Harbour इंटरनेट प्लेटफॉर्म्स को एक कानूनी सुरक्षा देने की अवधारणा है। सामान्य रूप से इसका उद्देश्य यह है कि किसी प्लेटफॉर्म पर यूजर्स द्वारा पोस्ट की गई हर सामग्री के लिए प्लेटफॉर्म को सीधे उसी तरह जिम्मेदार न ठहराया जाए, बशर्ते वह कानून में तय शर्तों और due diligence requirements का पालन करता हो।
लेकिन यह सुरक्षा बिना शर्त नहीं होती।
हालिया सरकारी बातचीत में सरकार की ओर से Meta को यह संदेश दिया गया कि भारतीय कानूनों का पालन नहीं करने की स्थिति में Safe Harbour सुरक्षा पर सवाल उठ सकता है। सरकारी सूत्रों के हवाले से रिपोर्ट में कहा गया कि प्लेटफॉर्म को भारतीय कानून के अनुरूप काम करना होगा।
यही कारण है कि CSAM जैसे गंभीर गैरकानूनी कंटेंट के मामले में प्लेटफॉर्म के लिए नियमों का पालन सिर्फ एक तकनीकी या कॉर्पोरेट जिम्मेदारी नहीं रह जाता, बल्कि यह कानूनी सुरक्षा से भी जुड़ जाता है।
Section 69A का क्या मतलब है?
Information Technology Act की Section 69A सरकार को कुछ परिस्थितियों में ऑनलाइन सूचना तक सार्वजनिक पहुंच को ब्लॉक करने के लिए कानूनी व्यवस्था उपलब्ध कराती है। इसके लिए अलग नियम और प्रक्रिया भी निर्धारित हैं।
MeitY की आधिकारिक वेबसाइट पर Section 69A और उससे संबंधित Blocking Rules की जानकारी उपलब्ध है।
हालांकि, यह समझना जरूरी है कि CSAM के खिलाफ प्लेटफॉर्म की रोजमर्रा की कंटेंट मॉडरेशन जिम्मेदारी को केवल Section 69A से जोड़कर नहीं देखा जाना चाहिए। सोशल मीडिया कंपनियों पर IT Rules के तहत भी due diligence और शिकायतों तथा सरकारी निर्देशों से संबंधित कई जिम्मेदारियां होती हैं।
इसलिए किसी गैरकानूनी कंटेंट पर कार्रवाई का पूरा कानूनी ढांचा कई प्रावधानों और परिस्थितियों पर निर्भर कर सकता है।
2026 में IT Rules में क्या महत्वपूर्ण बदलाव हुआ?
2026 में अपडेट किए गए IT Rules में गैरकानूनी सामग्री से संबंधित कार्रवाई की समयसीमा और AI-generated या synthetically generated information से जुड़े प्रावधानों को अधिक स्पष्ट किया गया है।
MeitY के आधिकारिक दस्तावेज में बताया गया है कि कुछ शिकायतों के संबंध में कार्रवाई की समयसीमा को पहले की तुलना में कम किया गया है। वहीं 2026 में जोड़े गए प्रावधान सिंथेटिक सामग्री के जरिए कानून तोड़ने वाली सामग्री को रोकने के लिए तकनीकी उपायों पर जोर देते हैं।
यह बदलाव सोशल मीडिया प्लेटफॉर्म्स के लिए एक महत्वपूर्ण संकेत है कि केवल शिकायत आने के बाद कार्रवाई करना पर्याप्त नहीं माना जा सकता। प्लेटफॉर्म्स को अपने सिस्टम में ऐसी तकनीकी क्षमता भी विकसित करनी होगी जिससे गंभीर गैरकानूनी सामग्री को जल्दी पहचाना और रोका जा सके।
Meta को किन क्षेत्रों में सुधार करना होगा?
हालिया घटनाक्रम को देखते हुए Meta के सामने सबसे बड़ी चुनौती कंटेंट मॉडरेशन सिस्टम को मजबूत करने की है।
सरकार की चिंता मुख्य रूप से इस बात को लेकर है कि गंभीर गैरकानूनी सामग्री प्लेटफॉर्म तक पहुंच ही कैसे पाती है। इसलिए एक प्रभावी सिस्टम में कंटेंट की पहचान, रिपोर्टिंग, समीक्षा, हटाने और दोबारा अपलोड होने से रोकने जैसे कई स्तर होने चाहिए।
इसके अलावा मानव मॉडरेटर और ऑटोमेटेड सिस्टम के बीच सही तालमेल भी जरूरी है। हर सामग्री को केवल AI के भरोसे जांचना हमेशा पर्याप्त नहीं हो सकता और हर मामले की मैनुअल समीक्षा करना बड़े प्लेटफॉर्म के लिए व्यावहारिक नहीं है।
इसलिए तकनीक और मानव समीक्षा दोनों का संतुलित इस्तेमाल महत्वपूर्ण हो जाता है।
क्या सिर्फ पोस्ट डिलीट करना काफी है?
नहीं। किसी पोस्ट को हटाना जरूरी कदम हो सकता है, लेकिन CSAM जैसे मामलों में व्यापक रोकथाम ज्यादा महत्वपूर्ण है।
अगर किसी गैरकानूनी सामग्री की कॉपी अलग-अलग अकाउंट से बार-बार अपलोड होती रहे तो प्लेटफॉर्म को ऐसे कंटेंट की पहचान और पुनः प्रसार रोकने के लिए अतिरिक्त तकनीकी व्यवस्था की जरूरत पड़ती है।
इसी वजह से बड़े सोशल मीडिया प्लेटफॉर्म्स आमतौर पर कंटेंट डिटेक्शन, रिपोर्टिंग सिस्टम, अकाउंट कार्रवाई और अन्य तकनीकी उपायों का इस्तेमाल करते हैं।
भारत सरकार की मौजूदा सख्ती का एक महत्वपूर्ण पहलू यही है कि प्लेटफॉर्म की पूरी moderation व्यवस्था जवाबदेह और प्रभावी हो।
बच्चों की ऑनलाइन सुरक्षा का मुद्दा इतना महत्वपूर्ण क्यों है?
बच्चों से जुड़ी गैरकानूनी सामग्री का ऑनलाइन प्रसार केवल डिजिटल समस्या नहीं है। इसके पीछे वास्तविक बच्चों का शोषण और गंभीर अपराध हो सकते हैं।
एक बार कोई सामग्री इंटरनेट पर फैलने के बाद उसे पूरी तरह हटाना मुश्किल हो सकता है। इसलिए रोकथाम, त्वरित पहचान और तेज कार्रवाई का महत्व बहुत ज्यादा है।
सोशल मीडिया प्लेटफॉर्म्स पर करोड़ों यूजर्स मौजूद हैं। ऐसे में किसी भी गंभीर गैरकानूनी सामग्री के बड़े पैमाने पर फैलने की संभावना को देखते हुए प्लेटफॉर्म की जिम्मेदारी और बढ़ जाती है।
सरकार और टेक कंपनियों के बीच टकराव क्यों बढ़ रहा है?
भारत दुनिया के सबसे बड़े डिजिटल बाजारों में से एक है। यहां करोड़ों लोग सोशल मीडिया और मैसेजिंग प्लेटफॉर्म का इस्तेमाल करते हैं। ऐसे में सरकार चाहती है कि बड़ी टेक कंपनियां भारतीय कानूनों और स्थानीय परिस्थितियों के अनुसार अपनी सेवाओं को संचालित करें।
दूसरी तरफ टेक कंपनियों को दुनिया के अलग-अलग देशों के कानून, प्राइवेसी, अभिव्यक्ति की स्वतंत्रता और तकनीकी सीमाओं के बीच संतुलन बनाना पड़ता है।
लेकिन CSAM जैसे मामलों में सरकार का रुख अपेक्षाकृत स्पष्ट और सख्त है। बच्चों की सुरक्षा से जुड़ी गैरकानूनी सामग्री को रोकना प्लेटफॉर्म की प्राथमिक जिम्मेदारियों में शामिल होना चाहिए।
हालिया घटनाक्रम इसी बढ़ती जवाबदेही की ओर संकेत करता है।
Meta के लिए यह मामला कितना गंभीर है?
Meta के लिए यह मामला इसलिए महत्वपूर्ण है क्योंकि कंपनी भारत में बड़े पैमाने पर Facebook और Instagram जैसी सेवाएं संचालित करती है।
सरकार की ओर से Safe Harbour को लेकर चेतावनी और कंटेंट मॉडरेशन पर सवाल प्लेटफॉर्म के लिए कानूनी और परिचालन दोनों स्तरों पर गंभीर विषय हैं।
Reuters की रिपोर्ट के अनुसार, अगस्त में हुई बातचीत के दौरान Meta के CEO Mark Zuckerberg की ओर से भारतीय सरकार के सामने CSAM, डीपफेक और प्लेटफॉर्म से जुड़ी operational errors को लेकर माफी की बात सामने आई थी।
हालांकि किसी भी कंपनी के लिए यह कहना पर्याप्त नहीं होगा कि वह गंभीर गैरकानूनी सामग्री के खिलाफ Zero-Tolerance Policy रखती है। असली चुनौती यह सुनिश्चित करना है कि नीति वास्तविक प्लेटफॉर्म संचालन में भी प्रभावी तरीके से लागू हो।
यूजर्स की भी है महत्वपूर्ण भूमिका
ऑनलाइन सुरक्षा की जिम्मेदारी केवल सोशल मीडिया कंपनियों या सरकार की नहीं है। यूजर्स भी संदिग्ध और गैरकानूनी सामग्री को आगे शेयर न करके महत्वपूर्ण भूमिका निभा सकते हैं।
अगर किसी प्लेटफॉर्म पर बच्चों से जुड़े यौन शोषण वाले कंटेंट का सामना होता है तो उसे डाउनलोड, सेव या आगे शेयर करने के बजाय संबंधित प्लेटफॉर्म के रिपोर्टिंग सिस्टम और जरूरत पड़ने पर कानून प्रवर्तन एजेंसियों को सूचित करना ज्यादा उचित है।
ऐसी सामग्री को आगे फैलाना पीड़ित के लिए नुकसान को और बढ़ा सकता है।
सोशल मीडिया कंपनियों के लिए आगे की चुनौती
आने वाले समय में सोशल मीडिया प्लेटफॉर्म्स को तीन स्तरों पर काम करना होगा। पहला, गैरकानूनी सामग्री की पहचान को ज्यादा प्रभावी बनाना। दूसरा, रिपोर्ट मिलने के बाद समय पर कार्रवाई करना। तीसरा, एक बार हटाई गई गंभीर सामग्री के दोबारा प्रसार को रोकने के लिए तकनीकी उपाय मजबूत करना।
AI-generated content के बढ़ते इस्तेमाल के कारण यह काम और जटिल होने वाला है। 2026 के IT Rules में भी सिंथेटिकली जनरेटेड इंफॉर्मेशन से जुड़े प्रावधान इसी बदलते डिजिटल माहौल को ध्यान में रखते हैं।
सरकार के लिए आगे क्या चुनौती है?
सरकार के सामने भी संतुलन की चुनौती है। एक तरफ बच्चों की सुरक्षा और गैरकानूनी कंटेंट को रोकना जरूरी है, वहीं दूसरी तरफ प्लेटफॉर्म रेगुलेशन ऐसा होना चाहिए जिससे वैध अभिव्यक्ति और यूजर्स के अधिकारों पर अनावश्यक असर न पड़े।
इसलिए स्पष्ट नियम, पारदर्शी प्रक्रिया और जवाबदेही का संतुलन जरूरी है।
Section 69A के तहत ब्लॉकिंग की व्यवस्था और IT Rules के तहत इंटरमीडियरी की जिम्मेदारियां अलग-अलग कानूनी संदर्भों में काम करती हैं। इसलिए किसी भी कार्रवाई को उसके संबंधित कानूनी प्रावधानों के संदर्भ में ही समझना चाहिए।
निष्कर्ष
Meta के खिलाफ भारत सरकार की सख्ती केवल एक सोशल मीडिया कंपनी के खिलाफ कार्रवाई के तौर पर नहीं देखी जानी चाहिए। यह भारत में डिजिटल प्लेटफॉर्म्स की बढ़ती जवाबदेही का भी संकेत है।
CSAM जैसे गंभीर मामलों में प्लेटफॉर्म्स से तेज और प्रभावी कंटेंट मॉडरेशन की उम्मीद स्वाभाविक है। सरकार की हालिया बातचीत में Safe Harbour, कंटेंट मॉडरेशन और भारतीय कानूनों के पालन पर जोर दिया गया है।
2026 में IT Rules में किए गए बदलावों ने AI और सिंथेटिकली जनरेटेड कंटेंट से जुड़ी जिम्मेदारियों को भी ज्यादा स्पष्ट किया है। ऐसे में Meta समेत बड़ी टेक कंपनियों के लिए आने वाला समय सिर्फ नए फीचर्स और AI तकनीक विकसित करने का नहीं, बल्कि उन्हें सुरक्षित और जिम्मेदार तरीके से लागू करने का भी है।
सबसे महत्वपूर्ण बात यह है कि बच्चों की सुरक्षा से जुड़े मामलों में प्लेटफॉर्म की तकनीकी क्षमता, मानव मॉडरेशन, रिपोर्टिंग सिस्टम और कानून का पालन—इन सभी का प्रभावी तरीके से काम करना जरूरी है। अगर सोशल मीडिया कंपनियां इस दिशा में मजबूत व्यवस्था बनाती हैं, तो इससे इंटरनेट को बच्चों और परिवारों के लिए अधिक सुरक्षित बनाने में मदद मिल सकती है।