यूज़र-जेनरेटेड इंटरनेट कंटेंट को रेगुलेट करना

28.11.2025

यूज़र-जेनरेटेड इंटरनेट कंटेंट को रेगुलेट करना

प्रसंग

नवंबर 2025 में, सुप्रीम कोर्ट ने सोशल मीडिया पर बढ़ते अश्लील, नुकसानदायक, गुमराह करने वाले और AI से मैनिपुलेटेड कंटेंट का हवाला देते हुए, सूचना और प्रसारण मंत्रालय से यूज़र-जनरेटेड कंटेंट के लिए एक इंडिपेंडेंट रेगुलेटर बनाने को कहा।

प्रमुख चिंताएँ

• हानिकारक सामग्री का प्रसार

YouTube जैसे प्लेटफॉर्म पर UGC में अक्सर अश्लील, घटिया, हिंसक, बदनाम करने वाला या कट्टरपंथी कंटेंट होता है जो लंबे समय तक ऑनलाइन रहता है और एक्शन लेने से पहले उसे बहुत ज़्यादा व्यूज़ मिलते हैं।

• कमज़ोर समूहों पर प्रभाव

साफ़ कंटेंट की वजह से टीनएजर्स को गलत सोच का सामना करना पड़ता है; स्टडीज़ में एग्रेसिव पोर्नोग्राफ़ी को हिंसा से जोड़ा गया है। महिलाएं, बच्चे और गांव के लोग ज़्यादा एक्सपोज़्ड रहते हैं और कम सुरक्षित रहते हैं।

• सीमांत सामग्री और असहमति

राजनीतिक असहमति सुरक्षित है, लेकिन बड़े पैमाने पर भड़काने वाला या भड़काऊ कंटेंट सुरक्षा की चिंता पैदा करता है और लोकतांत्रिक बातचीत में योगदान नहीं दे सकता है।

• प्रौद्योगिकी-संचालित जोखिम

AI से बने डीपफेक और सिंथेटिक मीडिया गलत जानकारी और नुकसान पहुंचाने वाले बिहेवियरल पैटर्न को बढ़ाते हैं।

कानूनी ढांचा

संवैधानिक प्रावधान

• अनुच्छेद 19(1)(ए): अभिव्यक्ति की स्वतंत्रता।
   
• अनुच्छेद 19(2): शालीनता, नैतिकता, सार्वजनिक व्यवस्था, मानहानि और सुरक्षा पर उचित प्रतिबंध।
   

वैधानिक ढांचा

• IT एक्ट 2000 : सेक्शन 67 और 67A अश्लील या सेक्सुअली साफ़ कंटेंट को टारगेट करते हैं।
   
• आईटी नियम 2021 : उचित जांच, शिकायत निवारण और टेकडाउन प्रोटोकॉल की आवश्यकता है।
   
• सुरक्षित बंदरगाह (धारा 79) : यदि उचित तत्परता का पालन किया जाता है तो मध्यस्थों की रक्षा करता है।
   

प्रस्तावित संशोधन

• आयु-आधारित सामग्री रेटिंग (U, U/A, A).
   
• अश्लीलता, स्पष्ट सामग्री और हानिकारक “राष्ट्र-विरोधी” सामग्री पर सख्त नियम।
   
• AI, डीपफेक और मैनिपुलेटेड मीडिया के लिए नैतिक नियम।
   

चुनौतियाँ और न्यायालय के निर्देश

• अप्रभावी स्व-नियमन

प्लेटफ़ॉर्म अक्सर टेकडाउन में देरी करते हैं और नुकसानदायक UGC के लिए जवाबदेही से बचते हैं।

• एक स्वतंत्र प्राधिकरण की आवश्यकता

कोर्ट ने ज्यूडिशियल, टेक्निकल और डोमेन एक्सपर्ट्स वाला एक रेगुलेटर बनाने का प्रस्ताव रखा है, जो राज्य या कॉर्पोरेट के असर से मुक्त हो।

• हितधारक परामर्श

NBDA, सिविल सोसाइटी, डिजिटल राइट्स ग्रुप्स और प्लेटफॉर्म्स से इनपुट लेने की सलाह दी गई।

• अधिकारों और सुरक्षा के बीच संतुलन

रेगुलेशन को फ्री स्पीच को दबाए बिना नुकसानदायक कंटेंट पर रोक लगानी चाहिए।

• सामग्री चेतावनियाँ और सुरक्षा लेबल

कोर्ट सेंसिटिव मटीरियल के लिए साफ़, उम्र के हिसाब से चेतावनी देने पर ज़ोर देते हैं।

आगे बढ़ने का रास्ता

• UGC की निगरानी और अपील के लिए एक कानूनी, स्वतंत्र रेगुलेटर बनाना।
   
• प्रोएक्टिव मॉनिटरिंग, एज-गेटिंग और टेकडाउन टाइमलाइन पर प्लेटफॉर्म की ड्यूटी को मजबूत करें।
   
• डीपफेक, चाइल्ड अब्यूज़ कंटेंट और वायलेंट मटीरियल का पता लगाने के लिए एडवांस्ड AI का इस्तेमाल करें।
   
• नुकसानदायक या छेड़छाड़ किए गए कंटेंट की पहचान करने के लिए डिजिटल लिटरेसी बढ़ाएं।
   
• वैध असहमति की रक्षा करते हुए अनुच्छेद 19(2) के अनुरूप आनुपातिक विनियमन सुनिश्चित करें।
   

निष्कर्ष

बोलने की आज़ादी को कम किए बिना नुकसानदायक ऑनलाइन कंटेंट को रोकने के लिए एक खास UGC रेगुलेटर ज़रूरी है। ट्रांसपेरेंट, इंडिपेंडेंट और टेक-इनेबल्ड निगरानी से ज़्यादा सुरक्षित डिजिटल जगहें बन सकती हैं और यूज़र की सुरक्षा के साथ संवैधानिक अधिकारों को बैलेंस किया जा सकता है।