AI Deepfake पर सरकार की बड़ी कार्रवाई: अब AI कंटेंट पर लेबल जरूरी, गैरकानूनी सामग्री 3 घंटे में हटानी होगी

इंटरनेट पर तेजी से बढ़ रहे डीपफेक वीडियो, फर्जी ऑडियो, नकली तस्वीरों और एआई से तैयार भ्रामक सामग्री पर लगाम लगाने के लिए केंद्र सरकार ने आईटी नियमों को और सख्त कर दिया है। नए प्रावधानों के तहत अब कृत्रिम बुद्धिमत्ता (AI) से तैयार किसी भी कंटेंट की स्पष्ट पहचान करना अनिवार्य होगा, ताकि आम लोग आसानी से समझ सकें कि सामग्री वास्तविक है या तकनीक की मदद से बनाई गई है।

सरकार का मानना है कि डीपफेक और एआई आधारित फर्जी सामग्री न केवल लोगों को गुमराह कर सकती है, बल्कि चुनाव, सार्वजनिक व्यवस्था, व्यक्तिगत प्रतिष्ठा और राष्ट्रीय सुरक्षा पर भी असर डाल सकती है। इसी को देखते हुए डिजिटल प्लेटफॉर्म्स और सोशल मीडिया कंपनियों की जिम्मेदारी बढ़ाई गई है।

लोकसभा में सरकार ने बताया क्या बदला

केंद्रीय इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी राज्य मंत्री जितिन प्रसाद ने लोकसभा में जानकारी दी कि सरकार डीपफेक से जुड़े खतरों को गंभीरता से ले रही है। उन्होंने कहा कि डीपफेक केवल नकली वीडियो तक सीमित नहीं है, बल्कि एआई की मदद से तैयार ऑडियो, तस्वीरें और टेक्स्ट सामग्री भी इसके दायरे में आती हैं।

सरकार ने सूचना प्रौद्योगिकी अधिनियम, 2000, भारतीय न्याय संहिता (BNS), 2023 और सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश एवं डिजिटल मीडिया आचार संहिता) नियम, 2021 के तहत उपलब्ध कानूनी ढांचे को और प्रभावी बनाने की दिशा में कदम उठाए हैं।

AI से बने कंटेंट पर अब स्पष्ट लेबल लगाना होगा

नए नियमों के अनुसार एआई से तैयार सामग्री पर स्पष्ट लेबल और पहचान योग्य मेटाडेटा देना आवश्यक होगा। इसका उद्देश्य यह सुनिश्चित करना है कि उपयोगकर्ता किसी वीडियो, फोटो, ऑडियो या लेख को देखते समय यह जान सकें कि वह वास्तविक है या एआई की मदद से तैयार किया गया है।

विशेषज्ञों का मानना है कि हाल के वर्षों में डीपफेक तकनीक इतनी उन्नत हो गई है कि आम लोगों के लिए असली और नकली सामग्री में अंतर करना मुश्किल हो गया है। ऐसे में लेबलिंग व्यवस्था पारदर्शिता बढ़ाने की दिशा में महत्वपूर्ण कदम मानी जा रही है।

सोशल मीडिया कंपनियों की बढ़ी जिम्मेदारी

नए नियमों के बाद सोशल मीडिया प्लेटफॉर्म्स को यह सुनिश्चित करना होगा कि उनके उपयोगकर्ता फर्जी पहचान, भ्रामक जानकारी, हिंसक सामग्री, बच्चों को नुकसान पहुंचाने वाले कंटेंट, अश्लील सामग्री और एआई आधारित प्रतिरूपण (Impersonation) से जुड़े नियमों की जानकारी रखें।

विशेष रूप से 50 लाख या उससे अधिक पंजीकृत उपयोगकर्ताओं वाले बड़े सोशल मीडिया मंचों को शिकायत अधिकारी नियुक्त करना, नियमित अनुपालन रिपोर्ट जारी करना और भारत में स्थानीय अधिकारियों की उपलब्धता सुनिश्चित करनी होगी। इसके अलावा उन्हें कानून प्रवर्तन एजेंसियों के साथ समन्वय भी बनाए रखना होगा।

गैरकानूनी कंटेंट हटाने की समयसीमा में बड़ा बदलाव

सरकार ने सबसे बड़ा बदलाव गैरकानूनी सामग्री हटाने की समयसीमा में किया है। पहले सरकार या अदालत के आदेश मिलने के बाद सामग्री हटाने के लिए 36 घंटे तक का समय उपलब्ध था। अब यह अवधि घटाकर केवल 3 घंटे कर दी गई है।

इसके अलावा संवेदनशील शिकायतों के निपटारे की समयसीमा को 72 घंटे से घटाकर 36 घंटे किया गया है। वहीं अत्यंत संवेदनशील मामलों में कार्रवाई के लिए अब अधिकतम 2 घंटे का समय दिया जाएगा।

सरकार का कहना है कि तेजी से फैलने वाले डिजिटल कंटेंट के दौर में त्वरित कार्रवाई जरूरी है, क्योंकि कुछ घंटों में ही फर्जी सामग्री लाखों लोगों तक पहुंच सकती है।

डीपफेक और गैर-सहमति वाली सामग्री पर विशेष निगरानी

नए प्रावधानों के तहत एआई की मदद से बनाई गई बाल यौन शोषण सामग्री, बिना सहमति साझा की गई अंतरंग तस्वीरें और वीडियो, तथा किसी व्यक्ति की पहचान का दुरुपयोग करके तैयार किए गए कंटेंट पर तुरंत कार्रवाई करनी होगी।

बड़े डिजिटल मंचों को ऐसे कंटेंट की पहचान के लिए स्वचालित निगरानी तंत्र और तकनीकी उपकरण भी लागू करने होंगे। इससे हानिकारक सामग्री के प्रसार को शुरुआती स्तर पर ही रोका जा सकेगा।

नियमों का उल्लंघन करने पर क्या होगा?

यदि कोई डिजिटल मंच या सोशल मीडिया कंपनी इन नियमों का पालन नहीं करती है, तो उसे सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मिलने वाली “सेफ हार्बर” यानी कानूनी सुरक्षा का लाभ खोना पड़ सकता है।

ऐसी स्थिति में संबंधित प्लेटफॉर्म के खिलाफ कानूनी और दंडात्मक कार्रवाई की जा सकती है। विशेषज्ञों के अनुसार यह प्रावधान कंपनियों को अधिक जवाबदेह बनाने में महत्वपूर्ण भूमिका निभाएगा।

डीपफेक से निपटने के लिए सरकार के अन्य कदम

सरकार ने बताया कि भारतीय साइबर अपराध समन्वय केंद्र (I4C), राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल, शिकायत अपीलीय समिति (GAC) और अन्य डिजिटल तंत्रों के माध्यम से साइबर अपराधों के खिलाफ कार्रवाई को मजबूत किया गया है।

नागरिक किसी भी साइबर अपराध या डीपफेक से संबंधित शिकायत National Cyber Crime Reporting Portal पर दर्ज कर सकते हैं तथा हेल्पलाइन 1930 पर सहायता प्राप्त कर सकते हैं।

इसके साथ ही IndiaAI Mission के तहत देश के कई प्रमुख संस्थानों में डीपफेक पहचानने वाली तकनीकों पर काम किया जा रहा है। इनमें Indian Institute of Technology Jodhpur, Indian Institute of Technology Madras और Indian Institute of Technology Kharagpur जैसे संस्थान शामिल हैं।

कौन-कौन से कानून लागू होंगे?

सरकार के अनुसार सूचना प्रौद्योगिकी अधिनियम, 2000 के तहत पहचान की चोरी, ऑनलाइन प्रतिरूपण, निजता के उल्लंघन और अश्लील सामग्री के प्रसार जैसे मामलों में कार्रवाई की जा सकती है। वहीं भारतीय न्याय संहिता, 2023 में धोखाधड़ी, झूठे इलेक्ट्रॉनिक रिकॉर्ड तैयार करने, दुष्प्रचार फैलाने और साइबर अपराध से जुड़े मामलों के लिए भी दंड का प्रावधान मौजूद है।

जागरूकता बढ़ाने पर भी जोर

कानूनी और तकनीकी उपायों के साथ-साथ सरकार जागरूकता अभियान भी चला रही है। साइबर सुरक्षा जागरूकता माह, सुरक्षित इंटरनेट दिवस, साइबर जागरूकता दिवस और अन्य अभियानों के माध्यम से लोगों को ऑनलाइन सुरक्षा के बारे में जानकारी दी जा रही है। वहीं भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया दल (CERT-In) समय-समय पर साइबर खतरों और डीपफेक से बचाव के लिए दिशा-निर्देश जारी करता है।

क्या है इसका असर?

एआई तकनीक के तेजी से विस्तार के साथ डीपफेक एक गंभीर चुनौती बनकर उभरा है। विशेषज्ञों का मानना है कि कंटेंट लेबलिंग, त्वरित कार्रवाई और सोशल मीडिया कंपनियों की बढ़ी जवाबदेही से फर्जी डिजिटल सामग्री के प्रसार को नियंत्रित करने में मदद मिल सकती है। हालांकि इसकी सफलता इस बात पर निर्भर करेगी कि प्लेटफॉर्म इन नियमों को कितनी प्रभावी तरीके से लागू करते हैं।