भारत में एआई का दुरुपयोग: इस्लामोफोबिया फैलाने वाला नया डिजिटल हथियार

वॉशिंगटन डीसी स्थित सेंटर फॉर द स्टडी ऑफ ऑर्गनाइज्ड हेट (CSOH) की एक नई रिपोर्ट ने भारत के डिजिटल परिदृश्य में एआई-जनित छवियों (AI-generated imagery) के खतरनाक इस्तेमाल का खुलासा किया है।

“AI-Generated Imagery and the New Frontier of Islamophobia in India” शीर्षक से जारी यह रिपोर्ट दिखाती है कि जेनरेटिव एआई टूल्स (GAI Tools) का इस्तेमाल मुसलमानों को निशाना बनाकर घृणा फैलाने में किया जा रहा है।

मई 2023 से मई 2025 के बीच 297 सार्वजनिक अकाउंट्स से एकत्रित 1,326 एआई-जनित पोस्ट्स के विश्लेषण में सामने आया कि इन सामग्रियों में मुसलमानों को हिंसक, अनैतिक और राष्ट्रीय सुरक्षा के लिए खतरा बताया गया है। इससे भारत का डिजिटल स्पेस और अधिक ध्रुवीकृत हो रहा है तथा वास्तविक जीवन में हिंसा और भेदभाव को बढ़ावा मिल रहा है।

रिपोर्ट ने चेतावनी दी है कि सस्ते एआई टूल्स और चैटजीपीटी जैसे सब्सक्रिप्शन मॉडल्स के चलते ऐसी सामग्री का प्रसार आने वाले समय में और तेज़ होगा।

वैश्विक संदर्भ और भारत की स्थिति

2022 में Midjourney, Stable Diffusion और DALL-E जैसे टूल्स के आने के बाद एआई इमेजरी ने वैश्विक स्तर पर लोकप्रियता पाई। भारत, जहां 90 करोड़ से अधिक इंटरनेट यूजर्स हैं, अब इन टूल्स के सबसे बड़े उपयोगकर्ताओं में है।

लोकलसर्कल्स के सर्वे के अनुसार, करीब 2.2 करोड़ भारतीय इमेज क्रिएशन के लिए एआई प्लेटफॉर्म्स का उपयोग करते हैं। लेकिन रिपोर्ट के मुताबिक, इसका इस्तेमाल कई बार “घृणा फैलाने वाले उद्देश्यों” के लिए किया जा रहा है, विशेषकर हिंदू फार-राइट ग्रुप्स द्वारा मुसलमानों, ईसाइयों और दलितों को निशाना बनाकर।

रिपोर्ट में “AI-generated hate content” को ऐसी सामग्री बताया गया है जो किसी संरक्षित समूह के खिलाफ नकारात्मक स्टीरियोटाइप, डिह्यूमनाइजेशन या हिंसा भड़काने के लिए बनाई जाती है।

भारत में यह प्रवृत्ति 20 करोड़ मुसलमानों के खिलाफ फैल रही है, जो सामाजिक एकता, धर्मनिरपेक्षता और लोकतंत्र के लिए गंभीर खतरा बन रही है।

रिपोर्ट की मेथडोलॉजी

CSOH टीम ने purposive sampling के जरिए 297 अकाउंट्स चुने जो X (पूर्व ट्विटर), फेसबुक और इंस्टाग्राम पर सक्रिय थे। इन अकाउंट्स की पोस्ट्स (मई 2023 – मई 2025) का विश्लेषण किया गया, जिनमें हिंदी और अंग्रेजी दोनों भाषाओं की सामग्री शामिल थी।

1,326 एआई-जनित पोस्ट्स की पहचान 99% सटीकता वाले एआई-डिटेक्शन टूल से की गई। हालांकि रिपोर्ट में यह भी माना गया है कि इसमें निजी ग्रुप्स या अन्य भाषाओं की सामग्री शामिल नहीं थी, फिर भी यह अध्ययन व्यापक रुझानों को स्पष्ट करता है।

डेटा से उभरे पैटर्न

इन 1,326 पोस्ट्स ने कुल 27.3 मिलियन एंगेजमेंट्स प्राप्त किए:

X (Twitter) – 509 पोस्ट्स से 24.9 मिलियन

Instagram – 462 पोस्ट्स से 1.8 मिलियन

Facebook – 355 पोस्ट्स से 1.43 लाख

सबसे अधिक एंगेजमेंट इंस्टाग्राम पर रहा, जिससे स्पष्ट है कि विजुअल कंटेंट युवा यूजर्स के बीच तेजी से फैलता है।

मुख्य थीम्स:

1. मुस्लिम महिलाओं का सेक्शुअलाइजेशन – 317 पोस्ट्स (6.7 मिलियन एंगेजमेंट्स)
2. डिह्यूमनाइजिंग नैरेटिव्स – 291 पोस्ट्स (6.4 मिलियन)
3. कॉन्स्पिरेसी थ्योरीज (लव/रेल/पॉपुलेशन जिहाद) – 457 पोस्ट्स (6 मिलियन)
4. हिंसक छवियों का एस्थेटिक प्रस्तुतीकरण – 134 पोस्ट्स (6 मिलियन)

एआई के जरिए फैलाया जा रहा इस्लामोफोबिया

रिपोर्ट में बताया गया है कि 2023 के बाद से एआई टूल्स के प्रयोग में तेजी आई और 2024 के मध्य में इसके जरिए “रेल जिहाद”, “लव जिहाद” और “पॉपुलेशन जिहाद” जैसे नैरेटिव्स को नई जान मिली।

मुस्लिम महिलाओं को हिजाब में सॉफ्ट-पॉर्न जैसी छवियों में दिखाया गया, जिससे मिसोजिनी और इस्लामोफोबिया का मेल स्पष्ट हुआ।

‘Sulli Deals’ और ‘Bulli Bai’ जैसे मामलों के बाद यह डिजिटल हिंसा का अगला चरण है, जिसमें बिना सहमति के महिलाओं को अपमानजनक तरीकों से दिखाया जा रहा है।

कई पोस्ट्स में मुसलमानों को सांप, भेड़िए या अपराधी जैसे प्रतीकों से जोड़ा गया — यह वही डिह्यूमनाइजेशन रणनीति है जो नाजी जर्मनी और रवांडा में घृणा फैलाने के लिए इस्तेमाल हुई थी।

मीडिया और प्लेटफॉर्म्स की भूमिका

रिपोर्ट में कहा गया है कि OpIndia, Sudarshan News, और Panchjanya जैसे मीडिया आउटलेट्स ने इन नैरेटिव्स को मुख्यधारा में पहुंचाया। उदाहरण के तौर पर, सुदर्शन न्यूज ने “रेल जिहाद” को बढ़ावा देने वाले 187 पोस्ट्स किए, OpIndia नेटवर्क के 9 अकाउंट्स ने 262 पोस्ट्स से 1.1 मिलियन एंगेजमेंट्स हासिल किए।

CSOH द्वारा रिपोर्ट किए गए 187 आपत्तिजनक पोस्ट्स में से केवल एक को सोशल मीडिया प्लेटफॉर्म्स ने हटाया। यह प्लेटफॉर्म्स की मॉडरेशन विफलता को दर्शाता है।

रिपोर्ट का निष्कर्ष

रिपोर्ट के अनुसार, एआई ने पुरानी घृणा को नई विजुअल भाषा दे दी है — अब नफरत केवल शब्दों में नहीं, बल्कि सजीव, सुंदर और वायरल छवियों के रूप में फैल रही है।इससे न केवल अल्पसंख्यक समुदायों की छवि धूमिल हो रही है, बल्कि भारत की संवैधानिक धर्मनिरपेक्षता और लोकतांत्रिक संरचना भी खतरे में है।

रिपोर्ट की सिफारिशें

1. आईटी एक्ट में एआई से जुड़ी विशेष धाराएं जोड़ी जाएं।
2. AI Content Adjudicatory Authority की स्थापना हो।
3. डेवलपर्स पर Transparency और Safety Audits अनिवार्य हों।
4. सभी एआई सामग्री में Provenance Metadata शामिल किया जाए।
5. मीडिया संस्थानों के लिए AI Ethical Guidelines लागू हों।
6. ओपन-सोर्स डेटाबेस और क्रॉस-प्लेटफॉर्म रिपोर्टिंग सिस्टम तैयार किया जाए।
7. एल्गोरिदमिक पारदर्शिता और ऑडिट सिस्टम लागू हो।
8. वायरल घृणास्पद सामग्री पर तुरंत ‘फ्रिक्शन’ लागू किया जाए।

एआई ने नफरत को पहले से कहीं अधिक परिष्कृत, दृश्यात्मक और प्रभावशाली बना दिया है। अगर सरकार, टेक कंपनियां और समाज मिलकर कदम नहीं उठाते,  तो यह डिजिटल नफरत भारत की सामाजिक एकता के लिए दीर्घकालिक खतरा बन सकती है।