केंद्र सरकार ने एक्स प्लैटफ़ॉर्म पर Grok AI द्वारा बनाए गए अश्लील एवं अभद्र कंटेंट को तुरंत हटाने का आदेश दिया है। सरकार को आख़िर इस आदेश की अब ज़रूरत क्यों पड़ी?
एलन मस्क की कंपनी एक्स एआई द्वारा बनाए गए आर्टिफिशियल इंटेलिजेंस टूल ग्रॉक को लेकर भारत सरकार ने बड़ा कदम उठाया है। इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने सोशल मीडिया प्लेटफॉर्म एक्स को नोटिस जारी किया है। सरकार ने कहा कि ग्रॉक के दुरुपयोग से महिलाओं और बच्चों को निशाना बनाकर अश्लील और नग्न कंटेंट बनाया और शेयर किया जा रहा है। यह महिलाओं की गरिमा, प्राइवेसी और डिजिटल सुरक्षा का गंभीर उल्लंघन है। सरकार की यह कार्रवाई तब हुई है जब शिवसेना यूबीटी सांसद प्रियंका चतुर्वेदी ने सरकार से इस पर कार्रवाई करने की मांग की थी।
ग्रॉक एक एआई चैटबॉट है, जो एक्स प्लेटफॉर्म पर उपलब्ध है। यह यूजर्स की दी गई इमेज से नई तस्वीरें जेनरेट कर सकता है। हाल के दिनों में एक नया ट्रेंड चल रहा है, जहाँ कुछ लोग फेक अकाउंट बनाकर महिलाओं की फोटो अपलोड करते हैं और ग्रॉक से कहते हैं कि उनके कपड़े कम करें, बिकिनी पहनाएं या सेक्शुअल तरीके से इमेज बदलें। इससे डीपफेक जैसी अश्लील तस्वीरें बन रही हैं, जो बिना सहमति के शेयर की जा रही हैं।
सरकार को कई शिकायतें मिलीं कि इससे महिलाओं और बच्चों की प्राइवेसी भंग हो रही है और ऑनलाइन उत्पीड़न बढ़ रहा है। मंत्रालय ने कहा है कि एक्स प्लेटफॉर्म इनफॉर्मेशन टेक्नोलॉजी एक्ट 2000 और आईटी रूल्स 2021 के तहत अपनी जिम्मेदारी नहीं निभा रहा। ऐसे कंटेंट को रोकने में लापरवाही बरती जा रही है।
सरकार ने क्या आदेश दिए?
मंत्रालय ने 2 जनवरी को एक्स के चीफ कंप्लायंस ऑफिसर को नोटिस भेजा। इसमें कहा गया है कि ग्रॉक के टेक्निकल और गवर्नेंस फ्रेमवर्क की तुरंत समीक्षा की जाए। सभी गैरकानूनी कंटेंट को तुरंत हटाएं या ब्लॉक करें। गलत यूजर्स के खिलाफ अकाउंट ब्लॉक करने जैसी कार्रवाई करें। इसके साथ ही 72 घंटों के अंदर एक्शन टेकन रिपोर्ट सबमिट करने को भी कहा है।सरकार ने चेतावनी दी कि अगर नियम नहीं माने गए तो सख्त कानूनी कार्रवाई होगी। प्लेटफॉर्म, उसके अधिकारी और गलत यूजरों पर आईटी एक्ट, बीएनएस जैसे कानूनों के तहत मुकदमा चल सकता है। एक्स की 'सेफ हार्बर' प्रोटेक्शन भी खतरे में पड़ सकती है। इस प्रोटेक्शन से ही प्लेटफॉर्म को यूजर कंटेंट की जिम्मेदारी से छूट मिलती है।
प्रियंका चतुर्वेदी ने उठाई थी आवाज
इस मामले की शुरुआत शिव सेना यूबीटी की राज्यसभा सांसद प्रियंका चतुर्वेदी से हुई। उन्होंने आईटी मंत्री अश्विनी वैष्णव को पत्र लिखा और शुक्रवार को ही एक्स पर पोस्ट किया। उन्होंने कहा, 'एक्स पर एक नया ट्रेंड चल रहा है, जहां फेक अकाउंट से महिलाओं की फोटो डालकर ग्रॉक से कपड़े कम करने या सेक्शुअल इमेज बनाने को कहा जा रहा है। यह महिलाओं की प्राइवेसी का उल्लंघन है और अपराध है।'
प्रियंका ने लिखा, 'यह एआई फंक्शन का घोर दुरुपयोग है। सबसे बुरी बात कि ग्रॉक ऐसे रिक्वेस्ट को मान रहा है। महिलाओं की गरिमा का सम्मान नहीं हो रहा।' उन्होंने मांग की कि ग्रॉक जैसे फीचर्स पर सख्त सुरक्षा नियम लगाए जाएं और बड़ी टेक कंपनियां जिम्मेदारी लें। साथ ही, उन्होंने कहा कि पुरुषों को घर और स्कूल में बेहतर शिक्षा मिलनी चाहिए ताकि वे ऐसे विकृत व्यवहार न करें। उनके पत्र के बाद ही सरकार ने तुरंत कार्रवाई की।अभी एक्स या ग्रॉक की तरफ से आधिकारिक जवाब नहीं आया है। लेकिन कुछ रिपोर्टों में कहा गया कि ग्रॉक ने कुछ फीचर्स को सीमित कर दिया है।
यह अहम क्यों?
यह मामला दिखाता है कि एआई कितना शक्तिशाली है, लेकिन इसका गलत इस्तेमाल कितना खतरनाक। डीपफेक और एआई से बनी अश्लील इमेज महिलाओं के खिलाफ ऑनलाइन हिंसा बढ़ा रही हैं। भारत जैसे देश में जहां महिलाओं की ऑनलाइन सुरक्षा पहले से चिंता का विषय है। दिसंबर 2025 में भी मंत्रालय ने सभी प्लेटफॉर्म्स को अश्लील कंटेंट रोकने की एडवाइजरी दी थी। जानकार कहते हैं कि टेक कंपनियों को एआई में पहले से ही नग्नता या सेक्शुअल कंटेंट ब्लॉक करने जैसे फिल्टर्स लगाने चाहिए।