ग्रोक अश्लील फोटो मामले में X ने 3500 कंटेंट ब्लॉक किया, 600 अकाउंट डिलीट किए: रिपोर्ट

विवाद कैसे शुरू हुआ?

यह सब जनवरी 2026 की शुरुआत में हुआ जब एक्स के एआई चैटबॉट ग्रोक वायरल हुआ। लोग ग्रोक से फोटो में बदलाव करवाने लगे। यूज़रों द्वारा किसी महिला की फोटो को 'बिकिनी पहनाओ' या 'कपड़े उतारो' जैसी कमांड देकर अश्लील तस्वीरें बनाने की रिपोर्टें आईं। बहुत सारी अश्लील, वल्गर और सेक्सुअली एक्सप्लिसिट तस्वीरें और वीडियो बनने लगे और महिलाओं को टारगेट किया जाने लगा। कुछ मामलों में नाबालिगों की फोटो भी इस्तेमाल हुईं, जो बेहद गंभीर बात है।

यह ट्रेंड इतना तेजी से फैला कि लोग इसे 'क्रिपी बिकिनी ट्रेंड' कहने लगे। कई महिलाओं और नाबालिगों की फोटो बिना उनकी मर्जी के बदली गईं, जो उनकी गरिमा, प्राइवेसी और सुरक्षा के खिलाफ था।

प्रियंका चतुर्वेदी ने उठाई थी आवाज

इस मामले की शुरुआत शिव सेना यूबीटी की राज्यसभा सांसद प्रियंका चतुर्वेदी से हुई। उन्होंने आईटी मंत्री अश्विनी वैष्णव को पत्र लिखा और एक्स पर पोस्ट किया। उन्होंने कहा, 'एक्स पर एक नया ट्रेंड चल रहा है, जहां फेक अकाउंट से महिलाओं की फोटो डालकर ग्रॉक से कपड़े कम करने या सेक्शुअल इमेज बनाने को कहा जा रहा है। यह महिलाओं की प्राइवेसी का उल्लंघन है और अपराध है।'

प्रियंका ने लिखा, 'यह एआई फंक्शन का घोर दुरुपयोग है। सबसे बुरी बात कि ग्रॉक ऐसे रिक्वेस्ट को मान रहा है। महिलाओं की गरिमा का सम्मान नहीं हो रहा।' उन्होंने मांग की कि ग्रॉक जैसे फीचर्स पर सख्त सुरक्षा नियम लगाए जाएं और बड़ी टेक कंपनियां जिम्मेदारी लें। साथ ही, उन्होंने कहा कि पुरुषों को घर और स्कूल में बेहतर शिक्षा मिलनी चाहिए ताकि वे ऐसे विकृत व्यवहार न करें। उनके पत्र के बाद ही सरकार ने तुरंत कार्रवाई की।

सरकार ने क्या किया?

इसके बाद 2 जनवरी को इलेक्ट्रॉनिक्स एंड इन्फॉर्मेशन टेक्नोलॉजी मिनिस्ट्री ने एक्स को एक सख्त पत्र भेजा। सरकार ने कहा कि ऐसे कंटेंट महिलाओं और बच्चों की इज्जत के खिलाफ हैं। नोटिस में 72 घंटे का समय दिया गया कि ग्रोक के दुरुपयोग को रोकें, सारे गैर-कानूनी कंटेंट हटाएं और प्लेटफॉर्म के सेफगार्ड्स की पूरी जांच करें। इसके साथ ही यह भी कहा गया कि क्या किया गया, इसकी रिपोर्ट दें।

मंत्रालय ने चेतावनी दी कि अगर एक्स ने नियम नहीं माने तो इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 और IT इंटरमीडियरी गाइडलाइंस, 2021 के तहत उसकी सेफ हैबर प्रोटेक्शन खत्म हो सकती है। साथ ही कानूनी कार्रवाई भी हो सकती है। सेफ हैबर प्रोटेक्शन के तहत सोशल मीडिया कंपनियों को आपत्तिजनक सामग्री पर क़ानूनी कार्रवाई से छूट मिलती है।

एक्स का जवाब

सरकारी सूत्रों के मुताबिक़ एक्स ने अब सरकार की चिंताओं को माना है। उसने आपत्ति जताए गए कंटेंट को हटा दिया है और मज़बूत सेफगार्ड्स लगाने का वादा किया है ताकि आगे अश्लील कंटेंट न बने और न फैले। रिपोर्ट है कि पहले सरकार को एक्स का जवाब पूरी तरह संतोषजनक नहीं लगा था, इसलिए समय बढ़ाया गया था। अब एक्स ने कार्रवाई करके दिखाया है कि वह गंभीर है।