ग्रोक अश्लील AI कंटेंट: सरकार ने X को 7 जनवरी तक रिपोर्ट देने की डेडलाइन दी, ‘रेगुलेटरी प्रोविजन का हो रहा उल्लंघन’

सरकार ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म को ‘ग्रोक’ और दूसरे टूल्स जैसी AI-बेस्ड सर्विसेज के गलत इस्तेमाल से बन रहे अश्लील और सेक्सुअल कंटेंट को लेकर कड़ी चेतावनी देने के बाद, X ​​को डिटेल्ड एक्शन टेकन रिपोर्ट जमा करने के लिए 7 जनवरी तक का और समय दिया है. शुक्रवार को सरकार ने X को निर्देश दिया था कि वह सभी अश्लील, घटिया और गैर-कानूनी कंटेंट, खासकर ग्रोक (X का बिल्ट-इन आर्टिफिशियल इंटेलिजेंस इंटरफ़ेस) से बना कंटेंट तुरंत हटा दे, नहीं तो कानून के तहत कार्रवाई का सामना करना पड़ेगा.

मंत्रालय ने US-बेस्ड सोशल मीडिया फर्म से निर्देश के 72 घंटे के अंदर (असल में 5 जनवरी तक) एक डिटेल्ड एक्शन टेकन रिपोर्ट (ATR) जमा करने को भी कहा था.

Grok AI का गलत इस्तेमाल

सूत्रों ने बताया कि X ने और समय मांगा था और अब उसे 7 जनवरी तक अपनी रिपोर्ट देने को कहा गया है. IT मिनिस्ट्री ने 2 जनवरी को अपने मैसेज में कहा कि X द्वारा डेवलप और प्लेटफॉर्म पर इंटीग्रेटेड Grok AI का गलत इस्तेमाल यूजर्स नकली अकाउंट बनाने के लिए कर रहे हैं, ताकि महिलाओं की गंदी या भद्दी तस्वीरों या वीडियो को होस्ट, जेनरेट, पब्लिश या शेयर किया जा सके.

एनफोर्समेंट मैकेनिज्म की गंभीर नाकामी

मिनिस्ट्री ने कहा, ‘जरूरी बात यह है कि यह सिर्फ नकली अकाउंट बनाने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी टारगेट करता है जो प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के जरिए अपनी तस्वीरों या वीडियो को होस्ट या पब्लिश करती हैं.’ उन्होंने कहा कि इस तरह का व्यवहार प्लेटफॉर्म-लेवल के सेफगार्ड और एनफोर्समेंट मैकेनिज्म की गंभीर नाकामी को दिखाता है और तय कानूनों का उल्लंघन करते हुए आर्टिफिशियल इंटेलिजेंस (AI) टेक्नोलॉजी का बड़ा गलत इस्तेमाल है.

मिनिस्ट्री ने कहा कि प्लेटफॉर्म द्वारा IT एक्ट और नियमों के तहत रेगुलेटरी प्रोविज़न का उल्लंघन किया जा रहा है, खासकर अश्लील, अभद्र, अश्लील, पोर्नोग्राफिक, पीडोफिलिक, या किसी और तरह से गैर-कानूनी या नुकसानदायक कंटेंट के संबंध में.

प्राइवेसी और सेफ्टी का उल्लंघन

IT मिनिस्ट्री ने अपनी 29 दिसंबर, 2025 की एडवाइजरी की ओर ध्यान दिलाते हुए कहा, ‘ऊपर बताए गए कामों और गलतियों को बहुत चिंता की बात माना जा रहा है, क्योंकि इनसे महिलाओं और बच्चों की इज्जत, प्राइवेसी और सेफ्टी का उल्लंघन होता है, डिजिटल स्पेस में सेक्सुअल हैरेसमेंट और एक्सप्लॉइटेशन नॉर्मल हो जाता है और भारत में काम करने वाले इंटरमीडियरीज़ पर लागू कानूनी ड्यू डिलिजेंस फ्रेमवर्क को कमजोर करता है.’

इस एडवाइजरी में सभी प्लेटफॉर्म्स को अपने इंटरनल कंप्लायंस फ्रेमवर्क, कंटेंट मॉडरेशन प्रैक्टिस और यूजर एनफोर्समेंट मैकेनिज्म का तुरंत रिव्यू करने का निर्देश दिया गया था, ताकि कानूनों का सख्ती से और लगातार पालन सुनिश्चित किया जा सके.

नियमों का पालन करना ऑप्शनल नहीं

सरकार ने X को यह साफ कर दिया कि IT एक्ट और नियमों का पालन करना ऑप्शनल नहीं है और IT एक्ट के सेक्शन 79 के तहत कानूनी छूट (जो ऑनलाइन इंटरमीडियरीज़ के लिए सेफ हार्बर और लायबिलिटी से इम्युनिटी से संबंधित है) ड्यू डिलिजेंस ऑब्लिगेशन्स का सख्ती से पालन करने पर कंडीशनल हैं.

मंत्रालय ने 2 जनवरी को कहा, ‘इसलिए आपको सलाह दी जाती है कि आप अपने प्लेटफॉर्म पर किसी भी ऐसे कंटेंट को होस्ट करने, दिखाने, अपलोड करने, पब्लिश करने, भेजने, स्टोर करने, शेयर करने से सख्ती से बचें जो अश्लील, पोर्नोग्राफ़िक, भद्दा, अश्लील, यौन रूप से स्पष्ट, पीडोफिलिक हो, या किसी भी तरह से किसी भी कानून के तहत प्रतिबंधित हो, जो अभी लागू है.’

कानूनी कार्रवाई का सामना करना पड़ सकता है

सरकार ने X को साफ शब्दों में चेतावनी दी कि ड्यू डिलिजेंस की जिम्मेदारियों का पालन न करने पर IT एक्ट के सेक्शन 79 के तहत लायबिलिटी से छूट खत्म हो जाएगी, और प्लेटफॉर्म IT एक्ट और भारतीय न्याय संहिता सहित दूसरे कानूनों के तहत कार्रवाई के लिए भी जिम्मेदार होगा.

गवर्नेंस-लेवल रिव्यू करने का निर्देश

इसने X को तुरंत ग्रोक का एक पूरा टेक्निकल, प्रोसीजरल और गवर्नेंस-लेवल रिव्यू करने का निर्देश दिया, जिसमें इसकी तुरंत प्रोसेसिंग, आउटपुट-जेनरेशन (लार्ज लैंग्वेज मॉडल्स या LLMs का इस्तेमाल करके बनाए गए रिस्पॉन्स), इमेज-हैंडलिंग और सेफ्टी गार्डरेल शामिल हैं “ताकि यह पक्का हो सके कि एप्लिकेशन ऐसा कंटेंट न बनाए, न प्रमोट करे या उसे आसान बनाए जिसमें किसी भी रूप में न्यूडिटी, सेक्सुअलाइज़ेशन, सेक्सुअली एक्सप्लिसिट या किसी और तरह का गैर-कानूनी कंटेंट हो.’

इसने X को यूजर की सेवा की शर्तों और AI के इस्तेमाल पर रोक लगाने के लिए कहा, जिसमें उल्लंघन करने वाले यूज़र्स और अकाउंट्स के खिलाफ सस्पेंशन, टर्मिनेशन और दूसरी कार्रवाई जैसे कड़े रोकथाम के उपाय सुनिश्चित करना शामिल है.

यह भी पढ़ें: स्मॉल-कैप स्टॉक ने दिया 3600% का रिटर्न, अब कंपनी को मिला बड़ा ऑर्डर, फोकस में रहेंगे शेयर; कीमत 20 रुपये से कम