Grok के आपत्तिजनक कंटेंट पर सरकार सख्त, X के जवाब की जांच कर रहा IT मंत्रालय; विदेशों में भी उठे कंपनी पर सवाल

Grok AI: आर्टिफिशियल इंटेलिजेंस के दुरुपयोग को लेकर सरकार ने कड़ा रुख अपनाया है. सोशल मीडिया प्लेटफॉर्म एक्स द्वारा Grok AI के जरिए महिलाओं और नाबालिगों से जुड़ा अश्लील और आपत्तिजनक कंटेंट बनाए जाने के मामलों पर भारत का सूचना प्रौद्योगिकी मंत्रालय सतर्क हो गया है. सरकार के निर्देश के बाद एक्स ने मंत्रालय को अपना जवाब और एक्शन टेकन रिपोर्ट सौंप दी है, जिसकी फिलहाल जांच की जा रही है. पीटीआई ने सूत्रों के हवाले से बताया है कि रिपोर्ट की जानकारी सार्वजनिक नहीं की गई है, लेकिन मंत्रालय इसकी गंभीरता से जांच कर रहा है.

सरकार का सख्त निर्देश और चेतावनी

आईटी मंत्रालय ने एक्स को साफ शब्दों में कहा था कि Grok AI जैसे टूल्स के जरिए किसी भी तरह का अश्लील, अशोभनीय या गैरकानूनी कंटेंट स्वीकार्य नहीं है. 2 जनवरी को जारी निर्देश में प्लेटफॉर्म को 72 घंटों के भीतर विस्तृत एक्शन टेकन रिपोर्ट देने को कहा गया था. इसमें संबंधित अकाउंट्स पर की गई कार्रवाई का पूरा ब्योरा मांगा गया था.

Grok AI के दुरुपयोग पर सरकार की चिंता

मंत्रालय के अनुसार, Grok AI का इस्तेमाल कर फर्जी अकाउंट्स बनाए जा रहे हैं, जिनके जरिए महिलाओं की तस्वीरों और वीडियो को आपत्तिजनक तरीके से बदला या साझा किया जा रहा है. यह समस्या केवल फर्जी अकाउंट्स तक सीमित नहीं है, बल्कि उन महिलाओं को भी निशाना बनाया जा रहा है जो पहले से प्लेटफॉर्म पर अपना कंटेंट साझा करती हैं. सरकार ने इसे प्लेटफॉर्म-स्तरीय सुरक्षा व्यवस्था की गंभीर विफलता बताया है.

कानून और जिम्मेदारी का सवाल

सरकार ने स्पष्ट किया है कि सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मिलने वाली छूट तभी लागू होती है, जब प्लेटफॉर्म ड्यू डिलिजेंस का सख्ती से पालन करे. नियमों की अनदेखी होने पर यह छूट खत्म हो सकती है और आईटी एक्ट व भारतीय न्याय संहिता के तहत कार्रवाई की जा सकती है. एक्स को अवैध कंटेंट हटाने, सबूत सुरक्षित रखने और दोषियों के खिलाफ कड़ी कार्रवाई करने के निर्देश दिए गए हैं.

अंतरराष्ट्रीय स्तर पर भी दबाव

भारत के अलावा यूनाइटेड किंगडम और मलेशिया में भी Grok AI को लेकर सवाल उठे हैं. यूनाइटेड किंगडम के संचार नियामक ऑफकॉम ने एक्स से तत्काल संपर्क कर यह जानना चाहा है कि बच्चों और यूजर्स की सुरक्षा के लिए क्या कदम उठाए गए हैं. नियामक ने चेतावनी दी है कि जवाब के आधार पर जांच शुरू की जा सकती है.

यह भी पढ़ें: Zomato की पेरेंट कंपनी Eternal को मिला 3.7 करोड़ का GST डिमांड नोटिस, जानें शेयर का हाल