सरकार का एलन मस्क के X पर Grok AI को लेकर बड़ा एक्शन, ‘अश्लील और आपत्तिजनक कंटेंट’ हटाने का दिया आदेश

इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने शुक्रवार को सोशल मीडिया प्लेटफॉर्म X को एक नोटिस जारी किया, जिसमें IT एक्ट और IT नियमों के तहत कानूनी ड्यू डिलिजेंस में गंभीर कमियों की बात कही गई है. सरकार ने प्लेटफॉर्म के AI टूल, ग्रोक के गलत इस्तेमाल पर चिंता जताई है, जिसका इस्तेमाल यौन रूप से आपत्तिजनक और अपमानजनक कंटेंट बनाने और फैलाने के लिए किया जा रहा है, खासकर महिलाओं और बच्चों को निशाना बनाया जा रहा है. सरकार ने इसे गरिमा, प्राइवेसी और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया है.

गवर्नेंस फ्रेमवर्क की समीक्षा

सरकार ने X को तुरंत ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क की समीक्षा करने, सभी गैर-कानूनी कंटेंट हटाने, दोषी यूजर्स के खिलाफ कार्रवाई करने और 72 घंटे के भीतर एक एक्शन टेकन रिपोर्ट जमा करने का निर्देश दिया है.

आदेश में क्या कहा गया है?

आदेश में कहा गया है, ‘यह दोहराया जाता है कि आवश्यकताओं का पालन न करने को गंभीरता से देखा जाएगा और इसके परिणामस्वरूप IT एक्ट, IT नियमों, BNSS, BNS और अन्य लागू कानूनों के तहत, बिना किसी और नोटिस के, आपके प्लेटफॉर्म, इसके जिम्मेदार अधिकारियों और प्लेटफॉर्म पर कानून तोड़ने वाले यूज़र्स के खिलाफ सख्त कानूनी कार्रवाई हो सकती है.’

सरकार ने X को तुरंत ग्रोक के टेक्निकल और गवर्नेंस फ्रेमवर्क की समीक्षा करने, सभी गैर-कानूनी कंटेंट हटाने, दोषी यूजर्स के खिलाफ कार्रवाई करने और 72 घंटे के भीतर एक एक्शन टेकन रिपोर्ट जमा करने का निर्देश दिया है.

यूजर टर्म्स ऑफ सर्विस

प्लेटफॉर्म को अपनी यूजर टर्म्स ऑफ सर्विस, स्वीकार्य उपयोग नीतियों और AI उपयोग प्रतिबंधों को लागू करना भी जरूरी है, जिसमें उल्लंघन करने वाले अकाउंट को सस्पेंड या बंद करना शामिल है. निर्देशों के अनुसार, X को रिकॉर्ड और सिस्टम के साथ यह साफ तौर पर दिखाना होगा कि वह IT एक्ट और IT नियमों के तहत उचित सावधानी के नियमों का पालन कर रहा है.

AI का घोर दुरुपयोग

मंत्रालय ने लिखा कि यह ट्रेंड महिलाओं और बच्चों के खिलाफ यौन उत्पीड़न को सामान्य बनाता है और ‘प्लेटफॉर्म-स्तर की सुरक्षा और लागू करने के तरीकों की गंभीर विफलता’ को दिखाता है और यह AI का घोर दुरुपयोग है.

इसमें लिखा गया है, ‘ग्रोक का इस्तेमाल यूजर्स द्वारा महिलाओं की अश्लील तस्वीरें या वीडियो अपमानजनक या भद्दे तरीके से होस्ट करने, बनाने, पब्लिश करने या शेयर करने के लिए नकली अकाउंट बनाने के लिए किया जा रहा है.’

यह भी पढ़ें: नए साल के पहले शनिवार को भी खुलेगा स्टॉक मार्केट, जारी हुआ शेड्यूल, देखें टाइमिंग