X का बड़ा फैसला, Grok AI की अश्लील इमेज एडिटिंग पर रोक; अब नहीं बना पाएंगे लोगों की आपत्तिजनक तस्वीरें

Grok AI Image manipulation: एलन मस्क की कंपनी X ने अपने आर्टिफिशियल इंटेलिजेंस टूल ग्रोक को लेकर बड़ा बदलाव किया है. अब ग्रोक किसी भी असली व्यक्ति की फोटो को इस तरह एडिट नहीं कर सकेगा जिससे वह आपत्तिजनक या कम कपड़ों में नजर आए. यह फैसला AI से बनने वाली यौन रूप से भडकाऊ और फर्जी तस्वीरों को लेकर बढ़ते विरोध के बाद लिया गया है. अमेरिका और ब्रिटेन सहित कई देशों में बिना सहमति के बनाई जा रही ऐसी तस्वीरों पर चिंता जताई गई थी. कंपनी का कहना है कि यह नियम सभी यूजर्स पर लागू होगा. इसमें पेड सब्सक्रिप्शन लेने वाले यूजर भी शामिल हैं.

ग्रोक पर नए प्रतिबंध क्यों लगाए गए

पिछले कुछ समय से AI डीपफेक और छेड़छाड़ की गई तस्वीरों को लेकर X और ग्रोक की कड़ी आलोचना हो रही थी. आरोप थे कि AI टूल का इस्तेमाल असली लोगों की तस्वीरों को बदलकर उन्हें यौन रूप से आपत्तिजनक तरीके से पेश करने में किया जा रहा है. खास तौर पर महिलाओं की बिना अनुमति ऐसी तस्वीरें बनाए जाने के मामले सामने आए. इन्हीं चिंताओं को देखते हुए X ने तकनीकी उपाय लागू किए हैं. कंपनी ने साफ कहा है कि ग्रोक अब किसी भी असली व्यक्ति की फोटो को एडिट कर उसे बिकिनी या इसी तरह के कपड़ों में नहीं दिखा सकेगा.

ग्रोक की सफाई

एलन मस्क ने ग्रोक पर लगे आरोपों को खारिज किया है. उन्होंने कहा कि ग्रोक अपने आप कोई तस्वीर नहीं बनाता बल्कि केवल यूजर के निर्देश पर काम करता है. मस्क ने यह भी दावा किया कि ग्रोक किसी भी गैरकानूनी कंटेंट को बनाने से मना कर देता है. उन्होंने यह साफ किया कि नाबालिगों से जुड़ी किसी भी आपत्तिजनक तस्वीर के मामले की उन्हें कोई जानकारी नहीं है. मस्क ने माना कि कभी कभी सिस्टम का गलत इस्तेमाल करने की कोशिश होती है लेकिन ऐसी स्थिति में बग को तुरंत ठीक किया जाता है.

ये भी पढ़ें- ₹13000 में बना यह अनोखा चीनी ऐप हुआ वायरल, लोगों से रोज पूछता है ‘आप जिंदा है न’? वैल्यूएशन हुई ₹13 करोड़

सरकारों की बढ़ती सख्ती

ग्रोक और X पर अब केवल यूजर्स ही नहीं बल्कि सरकारें और रेगुलेटर भी नजर रखे हुए हैं. अमेरिका में कुछ सांसदों ने एप्प स्टोर से X और इसके AI टूल को हटाने की मांग की है. ब्रिटेन में नए कानून लागू हो रहे हैं जिनके तहत कुछ AI जनरेटेड यौन तस्वीरों को अपराध माना जाएगा. वहां की रेगुलेटरी संस्था ने ग्रोक की जांच शुरू कर दी है. वहीं मलेशिया और इंडोनेशिया जैसे देशों ने ग्रोक को ब्लॉक कर दिया है और कंपनी के खिलाफ कानूनी कार्रवाई की जा रही है.