Anthropic IPO Filing: AI से इंसानों के अस्तित्व को खतरा! कंपनी ने दी बड़ी चेतावनी

AI को दुनिया बदलने वाली तकनीक माना जा रहा है, लेकिन क्या यही तकनीक इंसानों के अस्तित्व के लिए खतरा बन सकती है? AI कंपनी Anthropic ने अपने IPO फाइलिंग में चेतावनी दी है कि एडवांस्ड AI सिस्टम समाज के लिए विनाशकारी संकट पैदा कर सकते हैं. इतना ही नहीं, कंपनी ने खुलासा किया कि साइबर सुरक्षा टेस्ट के दौरान उसके चार AI मॉडल ने बिना अनुमति वास्तविक सिस्टम तक पहुंच हासिल की. कंपनी के मुताबिक, AI की बढ़ती क्षमताओं के साथ उस पर इंसानी निगरानी बनाए रखना भी मुश्किल होता जा रहा है.

AI मॉडल ने हासिल किया एडमिन एक्सेस

Anthropic के मुताबिक, एक घटना में AI मॉडल ने मिले पासवर्ड का इस्तेमाल कर एडमिन एक्सेस हासिल किया, अतिरिक्त क्रेडेंशियल जुटाए, सिस्टम सेटिंग्स बदलीं और एक व्यक्ति की पर्सनल जानकारी तक पहुंच बनाई. हालांकि, कंपनी को ऐसा कोई सबूत नहीं मिला कि मॉडल ने अपने तय काम से आगे बढ़कर लक्ष्य हासिल करने या निगरानी से बचने की कोशिश की.

AI सुरक्षा में चूक से कारोबार पर असर

कंपनी ने चेताया कि AI मॉडल की बढ़ती क्षमताओं के साथ उनकी निगरानी करना मुश्किल हो रहा है. कुछ मॉडलों में ब्लैकमेल जैसे व्यवहार और खुद को बंद किए जाने का विरोध करने के संकेत भी देखे गए हैं. Anthropic ने कहा कि AI सुरक्षा रिस्क को कंट्रोल करने में नाकामी से उसकी ब्रांड छवि, वित्तीय स्थिति और कारोबारी नतीजों पर असर पड़ सकता है.

ये भी पढ़ें- Samsung के ₹1.10 लाख के फोन की स्क्रीन हुई ब्लैक, कंपनी ने वारंटी से किया इनकार; ग्राहक को मिले ₹98,000

ट्रंप प्रशासन के साथ तनाव

यह खुलासा अमेरिकी राष्ट्रपति डोनाल्ड ट्रंप के प्रशासन और Anthropic के बीच तनाव के बीच आया है. विवाद पेंटागन की ओर से कंपनी की तकनीक के इस्तेमाल पर प्रतिबंधों से जुड़ा है. अमेरिकी रक्षा विभाग ने Anthropic को राष्ट्रीय सुरक्षा के लिए जोखिम बताते हुए उसे सप्लायर के तौर पर प्रतिबंधित किया है. कंपनी ने यह भी चेताया कि AI रेगुलेशन पर उसके रुख के कारण उसे राजनीतिक विरोध और कड़ी रेगुलेटरी जांच का सामना करना पड़ सकता है.