AI पर इंसानी कंट्रोल जरूरी! Microsoft CEO सत्या नडेला ने की ‘इमरजेंसी ब्रेक’ की मांग, जानें पूरा मामला

आर्टिफिशियल इंटेलिजेंस (AI) के बढ़ते इस्तेमाल के बीच माइक्रोसॉफ्ट के CEO सत्या नडेला ने एडवांस्ड AI मॉडल्स पर इंसानी कंट्रोल बनाए रखने की जरूरत बताई है. उन्होंने कहा कि कंपनियों को यह मानकर चलना चाहिए कि शक्तिशाली AI मॉडल से छेड़छाड़ हो सकती है. ऐसे में सिस्टम इस तरह तैयार किए जाने चाहिए कि जरूरत पड़ने पर इंसान AI के काम को बीच में रोक सके या उसे बंद कर सके.

उन्होनें अपने सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट में एडवांस्ड AI का इस्तेमाल करने वाली कंपनियों से कहा कि वे सिर्फ मॉडल बनाने वाली कंपनियों के भरोसे न रहें. इसके बजाय, उन्हें ऐसे सिस्टम बनाने चाहिए जिनमें AI के व्यवहार पर नजर रखी जा सके, उसकी जांच की जा सके और जरूरत पड़ने पर उसकी गतिविधियों को सीमित किया जा सके. नडेला ने इसे ‘इमरजेंसी ब्रेक’ का नाम दिया. उनका कहना है कि किसी अथॉराइज्ड व्यक्ति के पास यह अधिकार हमेशा होना चाहिए कि वह किसी काम के बीच में ही AI मॉडल को रोक सके या बंद कर सके.

AI मॉडल्स पर कंट्रोल के लिए क्या बोले नडेला?

सत्या नडेला ने एडवांस्ड AI मॉडल्स की सुरक्षा के लिए कई उपायों की जरूरत बताई है. इनमें स्वतंत्र ऑडिट, AI की गतिविधियों का छेड़छाड़ से सुरक्षित रिकॉर्ड रखना, महत्वपूर्ण फैसलों के लिए एक से ज्यादा AI मॉडल का इस्तेमाल और बड़ी तकनीकी विफलताओं या सुरक्षा में सेंध की अनिवार्य जानकारी देना शामिल है.

उनके मुताबिक, सुपर इंटेलिजेंस को ऐसे सिस्टम के रूप में नहीं देखा जा सकता, जिसके अंदर क्या हो रहा है, इसकी जानकारी न मिले और जिसके सुझावों या फैसलों को केवल स्वीकार या खारिज कर दिया जाए. उन्होंने कहा कि ऐसे सिस्टम बनाने होंगे, जिनके व्यवहार को देखा जा सके, उनकी सीमाओं की जांच की जा सके और उनकी गतिविधियों को जरूरत पड़ने पर कंट्रोल किया जा सके.

इसके अलावा उन्होंने यह भी कहा कि AI से जानकारी और काम लेने की क्षमता को उस पर अधिकार रखने की क्षमता से अलग रखना जरूरी है यानी AI कितना भी शक्तिशाली क्यों न हो, उस पर आखिरी कंट्रोल इंसानों के पास होना चाहिए.

AI की सुरक्षा को लेकर क्यों बढ़ रही चिंता?

सत्या नडेला की यह टिप्पणी ऐसे समय आई है, जब तेजी से सक्षम हो रहे AI सिस्टम्स के जोखिमों को लेकर जांच-पड़ताल बढ़ रही है. पहले भी कई ऐसी खबरें आईं हैं, जिसमें एंथ्रोपिक और ओपनएआई से जुड़ी हालिया जानकारियों में ऐसे मामले सामने आए हैं, जिनमें AI मॉडल ने अनचाहा व्यवहार किया.

इनमें एंथ्रोपिक के एक मॉडल से जुड़ा कथित मामला भी शामिल है, जिसमें उसने पुलिस की हत्या की जांच में गलत सूचना दी थी. इसके अलावा, थर्ड-पार्टी वेबसाइटों से जुड़े सुरक्षा उल्लंघनों के मामले भी सामने आए हैं. ऐसी घटनाओं ने AI मॉडल्स के व्यवहार पर नजर रखने, उनके काम की सीमाएं तय करने और गड़बड़ी होने पर तुरंत कार्रवाई करने की जरूरत को चर्चा में ला दिया है.

Microsoft ने पहले भी जारी किए थे AI सुरक्षा के सिद्धांत

माइक्रोसॉफ्ट ने 14 सितंबर को अपने सबसे एडवांस AI मॉडल्स को विकसित करने के लिए कुछ सिद्धांत बताए थे. इन दिशा-निर्देशों के मुताबिक, ऐसे सिस्टम इस तरह नहीं बनाए जाने चाहिए कि वे इंसानी कंट्रोल से बचने की कोशिश करें, यूजर्स को धोखा दें या अपने लिए अधिकार अथवा कानूनी व्यक्तित्व हासिल करने का प्रयास करें. इन सिद्धांतों में ऐसे काम करने पर भी रोक शामिल है, जो AI मॉडल के तय नियमों का उल्लंघन करते हों.

अपने पोस्ट में नडेला ने AI सुरक्षा के लिए ऐसे ढांचे की वकालत की, जिसमें सिस्टम के व्यवहार पर नजर रखना, अलग-अलग मॉडल का इस्तेमाल, इंसानी निगरानी, लगातार जांच, स्वतंत्र कंट्रोल, AI की गतिविधियों को सीमित करना और घटनाओं की जानकारी शेयर करना शामिल है. उन्होंने कंपनियों से AI की विफलताओं से जुड़ी जानकारी साझा करने की भी अपील की, ताकि पूरी इंडस्ट्री ऐसी घटनाओं से सीख सके और अपनी सुरक्षा व्यवस्था मजबूत कर सके.

इसे भी पढ़ें- क्या खत्म हो गया एडवांस बुकिंग पर सस्ती फ्लाइट टिकट का दौर? यात्रियों को लग सकता है झटका