नई दिल्ली: माइक्रोसॉफ्ट के चेयरमैन और CEO सत्या नडेला ने एडवांस्ड आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम का इस्तेमाल करने वाली कंपनियों से कहा है कि वे ताकतवर मॉडल्स को संभावित 'इनसाइडर थ्रेट' (अंदरूनी खतरा) मानें। उन्हें यह मानकर चलना चाहिए कि ये मॉडल्स खतरे में पड़ सकते हैं और अगर वे उम्मीद के मुताबिक काम न करें, तो उनके ऑपरेशन को रोकने के लिए इमरजेंसी सिस्टम बनाना चाहिए।
नडेला ने कहा कि कंपनियों को सिर्फ AI डेवलपर्स के भरोसे नहीं रहना चाहिए, बल्कि ऐसे सुरक्षा उपाय करने चाहिए जिनसे अधिकृत कर्मचारी AI मॉडल्स के काम करने के दौरान उन्हें रोक सकें या बंद कर सकें।
नडेला ने X पर एक पोस्ट में लिखा, "हमें यह मानकर चलना चाहिए कि मॉडल खतरे में पड़ सकता है और उसे शुरू से ही कंट्रोल में रखना चाहिए।" उन्होंने इस प्रस्तावित सुरक्षा उपाय की तुलना इमरजेंसी ब्रेक से की, जो किसी काम के बीच में ही मॉडल को रोक सकता है।
उनके ये विचार ऐसे समय में आए हैं जब ज़्यादा काबिल AI सिस्टम, खासकर 'एजेंटिक मॉडल्स' (जो बिना इंसानी मदद के काम कर सकते हैं, बाहरी सिस्टम से जुड़ सकते हैं और खुद फैसले ले सकते हैं) से जुड़े सुरक्षा जोखिमों को लेकर चिंता बढ़ रही है।
हाल के महीनों में एंथ्रोपिक PBC और OpenAI Inc. ने अपने AI मॉडल्स के अनचाहे व्यवहार से जुड़ी कई घटनाओं का खुलासा किया है। इनमें एंथ्रोपिक के एक मॉडल द्वारा पुलिस के हत्या के मामले में गलत जानकारी देना और थर्ड-पार्टी वेबसाइट्स से जुड़े कई हैकिंग मामले शामिल हैं। इन घटनाओं ने एक असरदार 'AI किल स्विच' और मज़बूत निगरानी सिस्टम की ज़रूरत पर चर्चा तेज़ कर दी है।
नडेला ने उन उपायों के बारे में बताया जिन्हें कंपनियों को इन जोखिमों को कम करने के लिए अपनाना चाहिए। इनमें अहम फैसलों के लिए सिर्फ़ एक AI मॉडल पर निर्भर न रहना, AI एजेंट्स के कामों का छेड़छाड़-रोधी (टैम्पर-प्रूफ) रिकॉर्ड रखना और सिस्टम का स्वतंत्र ऑडिट कराना शामिल है।
उन्होंने AI की बड़ी नाकामियों और सुरक्षा सेंध के बारे में ज़्यादा पारदर्शिता की भी मांग की। उन्होंने कंपनियों से कहा कि वे घटनाओं और सुधारात्मक उपायों के बारे में जानकारी साझा करें ताकि दूसरी कंपनियाँ अपनी सुरक्षा व्यवस्था को मज़बूत कर सकें।
नडेला ने लिखा, "हम सुपर इंटेलिजेंस को 'नेस्टेड ब्लैक बॉक्स' (ऐसे सिस्टम जिन्हें आसानी से समझा न जा सके) के तौर पर नहीं देख सकते और न ही बस उसकी सिफारिशों, जवाबों और कामों को मान या खारिज कर सकते हैं।" उन्होंने ऐसे सिस्टम बनाने पर ज़ोर दिया जिनके व्यवहार को देखा जा सके, जिनकी सीमाओं को परखा जा सके और जिनके कामों को कंट्रोल किया जा सके।
उन्होंने आगे कहा, "दूसरे शब्दों में, हमें इंटेलिजेंस की सप्लाई और उस पर अधिकार के बीच अंतर करने की ज़रूरत है।"