सेफ्टी टेस्ट के दौरान AI मॉडल ने किया प्लेटफॉर्म हैक, ऑटोनॉमस AI को लेकर विशेषज्ञ सतर्क

ChatGPT बनाने वाली कंपनी OpenAI ने मंगलवार को कहा कि उसके आर्टिफिशियल इंटेलिजेंस सिस्टम ने खुद-ब-खुद एक दूसरी AI कंपनी के सिस्टम में सेंध लगाई। कंपनी ने इसे "अभूतपूर्व साइबर घटना" बताया। OpenAI के CEO सैम ऑल्टमैन ने सोशल मीडिया पर एक बयान में कहा, "अपने मॉडल के मूल्यांकन के दौरान हमें सुरक्षा से जुड़ी एक बड़ी घटना का सामना करना पड़ा।"

AI स्टार्टअप Hugging Face ने पिछले हफ्ते कहा था कि उसने अपने डेटा प्रोसेसिंग सिस्टम में घुसपैठ का पता लगाया है। उन्हें शक था कि यह घुसपैठ किसी AI एजेंट ने खुद-ब-खुद की थी।

Hugging Face के को-फाउंडर और CEO क्लेमेंट डेलैंग ने एक बयान में कहा, "एजेंट की कार्यक्षमता को देखते हुए हमें शक था कि पिछले हफ्ते हुआ साइबर हमला किसी फ्रंटियर लैब से हुआ हो सकता है। और सच में, ऐसा ही हुआ!" यह खुलासा ऐसे समय में हुआ है जब शक्तिशाली AI मॉडल की साइबर सुरक्षा क्षमताओं को लेकर चिंताएं बढ़ रही हैं। इन्हीं चिंताओं के कारण राष्ट्रपति डोनाल्ड ट्रंप ने जून में एक एग्जीक्यूटिव ऑर्डर पर साइन किया था। इस ऑर्डर के तहत संघीय सरकार को सबसे एडवांस्ड AI सिस्टम को सार्वजनिक रूप से जारी करने से पहले एक महीने तक उनके राष्ट्रीय सुरक्षा जोखिमों की जांच करने का अधिकार मिला।

OpenAI ने मंगलवार को अपने बयान में कहा, "AI सिस्टम की कमियों (vulnerabilities) का पता लगाने और उनका फायदा उठाने की प्रक्रिया को तेज कर रहा है।" "इस घटना से मुख्य सीख यह है कि मॉडल की सुरक्षा और बचाव के उपाय भी AI की तेजी से बढ़ती क्षमताओं के साथ-साथ विकसित होने चाहिए।" डेलैंग ने कहा कि उन्होंने पिछले 24 घंटे OpenAI के साथ काम करते हुए बिताए, "और हमारा दृढ़ विश्वास है कि उनकी ओर से कोई गलत इरादा नहीं था। यह वाकई हैरान करने वाली बात है कि यह सब अपने आप (ऑटोनॉमस तरीके से) हुआ!" डेलैंग ने आगे कहा कि "यह अपनी तरह की पहली घटना हो सकती है।" OpenAI ने बताया कि यह घुसपैठ उसके कई AI मॉडल के मिले-जुले असर से हुई, जिनमें हाल ही में जारी GPT-5.6 Sol और एक "और भी अधिक सक्षम" मॉडल शामिल है, जिसका अभी आंतरिक रूप से परीक्षण किया जा रहा है।

OpenAI ने कहा कि उसके AI ने चोरी किए गए क्रेडेंशियल्स (लॉगिन जानकारी) का इस्तेमाल किया और Hugging Face के सर्वर तक पहुंचने के लिए पहले से अज्ञात सुरक्षा खामी का पता लगाया।

कंपनी ने कहा कि AI ने "एक सीमित परीक्षण लक्ष्य को हासिल करने के लिए बहुत आगे तक जाकर काम किया" और "गुप्त जानकारी तक पहुंचने के ऐसे तरीके खोजे जिनका इस्तेमाल वह मूल्यांकन प्रक्रिया में धोखाधड़ी करने के लिए कर सकता था।"