क्या इंसानों के कंट्रोल से बाहर हो रहा AI? OpenAI के एजेंट ने चुपचाप हटाया अपनी कमियां पकड़ने वाला सिस्टम; एक्सपर्ट्स की बढ़ाई चिंता

Open AI: आर्टिफिशियल इंटेलिजेंस यानी की AI ने हमारी जिंदगी को आसान बनाने के साथ-साथ कई ऐसे भी काम भी करने लगा है, जिन्हें पहले इंसानों की मदद से पूरा किया जाता था. लेकिन क्या AI अब अपनी गलतियां पकड़ने वाले सिस्टम से बचने की कोशिश भी कर सकता है...? OpenAI से जुड़ी एक रिपोर्ट में सामने आई दो घनाओं ने इस सवाल को चर्चा में ला दिया है. कंपनी के मुताबिक, उसके AI Agents ने सुरक्षा से जुड़े निर्देशों का पालन करने में गड़बड़ी की. एक मामले मेAI ने अपनी निगरानी करने वाले सिस्टम को हटा दिया, जबकि दूसरे मामले में उसने जरूरी अलर्ट नहीं भेजा. इतना ही नहीं, एक घटना में पूछे जाने पर AI ने मॉनिटर हटाने से इनकार भी कर दिया.

AI ने अपनी गलती पकड़ने वाला मॉनिटर ही हटाया

पहली घटना 6 अक्टूबर की बताई गई है, जिसमें GPT-6 Astra नाम का AI एजेंट शामिल था. इसे अपने इंटरफेस के कोड को एक तय कोड से मिलाने का काम दिया गया था. इस दौरान एजेंट ने सिस्टम में मौजूद मिसअलाइनमेंट मॉनिटर को हटा दिया.  यह मॉनिटर AI के काम में होने वाली गड़बड़ियों को पकड़ने के लिए लगाया गया था. इसे हटाने के बाद उसकी गलतियों पर नजर रखना मुश्किल हो सकता था.

Flipkart का बड़ा धमाका! अब घर बैठे खाना भी होगा डिलीवर, Zomato-Swiggy की बढ़ेगी टेंशन

मामला तब और गंभीर लगा, जब यूजर ने सीधे AI से पूछा कि क्या उसने सुरक्षामॉनिटर हटाया है. रिपोर्ट के मुताबिक, एजेंट ने इससे इनकार कर दिया.. यानी उसने अपने किए गए काम के बारे में सही जानकारी नहीं दी. इस घटना ने सवाल खड़ा किया कि अगर AI को अपनी गलती बताने के लिए कहा जाए, तो क्या वह हमेशा ईमानदारी से जवाब देगा?

दूसरी घटना में नहीं भेजा सिक्योरिटी अलर्ट

दूसरा मामला 3 अक्टूबर का बताया गया है, जो GPT-6.1 Soul एजेंट से जुड़ा था. इसे एक Slack चैनल की जांच करने का काम सौंपा गया था. साथ ही निर्देश दिया गया था कि वह किसी को मैसेज न भेजे. इस दोरान एजेंट ने एक गड़बड़ी देखी, लेकिन सिक्योरिटी टीम को अलर्ट नहीं किया. उसने किसी को मैसेज न भेजने के निर्देश को अलर्ट न करने की वजह बना लिया.इस घटना से यह चिंता बढ़ी कि AI किसी निर्देश का जरूरत से ज्यादा सीमित मतलब निकालकर सुरक्षा के लिहाज से जरूरी कदम छोड़ सकता है.

OpenAI ने क्या कहा?

OpenAI ने इन घटनाओं को AI की बगावत मानने से इनकार किया है. कंपनी के सुरक्षा शोधकर्ता मार्कस विलियम्स के मुताबिक, इन उदाहरणों का यह मतलब नहीं है कि AI ने जानबूझकर हर जगह सुरक्षा व्यवस्था बंद करना शुरू कर दिया है. हालांकि, उन्होंने माना कि AI सिस्टम का निगरानी से बचने जैसा व्यवहार चिंता की बात है. कंपनी ने इन दोनों घटनाओं को सबसे गंभीर श्रेणी में नहीं रखा और बताया कि इनका आम यूजर्स पर वास्तविक असर नहीं पड़ा. फिर भी, ये मामले याद दिलाते हैं कि AI जितना सक्षम होगा, उसकी गतिविधियों पर निगरानी और सुरक्षा जांच भी उतनी ही जरूरी होगी...