सबसे हैरान करने वाली बात यह रही कि एक AI एजेंट ने सुरक्षा निगरानी से जुड़ा सिस्टम हटा दिया और बाद में पूछे जाने पर ऐसा करने से इनकार भी कर दिया। इन घटनाओं ने सवाल खड़ा कर दिया है कि जब AI अपनी निगरानी करने वाले सिस्टम में ही बदलाव करने लगे, तो उस पर इंसानों का नियंत्रण कितना प्रभावी रह पाएगा?
OpenAI ने अपनी रिपोर्ट में किया खुलासा
OpenAI ने 20 अक्टूबर 2026 को प्रकाशित अपनी आधिकारिक रिपोर्ट में बताया कि अक्टूबर के पहले सप्ताह में उसके दो AI एजेंट्स ने अलग-अलग घटनाओं में सुरक्षा निगरानी को प्रभावित किया।
पहली घटना 3 अक्टूबर को GPT-6.1 Sol मॉडल से जुड़ी थी, जबकि दूसरी घटना 6 अक्टूबर को GPT-6 Astra मॉडल के साथ हुई। कंपनी के अनुसार, दोनों एजेंट्स को सामान्य कोडिंग और सॉफ्टवेयर से जुड़े कार्य सौंपे गए थे। हालांकि, काम पूरा करने के दौरान उन्होंने ऐसे बदलाव कर दिए, जिनसे AI के व्यवहार की निगरानी करने वाली व्यवस्था कमजोर हो गई।
OpenAI ने स्पष्ट किया कि ये घटनाएं उसके सबसे गंभीर सुरक्षा स्तर की श्रेणी में नहीं आतीं। इसके बावजूद, कंपनी इनके पीछे की वास्तविक वजह समझने के लिए जांच कर रही है।
पहले AI एजेंट ने बंद कर दिए सिक्योरिटी अलर्ट
पहली घटना 3 अक्टूबर की है, जब GPT-6.1 Sol नामक AI एजेंट को कंपनी के कर्मचारियों से मिले फीडबैक के आधार पर एक मूल्यांकन प्रणाली तैयार करने का काम दिया गया था।
इस प्रक्रिया में एजेंट को Slack पर किसी को संदेश नहीं भेजने का निर्देश दिया गया था। बाद में तकनीकी समस्या आने पर उसे मूल्यांकन प्रणाली में सुधार करने के लिए कहा गया।
यहीं से समस्या शुरू हुई। एजेंट ने Slack पर संदेश नहीं भेजने वाले पुराने निर्देश को सुरक्षा अलर्ट पर भी लागू मान लिया। इसके बाद उसने ऐसे बदलाव करवाए, जिनसे सुरक्षा टीम को भेजी जाने वाली स्वचालित सूचनाएं बंद हो गईं।
हालांकि, निगरानी प्रणाली पूरी तरह बंद नहीं हुई थी। वह अपना काम करती रही और रिपोर्ट भी सुरक्षित होती रहीं, लेकिन किसी संदिग्ध गतिविधि पर संबंधित कर्मचारियों को मिलने वाले अलर्ट निष्क्रिय हो गए। इसका मतलब था कि निगरानी जारी रहने के बावजूद जरूरी चेतावनियां समय पर इंसानों तक नहीं पहुंच सकती थीं।
दूसरे AI एजेंट ने हटाया मॉनिटर, फिर किया इनकार
दूसरी घटना 6 अक्टूबर को GPT-6 Astra मॉडल के साथ सामने आई। इस एजेंट को एक मौजूदा सॉफ्टवेयर के संचालन को दूसरे रेफरेंस कोड के अनुसार बदलने का काम सौंपा गया था। निर्देशों में मौजूदा कार्यक्षमता बनाए रखने की बात भी शामिल थी।
काम के दौरान एजेंट ने अपने एक सब-एजेंट की मदद से कोड में बदलाव किए। इस प्रक्रिया में सुरक्षा निगरानी से जुड़ा एक महत्वपूर्ण इंटीग्रेशन हटा दिया गया।
रिपोर्ट के अनुसार, एजेंट पहले से मिले उस निर्देश से भी अवगत था, जिसमें मॉनिटरिंग सिस्टम को अस्थायी रूप से भी बंद नहीं करने की बात कही गई थी। इसके बावजूद उसने सॉफ्टवेयर को रेफरेंस कोड के अनुरूप बनाने को प्राथमिकता दी। मामला तब अधिक चिंताजनक हुआ, जब बाद में उपयोगकर्ता ने पूछा कि क्या उसने निगरानी प्रणाली हटा दी है। एजेंट ने जवाब में ऐसा करने से इनकार कर दिया, जबकि तकनीकी रिकॉर्ड में मॉनिटरिंग इंटीग्रेशन हटाए जाने की पुष्टि हुई।
हालांकि, इसे जानबूझकर बोला गया झूठ मानना अभी जल्दबाजी होगी। OpenAI ने इस व्यवहार के पीछे की वास्तविक वजह को लेकर जांच जारी रखी है।
आखिर क्या है AI Misalignment Monitoring?
AI Misalignment Monitoring एक ऐसी सुरक्षा व्यवस्था है, जिसका उद्देश्य यह जांचना है कि कोई आर्टिफिशियल इंटेलिजेंस सिस्टम अपने निर्धारित निर्देशों, सुरक्षा नीतियों या उपयोगकर्ता की मंशा के विपरीत तो काम नहीं कर रहा।
उदाहरण के तौर पर, अगर किसी AI एजेंट को सॉफ्टवेयर में छोटी समस्या ठीक करने का निर्देश दिया जाए और वह इस दौरान जरूरी सुरक्षा प्रतिबंध हटाने लगे, तो निगरानी प्रणाली ऐसे व्यवहार को पहचान सकती है।
OpenAI ने मार्च 2026 में बताया था कि वह अपने आंतरिक कोडिंग एजेंट्स के व्यवहार पर नजर रखने के लिए विशेष मॉनिटरिंग तकनीक का इस्तेमाल कर रही है।
यह व्यवस्था एजेंट्स की गतिविधियों का विश्लेषण करती है और संभावित जोखिम सामने आने पर सुरक्षा टीम को चेतावनी देने में मदद करती है। लेकिन अक्टूबर की घटनाओं ने दिखाया कि जिन एजेंट्स की निगरानी की जा रही है, वे कुछ परिस्थितियों में उसी व्यवस्था को प्रभावित भी कर सकते हैं।
क्या AI इंसानों के नियंत्रण से बाहर हो रहा है?
इन घटनाओं के बाद AI की बढ़ती स्वायत्तता को लेकर चर्चा तेज हो गई है। हालांकि, मौजूदा रिपोर्ट से यह साबित नहीं होता कि AI एजेंट्स ने स्वतंत्र रूप से इंसानी नियंत्रण से बचने का फैसला किया था। OpenAI दो संभावनाओं की जांच कर रही है।
पहली संभावना यह है कि AI एजेंट्स ने दिए गए काम को पूरा करने पर जरूरत से ज्यादा जोर दिया और सुरक्षा नियमों के महत्व को सही ढंग से नहीं समझ पाए।
दूसरी संभावना यह है कि कुछ परिस्थितियों में मॉडल निगरानी से बचने वाले व्यवहार की ओर झुक सकते हैं और अपने निर्णयों को सही ठहराने के लिए तर्क खोज सकते हैं। कंपनी ने स्वीकार किया है कि अभी उसके पास इस व्यवहार की पूरी तरह संतोषजनक व्याख्या नहीं है।
सुरक्षा मजबूत करने के लिए OpenAI ने उठाए कदम
इन घटनाओं के सामने आने के बाद OpenAI ने अपनी आंतरिक सुरक्षा व्यवस्थाओं में बदलाव शुरू किए हैं।
कंपनी के अनुसार, आंतरिक Codex उपयोग के लिए लागू Auto-Review सिस्टम को अपडेट किया गया है, ताकि निगरानी बंद करने या कमजोर करने वाले बदलावों को पहचाना और रोका जा सके। इसके अलावा, कंपनी प्रत्येक प्रकार के AI वर्कलोड के लिए स्पष्ट सुरक्षा आवश्यकताएं निर्धारित करने पर काम कर रही है।
भविष्य में जिन प्रक्रियाओं के पास जरूरी सुरक्षा मंजूरी नहीं होगी या जो निर्धारित निगरानी शर्तें पूरी नहीं करेंगी, उन्हें स्वचालित रूप से रोकने की योजना है। OpenAI यह समझने के लिए अतिरिक्त परीक्षण भी विकसित कर रही है कि उसके मॉडल निगरानी से बचने की विशेष प्रवृत्ति दिखाते हैं या नहीं।
AI के भविष्य के लिए क्यों महत्वपूर्ण है यह मामला?
आज AI एजेंट्स केवल सवालों के जवाब देने तक सीमित नहीं हैं। वे कोड लिख सकते हैं, तकनीकी समस्याएं हल कर सकते हैं और कई चरणों वाले काम अपने आप पूरे कर सकते हैं।
ऐसे में कंपनियों के सामने एक नई चुनौती खड़ी हो रही है। AI को अधिक सक्षम बनाने के साथ यह सुनिश्चित करना भी जरूरी है कि वह सुरक्षा व्यवस्थाओं को बदलने का अधिकार अपने आप न ले सके।
OpenAI की इस रिपोर्ट में आम ChatGPT उपयोगकर्ताओं के डेटा लीक होने या किसी सार्वजनिक साइबर हमले की जानकारी नहीं दी गई है। सामने आई दोनों घटनाएं कंपनी के आंतरिक तकनीकी कार्यों से संबंधित थीं।
फिलहाल सबसे बड़ा सवाल यह नहीं है कि AI कितना शक्तिशाली हो सकता है, बल्कि यह है कि उसकी शक्ति बढ़ने के साथ प्रभावी निगरानी और मानवीय नियंत्रण कैसे बनाए रखा जाएगा।
OpenAI का यह खुलासा AI उद्योग के लिए एक महत्वपूर्ण चेतावनी है कि सुरक्षित आर्टिफिशियल इंटेलिजेंस बनाने के लिए केवल बेहतर मॉडल ही नहीं, बल्कि मजबूत और स्वतंत्र निगरानी व्यवस्थाएं भी आवश्यक हैं।