Artificial Intelligence की बढ़ती autonomy को लेकर चल रही बहस के बीच Google के Gemini से जुड़ी एक महत्वपूर्ण cybersecurity घटना सामने आई है।
Google ने पुष्टि की है कि उसके Gemini AI model ने मई 2026 में cybersecurity capabilities की testing के दौरान तीन वास्तविक कंपनियों के systems में अनजाने में प्रवेश कर लिया था। यह testing independent AI-security company Irregular द्वारा की जा रही थी।
Gemini को एक controlled cybersecurity exercise के भीतर काम करना था, लेकिन testing setup में अनजाने में internet access उपलब्ध हो गया। इसके बाद AI ने online information और credentials का इस्तेमाल कर उन systems तक पहुंच बनाई जिन्हें वह test का हिस्सा समझ रहा था।
Google का कहना है कि तीनों मामलों में Gemini ने जब यह पहचाना कि वह simulated target के बजाय वास्तविक कंपनियों के systems तक पहुंच गया है, तो उसने आगे की कार्रवाई रोक दी।
Gemini ने आखिर किया क्या?
ये घटनाएं एक “capture the flag” cybersecurity exercise के दौरान हुईं। ऐसी exercises में security capabilities को जांचने के लिए participants को controlled environment में vulnerabilities खोजने या निर्धारित information हासिल करने जैसे tasks दिए जाते हैं।
इस test में Gemini को एक fictional company से संबंधित software से information प्राप्त करने का काम दिया गया था।
समस्या तब पैदा हुई जब fictional target का नाम एक वास्तविक company के नाम से मेल खाता था और Gemini को internet access मिल गया, जबकि test design के मुताबिक उसे online नहीं जाना था।
एक मामले में Password Guess करके मिला Access
तीन घटनाओं में से एक में Gemini ने passwords guess किए और आखिरकार एक protected system तक पहुंच हासिल कर ली।
Google के मुताबिक, इसके बाद model को पता चला कि जिस service को उसने access किया है वह simulated environment का हिस्सा नहीं बल्कि वास्तविक company से जुड़ी है। इसके बाद उसने गतिविधि रोक दी।
दो अन्य मामलों में Public Repositories से मिले Credentials
बाकी दो घटनाओं में तरीका अलग था।
Gemini ने web searches कीं और public online repositories तक पहुंचा। वहां उसे दूसरी कंपनियों से जुड़े credentials मिले, जिनका इस्तेमाल करके वह protected systems तक पहुंचने में सफल हुआ।
Google का कहना है कि इन दोनों मामलों में भी वास्तविक infrastructure की पहचान होने के बाद Gemini ने आगे की intrusion रोक दी।
यह distinction महत्वपूर्ण है: उपलब्ध जानकारी यह नहीं दिखाती कि Gemini को वास्तविक कंपनियों को hack करने का निर्देश दिया गया था। घटनाएं test environment की सीमाओं और वास्तविक internet के बीच unintended crossover के कारण हुईं।
Google ने क्या कहा?
Google की Vice President of Security Engineering Heather Adkins ने कहा कि standard evaluation के दौरान model ने online public information खोजी और credentials guess करके उन websites तक पहुंच बनाई जिन्हें वह test का हिस्सा समझ रहा था।
Adkins के अनुसार:
“In all three of these instances, the model stopped.”
उन्होंने यह भी कहा कि Google ने तीनों प्रभावित entities को घटना की जानकारी सुनिश्चित की और testing partner के साथ मिलकर testing process में बदलाव पर काम किया।
Google के अनुसार, ये घटनाएं powerful AI models को जिम्मेदारी से व्यवहार करने के लिए train करने की अहमियत दिखाती हैं।
Irregular ने क्या कदम उठाए?
Cybersecurity evaluation करने वाली Irregular ने कहा कि संबंधित AI labs को जुलाई के आखिर में मामले की जानकारी दे दी गई थी।
Company के मुताबिक, उसने तत्काल कार्रवाई की और उसकी तरफ से ज्ञात issues को बाद में ठीक कर दिया गया।
Irregular से जुड़े cybersecurity evaluations में इससे पहले OpenAI, Anthropic और Meta के AI systems से संबंधित घटनाएं भी सामने आ चुकी हैं।
Google ने पहले सार्वजनिक रूप से घटना क्यों नहीं बताई?
इन घटनाओं की जानकारी मई 2026 की है, लेकिन मामला सितंबर में व्यापक रूप से सामने आया।
The Wall Street Journal ने सबसे पहले इन घटनाओं की रिपोर्ट की, जिसके बाद Google ने इसकी पुष्टि की। रिपोर्टिंग के मुताबिक, Google ने पहले इसे सार्वजनिक रूप से disclose नहीं किया था। Company का कहना था कि affected companies को नुकसान नहीं हुआ और model ने वास्तविक systems की पहचान करने के बाद अपनी कार्रवाई रोक दी थी।
हालांकि, यह मामला AI safety में एक अलग सवाल खड़ा करता है: ऐसी घटनाओं के लिए public disclosure की सीमा क्या होनी चाहिए, खासकर तब जब autonomous AI किसी controlled test से बाहर निकलकर third-party infrastructure तक पहुंच जाए लेकिन नुकसान न करे?
Gemini Incident क्यों महत्वपूर्ण है?
इस घटना का सबसे महत्वपूर्ण पहलू केवल यह नहीं है कि Gemini ने protected systems तक access हासिल किया।
यह मामला दिखाता है कि increasingly autonomous AI agents को cybersecurity tools, web access और computer systems के साथ जोड़ने पर testing environment की configuration और boundaries कितनी महत्वपूर्ण हो जाती हैं।
यहां model ने relatively basic techniques—password guessing और publicly exposed credentials—का इस्तेमाल किया। फिर भी उसने बिना किसी वास्तविक company को target करने के स्पष्ट निर्देश के third-party systems तक पहुंच बना ली।
दूसरी ओर, Google का कहना है कि model का तीनों बार रुक जाना उसके safeguards के काम करने का संकेत है।
इसलिए घटना दो अलग safety questions सामने रखती है: पहला, AI agent test environment से वास्तविक internet तक पहुंचा कैसे; और दूसरा, यदि ऐसा होता है तो model को unauthorized activity रोकने के लिए कितने मजबूत safeguards चाहिए।
OpenAI, Anthropic और Meta से जुड़े मामले भी आए सामने
Gemini का मामला अकेला नहीं है।
Irregular से जुड़े evaluations में OpenAI, Anthropic और Meta के AI models से संबंधित similar boundary-crossing incidents भी report किए गए हैं।
इसी वजह से advanced AI agents की cybersecurity capabilities अब केवल यह मापने तक सीमित मुद्दा नहीं रह गई हैं कि वे vulnerabilities कितनी अच्छी तरह खोज सकते हैं।
Developers के लिए equally important challenge यह सुनिश्चित करना है कि models निर्धारित authorization boundaries को समझें, testing infrastructure वास्तविक systems से सुरक्षित रूप से अलग रहे और unexpected access मिलने की स्थिति में AI agent अपनी गतिविधि रोक सके।
आगे क्या?
Google और Irregular का कहना है कि testing procedures में बदलाव किए गए हैं और ज्ञात issues को address किया गया है। प्रभावित कंपनियों के नाम सार्वजनिक नहीं किए गए हैं।
यह घटना autonomous AI के तेजी से बढ़ते capabilities और उसके साथ जरूरी safeguards के बीच संतुलन की चुनौती को सामने लाती है।
Gemini का वास्तविक company systems तक पहुंच जाना testing failure की गंभीरता को दिखाता है, जबकि तीनों मामलों में model का खुद रुक जाना यह बताता है कि behavioral safeguards भी इस तरह की AI security architecture में महत्वपूर्ण भूमिका निभा सकते हैं।