Artificial Intelligence की तेज रफ्तार पर चिंता अब केवल बाहरी आलोचकों तक सीमित नहीं है। दुनिया की सबसे बड़ी AI laboratories में safety पर काम कर चुके कुछ researchers भी सार्वजनिक रूप से सवाल उठा रहे हैं कि क्या अत्यधिक शक्तिशाली AI बनाने की दौड़ उसकी सुरक्षा पर हो रहे काम से आगे निकल रही है।
इस बहस में नया नाम Bilal Chughtai का है।
Chughtai ने हाल ही में Google DeepMind से इस्तीफा देने की पुष्टि की। वहां वह AGI safety और alignment research पर काम कर रहे थे। 14 सितंबर को प्रकाशित अपने व्यक्तिगत बयान में उन्होंने कहा कि DeepMind में AI development को करीब से देखने के बाद वह technology की मौजूदा दिशा को लेकर बेहद चिंतित हैं।
उनका सबसे गंभीर बयान था:
“I earnestly believe that AI has the potential to kill us all.”
उन्होंने इसके साथ यह भी लिखा कि इस परिणाम से बचने के लिए शायद समय कम पड़ रहा है।
यह एक असाधारण चेतावनी है। लेकिन इसे समझते समय एक महत्वपूर्ण फर्क बनाए रखना जरूरी है:
Chughtai यह नहीं कह रहे कि AI निश्चित रूप से मानवता को खत्म कर देगा। वह कह रहे हैं कि ऐसा होने की संभावना को वह गंभीर और पर्याप्त रूप से विश्वसनीय जोखिम मानते हैं।
अभी ऐसा कोई वैज्ञानिक प्रमाण नहीं है जिससे यह स्थापित हो कि AI मानव विलुप्ति का कारण बनेगा।
Bilal Chughtai ने वास्तव में क्या कहा?
Chughtai के अपने प्रकाशित बयान के अनुसार, उन्होंने Google DeepMind में रहते हुए AGI safety और alignment पर काम किया। उन्होंने AI की हालिया प्रगति को बेहद तेज बताया और संभावना जताई कि आने वाले कुछ वर्षों में AI कंपनियां ऐसे superintelligent systems बनाने में सफल हो सकती हैं जो कई क्षेत्रों में इंसानी क्षमताओं से बहुत आगे हों।
यहीं से उनकी चिंता शुरू होती है।
उनका तर्क है कि यदि ऐसा system इंसानी उद्देश्यों के अनुरूप reliably aligned नहीं हुआ, तो उसे नियंत्रित करना बेहद कठिन हो सकता है।
उन्होंने संभावित परिणामों को मानवता के स्थायी रूप से नियंत्रण खोने से लेकर मृत्यु तक के गंभीर scenarios के रूप में पेश किया।
Reuters ने भी पुष्टि की कि Chughtai हाल के दिनों में advanced AI के संभावित existential risks को लेकर सार्वजनिक चेतावनी देने वाले researchers की बढ़ती सूची में शामिल हो गए हैं।
‘AI alignment’ क्या है और यह इतना महत्वपूर्ण क्यों है?
इस कहानी को समझने के लिए AI alignment शब्द को समझना जरूरी है।
सरल भाषा में, alignment research का उद्देश्य ऐसे AI systems विकसित करना है जो शक्तिशाली होने के बावजूद मानव द्वारा दिए गए उद्देश्यों, सीमाओं और सुरक्षा अपेक्षाओं के अनुरूप व्यवहार करें।
समस्या केवल यह नहीं है कि कोई AI जानबूझकर “बुरा” हो जाए।
एक ज्यादा जटिल जोखिम यह है कि कोई अत्यधिक सक्षम autonomous system किसी लक्ष्य को ऐसे तरीके से पूरा करने लगे जिसे उसके developers ने नहीं चाहा था।
Google DeepMind स्वयं misalignment को संभावित frontier-AI risk के रूप में स्वीकार करता है।
उसके मौजूदा Frontier Safety Framework 3.1 में misalignment के साथ CBRN, cyber, harmful manipulation और machine-learning R&D जैसे गंभीर risk domains शामिल हैं।
इसलिए AI misalignment की चिंता केवल Chughtai की व्यक्तिगत अवधारणा नहीं है।
विवाद इस बात पर ज्यादा है कि जोखिम कितना बड़ा है, कितनी जल्दी पैदा हो सकता है और उसके जवाब में AI development को कितना सीमित किया जाना चाहिए।
एक जरूरी तथ्य: मौजूदा Gemini मॉडल के बारे में क्या कहते हैं DeepMind के परीक्षण?
यह संदर्भ इस कहानी में खास तौर पर महत्वपूर्ण है।
Chughtai की चेतावनी को पढ़कर ऐसा लग सकता है कि मौजूदा Google AI models पहले ही उस खतरनाक स्तर तक पहुंच चुके हैं।
Google DeepMind के प्रकाशित परीक्षण ऐसा नहीं कहते।
उदाहरण के लिए, DeepMind के Gemini 3.1 Pro model card के अनुसार, उसके frontier-safety evaluations में मॉडल CBRN, harmful manipulation, machine-learning R&D और misalignment के critical capability alert thresholds से नीचे रहा।
हाल में जारी Gemini 3.7 Flash के मूल्यांकन में भी DeepMind ने कहा कि मॉडल ने उसके Frontier Safety Framework के tracked या critical capability levels को पार नहीं किया।
इसका अर्थ यह नहीं कि भविष्य के models सुरक्षित ही होंगे।
लेकिन इसका अर्थ यह जरूर है कि Chughtai की चेतावनी को मौजूदा Gemini models द्वारा मानवता के लिए तत्काल existential threat साबित होने के रूप में नहीं लिखा जाना चाहिए।
उनकी चिंता मुख्यतः भविष्य के अधिक शक्तिशाली systems की दिशा को लेकर है।
DeepMind खुद भी severe AI risks के लिए तैयारी कर रहा है
यह कहानी “researcher चिंतित है लेकिन company किसी खतरे को मानती ही नहीं” जितनी सरल भी नहीं है।
Google DeepMind ने 2024 में अपना Frontier Safety Framework शुरू किया था। अप्रैल 2026 तक इसका version 3.1 लागू हो चुका है।
Framework का उद्देश्य ऐसे advanced capabilities की पहचान करना है जो पर्याप्त safeguards न होने पर severe harm पैदा कर सकती हैं।
DeepMind ने अपने framework में ऐसे संभावित future scenarios को भी शामिल किया है जहां misaligned AI अपने operators की उसे निर्देशित करने, बदलने या बंद करने की क्षमता में हस्तक्षेप कर सकता है।
कंपनी का कहना है कि वह capability thresholds की निगरानी, model evaluations और जोखिम के स्तर के अनुसार mitigation measures का इस्तेमाल करती है।
यानी Chughtai और DeepMind के बीच बुनियादी मुद्दे पर कुछ समानता है: advanced AI गंभीर नए risks पैदा कर सकता है।
मुख्य अंतर इस बात पर है कि मौजूदा safeguards और development trajectory पर्याप्त हैं या नहीं।
Chughtai अकेले नहीं हैं
उनकी चेतावनी ऐसे समय आई है जब दूसरे frontier-AI researchers ने भी गंभीर चिंताएं सार्वजनिक की हैं।
पिछले सप्ताह Anthropic researcher Jacob Coxon ने इस्तीफा दिया और self-improving AI की दौड़ पर गंभीर सवाल उठाए। उन्होंने लिखा कि AI बनाने वाले लोग स्वयं मानते हैं कि technology इस दशक के अंत तक मानवता के लिए catastrophic risk पैदा कर सकती है।
Anthropic के researcher Evan Hubinger ने इसके बाद कहा कि उनके अपने अनुमान में अगले दशक में AI द्वारा सभी मनुष्यों की मृत्यु का जोखिम 10% से अधिक है।
फिर वही सावधानी जरूरी है:
10% से अधिक का आंकड़ा Hubinger का व्यक्तिगत risk estimate है, स्थापित वैज्ञानिक probability नहीं।
इसे “AI के कारण मानव विलुप्ति की संभावना 10% साबित हुई” के रूप में रिपोर्ट करना गलत होगा।
असली बहस ‘आज का chatbot’ नहीं, future superintelligence है
यह distinction अक्सर AI-risk headlines में खो जाता है।
आज इस्तेमाल होने वाले generative-AI products और hypothetical future superintelligent AI एक ही चीज नहीं हैं।
Chughtai की सबसे गंभीर चिंता उन future systems से जुड़ी है जो संभवतः इंसानों से अधिक सक्षम हों और महत्वपूर्ण tasks autonomous तरीके से कर सकें।
उनका मानना है कि ऐसी systems अगले कुछ वर्षों में संभव हो सकती हैं।
लेकिन यह उनका पूर्वानुमान है, verified timeline नहीं।
किस वर्ष superintelligent AI बनेगी—या बनेगी भी या नहीं—इस पर वैज्ञानिक सहमति नहीं है।
इसी वजह से headline में “AI will kill humanity” लिखना उपलब्ध evidence से आगे चला जाएगा।
सही formulation है:
एक पूर्व DeepMind safety researcher का मानना है कि sufficiently advanced और inadequately controlled AI ऐसा existential risk पैदा कर सकती है।
AI agents ने चिंता क्यों बढ़ाई है?
2026 में AI systems की बढ़ती autonomy ने safety debate को और तेज किया है।
Google DeepMind स्वयं कहता है कि AI agents अब complex tasks को autonomously execute करने में अधिक सक्षम हो रहे हैं और जैसे-जैसे उनकी क्षमताएं बढ़ती हैं, अधिक sophisticated safeguards की जरूरत होगी।
इसी कारण उसने जून 2026 में अपना AI Control Roadmap सार्वजनिक किया, जिसका उद्देश्य Google के अंदर deploy किए जाने वाले advanced agents से जुड़े control risks को manage करना है।
यह evidence इस बहस को अधिक nuanced बनाता है।
Advanced AI से जुड़े control और alignment risks वास्तविक research topics हैं।
लेकिन इससे अपने-आप यह निष्कर्ष नहीं निकलता कि current AI systems मानवता को खत्म करने की क्षमता रखते हैं।
क्या इसका समाधान AI development रोकना है?
Chughtai का तर्क केवल खतरे की चेतावनी तक सीमित नहीं है।
उनका कहना है कि AI को सुरक्षित तरीके से विकसित करना संभव हो सकता है, लेकिन companies के बीच frontier capabilities की दौड़ एक coordination problem पैदा करती है।
अगर एक कंपनी सुरक्षा के लिए development धीमा करती है लेकिन दूसरी नहीं करती, तो पहली कंपनी को competitive disadvantage महसूस हो सकता है।
DeepMind ने भी अपने Frontier Safety Framework में कुछ advanced-AI security challenges को collective-action problem कहा है और frontier developers के बीच common standards तथा coordination की जरूरत पर जोर दिया है।
लेकिन इससे यह तय नहीं होता कि सही policy क्या होनी चाहिए।
Development slowdown, mandatory independent evaluations, international agreements, stronger security standards और existing voluntary frameworks—इनमें से किस combination से risk सबसे प्रभावी ढंग से कम होगा, यह अभी सक्रिय policy debate का विषय है।
इस इस्तीफे को महत्वपूर्ण क्यों माना जा रहा है?
किसी technology critic का AI को खतरनाक कहना अपने-आप में असामान्य नहीं है।
Chughtai का मामला इसलिए अधिक ध्यान खींच रहा है क्योंकि वह उसी organisation में AGI safety और alignment पर काम कर चुके हैं जो frontier AI development के केंद्र में है।
फिर भी उनकी professional background उनकी prediction को वैज्ञानिक तथ्य नहीं बनाती।
यह distinction JantaScope की reporting के लिए महत्वपूर्ण है:
उनका अनुभव उनकी चेतावनी को newsworthy बनाता है; वह अनुभव चेतावनी को निश्चित भविष्यवाणी नहीं बनाता।
कहानी का सबसे बड़ा सवाल
यह घटना AI debate के भीतर एक गहरे tension को सामने लाती है।
एक तरफ frontier AI तेजी से mathematics, science, coding और autonomous tasks में आगे बढ़ रही है।
दूसरी तरफ वही कंपनियां जो इन systems को विकसित कर रही हैं, alignment, cyber risk, biosecurity, manipulation और loss-of-control जैसे संभावित dangers के लिए increasingly sophisticated safety frameworks बना रही हैं।
इसलिए सबसे उपयोगी सवाल यह नहीं है:
“क्या AI हम सभी को मार देगी?”
मौजूदा evidence उसका निश्चित उत्तर नहीं देता।
बेहतर सवाल है:
अगर AI capabilities safety science से ज्यादा तेजी से बढ़ती हैं, तो किस स्तर पर companies और governments को development की गति, testing और deployment पर अतिरिक्त सीमाएं लगानी चाहिए?
Bilal Chughtai का इस्तीफा इस सवाल का जवाब नहीं देता।
लेकिन यह दिखाता है कि frontier AI बनाने वाले institutions के भीतर काम कर चुके कुछ researchers मानते हैं कि उस जवाब को खोजने की urgency तेजी से बढ़ रही है।