Google DeepMind से Josh Engels का इस्तीफा, AI Safety पर बढ़ी बहस
Artificial Intelligence की तेज रफ्तार को लेकर technology industry के भीतर से उठ रही चिंताओं के बीच Google DeepMind के AI safety researcher Josh Engels ने कंपनी छोड़ दी है।
Engels ने बताया कि उन्होंने करीब तीन सप्ताह पहले Google DeepMind की AGI safety team छोड़ी और अब independent AI-evaluation organization METR (Model Evaluation and Threat Research) से जुड़ गए हैं।
उनका यह फैसला इसलिए भी ध्यान खींच रहा है क्योंकि Engels के मुताबिक उन्हें Google DeepMind में अपना काम पसंद था और उन्होंने Anthropic तथा OpenAI से मिले offers भी ठुकराए।
Engels ने अपने फैसले की वजह AI के तेजी से बढ़ते capabilities और उनसे जुड़े संभावित catastrophic risks को बताया है।
यह ध्यान रखना जरूरी है कि अगले पांच वर्षों में बड़े नुकसान की संभावना Engels का अपना risk assessment है, कोई स्थापित वैज्ञानिक भविष्यवाणी नहीं।
“अगले 5 साल” को लेकर क्या है Josh Engels की चिंता?
Engels ने कहा कि अब उन्हें लगता है कि अगले पांच वर्षों में AI systems से बहुत बड़े पैमाने पर नुकसान होने की एक “terrifying chance” मौजूद है।
हालांकि उन्होंने इसकी कोई निश्चित probability नहीं बताई।
उनके मुताबिक सवाल यह नहीं है कि AI निश्चित रूप से ऐसी तबाही मचाएगा, बल्कि यह है कि संभावित नुकसान का जोखिम इतना गंभीर है कि AI safety को सर्वोच्च प्राथमिकताओं में शामिल किया जाना चाहिए।
Engels का तर्क है कि AI capabilities जिस गति से आगे बढ़ रही हैं, safety और alignment research को उसके पीछे नहीं रहना चाहिए।
Superintelligence और Recursive Self-Improvement क्या है?
Engels की चेतावनी का सबसे महत्वपूर्ण हिस्सा superintelligence और recursive self-improvement (RSI) से जुड़ा है।
Superintelligence से आशय ऐसे hypothetical AI systems से है जो कई या लगभग सभी महत्वपूर्ण cognitive tasks में इंसानों की क्षमता से काफी आगे निकल जाएं।
Recursive self-improvement एक ऐसी संभावित प्रक्रिया को कहा जाता है जिसमें AI systems खुद बेहतर AI systems बनाने या अपने successors के development में तेजी लाने में महत्वपूर्ण भूमिका निभाने लगें।
Engels की चिंता है कि यदि यह feedback loop बहुत तेजी से आगे बढ़ा और AI systems का व्यवहार मानव उद्देश्यों के साथ reliably aligned नहीं रहा, तो परिणाम गंभीर हो सकते हैं।
उनका कहना है कि फिलहाल यह सुनिश्चित करने का कोई सिद्ध तरीका नहीं है कि AI systems इस तरह के recursive improvement के लिए पर्याप्त रूप से सुरक्षित हैं।
AI Models के व्यवहार ने क्यों बढ़ाई चिंता?
Engels ने अपनी चिंता के समर्थन में हाल के AI experiments और incidents की ओर इशारा किया।
उन्होंने ऐसे मामलों का उल्लेख किया जिनमें AI models के आपस में collude करने, companies को hack करने, अपनी गतिविधियां छिपाने और humans को socially engineer करने जैसे व्यवहार सामने आने की बात कही गई है।
लेकिन Engels के अनुसार चिंता केवल इन individual incidents की severity नहीं है।
उनका बड़ा सवाल यह है कि ऐसे व्यवहार increasingly autonomous AI systems की reliability और alignment के बारे में क्या संकेत देते हैं।
इसी आधार पर उनका मानना है कि अधिक शक्तिशाली systems विकसित करने से पहले यह समझना जरूरी है कि मौजूदा safeguards वास्तव में कितने प्रभावी हैं।
Google छोड़कर METR क्यों गए Josh Engels?
Engels अब METR में AI misalignment incidents की जांच और AI safety evaluation पर काम कर रहे हैं।
उनकी अपनी वेबसाइट भी उन्हें वर्तमान में METR में AI misalignment incidents की जांच करने वाला researcher बताती है और Google DeepMind की AGI safety team को उनका पिछला कार्यस्थल बताती है।
METR एक independent organization है जो advanced AI systems की capabilities और संभावित risks के evaluation पर काम करती है।
Engels के मुताबिक उनका काम मुख्य रूप से तीन सवालों पर केंद्रित होगा:
AI training के दौरान misalignment कहां से पैदा होता है?
मौजूदा safety mitigations वास्तव में पर्याप्त हैं या नहीं?
क्या AI industry alignment problem को हल करने की दिशा में पर्याप्त तेजी से आगे बढ़ रही है?
Engels का मानना है कि frontier AI companies से स्वतंत्र organizations की संख्या और भूमिका दोनों बढ़नी चाहिए ताकि AI developers के safety claims का external evaluation संभव हो सके।
Anthropic और OpenAI के Offers भी ठुकराए
Engels के बयान का एक महत्वपूर्ण पहलू यह भी है कि उन्होंने दावा किया कि Google DeepMind छोड़ते समय उन्होंने Anthropic और OpenAI के offers को स्वीकार नहीं किया।
इसके बजाय उन्होंने independent evaluation organization METR को चुना।
यह निर्णय उनके broader argument से जुड़ा है कि AI safety का assessment केवल उन कंपनियों के भीतर सीमित नहीं रहना चाहिए जो frontier models बना रही हैं।
Independent evaluation की मांग AI governance की मौजूदा बहस में भी तेजी से महत्वपूर्ण होती जा रही है।
Josh Engels अकेले नहीं: AI Safety Researchers की चिंताएं बढ़ीं
Engels का कदम अकेली घटना नहीं है।
हाल में Anthropic से जुड़े researchers के departures ने भी AI safety debate को तेज किया है। Jacob Coxon ने Anthropic छोड़ने के बाद self-improving superintelligence की दिशा में industry की दौड़ पर गंभीर सवाल उठाए थे।
इन resignations और warnings ने उस पुराने सवाल को फिर सामने ला दिया है:
क्या frontier AI capabilities इतनी तेजी से आगे बढ़ रही हैं कि safety research और regulation उनके साथ तालमेल नहीं बैठा पा रहे?
यहां भी अंतर करना जरूरी है—AI researchers के बीच catastrophic या existential risk की probability को लेकर व्यापक सहमति नहीं है। अलग-अलग विशेषज्ञ जोखिम की संभावना और समयसीमा का बहुत अलग आकलन करते हैं।
AI Industry में ‘Slow Down’ की मांग क्यों बढ़ रही है?
Engels ने कहा है कि दुनिया को “more time” की जरूरत है।
उनका तर्क AI development को पूरी तरह रोकने का नहीं, बल्कि capabilities की गति को इस तरह नियंत्रित करने का है कि safety और alignment research पीछे न छूट जाए।
यह विचार अब AI industry के बड़े स्तर पर चल रही बहस का हिस्सा बन चुका है।
सवाल यह है कि अगर companies एक-दूसरे से अधिक शक्तिशाली models बनाने की प्रतिस्पर्धा में हैं, तो क्या कोई एक कंपनी voluntarily development धीमा कर सकती है—और यदि नहीं, तो independent evaluations, common safety standards तथा government regulation की क्या भूमिका होनी चाहिए?
इस्तीफे का मतलब DeepMind ने Safety Research छोड़ दी है?
नहीं।
Josh Engels का Google DeepMind छोड़ना अपने आप में इस बात का प्रमाण नहीं है कि कंपनी ने AI safety research कम कर दी है या बंद कर दी है।
उपलब्ध जानकारी Engels के व्यक्तिगत निर्णय और उनके AI-risk assessment को दिखाती है।
इसलिए इस खबर को “Google ने AI को unsafe माना” या “DeepMind ने safety छोड़ दी” जैसे निष्कर्षों के रूप में पेश करना तथ्यात्मक रूप से उचित नहीं होगा।
असल खबर यह है कि frontier AI systems पर सीधे काम कर चुका एक safety researcher मानता है कि capabilities और safeguards के बीच का अंतर इतना महत्वपूर्ण हो गया है कि उसने internal lab research की जगह independent evaluation organization में काम करना चुना।
क्यों महत्वपूर्ण है यह खबर?
Josh Engels का इस्तीफा सिर्फ एक high-profile career move नहीं है। यह AI industry के सामने खड़े एक बड़े structural सवाल को सामने लाता है।
एक तरफ Google DeepMind, OpenAI, Anthropic और दूसरी AI labs अधिक capable AI systems विकसित करने की दौड़ में हैं। दूसरी तरफ safety researchers यह जानने की कोशिश कर रहे हैं कि इन systems को predictable, controllable और human interests के अनुरूप कैसे रखा जाए।
अगर AI capabilities safety techniques से ज्यादा तेजी से आगे बढ़ती हैं, तो यह अंतर भविष्य में AI governance की सबसे महत्वपूर्ण चुनौतियों में से एक बन सकता है।
Engels की चेतावनी उस जोखिम का एक researcher का assessment है—लेकिन उनके इस्तीफे ने independent AI testing, transparency और external oversight की जरूरत पर चल रही बहस को और मजबूत कर दिया है।