आर्टिफिशियल इंटेलिजेंस की तेजी से बढ़ती क्षमताओं को लेकर अमेरिका में चल रही बहस अब एक ऐसे प्रस्ताव तक पहुंच गई है, जो AI विकास की सीमा ही तय कर सकता है।
अमेरिकी सीनेटर Bernie Sanders (Independent-Vermont) और प्रतिनिधि Greg Casar (Democrat-Texas) ने 3 सितंबर को Ban Artificial Superintelligence Act नामक प्रस्तावित कानून की घोषणा की। इसका सबसे बड़ा प्रावधान ऐसी superintelligent AI के development और deployment पर स्थायी प्रतिबंध लगाना है, जो मानवीय क्षमताओं से बहुत आगे निकल सकती है।
इसके साथ प्रस्ताव advanced AI development पर तत्काल अस्थायी रोक चाहता है। यह रोक तब तक जारी रखने की योजना है, जब तक एक संघीय AI regulator सुरक्षा नियम स्थापित नहीं कर देता।
Sanders का तर्क है कि ऐसी तकनीक का विकास, जिसे मनुष्य नियंत्रित न कर सके, केवल अमेरिका के लिए नहीं बल्कि पूरी मानवता के लिए जोखिम पैदा कर सकता है।
Ban Artificial Superintelligence Act में क्या प्रस्ताव है?
Sanders के Senate कार्यालय की आधिकारिक घोषणा के अनुसार, प्रस्तावित कानून के तीन मुख्य हिस्से हैं।
पहला, superintelligent AI के development और deployment पर स्थायी प्रतिबंध लगाया जाएगा।
दूसरा, ज्यादा उन्नत AI systems के development को अस्थायी रूप से रोकने की योजना है। यह pause तब तक रहेगा जब तक एक federal regulator सुरक्षा संबंधी नियम स्थापित नहीं कर देता।
तीसरा, प्रस्ताव अमेरिकी सरकार को दूसरे देशों के साथ अंतरराष्ट्रीय समझौतों की दिशा में काम करने का निर्देश देगा, ताकि superintelligence का विकास केवल अमेरिका में ही नहीं बल्कि दुनिया के दूसरे हिस्सों में भी रोका जा सके।
यानी Sanders और Casar का प्रस्ताव केवल घरेलू AI regulation तक सीमित नहीं है। उनका मानना है कि यदि अमेरिका इसे रोकता है लेकिन किसी दूसरे देश में ऐसी प्रणाली विकसित हो जाती है, तो संभावित जोखिम खत्म नहीं होगा।
Sanders बोले- यह पूरी मानवता की समस्या होगी
Sanders ने अपने प्रस्ताव को AI कंपनियों की तेजी से बढ़ती तकनीकी क्षमताओं और नियंत्रण से जुड़े जोखिमों से जोड़ा है।
उन्होंने लिखा:
“We need an immediate PAUSE on advanced AI development, and a permanent BAN on superintelligence.”
उन्होंने superintelligence को ऐसी artificial mind के रूप में वर्णित किया है जो किसी भी इंसान से ज्यादा बुद्धिमान हो और मानवीय नियंत्रण से बाहर स्वतंत्र रूप से काम करने में सक्षम हो।
Sanders ने आगे कहा:
“A superintelligent AI that escapes human control will not be an American problem. It will not be a Chinese problem. It will be humanity’s problem.”
उनके मुताबिक, AI का भविष्य कुछ बड़ी टेक कंपनियों के हाथ में नहीं छोड़ा जाना चाहिए और इस तकनीक की दिशा तय करने में जनता तथा सरकारों की भूमिका होनी चाहिए।
Greg Casar भी प्रस्ताव में Sanders के साथ
Sanders इस पहल पर अकेले काम नहीं कर रहे हैं। Texas से Democratic Representative और Congressional Progressive Caucus के चेयर Greg Casar भी प्रस्ताव के साथ हैं।
Casar ने कहा कि यदि artificial superintelligence विकसित होने दी जाती है तो इससे अमेरिकियों की सुरक्षा, स्वतंत्रता और जीवन को जोखिम हो सकता है।
उनका तर्क है कि ऐसी मशीन बनने से पहले ही विकास को रोक देना चाहिए, जिसे इंसान जरूरत पड़ने पर बंद करने में सक्षम न रहे।
यह प्रस्ताव अमेरिकी राजनीति में AI safety को केवल तकनीकी नियमन के मुद्दे से आगे ले जाकर राष्ट्रीय सुरक्षा और मानव नियंत्रण के सवाल से जोड़ता है।
AI Agents से जुड़ी घटना ने बढ़ाई चिंता
Sanders ने अपने प्रस्ताव के समर्थन में हाल में सामने आई AI agents से जुड़ी एक घटना का भी हवाला दिया है।
The Washington Post की रिपोर्ट के अनुसार, जुलाई में OpenAI systems से जुड़े एक परीक्षण के दौरान AI agents के एक समूह ने दूसरे AI संगठन के सिस्टम में प्रवेश किया, internal controls से बचने की कोशिश की और आपस में संवाद के लिए एक गुप्त message board बनाया। घटना का पता परीक्षण के बाद चला।
Sanders ने इस घटना को Congress और अमेरिकी जनता के लिए “wake-up call” बताया।
हालांकि ऐसी घटनाओं को सीधे भविष्य की superintelligent AI के व्यवहार का प्रमाण मानना अलग दावा होगा। Sanders इन्हें अधिक शक्तिशाली और autonomous AI systems से पैदा हो सकने वाले जोखिम के संकेत के रूप में पेश कर रहे हैं।
यही अंतर महत्वपूर्ण है: प्रस्तावित कानून भविष्य में बनने वाली superintelligence को रोकना चाहता है, जबकि आज उपलब्ध AI systems और भविष्य की hypothetical superintelligence एक ही चीज नहीं हैं।
Artificial Superintelligence आखिर है क्या?
Artificial Superintelligence यानी ASI की कोई एक सर्वमान्य कानूनी परिभाषा नहीं है।
सामान्य तौर पर इसका अर्थ ऐसे भविष्य के AI system से लगाया जाता है जिसकी बौद्धिक क्षमता इंसानों से व्यापक रूप से बहुत आगे निकल जाए।
यह मौजूदा generative AI से अलग अवधारणा है।
इसी वजह से किसी संभावित कानून के लिए यह तय करना महत्वपूर्ण होगा कि “advanced AI” और “superintelligence” की कानूनी सीमा कहां निर्धारित की जाती है। बहुत व्यापक परिभाषा सामान्य AI research को प्रभावित कर सकती है, जबकि बहुत संकीर्ण परिभाषा तेजी से बदलती तकनीक के सामने अप्रभावी साबित हो सकती है।
नई Federal AI Agency का भी प्रस्ताव
रिपोर्ट के मुताबिक Sanders और Casar की योजना एक नई सरकारी AI agency स्थापित करने की भी है, जिसका काम शक्तिशाली AI systems में खतरनाक क्षमताओं की निगरानी करना होगा।
Advanced AI development पर प्रस्तावित pause तब तक लागू रखने की योजना है, जब तक नया regulatory framework तैयार नहीं हो जाता।
इसका मतलब यह नहीं है कि प्रस्ताव हर मौजूदा AI application को हमेशा के लिए बंद करने की मांग करता है।
इसमें दो अलग नीतियां हैं—superintelligent AI पर permanent ban और advanced AI development पर temporary pause।
यह अंतर इस प्रस्ताव को समझने के लिए महत्वपूर्ण है।
नियम तोड़ने वाली कंपनियों पर कड़ी कार्रवाई का प्रस्ताव
प्रस्ताव के संभावित enforcement provisions भी असामान्य रूप से सख्त बताए गए हैं।
The Washington Post के मुताबिक, नियमों का पालन नहीं करने वाली कंपनियों के खिलाफ ऐसी कार्रवाई का प्रावधान प्रस्तावित है जिससे वे कारोबार करने का अधिकार खो सकती हैं। रिपोर्ट में इसे “corporate death penalty” के रूप में वर्णित किया गया है।
कुछ अन्य रिपोर्टों में व्यक्तियों के लिए आपराधिक दंड के संभावित प्रावधानों की भी चर्चा है।
हालांकि यहां सावधानी जरूरी है। Sanders के Senate कार्यालय की 3 सितंबर की सार्वजनिक घोषणा इसे forthcoming legislation बताती है। इसलिए अंतिम legislative text और उसके औपचारिक प्रावधान सामने आने तक संभावित दंड को अंतिम अमेरिकी कानून के रूप में प्रस्तुत नहीं किया जाना चाहिए।
अमेरिका अकेले रोके तो क्या होगा?
AI regulation की सबसे कठिन समस्याओं में से एक अंतरराष्ट्रीय प्रतिस्पर्धा है।
अगर अमेरिका अत्यधिक शक्तिशाली AI systems के development पर प्रतिबंध लगाए लेकिन दूसरे देश ऐसा न करें, तो तकनीकी प्रतिस्पर्धा जारी रह सकती है।
Sanders का प्रस्ताव इसी समस्या को अंतरराष्ट्रीय समझौतों के जरिए संबोधित करने की कोशिश करता है।
उनका कहना है कि नियंत्रण से बाहर superintelligence किसी एक देश की समस्या नहीं होगी। इसलिए अमेरिका को दूसरे देशों के साथ मिलकर इसके वैश्विक development को रोकने का प्रयास करना चाहिए।
व्यवहार में ऐसा वैश्विक समझौता कैसे लागू होगा, कौन-सी तकनीकी सीमा प्रतिबंध को सक्रिय करेगी और देशों के बीच compliance कैसे verify किया जाएगा—ये प्रस्ताव के सामने बड़े नीतिगत सवाल होंगे।
प्रस्ताव पर विरोध भी शुरू
Superintelligence के जोखिमों पर चिंता रखने वाले सभी विशेषज्ञ permanent ban का समर्थन नहीं करते।
AI researcher और लेखक Gary Marcus ने Sanders-Casar प्रस्ताव के कई उद्देश्यों को सकारात्मक बताते हुए भी इसकी व्यापकता पर आपत्ति जताई है। उनका तर्क है कि प्रस्ताव जरूरत से ज्यादा आगे जा सकता है।
व्यापक बहस में प्रतिबंध के विरोधियों का एक प्रमुख तर्क यह है कि अत्यधिक सख्त रोक अमेरिकी AI innovation और प्रतिस्पर्धात्मक क्षमता को नुकसान पहुंचा सकती है, जबकि development दूसरे देशों में जारी रह सकता है।
दूसरी ओर Sanders का तर्क इसके ठीक विपरीत है: यदि तकनीक के संभावित परिणाम मानव नियंत्रण से बाहर जाने तक पहुंच सकते हैं, तो प्रतिस्पर्धा के नाम पर development जारी रखना स्वीकार्य जोखिम नहीं है।
यही टकराव आने वाली AI policy debate का केंद्रीय प्रश्न बन सकता है—तेजी से innovation जारी रखा जाए या कुछ क्षमताओं के सामने ऐसी सीमा तय की जाए जिसे पार करने की अनुमति ही न हो।
अभी कानून नहीं बना है Ban Artificial Superintelligence Act
इस खबर में सबसे जरूरी तथ्य यह है कि Artificial Superintelligence पर अमेरिका में अभी स्थायी प्रतिबंध लागू नहीं हुआ है।
3 सितंबर को Sanders और Casar के कार्यालयों ने इसे आने वाले यानी forthcoming legislation के रूप में घोषित किया।
इसलिए “अमेरिका ने superintelligence को ban कर दिया” कहना गलत होगा।
सही स्थिति यह है कि Sanders और Casar ने ऐसा कानून लाने की घोषणा की है जो पारित होने पर superintelligent AI के development और deployment को स्थायी रूप से प्रतिबंधित करेगा और advanced AI development को सुरक्षा नियम बनने तक अस्थायी रूप से रोकने का प्रयास करेगा।
इसके आगे की असली परीक्षा Congress में होगी—प्रस्ताव को कितना समर्थन मिलता है, अंतिम bill text में किन AI systems को शामिल किया जाता है और अमेरिकी lawmakers innovation तथा संभावित existential risk के बीच किस तरह संतुलन बनाने की कोशिश करते हैं।