AI के खतरे पर बहस अब regulation तक पहुंची
Artificial Intelligence को लेकर दुनिया की सबसे बड़ी technology कंपनियों के बीच अब केवल बेहतर models बनाने की प्रतिस्पर्धा नहीं है। AI कितना खतरनाक हो सकता है और सरकारों को इसे किस हद तक regulate करना चाहिए—इस पर Silicon Valley के भीतर मतभेद खुलकर सामने आ रहे हैं।
इसी बहस के बीच Anthropic के investor, venture-capital firm 8VC के founder और Palantir के co-founder Joe Lonsdale ने कुछ leading AI companies पर गंभीर सवाल उठाए हैं।
Reuters के मुताबिक, Lonsdale ने 25 सितंबर को Austin में आयोजित Reuters Momentum AI कार्यक्रम में कहा कि कुछ प्रमुख AI कंपनियों द्वारा existential AI risks पर जोर देना public policy को प्रभावित करने का खतरनाक तरीका बन सकता है। यह Lonsdale का आकलन है, कोई स्थापित तथ्य नहीं कि कंपनियां जानबूझकर डर पैदा करके कानून बनवा रही हैं।
Lonsdale ने OpenAI और Anthropic को लेकर क्या कहा?
Lonsdale ने खास तौर पर Anthropic और OpenAI के आसपास चल रहे regulatory efforts की आलोचना की।
Reuters के अनुसार, उनका आरोप है कि इन कंपनियों से जुड़े कुछ लोग ऐसे बाहरी संगठनों को funding दे रहे हैं जो ज्यादा कड़े AI regulation की वकालत करते हैं। Lonsdale का तर्क है कि यदि कुछ सबसे बड़ी AI कंपनियां नियमों के निर्माण पर जरूरत से ज्यादा प्रभाव डालती हैं, तो इससे उनकी मौजूदा market position मजबूत हो सकती है और छोटे competitors के लिए चुनौती बढ़ सकती है।
उन्होंने कहा:
“I think that what OpenAI and Anthropic are pushing right now is very dangerous.”
Lonsdale ने आगे कहा कि वह ऐसी “oligopoly” नहीं चाहते जो सरकार की AI policy को नियंत्रित करे।
उनकी चिंता का केंद्र AI safety को पूरी तरह खारिज करना नहीं, बल्कि safety concerns के आधार पर बनने वाले regulation की संरचना है।
उन्होंने Reuters कार्यक्रम में कहा:
“Safety is a real thing, but fear and regulation — we've got to be really careful…”
यानी Lonsdale स्वयं safety को वास्तविक मुद्दा मानते हैं, लेकिन उनका कहना है कि AI के डर पर policy response तय करते समय सावधानी जरूरी है।
‘Regulatory capture’ की बहस क्या है?
इस विवाद को समझने के लिए regulatory capture की बहस महत्वपूर्ण है।
आलोचकों की चिंता यह है कि यदि बड़ी और ज्यादा संसाधन वाली AI कंपनियां अत्यधिक जटिल compliance requirements का समर्थन करती हैं, तो उनके लिए उन नियमों का पालन करना अपेक्षाकृत आसान हो सकता है। इसके विपरीत छोटे startups या open-source developers के लिए वही requirements महंगी और कठिन साबित हो सकती हैं।
इस दृष्टिकोण के समर्थक इसे competition के लिए संभावित खतरा मानते हैं।
हालांकि, यह इस बहस का केवल एक पक्ष है। Anthropic इस interpretation से असहमत है।
Anthropic CEO Dario Amodei ने अगस्त में इसी तरह की आलोचना के जवाब में कहा था कि Silicon Valley में regulation को सीधे regulatory capture और concentration of power से जोड़ना जरूरत से ज्यादा सरल दृष्टिकोण है। उन्होंने दावा किया कि Anthropic अपनी policy proposals इस तरह बनाने की कोशिश करता है जिससे frontier AI कंपनियों पर अधिक जिम्मेदारी आए और छोटे competitors को नुकसान न पहुंचे।
Anthropic क्यों चाहता है AI regulation?
Anthropic की आधिकारिक policy position Lonsdale की आलोचना से काफी अलग है।
कंपनी का कहना है कि advanced AI से cyberattacks, biological misuse, misinformation और critical infrastructure जैसे क्षेत्रों में गंभीर जोखिम पैदा हो सकते हैं।
Anthropic की policy page के अनुसार, उसका मानना है कि AI कंपनियों को अपने powerful models के catastrophic-risk evaluations और safety-testing summaries प्रकाशित करने की आवश्यकता होनी चाहिए। कंपनी ने California के SB 53, New York के RAISE Act, Illinois के SB 315 और EU Code of Practice जैसे regulatory initiatives का समर्थन किया है।
Anthropic का तर्क है कि industry को अकेले यह तय नहीं करना चाहिए कि उसके AI systems कितने सुरक्षित हैं।
कंपनी के मुताबिक democratically elected governments ही ऐसे actors हैं जो पूरे industry पर लागू होने वाले नियम स्थापित कर सकती हैं।
इसलिए Lonsdale और Anthropic के बीच मूल मतभेद यह नहीं है कि AI safety महत्वपूर्ण है या नहीं। बड़ा सवाल यह है कि AI safety के नियम कौन बनाए, वे कितने कठोर हों और क्या उनसे market competition प्रभावित होगी।
AI industry खुद भी इस मुद्दे पर बंटी हुई है
यह बहस केवल Lonsdale बनाम Anthropic तक सीमित नहीं है।
Reuters ने 21 सितंबर को रिपोर्ट किया कि AI industry के प्रमुख नेताओं में advanced AI development की गति और regulation को लेकर स्पष्ट मतभेद हैं।
Anthropic CEO Dario Amodei ने तेजी से बढ़ती AI capabilities के कारण stronger safety testing, independent evaluations और leading AI companies के बीच coordination की वकालत की है। OpenAI के Sam Altman ने भी AI frontier को नियंत्रित गति से आगे बढ़ाने के विचार का समर्थन किया।
दूसरी ओर, Meta के Mark Zuckerberg ने market-led safeguards पर अधिक भरोसा जताया, जबकि Nvidia CEO Jensen Huang ने नए AI regulations की जरूरत पर सवाल उठाते हुए existing liability और cybersecurity laws को पहले लागू करने की बात कही।
इससे स्पष्ट है कि Silicon Valley में AI risk को लेकर कोई एक साझा regulatory position नहीं है।
Anthropic में निवेशक होने के बावजूद आलोचना क्यों महत्वपूर्ण?
इस कहानी का एक दिलचस्प पहलू यह है कि Lonsdale स्वयं Anthropic के investor हैं।
इसलिए उनकी टिप्पणी किसी बाहरी competitor की आलोचना भर नहीं है। वह ऐसी कंपनी की policy direction पर सवाल उठा रहे हैं जिसमें उनका financial exposure भी है। Reuters ने उन्हें Anthropic investor के रूप में पहचाना है।
हालांकि, investor होना किसी कंपनी की management या policy decisions पर नियंत्रण होने के समान नहीं है। Lonsdale की टिप्पणियों को उनकी व्यक्तिगत policy position के रूप में देखना चाहिए।
असली सवाल: Safety या Competition—क्या दोनों संभव हैं?
AI regulation की मौजूदा बहस को केवल “regulation बनाम no regulation” के रूप में देखना अधूरा होगा।
एक तरफ Anthropic जैसे developers का तर्क है कि increasingly powerful AI models के संभावित cyber, biological और systemic risks को केवल voluntary corporate safeguards पर नहीं छोड़ा जा सकता। दूसरी तरफ Lonsdale और कुछ अन्य critics की चिंता है कि regulation ऐसा नहीं होना चाहिए जिससे पहले से स्थापित AI कंपनियों की market power और बढ़ जाए।
इसलिए policymakers के सामने चुनौती दोहरी है—ऐसे safeguards तैयार करना जो गंभीर AI risks को संबोधित करें, लेकिन compliance barriers को इस स्तर तक न बढ़ाएं कि competition और नए entrants के लिए बाजार में जगह कम हो जाए।
Lonsdale की टिप्पणी इसी व्यापक संघर्ष को सामने लाती है: AI के संभावित खतरों से सुरक्षा कैसे सुनिश्चित की जाए, बिना उन कंपनियों को disproportionate policy influence दिए जिन्हें खुद उन्हीं नियमों का पालन करना है।