किंग चार्ल्स ने एआई दिग्गजों को एक मंच पर बुलाया, चेताया—देर होने से पहले नियंत्रण जरूरी

ब्रिटेन के किंग चार्ल्स तृतीय ने कृत्रिम बुद्धिमत्ता की दुनिया की कुछ सबसे प्रभावशाली कंपनियों के वरिष्ठ अधिकारियों को एक कमरे में बुलाकर ऐसा सवाल रखा, जिसका स्पष्ट उत्तर अभी पूरे उद्योग के पास नहीं है—तकनीक तेजी से शक्तिशाली होती जा रही है, लेकिन क्या उसके लिए पर्याप्त सुरक्षा व्यवस्था भी उतनी ही तेजी से तैयार हो रही है?

17 सितंबर को स्कॉटलैंड के ईस्ट आयरशायर स्थित डम्फ्रीज हाउस में हुई बैठक में Nvidia के संस्थापक और मुख्य कार्यकारी जेनसन हुआंग, Google DeepMind के सह-संस्थापक और अध्यक्ष सर डेमिस हसाबिस, OpenAI की मुख्य वित्तीय अधिकारी सारा फ्रायर और Anthropic के मुख्य वैश्विक मामलों के अधिकारी टीनो कुएयार शामिल हुए। ब्रिटेन के कृत्रिम बुद्धिमत्ता मंत्री कनिष्क नारायण भी बैठक में मौजूद थे।

राजमहल के अनुसार, बैठक का उद्देश्य किसी नए कानून की घोषणा करना नहीं था। चर्चा इस बात पर केंद्रित थी कि कृत्रिम बुद्धिमत्ता का विकास समाज, स्थानीय समुदायों और लोगों के जीवन को बेहतर बनाने के लिए कैसे किया जाए। प्रतिभागियों ने यह भी विचार किया कि क्या भविष्य में इसके इस्तेमाल के लिए कुछ साझा सिद्धांत तैयार किए जा सकते हैं। चर्चा का संचालन डिचली फाउंडेशन ने किया।

लेकिन बैठक की भाषा सामान्य तकनीकी सम्मेलन जैसी नहीं थी।

किंग चार्ल्स ने कृत्रिम बुद्धिमत्ता से होने वाले संभावित लाभों के साथ उन खतरों का भी उल्लेख किया जिन्हें तकनीक बनाने वाले लोग स्वयं उठा रहे हैं।

उन्होंने कहा, “Surely, we need sufficient means of control before it is all too late?”

यानी सवाल यह है कि क्या बहुत देर होने से पहले पर्याप्त नियंत्रण व्यवस्था तैयार की जा सकती है।

किंग चार्ल्स ने उद्योग के सामने दो सवाल रखे

अपने आधिकारिक संबोधन में चार्ल्स ने कहा कि कृत्रिम बुद्धिमत्ता जीवन विज्ञान और चिकित्सा जैसे क्षेत्रों में जीवन सुधारने और बचाने की बड़ी क्षमता दिखा रही है। साथ ही उन्होंने कहा कि इसी तकनीक के निर्माता अब इसकी अधिक खतरनाक क्षमताओं को लेकर चेतावनी भी दे रहे हैं।

इसके बाद उन्होंने बैठक के सामने दो मुख्य प्रश्न रखे।

पहला—कृत्रिम बुद्धिमत्ता के लाभों का उपयोग इस तरह कैसे किया जाए कि सुरक्षा उसके केंद्र में रहे?

दूसरा—इसके लिए अंतरराष्ट्रीय सहयोग और सहमति कैसे बनाई जाए ताकि कोई देश पीछे न छूटे?

उनका संदेश केवल तकनीकी सुरक्षा तक सीमित नहीं था। उन्होंने कृत्रिम बुद्धिमत्ता को मानव गरिमा, समुदाय और प्राकृतिक दुनिया के संदर्भ में देखने की बात कही। राजमहल के अनुसार, बैठक में विचार हुआ कि भविष्य के साझा सिद्धांत तकनीक को केवल क्षमता और दक्षता बढ़ाने का माध्यम न मानें, बल्कि मानव गरिमा और लोगों तथा पृथ्वी की समृद्धि से भी जोड़ें।

यह बैठक अभी क्यों महत्वपूर्ण है?

समय इस बैठक को सामान्य शाही आयोजन से अलग बनाता है।

कृत्रिम बुद्धिमत्ता उद्योग में इस समय इस बात को लेकर तीखी बहस चल रही है कि अत्याधुनिक प्रणालियों की क्षमता कितनी तेजी से बढ़ाई जानी चाहिए और सुरक्षा की जिम्मेदारी कंपनियों पर छोड़ी जाए या सरकारों को अधिक सक्रिय भूमिका निभानी चाहिए।

Reuters के अनुसार, हाल के सप्ताहों में यह बहस और तेज हुई है। Anthropic के मुख्य कार्यकारी डारियो अमोदेई ने कृत्रिम बुद्धिमत्ता की क्षमताओं को बढ़ाने की गति धीमी करने की बात कही है। दूसरी ओर Nvidia के जेनसन हुआंग का जोर विकास रोकने के बजाय कंपनियों द्वारा अधिक कठोर सुरक्षा जांच पर है।

डम्फ्रीज हाउस में हुआंग ने कहा कि कंपनियों को उत्पाद जारी करने से पहले यह सुनिश्चित करने में अधिक कठोर होना चाहिए कि वे तैयार हैं। उनका संक्षिप्त संदेश था, “If it's not ready, just hold it back.”

यानी उद्योग के भीतर भी सुरक्षा की जरूरत पर व्यापक चर्चा है, लेकिन समाधान पर पूर्ण सहमति नहीं है।

DeepMind ने साइबर खतरे की ओर ध्यान दिलाया

बैठक में Google DeepMind के डेमिस हसाबिस ने जोखिम को अधिक व्यावहारिक संदर्भ में रखा।

उन्होंने कहा कि अगर कृत्रिम बुद्धिमत्ता के विकास में गलतियां होती हैं तो अनचाही गंभीर घटना की संभावना शून्य नहीं है। उन्होंने हाल के ऐसे साइबर मामलों का उल्लेख किया जिनमें अनियंत्रित कृत्रिम बुद्धिमत्ता एजेंटों को लेकर चिंता सामने आई है और कहा कि भविष्य में जैविक तथा परमाणु क्षेत्र से जुड़े अधिक गंभीर जोखिम भी हो सकते हैं।

यह बिंदु महत्वपूर्ण है क्योंकि कृत्रिम बुद्धिमत्ता सुरक्षा की बहस अक्सर दूर भविष्य की काल्पनिक मशीनों तक सीमित दिखाई देती है।

वास्तविक चिंता इससे व्यापक है।

आज की प्रणालियां तेजी से ऐसे एजेंटों की ओर बढ़ रही हैं जो केवल प्रश्न का उत्तर देने के बजाय कई चरणों में काम कर सकते हैं, उपकरण इस्तेमाल कर सकते हैं और बाहरी प्रणालियों के साथ संवाद कर सकते हैं। ऐसी क्षमता उपयोगी भी हो सकती है और गलत निर्देश, सुरक्षा कमजोरी या दुर्भावनापूर्ण इस्तेमाल की स्थिति में जोखिम भी बढ़ा सकती है।

OpenAI की नई सुरक्षा जानकारी ने बहस को और प्रासंगिक बनाया

किंग चार्ल्स की बैठक ऐसे समय हुई जब OpenAI ने अपने कृत्रिम बुद्धिमत्ता नमूनों में चिंताजनक व्यवहार से जुड़े छह मामलों की जानकारी सार्वजनिक की और ऐसी घटनाओं को दर्ज करने, जांचने तथा सार्वजनिक करने के लिए नई व्यवस्था की घोषणा की।

कंपनी ने कहा कि अत्याधुनिक कृत्रिम बुद्धिमत्ता के विकास में सुरक्षा और निगरानी की समस्या अभी पूरी तरह हल नहीं हुई है। यह घटनाक्रम डम्फ्रीज हाउस की चर्चा से सीधे जुड़ा नहीं था, लेकिन दोनों का समय एक साथ होना बताता है कि सुरक्षा की बहस केवल सरकारों या बाहरी आलोचकों द्वारा नहीं चलाई जा रही; अग्रणी कंपनियां स्वयं भी अपनी प्रणालियों के व्यवहार और नियंत्रण से जुड़े प्रश्न उठा रही हैं।

यहीं किंग चार्ल्स का प्रश्न अधिक ठोस हो जाता है।

अगर कंपनियां स्वयं मानती हैं कि निगरानी और नियंत्रण की तकनीक अभी अधूरी है, तो क्षमताओं की तेज वृद्धि के साथ सुरक्षा व्यवस्था किस गति से आगे बढ़नी चाहिए?

इस पर फिलहाल उद्योग में एकमत उत्तर नहीं है।

Nvidia का दृष्टिकोण अलग क्यों दिखाई देता है?

जेनसन हुआंग ने बैठक के दौरान “जिम्मेदार आशावाद” की बात की।

उनका जोर यह है कि कृत्रिम बुद्धिमत्ता चिकित्सा, विज्ञान, उत्पादकता और नए उद्योगों में बड़े लाभ दे सकती है। इसलिए विकास को केवल संभावित विनाशकारी जोखिम के चश्मे से देखना भी अधूरी तस्वीर होगी।

उन्होंने कहा कि कंपनियों को जितनी तेजी से सुरक्षित रूप से आगे बढ़ा जा सकता है, उतनी तेजी से बढ़ना चाहिए—लेकिन उससे ज्यादा नहीं।

यह दृष्टिकोण Anthropic के डारियो अमोदेई द्वारा उठाई गई विकास की गति धीमी करने की मांग से अलग है।

यही मतभेद वर्तमान कृत्रिम बुद्धिमत्ता बहस का मूल है। सवाल अब केवल यह नहीं है कि तकनीक सुरक्षित होनी चाहिए या नहीं। लगभग सभी प्रमुख पक्ष सुरक्षा की आवश्यकता स्वीकार करते हैं। असली विवाद यह है कि स्वीकार्य जोखिम कितना है, उसका आकलन कौन करेगा और किस स्थिति में किसी प्रणाली को रोकना चाहिए।

क्या इस बैठक से कोई नया नियम बना?

नहीं।

डम्फ्रीज हाउस की बैठक को किसी सरकारी नियामकीय शिखर सम्मेलन की तरह नहीं देखा जाना चाहिए।

ब्रिटिश राजपरिवार की आधिकारिक जानकारी के अनुसार, प्रतिभागियों ने साझा सिद्धांतों की संभावना पर विचार किया। Reuters ने भी बैठक से किसी बाध्यकारी समझौते की उम्मीद नहीं होने की जानकारी दी।

किंग चार्ल्स ने चर्चा की शुरुआत में अपना संबोधन दिया और बाद में बातचीत के निष्कर्ष सुनने की इच्छा जताई। राजमहल के विवरण के अनुसार, औपचारिक चर्चा का संचालन डिचली फाउंडेशन ने किया।

इसलिए इसे नए वैश्विक कृत्रिम बुद्धिमत्ता नियमों की घोषणा कहना गलत होगा।

इसकी अहमियत अलग है: दुनिया की प्रमुख कृत्रिम बुद्धिमत्ता कंपनियों, सरकार और नागरिक समाज से जुड़े लोगों को एक ही मंच पर सुरक्षा, मानव नियंत्रण और साझा सिद्धांतों पर बात करने के लिए लाया गया।

2023 के ब्लेचली सम्मेलन से जुड़ती एक पुरानी चिंता

चार्ल्स के लिए यह विषय नया नहीं है।

अपने संबोधन में उन्होंने स्पष्ट रूप से ब्रिटेन में 2023 में हुए कृत्रिम बुद्धिमत्ता सुरक्षा सम्मेलन के लिए भेजे अपने संदेश का उल्लेख किया। इस बार उन्होंने उसी चर्चा को आगे बढ़ाते हुए कहा कि वर्तमान समय में लिए गए फैसले भविष्य की पीढ़ियों को मिलने वाली दुनिया को आकार देंगे।

लेकिन 2026 की परिस्थिति 2023 से अलग है।

तब जनरेटिव कृत्रिम बुद्धिमत्ता की अचानक बढ़ती क्षमता ने सरकारों को संभावित जोखिमों पर चर्चा के लिए प्रेरित किया था। अब बहस अधिक शक्तिशाली प्रणालियों, स्वायत्त एजेंटों, साइबर सुरक्षा, जैविक जोखिम और इस सवाल तक पहुंच चुकी है कि कंपनियों की अपनी सुरक्षा व्यवस्थाएं पर्याप्त हैं या नहीं।

जंतास्कोप विश्लेषण: असली चुनौती साझा सिद्धांत नहीं, साझा सीमा तय करना है

डम्फ्रीज हाउस की बैठक का सबसे महत्वपूर्ण पहलू शायद यह नहीं है कि दुनिया की चार बड़ी कृत्रिम बुद्धिमत्ता कंपनियां एक जगह मौजूद थीं।

महत्वपूर्ण यह है कि उनके बीच विकास की गति और जोखिम संभालने के तरीके पर स्पष्ट अंतर मौजूद है।

Anthropic की ओर से धीमी गति की मांग सामने आई है। Nvidia विकास जारी रखते हुए कंपनियों की आंतरिक जिम्मेदारी और कठोर जांच पर जोर दे रही है। DeepMind गंभीर साइबर, जैविक और दूसरे संभावित खतरों की ओर ध्यान दिला रही है। OpenAI अपनी प्रणालियों में सामने आए चिंताजनक व्यवहार को दर्ज और सार्वजनिक करने की नई व्यवस्था बना रही है।

ऐसे में “सुरक्षित कृत्रिम बुद्धिमत्ता” पर सहमत होना अपेक्षाकृत आसान है। कठिन काम यह तय करना है कि किस स्तर का जोखिम अस्वीकार्य माना जाए, परीक्षण कौन करे, कंपनियों के दावों की स्वतंत्र जांच कैसे हो और अलग-अलग देशों में एक जैसी न्यूनतम सुरक्षा सीमाएं कैसे लागू हों।

किंग चार्ल्स की बैठक ने इन सवालों का अंतिम उत्तर नहीं दिया।