क्या Frontier AI मॉडल के लिए अलग सुरक्षा नियम बनेंगे?
सरकार के सामने सबसे महत्वपूर्ण सवाल यह है कि क्या सभी AI टूल्स पर एक जैसे नियम लागू होने चाहिए या फिर अत्यधिक शक्तिशाली AI मॉडल के लिए अलग सुरक्षा व्यवस्था बनाई जानी चाहिए।
Frontier AI मॉडल ऐसे उन्नत AI सिस्टम होते हैं, जो नई क्षमताओं के मामले में सबसे आगे होते हैं। ये जटिल समस्याओं को हल करने, कोड लिखने, डेटा का विश्लेषण करने और कई चरणों वाले काम खुद करने में सक्षम हो सकते हैं। कुछ अत्याधुनिक मॉडल साइबर सुरक्षा से जुड़ी कमजोरियों की पहचान करने जैसी क्षमताएं भी दिखा चुके हैं।
इनकी क्षमताएं जितनी उपयोगी हैं, गलत इस्तेमाल की स्थिति में इनके जोखिम भी उतने ही गंभीर हो सकते हैं। उदाहरण के लिए, यदि किसी शक्तिशाली AI मॉडल का इस्तेमाल साइबर हमले की योजना बनाने, संवेदनशील सिस्टम की कमजोरियां खोजने या भ्रामक सामग्री तैयार करने के लिए किया जाए, तो इसका असर आम लोगों से लेकर महत्वपूर्ण संस्थानों तक पहुंच सकता है।
NDTV की 28 अक्टूबर की रिपोर्ट के अनुसार, सरकार इस बात पर विचार कर रही है कि अत्यधिक सक्षम AI मॉडल को सार्वजनिक रूप से जारी करने से पहले उनके डेवलपर्स से सुरक्षा उपायों का प्रमाण मांगा जाए। हालांकि, Frontier AI की सटीक परिभाषा, किन कंपनियों पर नियम लागू होंगे और निगरानी की व्यवस्था कैसी होगी, इन मुद्दों पर अभी चर्चा जारी है।
AI मॉडल लॉन्च करने से पहले हो सकती है सुरक्षा जांच
प्रस्तावित नियमों में AI मॉडल को आम लोगों के लिए उपलब्ध कराने से पहले उसकी सुरक्षा जांच कराने का विकल्प शामिल हो सकता है। इसके तहत कंपनियों को यह दिखाना पड़ सकता है कि उनका मॉडल निर्धारित सुरक्षा मानकों पर खरा उतरता है।
एक संभावित व्यवस्था Sandbox Testing की भी हो सकती है। इसमें AI मॉडल को एक नियंत्रित डिजिटल वातावरण में रखकर जांचा जाता है। विशेषज्ञ यह देखते हैं कि मॉडल किसी संवेदनशील सिस्टम तक अनधिकृत पहुंच तो नहीं बना सकता, गलत निर्देशों का पालन तो नहीं करता और अपनी निर्धारित सीमाओं से बाहर जाकर कोई कार्रवाई तो नहीं करता।
इसके अलावा, जोखिम के आधार पर कुछ AI सुविधाओं पर नियंत्रण, संवेदनशील कामों के लिए मानवीय मंजूरी और सुरक्षा से जुड़ी घटनाओं की रिपोर्टिंग जैसे विषय भी चर्चा का हिस्सा हो सकते हैं।
ध्यान देने वाली बात यह है कि ये सभी संभावित विकल्प हैं। सरकार ने अभी यह स्पष्ट नहीं किया है कि इनमें से कौन-से प्रावधान अंतिम कानून में शामिल होंगे।
Deepfake और ऑनलाइन धोखाधड़ी पर भी रहेगा ध्यान
AI के कारण सबसे तेजी से बढ़ने वाली चिंताओं में Deepfake और फर्जी डिजिटल कंटेंट शामिल हैं। अब AI टूल्स की मदद से किसी व्यक्ति की तस्वीर, आवाज और वीडियो को इस तरह बदला जा सकता है कि असली और नकली के बीच अंतर करना मुश्किल हो जाए।
इस तकनीक का गलत इस्तेमाल किसी की छवि खराब करने, फर्जी बयान फैलाने, आर्थिक धोखाधड़ी करने और लोगों को गुमराह करने के लिए किया जा सकता है।
8 अक्टूबर को विश्व बैंक की World Development Report 2026 के भारत लॉन्च कार्यक्रम में बोलते हुए अश्विनी वैष्णव ने Deepfake को समाज के लिए गंभीर समस्या बताया था। उन्होंने कहा था कि AI से तैयार नकली सामग्री की गुणवत्ता तेजी से बेहतर हो रही है, जिससे लोगों के लिए असली और नकली सामग्री की पहचान करना मुश्किल होता जा रहा है।
इंडियन एक्सप्रेस की रिपोर्ट के अनुसार, प्रस्तावित AI नियमन में Deepfake के साथ साइबर सुरक्षा, उपयोगकर्ताओं को होने वाले नुकसान और AI के मनोवैज्ञानिक प्रभाव जैसे मुद्दों पर भी विचार किया जा रहा है।
AI कंपनियों की भी बढ़ेगी जिम्मेदारी
नए कानूनी ढांचे में केवल सरकार की भूमिका ही महत्वपूर्ण नहीं होगी, बल्कि AI कंपनियों की जवाबदेही भी एक बड़ा मुद्दा बन सकती है।
अश्विनी वैष्णव ने स्पष्ट किया है कि AI से जुड़े जोखिमों को कम करने की प्राथमिक जिम्मेदारी तकनीकी उद्योग की भी होनी चाहिए। इसका मतलब है कि AI बनाने और उपलब्ध कराने वाली कंपनियों को अपने उत्पादों की सुरक्षा, पारदर्शिता और संभावित नुकसान पर ध्यान देना होगा।
इसके अलावा, ऐसे AI एजेंट्स पर भी निगरानी की जरूरत हो सकती है, जो केवल सवालों के जवाब देने के बजाय खुद कई चरणों वाले काम कर सकते हैं। उदाहरण के लिए, कोई AI एजेंट ईमेल भेज सकता है, फाइलों तक पहुंच सकता है या किसी डिजिटल सिस्टम में कार्रवाई कर सकता है। यदि ऐसे सिस्टम को पर्याप्त नियंत्रण के बिना काम करने दिया जाए, तो गलत फैसले या अनधिकृत गतिविधियों से नुकसान हो सकता है।
इसलिए मानवीय निगरानी, संवेदनशील गतिविधियों के लिए मंजूरी और जरूरत पड़ने पर AI सिस्टम को रोकने की व्यवस्था जैसे विषय महत्वपूर्ण बन सकते हैं।
क्या नए कानून से स्टार्टअप और छोटे डेवलपर्स पर बढ़ेगा दबाव?
AI के लिए सख्त नियम बनाने के साथ सरकार के सामने एक और चुनौती है—तकनीकी नवाचार को प्रभावित होने से बचाना। भारत में कई स्टार्टअप, शोध संस्थान और छोटी कंपनियां अपने AI मॉडल और नए डिजिटल उत्पाद विकसित कर रही हैं।
यदि सभी AI डेवलपर्स पर एक जैसे और महंगे अनुपालन नियम लागू किए जाते हैं, तो छोटे कारोबारियों के लिए तकनीक विकसित करना कठिन हो सकता है। वहीं, बहुत कमजोर नियम होने पर उपयोगकर्ताओं की सुरक्षा और डेटा गोपनीयता को खतरा बना रह सकता है।
इसलिए सरकार के सामने ऐसा संतुलित ढांचा तैयार करने की चुनौती है, जिसमें जोखिम के अनुसार नियम तय हों। अधिक शक्तिशाली और जोखिमपूर्ण AI मॉडल पर ज्यादा निगरानी रखी जा सकती है, जबकि कम जोखिम वाले सामान्य टूल्स के लिए अलग व्यवस्था पर विचार किया जा सकता है।
भारत के AI भविष्य के लिए क्यों महत्वपूर्ण है यह फैसला?
भारत तेजी से डिजिटल अर्थव्यवस्था की ओर बढ़ रहा है। यहां AI का इस्तेमाल बैंकिंग, शिक्षा, स्वास्थ्य सेवाओं, सरकारी योजनाओं, कृषि और उद्योगों में बढ़ रहा है। ऐसे में AI के लिए स्पष्ट नियम बनाना नागरिकों के अधिकारों और तकनीकी विकास दोनों के लिए महत्वपूर्ण हो सकता है।
प्रस्तावित कानून यह तय करने में मदद कर सकता है कि AI से होने वाले नुकसान की स्थिति में किसकी जिम्मेदारी होगी, कंपनियों को कौन-से सुरक्षा उपाय अपनाने होंगे और नागरिकों को शिकायत करने के लिए कौन-से रास्ते उपलब्ध होंगे।
फिलहाल सरकार की ओर से परामर्श पत्र जारी होने और उस पर सुझाव मिलने के बाद ही नए कानून की वास्तविक रूपरेखा स्पष्ट होगी। अभी यह कहना जल्दबाजी होगी कि ChatGPT या दूसरे AI प्लेटफॉर्म पर कौन-सी पाबंदियां लगेंगी।
भारत के सामने असली चुनौती AI की रफ्तार को रोकना नहीं, बल्कि इस तकनीक को सुरक्षित, जिम्मेदार और आम नागरिकों के हित में इस्तेमाल करने का रास्ता तैयार करना है। आने वाले समय में सरकार का प्रस्तावित AI कानून इसी दिशा में एक महत्वपूर्ण कदम साबित हो सकता है।