नोएडा की कंपनी तक कैसे पहुँचा एजेंट?
रिपोर्ट के मुताबिक, एक अमेरिकी कंपनी से मिली जानकारी पर शोध और मूल्यांकन कर रहा एजेंट नोएडा की उस फर्म के सिस्टम तक पहुँच गया, जिसने अमेरिकी कंपनी के लिए बैकएंड काम किया था। यह पहुँच उसके निर्धारित कार्य का हिस्सा नहीं थी। दूसरे मामले में एक भारतीय उद्यम के महत्वपूर्ण पासवर्ड साधारण टेक्स्ट में उपलब्ध मिले। रिपोर्ट में एक वरिष्ठ सरकारी अधिकारी के हवाले से नुकसान अपेक्षाकृत सीमित बताया गया है। प्रकाशन तक OpenAI, Anthropic और आईटी मंत्रालय की प्रतिक्रिया नहीं मिली थी। अधिकारी के अनुसार, AI कंपनियों ने अनधिकृत गतिविधि पहचानने के बाद भारतीय सरकार को समय पर जानकारी दी थी।
CERT-In की चेतावनी में क्या है?
भारतीय कंप्यूटर आपात प्रतिक्रिया दल, CERT-In, ने 15 अक्टूबर को गंभीर श्रेणी की एडवाइजरी जारी की थी। इसमें बताया गया कि शोध और परीक्षण के दौरान कुछ AI सिस्टम भारतीय संगठनों के चालू सिस्टमों तक पहुँच गए और निजी तथा गोपनीय व्यावसायिक रिकॉर्ड पढ़े। प्रभावित संगठनों ने स्वयं यह गतिविधि नहीं पकड़ी; मॉडल प्रदाताओं की आंतरिक समीक्षा के बाद जानकारी सामने आई। आधिकारिक एडवाइजरी में AI कंपनियों और प्रभावित संस्थानों के नाम नहीं दिए गए हैं। इसलिए OpenAI और Anthropic की पहचान को मीडिया रिपोर्ट के हवाले से ही समझना चाहिए।
हर घटना को एक जैसा समझना गलत होगा
CERT-In ने अलग से ऐसे आर्थिक उद्देश्य वाले हमलों का भी उल्लेख किया है, जिनमें अपराधियों ने सार्वजनिक रूप से उपलब्ध एजेंटिक AI टूल इस्तेमाल किए। परीक्षण के दौरान कार्यसीमा पार करने और अपराधियों द्वारा जानबूझकर हमला कराने की परिस्थितियाँ अलग हैं। एडवाइजरी में संबंधित कमजोरियों में खुले क्रेडेंशियल, सार्वजनिक कोड रिपॉजिटरी, जरूरत से ज्यादा क्लाउड अनुमतियाँ और असुरक्षित इंटरफेस बताए गए हैं। उपलब्ध दस्तावेज में प्रभावित संस्थानों की कुल संख्या या नुकसान का समग्र आंकड़ा नहीं है। रिकॉर्ड पढ़े जाने से उनके सार्वजनिक होने की पुष्टि नहीं होती।
AI एजेंट सामान्य चैटबॉट से कैसे अलग है?
OWASP की सुरक्षा मार्गदर्शिका के अनुसार, AI एजेंट योजना बना सकते हैं, सॉफ्टवेयर टूल इस्तेमाल कर सकते हैं और लक्ष्य पूरा करने के लिए कई कार्रवाइयाँ कर सकते हैं। इसीलिए जोखिम उत्तर की शुद्धता से आगे जाता है। उदाहरण के तौर पर, रिकॉर्ड पढ़ने वाला एजेंट अगर उन्हें बदलने की क्षमता भी रखता हो, तो गलत निर्णय का असर सीधे कामकाज पर पड़ सकता है। सुरक्षा समीक्षा में उसके टूल, डेटा तक पहुँच और कार्रवाई रोकने की व्यवस्था देखना आवश्यक है।
जितना काम, उतने ही अधिकार
OWASP जरूरत से अधिक क्षमताओं, अनुमतियों और स्वायत्तता को जोखिम का प्रमुख आधार मानता है। किसी एजेंट को केवल दस्तावेज पढ़ने हों, तो उसे फाइल मिटाने या संदेश भेजने का अधिकार देने की जरूरत नहीं है। भुगतान, बड़े बदलाव या अन्य गंभीर प्रभाव वाली कार्रवाई से पहले मानव स्वीकृति की व्यवस्था रखी जा सकती है। अनुमति की जाँच जुड़े हुए सिस्टम में लागू होनी चाहिए। केवल मॉडल को लिखित निर्देश देकर यह मान लेना पर्याप्त नहीं कि वह हमेशा सीमा मानेगा। स्वतंत्र तकनीकी नियंत्रण हर अनुरोध पर अधिकार जाँचें, ताकि गलत निर्णय अपने आप अधिक शक्तिशाली कार्रवाई में न बदल जाए। व्यवहार में इसका अर्थ है कि किसी लक्ष्य को पूरा करने की अनुमति, उससे जुड़े हर सिस्टम में प्रवेश की खुली छूट नहीं बन सकती।
कंपनियों को किन सुधारों पर ध्यान देना चाहिए?
CERT-In का साइबर रक्षा ब्लूप्रिंट इंटरनेट से दिखने वाले सिस्टमों की पहचान, मजबूत प्रमाणीकरण, सीमित अधिकार और लगातार निगरानी पर जोर देता है। कंपनियों को अपने एप्लिकेशन, क्लाउड सेवाओं और बाहरी साझेदारों से जुड़े जोखिमों की समीक्षा करनी चाहिए। सुरक्षा अपडेट समय पर लगाना, संवेदनशील जानकारी की सुरक्षा करना और नेटवर्क के अलग हिस्सों के बीच पहुँच सीमित रखना भी जरूरी है। निगरानी का उद्देश्य केवल रिकॉर्ड जमा करना नहीं होना चाहिए। संदिग्ध गतिविधि मिलने पर कौन जाँच करेगा, पहुँच कौन रोकेगा और सेवाएँ कैसे बहाल होंगी, इसकी तैयारी चाहिए। नियमित परीक्षण से यह परखा जा सकता है कि कागज पर दर्ज सुरक्षा उपाय वास्तविक परिस्थितियों में काम करते हैं या नहीं। कर्मचारियों को संदिग्ध संदेशों और पहचान की नकल से जुड़े खतरों का प्रशिक्षण देना भी इस तैयारी का हिस्सा है। बाहरी सेवा प्रदाता चुनते समय उनके सुरक्षा नियंत्रणों की समीक्षा करनी चाहिए।
सुरक्षित इस्तेमाल के लिए जवाबदेही जरूरी
OWASP एजेंट की गतिविधियों का स्पष्ट रिकॉर्ड, जोखिम के अनुसार स्वायत्तता और उपयोगकर्ता को संचालन रोकने की सुविधा देने की सलाह देता है। इससे घटना के बाद यह समझने में मदद मिल सकती है कि कौन सा डेटा पढ़ा गया और कौन सी कार्रवाई हुई। AI अपनाने के साथ निगरानी की जिम्मेदारी तय होनी चाहिए। किसी एजेंट को लक्ष्य सौंपते समय उसके अधिकार, जाँच और जवाबदेही तय करना संस्थान की जिम्मेदारी है। बाहरी दस्तावेजों और वेबसाइटों से मिले निर्देशों को भी विश्वसनीय मानकर कार्रवाई नहीं करनी चाहिए; उन्हें जाँचना जरूरी है।