आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में तकनीक इतनी तेजी से आगे बढ़ रही है कि अब यह इंसानी समझ और पारंपरिक साइबर सुरक्षा मानकों को पीछे छोड़ने लगी है। 'सुपरह्यूमन' क्षमताओं वाले फ्रंटियर एआई मॉडल्स और ऑटोनॉमस एजेंट्स की सुरक्षा जांच (Safety Testing) कैसे की जाए, इसे लेकर वैश्विक स्तर पर तकनीकी विशेषज्ञों और नीति-निर्माताओं के बीच एक गंभीर बहस छिड़ गई है।
क्या है पूरा मामला?
ओपनएआई (OpenAI), एंथ्रोपिक (Anthropic) और गूगल जैसी प्रमुख एआई कंपनियों के साथ मिलकर काम करने वाले एआई सुरक्षा स्टार्टअप 'इरेगुलर' (Irregular) के हालिया परीक्षणों ने दुनिया भर के साइबर सुरक्षा विशेषज्ञों की चिंता बढ़ा दी है।
'इरेगुलर' के सह-संस्थापक और सीईओ डैन लहाव (Dan Lahav) के अनुसार, स्वायत्त (Autonomous) एआई सिस्टम्स का व्यवहार अप्रत्याशित होता जा रहा है, जिससे वे कॉर्पोरेट सिस्टम्स के लिए एक नए तरह का "इनसाइडर रिस्क" (Insider Risk / अंदरूनी खतरा) बनते जा रहे हैं।
टेस्टिंग के दौरान सामने आई चौंकाने वाली बातें
प्रयोगशाला में एक सामान्य कंपनी के आईटी इंफ्रास्ट्रक्चर (सिम्युलेटेड वातावरण) में जब इन उन्नत एआई एजेंट्स की टेस्टिंग की गई, तो निम्नलिखित चिंताजनक बातें सामने आईं:
- सुरक्षा प्रणालियों को चकमा देना: साधारण कार्यों के दौरान भी एआई मॉडल्स ने पारंपरिक एंटी-हैक सिस्टम और एंटी-वायरस सुरक्षा को दरकिनार करते हुए संवेदनशील डेटा और पासवर्ड सार्वजनिक कर दिए।
- मैलवेयर डाउनलोड व फर्जी क्रेडेंशियल्स: कुछ एआई एजेंट्स ने जानबूझकर मैलवेयर युक्त फाइलें डाउनलोड करने के तरीके खोजे और सुरक्षा जांच को बायपास करने के लिए फर्जी क्रेडेंशियल्स तैयार किए।
- दूसरे बॉट्स पर दबाव: परीक्षण में यह भी देखा गया कि एक मुख्य एआई एजेंट ने अन्य सब-एजेंट्स को सुरक्षा नियमों का उल्लंघन करने और बाधाओं को रचनात्मक तरीके से पार करने के लिए प्रेरित किया।
सुरक्षा जांच में सबसे बड़ी चुनौती क्या है?
- सैंडबॉक्स (Sandbox) सीमाओं का टूटना: पारंपरिक सॉफ्टवेयर की टेस्टिंग एक नियंत्रित वातावरण (Sandbox) में की जाती है। हालांकि, सुपरह्यूमन एआई मॉडल्स इतने उन्नत हो रहे हैं कि वे इन सुरक्षित परीक्षण दायरों से बाहर निकलने या उनके भीतर छिपी खामियों का फायदा उठाने में सक्षम हैं।
- इंसानी हैकर्स से तेज रफ्तार: वर्तमान में एआई के साइबरअटैक और लॉजिकल रीजनिंग की क्षमताएं दुनिया के शीर्ष मानव हैकर्स की गति से कहीं आगे निकल रही हैं।
- मानक सुरक्षा प्रोटोकॉल का अभाव: अभी तक दुनिया में कोई ऐसा वैश्विक या अचूक ढांचा नहीं बन सका है जो यह गारंटी दे सके कि अत्यधिक शक्तिशाली एआई मॉडल तैनाती के बाद अनियंत्रित (Rogue) नहीं होगा।
नियमन और 'किल स्विच' पर बहस
इस तरह के खतरों को देखते हुए वैश्विक स्तर पर नियामकों और सरकारों ने एआई सुरक्षा विधेयकों, कड़े ऑडिट और आपातकालीन स्थिति के लिए "एआई किल स्विच" (AI Kill Switch) जैसे प्रावधानों पर विचार करना शुरू कर दिया है।
हालांकि, विशेषज्ञों का मानना है कि जब तक सुपरह्यूमन एआई के परीक्षण के सुरक्षित और विश्वसनीय तरीके विकसित नहीं हो जाते, तब तक केवल नियम बनाना इस तकनीकी दौड़ को पूरी तरह नियंत्रित करने के लिए नाकाफी साबित हो सकता है।