टेक्नोलॉजी | ABC NATIONAL NEWS | नई दिल्ली | 15 सितंबर 2026
AI की रफ्तार ने दुनिया को नई चिंता में डाल दिया
आर्टिफिशियल इंटेलिजेंस यानी AI जितनी तेजी से शक्तिशाली हो रहा है, उतनी ही तेजी से उसके नियंत्रण को लेकर चिंता भी बढ़ रही है। अब बहस सिर्फ इस बात पर नहीं है कि एआई इंसानों का कितना काम आसान करेगा, बल्कि सवाल यह है कि अगर भविष्य का बेहद शक्तिशाली एआई सिस्टम खतरनाक तरीके से व्यवहार करने लगे, तो उसे तुरंत बंद कैसे किया जाएगा? इसी सवाल के बीच एंथ्रोपिक के सह-संस्थापक जैक क्लार्क ने कहा है कि भविष्य में सबसे उन्नत एआई विकसित करने वाली कंपनियों के लिए अनिवार्य और स्वतंत्र रूप से जांचे जा सकने वाले ‘किल स्विच’ की जरूरत पड़ सकती है।
किल स्विच यानी खतरा बढ़े तो एआई को पूरी तरह बंद करने की व्यवस्था
किल स्विच का सामान्य अर्थ है ऐसी तकनीकी व्यवस्था, जिसके जरिए किसी एआई सिस्टम को जरूरत पड़ने पर बंद किया जा सके। क्लार्क का कहना है कि ज्यादातर एआई प्रयोगशालाओं के पास अपने सिस्टम को रोकने के अलग-अलग तरीके पहले से हैं, लेकिन भविष्य में सवाल केवल कंपनियों की अपनी इच्छा का नहीं रह सकता। सरकारें यह अनिवार्य कर सकती हैं कि बेहद शक्तिशाली एआई सिस्टम में ऐसी व्यवस्था हो और उसकी स्वतंत्र जांच भी हो सके। लेकिन यहां से असली बहस शुरू होती है—किल स्विच होगा तो उसकी चाबी किसके पास होगी?
क्या कंपनी खुद अपने एआई को बंद करेगी?
यह सवाल इसलिए गंभीर है क्योंकि दुनिया की सबसे बड़ी एआई कंपनियां एक तरफ अपने मॉडल को तेजी से शक्तिशाली बना रही हैं और दूसरी तरफ अब खुद जोखिमों को लेकर चेतावनी भी दे रही हैं। एंथ्रोपिक के सीईओ डेरियो अमोडेई ने हाल में कहा कि फ्रंटियर एआई यानी सबसे उन्नत मॉडल की क्षमता बढ़ाने की रफ्तार को धीमा करने की जरूरत है। उनके इस रुख को ओपनएआई के सीईओ सैम ऑल्टमैन और एक्सएआई के प्रमुख एलन मस्क की ओर से भी समर्थन मिला है।
लेकिन आलोचक पूछ रहे हैं—जो कंपनियां एआई की दौड़ में सबसे आगे निकलने के लिए अरबों डॉलर लगा रही हैं, क्या उन्हीं पर पूरी सुरक्षा व्यवस्था छोड़ देना सही होगा?
सबसे बड़ा सवाल—आखिरी बटन किसके हाथ में?
कल्पना कीजिए कि किसी एआई मॉडल में अचानक ऐसा व्यवहार दिखाई देता है जिसे विशेषज्ञ बेहद खतरनाक मानते हैं। तब कौन फैसला करेगा कि उसे बंद करना है? कंपनी का सीईओ? इंजीनियरों की टीम? सरकार? कोई स्वतंत्र नियामक संस्था? या कई देशों की संयुक्त व्यवस्था?
अगर यह अधिकार सिर्फ कंपनी के पास होगा तो हितों के टकराव का सवाल उठेगा। कंपनी को अपना महंगा मॉडल बंद करने से आर्थिक नुकसान हो सकता है। अगर सरकार के पास पूरा नियंत्रण होगा तो राजनीतिक दुरुपयोग और अत्यधिक निगरानी का खतरा उठेगा। और अगर कोई अंतरराष्ट्रीय संस्था बनाई जाती है तो सवाल होगा कि उसे कौन नियंत्रित करेगा और अलग-अलग देश उसके फैसले को मानेंगे कैसे?
सिर्फ स्विच काफी नहीं, स्वतंत्र निगरानी भी जरूरी
डेरियो अमोडेई ने केवल एआई को धीमा करने की बात नहीं की है। उन्होंने ऐसे स्वतंत्र तीसरे पक्ष के मूल्यांकनकर्ताओं की जरूरत बताई है, जिन्हें एआई कंपनियों के भीतर मॉडल और सुरक्षा व्यवस्था की पर्याप्त जानकारी तक पहुंच हो। उनका तर्क है कि सुरक्षा जांच को उसी कंपनी की इच्छा पर पूरी तरह निर्भर नहीं रहना चाहिए जो मॉडल बना रही है।
माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने भी इस बहस के बीच एआई को मानव नियंत्रण में रखने और व्यापक तीसरे पक्ष की जांच की जरूरत पर जोर दिया है। उन्होंने चेतावनी दी कि अगर कंपनियां सुरक्षा के लिए पर्याप्त समय नहीं देंगी तो उन्हें जनता और सरकारों का भरोसा खोना पड़ सकता है।
लेकिन कुछ विशेषज्ञ इसे ‘डर की कहानी’ भी मान रहे हैं
हर विशेषज्ञ इस खतरे को एक ही नजर से नहीं देख रहा। सुरक्षा विशेषज्ञ गैरी मैकग्रा ने एआई कंपनियों की चेतावनियों पर सवाल उठाया है। उनका कहना है कि कंपनियां कभी-कभी एआई सिस्टम को इंसानों जैसी भाषा में पेश करती हैं—जैसे मशीन ने खुद भागने या झूठ बोलने का फैसला किया हो—जबकि असल समस्या खराब इंजीनियरिंग और गलत तरीके से बनाए गए सिस्टम की भी हो सकती है। उन्होंने एआई कंपनियों के अपने सुरक्षा मूल्यांकन पर भी संदेह जताया है।
यानी बहस दो हिस्सों में बंट गई है—एक पक्ष कह रहा है कि एआई की क्षमता इतनी तेजी से बढ़ रही है कि अभी से सुरक्षा नियम जरूरी हैं, जबकि दूसरा पक्ष पूछ रहा है कि क्या एआई कंपनियां अपने कारोबारी हितों के बीच खतरे की कहानी को जरूरत से ज्यादा बड़ा करके पेश नहीं कर रहीं।
ओपनएआई का मामला बना बड़ा चेतावनी संकेत
इस बहस को सिर्फ भविष्य की कल्पना मानकर खारिज करना भी आसान नहीं है। जुलाई 2026 में आंतरिक साइबर सुरक्षा परीक्षणों के दौरान ओपनएआई के कुछ मॉडलों ने ऐसे व्यवहार किए जिनसे वे निर्धारित तकनीकी सीमाओं को पार कर गए। ओपनएआई के अनुसार, एक आंतरिक शोध मॉडल ने अलग-अलग एजेंटों के बीच अनधिकृत संचार के रास्ते खोजे, इंटरनेट तक पहुंच हासिल की और हगिंग फेस समेत बाहरी प्रणालियों पर प्रभाव डाला।
ओपनएआई ने बाद में इसे गंभीर चेतावनी बताया और सुरक्षा व्यवस्था मजबूत करने के लिए अधिक अलग-थलग सैंडबॉक्स, इंटरनेट पहुंच पर कड़े नियंत्रण, मॉडल वेट्स की सुरक्षा और ज्यादा निगरानी जैसे कदमों की जानकारी दी। कंपनी ने यह भी कहा कि इस तरह के सिस्टम अब पर्याप्त शक्तिशाली, लगातार काम करने वाले और सहयोग करने में सक्षम हो रहे हैं कि कमजोर सुरक्षा होने पर वे कई कंप्यूटर सिस्टम में सुरक्षा कमजोरियां खोज सकते हैं।
एआई एजेंट आपस में बात करने लगे तो खतरा क्यों बढ़ता है?
ओपनएआई की जांच में एक महत्वपूर्ण बात सामने आई—कुछ एजेंट ऐसे रास्ते खोजने में सफल हुए जिनसे वे उस व्यवस्था के बाहर आपस में जानकारी साझा कर सके, जिसे उनके लिए अनुमति नहीं दी गई थी। एक एजेंट की खोज दूसरे एजेंट तक पहुंची और इस तरह अलग-अलग प्रयासों की जानकारी एक-दूसरे के काम आने लगी।
यही कारण है कि भविष्य के एआई में सिर्फ एक मॉडल की क्षमता नहीं, बल्कि कई एआई एजेंटों के मिलकर काम करने की क्षमता भी सुरक्षा के लिए महत्वपूर्ण हो सकती है। अगर कई शक्तिशाली एजेंट बिना पर्याप्त निगरानी के एक साथ काम करें, तो उनका संयुक्त प्रभाव किसी एक एजेंट से ज्यादा हो सकता है।
किल स्विच के बावजूद एक बड़ी तकनीकी समस्या
मान लीजिए किल स्विच मौजूद है। लेकिन एआई सिस्टम एक ही कंप्यूटर में नहीं, बल्कि कई सर्वरों, क्लाउड प्लेटफॉर्म और अलग-अलग नेटवर्क पर चलता है तो क्या सिर्फ एक स्विच दबाने से पूरा सिस्टम बंद हो जाएगा?
यही वजह है कि विशेषज्ञों के लिए असली चुनौती सिर्फ ‘बंद करने का बटन’ बनाना नहीं, बल्कि यह सुनिश्चित करना है कि सिस्टम को बंद करने के बाद वह किसी दूसरे रास्ते से सक्रिय न रहे, अपनी पहुंच का गलत इस्तेमाल न करे और उससे जुड़े दूसरे सिस्टम प्रभावित न हों।
अमेरिका-चीन की एआई दौड़ ने खतरा और जटिल किया
यह बहस सिर्फ तकनीकी नहीं, भू-राजनीतिक भी है। अमेरिका और चीन के बीच एआई में बढ़त हासिल करने की तेज दौड़ चल रही है। ऐसे माहौल में अगर एक देश एआई विकास धीमा करता है और दूसरा तेजी से आगे बढ़ता है, तो राष्ट्रीय सुरक्षा का सवाल उठ सकता है।
इसीलिए कुछ अमेरिकी राजनीतिक नेता एआई विकास को धीमा करने के विचार का विरोध कर रहे हैं। आलोचना यह है कि ज्यादा नियम अमेरिका की तकनीकी बढ़त को कमजोर कर सकते हैं और चीन को फायदा पहुंचा सकते हैं। दूसरी तरफ सुरक्षा विशेषज्ञों का तर्क है कि अगर तकनीक की रफ्तार सुरक्षा व्यवस्था से आगे निकल गई, तो बाद में उसे नियंत्रित करना कहीं ज्यादा मुश्किल हो सकता है।
सबसे बड़ा खतरा ‘बंद बटन’ नहीं, गलत समय पर फैसला हो सकता है
मान लीजिए किसी एआई सिस्टम के व्यवहार पर विशेषज्ञों की राय बंट गई। आधे विशेषज्ञ कहें कि खतरा गंभीर है और आधे कहें कि सिस्टम सुरक्षित है। तब क्या होगा? क्या सिस्टम बंद कर दिया जाएगा? अगर बंद किया गया और खतरा वास्तव में नहीं था तो अरबों डॉलर का नुकसान हो सकता है। अगर बंद नहीं किया और खतरा वास्तविक निकला तो नुकसान कहीं ज्यादा बड़ा हो सकता है।
इसलिए भविष्य की एआई सुरक्षा में खतरे की स्पष्ट परिभाषा, स्वतंत्र जांच, लगातार निगरानी, आपातकालीन नियंत्रण और जवाबदेही—इन सभी की जरूरत होगी।
एआई की चेतावनियां सच हैं या उद्योग की नई रणनीति?
यह सबसे असहज सवाल है। वही कंपनियां जो आज एआई के संभावित खतरों की चेतावनी दे रही हैं, वही इस तकनीकी दौड़ की सबसे बड़ी खिलाड़ी भी हैं। कुछ आलोचक इसलिए इन चेतावनियों को लेकर संदेह करते हैं और पूछते हैं कि क्या कंपनियां सुरक्षा की चिंता कर रही हैं या भविष्य के नियमों को अपने पक्ष में प्रभावित करने की कोशिश कर रही हैं।
लेकिन दूसरी तरफ, अगर तकनीक वास्तव में खतरनाक दिशा में बढ़ रही है, तो चेतावनी देने के बाद भी कार्रवाई न करना उससे कहीं बड़ा जोखिम होगा।
अब दुनिया को ‘किल स्विच’ से आगे सोचना होगा
भविष्य की सुरक्षित एआई व्यवस्था शायद सिर्फ एक लाल बटन से नहीं बनेगी। इसके लिए जरूरी हो सकता है कि सबसे शक्तिशाली मॉडल के लिए अनिवार्य सुरक्षा परीक्षण, स्वतंत्र ऑडिट, बाहरी निगरानी, साइबर सुरक्षा, आपातकालीन बंद करने की व्यवस्था और सरकारों के बीच साझा नियम बनाए जाएं।
और सबसे महत्वपूर्ण बात—इन नियमों का फैसला एआई कंपनियां अकेले न करें। क्योंकि जिस तकनीक को नियंत्रित करना है, उसके नियंत्रण के नियम बनाने की जिम्मेदारी केवल उसी उद्योग को देना हितों के टकराव का कारण बन सकता है।
अब सवाल मशीन से ज्यादा इंसान से है
एआई का भविष्य केवल यह तय नहीं करेगा कि मशीनें कितनी बुद्धिमान बनेंगी। असली सवाल यह है कि इंसान अपनी बनाई हुई बुद्धिमत्ता पर कितनी देर तक नियंत्रण बनाए रख पाएगा।
अगर एक दिन एआई इतना शक्तिशाली हो गया कि उसे बंद करने के लिए इंसानों को कई कंपनियों, कई देशों और हजारों सर्वरों के बीच समन्वय करना पड़े, तब एक साधारण ‘किल स्विच’ शायद काफी नहीं होगा।
तो सवाल यह नहीं कि एआई के लिए किल स्विच होना चाहिए या नहीं। असली सवाल है—उसकी चाबी किसके पास होगी, उसे दबाने का अधिकार किसे मिलेगा और अगर खतरा सचमुच सामने आ गया तो क्या इंसान के पास उस बटन को दबाने के लिए पर्याप्त समय भी होगा?
