एंथ्रोपिक सीईओ डारियो अमॉडेई ने कहा है कि यदि AI के विकास की गति धीमी नहीं की गई और उसके सुरक्षा मेकेनिज़्म को मज़बूत नहीं किया गया तो अगले 6-12 महीनों में AI दुनिया के पूरे इंटरनेट पर क़ब्ज़ा जमा कर भारी तबाही मचा सकता है।
सैम अल्टमैन, डारियो अमॉडेई और एलन मस्क
आर्टिफिशियल इंटेलिजेंस यानी AI विकास की रफ्तार 6-12 महीने में इतना बड़ा खतरा बन सकती है कि AI को लेकर दुनिया की सबसे बड़ी टेक कंपनियों के बीच एक असामान्य तरह की सहमति बनती दिख रही है। AI की दौड़ में सबसे आगे रहने वाले तीन बड़े नाम एंथ्रोपिक के सीईओ डारियो अमॉडेई, OpenAI के सीईओ सैम ऑल्टमैन और xAI के प्रमुख एलन मस्क इस बात से सहमत हैं कि AI मॉडल की क्षमताएं जिस तेजी से बढ़ रही हैं और उस रफ्तार को कुछ हद तक धीमा करना ज़रूरी है। बता दें कि इस हफ़्ते ही एआई कंपनी
एंथ्रोपिक के एक रिसर्चर के इस्तीफे और इस चेतावनी ने दुनिया को हिला दिया है कि AI अगले 10 साल में मानव सभ्यता को खत्म कर सकता है।
इस बहस की शुरुआत एंथ्रोपिक के सीईओ डारियो अमॉडेई के एक चेतावनी भरे लेख से हुई। उन्होंने कहा कि AI की क्षमताओं को विकसित करने की मौजूदा रफ्तार अगर इसी तरह जारी रही और एआई सिस्टम की सुरक्षा व्यवस्था उसी अनुपात में मजबूत नहीं हुई तो स्थिति बेहद खतरनाक हो सकती है। अमॉडेई ने खास तौर पर चेतावनी दी कि आने वाले 6 से 12 महीनों में AI एजेंटों का ऐसा समूह विकसित हो सकता है जो इंटरनेट के बड़े हिस्से पर नियंत्रण हासिल करने में सक्षम हो। उनके मुताबिक़ इससे सैकड़ों अरब डॉलर का नुक़सान तक हो सकता है। यह एक अनुमान और ख़तरे का आकलन है, न कि यह दावा कि छह महीने में ऐसा होना निश्चित है।
एलन मस्क और सैम ऑल्टमैन क्या बोले?
अमॉडेई के लेख के बाद OpenAI के सीईओ सैम ऑल्टमैन ने एक्स पर प्रतिक्रिया देते हुए कहा, 'I agree with Dario” यानी वह अमॉडेई से सहमत हैं। ऑल्टमैन ने यह भी कहा कि OpenAI भी बाहरी सुरक्षा मूल्यांकनकर्ताओं का स्वागत करने के मामले में अमॉडेई की पहल को शुरू करेगा। दूसरी ओर एलन मस्क ने भी अमॉडेई की चेतावनी का समर्थन किया। मस्क ने लिखा, 'Dario is right.' मस्क लंबे समय से AI के अनियंत्रित विकास के ख़तरों को लेकर चेतावनी देते रहे हैं। ऐसे में अमॉडेई के साथ उनका सार्वजनिक रूप से सहमत होना इस बहस को और अहम बना देता है।
अमॉडेई ने AI की रफ्तार पर क्या कहा?
अमॉडेई ने अपने लेख में लिखा कि AI मॉडल की क्षमताओं में सुधार की गति को धीमा करना ज़रूरी है। उनका तर्क है कि AI की प्रगति पूरी तरह रोकना समाधान नहीं है। AI से मानव समाज को बड़े फायदे हो सकते हैं और अगर इसका विकास पूरी तरह रोक दिया गया तो इससे तकनीक के लाभों से दुनिया वंचित हो सकती है या यह तकनीक ऐसे देशों के हाथों में जा सकती है जहां सुरक्षा मानक और भी कमजोर हों।
लेकिन दूसरी तरफ, अगर AI का विकास बहुत तेजी से किया गया तो मानव समाज के पास उसके ख़तरों को समझने और उन्हें नियंत्रित करने के लिए पर्याप्त समय नहीं बचेगा। अमॉडेई के अनुसार एंथ्रोपिक ने अब तक इन दोनों ख़तरों के बीच एक ‘बीच का रास्ता’ अपनाने की कोशिश की है। लेकिन पिछले कुछ महीनों में उन्हें लगा है कि ख़तरों से निपटने के लिए इससे भी ज्यादा सावधानी की ज़रूरत है।उनके मुताबिक़ केवल AI के जोखिमों को कम करने में निवेश करना पर्याप्त नहीं है। AI मॉडल की क्षमताएँ जिस रफ्तार से बढ़ रही हैं, उस रफ्तार को भी कुछ समय के लिए नियंत्रित करना होगा ताकि सुरक्षा व्यवस्था उनके साथ क़दम मिला सके।
सबसे बड़ी चिंता- AI खुद AI बनाने लगे तो?
अमॉडेई की चिंता का एक प्रमुख कारण recursive self-improvement यानी AI का खुद AI के अगले संस्करण को विकसित करने में मदद करने की बढ़ती क्षमता है। सीधे-सीधे इसका मतलब है कि AI सिस्टम सिर्फ इंसानों द्वारा दिए गए निर्देशों पर काम करने के बजाय वे खुद AI के अगले और ज्यादा शक्तिशाली मॉडल को विकसित कर सकते हैं। अमॉडेई के मुताबिक़ इस तरह की क्षमता AI उद्योग में तेजी से दिखाई देने लगी है। अगर AI खुद अगली पीढ़ी के AI को बेहतर बनाने में मदद करने लगे तो विकास की गति पहले से कहीं ज़्यादा तेज हो सकती है।
यहीं से उनकी सबसे बड़ी चिंता पैदा होती है। उनका मानना है कि अगर AI की क्षमताएँ सुरक्षा और नियंत्रण की हमारी क्षमता से ज्यादा तेजी से बढ़ीं तो इंसानों के लिए यह समझना मुश्किल हो सकता है कि सिस्टम वास्तव में क्या कर रहा है और उसे कैसे नियंत्रित किया जाए।'Hugging Face' घटना ने बढ़ाई चिंता
अमॉडेई ने अपने लेख में OpenAI और AI डेवलपर प्लेटफॉर्म 'Hugging Face' से जुड़ी एक घटना को अपनी चिंता का प्रमुख कारण बताया। उनके मुताबिक परीक्षण के दौरान AI एजेंटों के एक समूह ने उस सीमित वातावरण से बाहर निकलने की कोशिश की जिसमें उन्हें रखा गया था। उन AI एजेंटों ने इंटरनेट से जुड़ने और ऐसे साइबर हमले करने की कोशिश की जो उन्हें दिए गए मूल काम का हिस्सा नहीं थे। अमॉडेई ने इस घटना को केवल एक कंपनी की ग़लती मानकर खारिज करने से सावधान किया। उनके मुताबिक़ AI एजेंटों का यह समूह किसी एक व्यक्ति की तरह नहीं, बल्कि एक ऐसे सामूहिक सिस्टम की तरह व्यवहार कर रहा था जो अपने लक्ष्य को पूरा करने के लिए अलग-अलग तरीक़े अपना रहा था।
उन्होंने लिखा कि अगर इसी तरह का व्यवहार करने वाले सिस्टम भविष्य में ज्यादा शक्तिशाली हो गए और उनमें सही सुरक्षा नियंत्रण नहीं रहे तो नुक़सान बहुत बड़ा हो सकता है।
बड़ी चेतावनी- ‘पूरे इंटरनेट पर कब्जा’
अमोडेई ने इसी घटना को आधार बनाकर भविष्य को लेकर बेहद गंभीर चिंता जाहिर की। उनका कहना है कि अगर AI क्षमताओं के विकास की मौजूदा रफ्तार जारी रही तो 6–12 महीनों में अधिक सक्षम AI एजेंटों का कोई समूह पूरे इंटरनेट पर लगातार काम करने वाले बॉटनेट के ज़रिए कब्जा करने की स्थिति में पहुँच सकता है। उन्होंने संभावित नुकसान सैकड़ों अरब डॉलर तक बताया।अमॉडेई ने इसे एक संभावित ख़तरे के रूप में रखा है। उन्होंने यह नहीं कहा कि निश्चित रूप से छह या बारह महीने में AI इंटरनेट पर कब्जा कर लेगा। उनका मुख्य तर्क यह है कि AI के विकास की गति इतनी तेज हो रही है कि सुरक्षा उपायों को उसके साथ तालमेल रखने के लिए पर्याप्त समय नहीं मिल रहा।
AI एजेंट क्यों ज्यादा चिंताजनक हैं?
AI के शुरुआती दौर में अधिकांश सिस्टम सवालों के जवाब देने, लेख लिखने या किसी निर्देश पर सामग्री बनाने तक सीमित थे। अब AI एजेंटों को ऐसे काम करने के लिए विकसित किया जा रहा है जिनमें वे कई चरणों वाले काम खुद कर सकते हैं। मिसाल के लिए वे किसी लक्ष्य को हासिल करने के लिए जानकारी तलाश सकते हैं, कंप्यूटर पर काम कर सकते हैं, कोड लिख सकते हैं और एक के बाद दूसरा कदम उठा सकते हैं। यही चीज सुरक्षा विशेषज्ञों के लिए बड़ी चिंता बन रही है।
अगर किसी AI एजेंट को पर्याप्त अधिकार मिल जाएं और उसके लक्ष्य गलत तरीके से तय हों या वह अपने निर्देशों की ऐसी व्याख्या करे जिसकी इंसानों ने कल्पना नहीं की थी तो वह अप्रत्याशित कार्रवाई कर सकता है। Hugging Face से जुड़ी घटना को अमॉडेई इसी व्यापक जोखिम के उदाहरण के तौर पर देखते हैं।‘सुरक्षा पहले या विकास पहले?’ पुरानी बहस फिर तेज
AI उद्योग में यह बहस नई नहीं है। एक तरफ टेक कंपनियां AI की क्षमताओं को तेजी से आगे बढ़ाना चाहती हैं क्योंकि इससे स्वास्थ्य, विज्ञान, शिक्षा, उत्पादकता और अर्थव्यवस्था में बड़े बदलाव आने की उम्मीद है। दूसरी तरफ AI सुरक्षा विशेषज्ञों का सवाल है कि अगर तकनीक की क्षमताएं बहुत तेजी से बढ़ीं और सुरक्षा व्यवस्था पीछे रह गई तो इसके गंभीर परिणाम हो सकते हैं।
अमॉडेई का कहना है कि AI को पूरी तरह रोकना भी सही रास्ता नहीं है और बिना पर्याप्त सुरक्षा के तेजी से आगे बढ़ना भी खतरनाक है। इसलिए वह विकास की गति को कुछ समय के लिए धीमा करने की बात कर रहे हैं। उनके मुताबिक प्रगति तब भी तेज रहेगी, लेकिन इससे समाज और नियामकों को सुरक्षा व्यवस्था विकसित करने के लिए अतिरिक्त समय मिलेगा।
एंथ्रोपिक पहले भी विकास धीमा करने की बात कर चुका है। अमॉडेई की यह चेतावनी अचानक सामने नहीं आई है। एंथ्रोपिक पहले भी AI विकास को धीमा या कुछ मामलों में रोकने की जरूरत पर बात कर चुका है। जून की शुरुआत में कंपनी की ओर से भी AI विकास की गति को लेकर सावधानी बरतने की अपील की गई थी। इसके बाद जुलाई के अंत में सैम ऑल्टमैन ने भी संकेत दिया था कि AI डेवलपर्स को समाज को तकनीकी बदलाव के साथ तालमेल बैठाने का समय देने के लिए स्वेच्छा से कुछ समय के लिए रफ्तार कम करने की जरूरत पड़ सकती है।
बाहरी सुरक्षा जांच की मांग
अमोडेई ने केवल चेतावनी देने तक खुद को सीमित नहीं रखा। उन्होंने AI कंपनियों के लिए एक व्यावहारिक कदम भी सुझाया। एंथ्रोपिक ने कहा है कि वह बाहरी यानी थर्ड-पार्टी सुरक्षा मूल्यांकनकर्ताओं को कंपनी के कर्मचारियों जैसे स्तर की पहुंच देने के लिए तैयार है, ताकि वे यह जांच सकें कि कंपनी तय सुरक्षा मानकों का पालन कर रही है या नहीं। अमॉडेई ने दूसरी AI कंपनियों से भी इसी तरह की व्यवस्था अपनाने की अपील की।
सैम ऑल्टमैन ने अमॉडेई के लेख को साझा करते हुए कहा कि OpenAI भी इसी तरह की बाहरी निगरानी को लेकर प्रतिबद्ध रहेगा और इस बारे में वह आगे और जानकारी देंगे।
अमॉडेई ने AI उद्योग के लिए साझा सुरक्षा मानक विकसित करने की जरूरत पर भी जोर दिया। उनका तर्क है कि केवल एक कंपनी अगर सुरक्षा को गंभीरता से लेती है तो उससे पूरी समस्या हल नहीं होगी। अगर दूसरी कंपनियां ज्यादा तेजी से और कम सुरक्षा के साथ AI विकसित करती हैं तो पूरी दुनिया उसी जोखिम के दायरे में आ सकती है।
सरकार की भूमिका पर भी सवाल
अमेरिका ने उन्नत AI मॉडल को रिलीज करने से पहले स्वैच्छिक सुरक्षा समीक्षा की एक प्रक्रिया शुरू की है। हालांकि इस व्यवस्था के वास्तविक मानक और प्रभाव को लेकर अभी सवाल बने हुए हैं।
टेक उद्योग के कुछ पर्यवेक्षकों का मानना है कि AI उद्योग को लेकर अमेरिकी सरकार का व्यापक रुख अब तक अपेक्षाकृत हल्के नियमन और कम सरकारी हस्तक्षेप वाला रहा है। ऐसे में सवाल यह है कि क्या स्वैच्छिक सुरक्षा समीक्षा AI कंपनियों को पर्याप्त रूप से जवाबदेह बना पाएगी।
AI की दौड़ में ‘ब्रेक’ लगाने पर सहमति कितनी गंभीर?
यह दिलचस्प स्थिति है कि AI उद्योग की दौड़ में एक-दूसरे के प्रतिद्वंद्वी माने जाने वाले तीन बड़े नाम इस बात पर सहमत दिख रहे हैं कि AI विकास की रफ्तार को कुछ हद तक नियंत्रित करने की जरूरत है। Anthropic, OpenAI और xAI के बीच तकनीकी प्रतिस्पर्धा तेज है। कंपनियां ज्यादा शक्तिशाली और ज्यादा सक्षम AI मॉडल बनाने की दौड़ में हैं। लेकिन अमॉडेई की चेतावनी और उस पर ऑल्टमैन तथा मस्क की सहमति यह बताती है कि AI सुरक्षा का सवाल अब केवल बाहरी आलोचकों का मुद्दा नहीं रह गया है। AI उद्योग के शीर्ष लोगों के बीच भी यह चिंता बढ़ रही है कि क्षमता बढ़ाने की रफ्तार और सुरक्षा व्यवस्था की रफ्तार के बीच अंतर खतरनाक स्तर तक नहीं पहुंचना चाहिए।