आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर दुनिया में जितनी तेजी से उम्मीदें बढ़ रही हैं, उतनी ही तेजी से इसकी सुरक्षा और संभावित खतरों पर बहस भी तेज हो रही है। इसी बीच Anthropic से जुड़े AI रिसर्चर जैकब कॉक्सन के इस्तीफे ने इस बहस को एक बार फिर केंद्र में ला दिया है।

कॉक्सन का कहना है कि AI कंपनियां ऐसे सिस्टम विकसित करने की दौड़ में आगे बढ़ रही हैं, जो भविष्य में खुद को बेहतर बनाने में सक्षम हो सकते हैं और कई मामलों में इंसानी क्षमताओं से काफी आगे निकल सकते हैं। उनका आरोप है कि इस दौड़ में AI की सुरक्षा, नियंत्रण और संभावित जोखिमों को पर्याप्त प्राथमिकता नहीं दी जा रही है।

कौन हैं जैकब कॉक्सन?

जैकब कॉक्सन के X प्रोफाइल के मुताबिक, वह AI रिसर्चर हैं। उन्होंने बताया कि पिछले करीब तीन साल में उन्होंने OpenAI और Anthropic, दोनों कंपनियों में प्री-ट्रेनिंग रिसर्च पर काम किया है।

Anthropic से इस्तीफे की जानकारी देते हुए कॉक्सन ने सोशल मीडिया पर अपनी चिंता जाहिर की। उनका कहना है कि दोनों कंपनियां ऐसे AI सिस्टम विकसित करने की दिशा में बढ़ रही हैं, जो आगे चलकर खुद को बेहतर बनाने की क्षमता हासिल कर सकते हैं। उनके मुताबिक, यह सिर्फ तकनीकी प्रतिस्पर्धा नहीं है। इसमें मानव जीवन और भविष्य की सुरक्षा से जुड़े बड़े सवाल भी शामिल हैं।

सुपरइंटेलिजेंट AI से कॉक्सन को क्यों है चिंता?

कॉक्सन की सबसे बड़ी चिंता Superintelligent AI को लेकर है। उनका मानना है कि AI सिस्टम आने वाले समय में ऐसी क्षमताएं हासिल कर सकते हैं, जो इंसानों की क्षमताओं से बहुत आगे होंगी।

उन्होंने अपने बयान में ऐसे संभावित AI सिस्टम की ओर इशारा किया जो किसी भी सिस्टम को हैक करने, अलग-अलग क्षेत्रों में बहुत तेजी से बदलाव लाने और वास्तविक दुनिया में ताकत तथा संसाधन हासिल करने में सक्षम हो सकते हैं।

कॉक्सन का तर्क है कि इन क्षेत्रों में AI की प्रगति के संकेत अभी से दिखाई दे रहे हैं और तकनीक की रफ्तार लगातार बनी हुई है। ऐसे में सवाल सिर्फ यह नहीं है कि AI कितना शक्तिशाली होगा, बल्कि यह भी है कि उस शक्ति को नियंत्रित कैसे किया जाएगा।

क्या AI इंसानों के लिए खतरा बन सकता है?

कॉक्सन ने AI के संभावित खतरे को लेकर बेहद गंभीर चेतावनी दी है। उनका दावा है कि AI विकसित करने वाले कुछ लोग खुद इस संभावना को गंभीरता से लेते हैं कि मौजूदा दशक खत्म होने से पहले AI इंसानों के लिए बेहद खतरनाक साबित हो सकता है।

उनका कहना है कि यह केवल किसी कंपनी की मार्केटिंग रणनीति या डर पैदा करने वाली बात नहीं है। कॉक्सन के मुताबिक, कई वरिष्ठ अधिकारी और AI रिसर्चर सार्वजनिक तौर पर इस मुद्दे पर संतुलित भाषा इस्तेमाल करते हैं, लेकिन निजी बातचीत में AI के संभावित खतरों को लेकर उनकी चिंता कहीं ज्यादा स्पष्ट होती है। हालांकि, ये कॉक्सन के व्यक्तिगत दावे और आकलन हैं। इन्हें AI क्षेत्र की सर्वसम्मत वैज्ञानिक राय नहीं माना जा सकता।

फिर AI कंपनियां इतनी तेजी से आगे क्यों बढ़ रही हैं?

यहीं से AI की मौजूदा रेस का सबसे बड़ा सवाल सामने आता है। अगर कंपनियों और रिसर्चर्स को AI के संभावित खतरों की चिंता है तो फिर इसके विकास की रफ्तार लगातार क्यों बढ़ रही है?

कॉक्सन ने OpenAI और Anthropic को लेकर अलग-अलग स्थिति का जिक्र किया है।

उनके मुताबिक, OpenAI में कई लोग AI के संभावित सभ्यतागत खतरे यानी civilizational stakes को पूरी तरह नहीं समझ पाए हैं। वहीं Anthropic में स्थिति अलग है। उनका दावा है कि वहां AI के संभावित खतरों को गंभीरता से समझा जाता है, लेकिन कंपनी खुद को ऐसी प्रतिस्पर्धा में फंसा हुआ महसूस करती है जिसमें पीछे हटने का मतलब दूसरी कंपनियों को आगे निकलने का मौका देना हो सकता है।

यानी समस्या सिर्फ तकनीक विकसित करने की नहीं, बल्कि AI की वैश्विक प्रतिस्पर्धा की भी है।

कॉक्सन को AI की रफ्तार पर क्यों आपत्ति है?

कॉक्सन का मानना है कि AI को अधिक से अधिक शक्तिशाली बनाने की होड़ अपने आप में जोखिम पैदा कर सकती है। उनका सवाल है कि किसी निजी कंपनी के आंतरिक मंच या Slack जैसे प्लेटफॉर्म पर बातचीत करके यह तय नहीं होना चाहिए कि ऐसी तकनीक कितनी तेजी से आगे बढ़ाई जाए, जिसका असर पूरी मानवता पर पड़ सकता है।

उनके मुताबिक AI का विकास इस तरह होना चाहिए कि सिस्टम इंसानों के हित, निर्देश और सुरक्षा के अनुरूप काम करें।

कॉक्सन यह भी मानते हैं कि AI Safety पर तेजी से काम करना जरूरी है, लेकिन इसके साथ यह भरोसा भी होना चाहिए कि जिस दिशा में तकनीक आगे बढ़ाई जा रही है, उससे ज्यादा सुरक्षित विकल्प मौजूद नहीं है।

क्या AI मॉडल को बेहतर बनाने पर अस्थायी रोक लगनी चाहिए?

कॉक्सन ने केवल चिंता जाहिर नहीं की, बल्कि AI की वैश्विक रेस को रोकने के लिए कड़े कदमों की संभावना पर भी बात की है। उनका मानना है कि अगर दुनिया वास्तव में AI की दौड़ को नियंत्रित करना चाहती है तो कुछ महंगे और असाधारण कदम उठाने पड़ सकते हैं। उन्होंने AI मॉडल की क्षमताओं को लगातार आगे बढ़ाने पर अस्थायी रोक की संभावना का समर्थन किया है।

हालांकि, उनके मुताबिक AI कंपनियों के बीच किसी तरह के समन्वय की संभावना पूरी तरह खत्म नहीं हुई है। उन्होंने Hugging Face पर हुए हमले जैसी घटनाओं का भी उल्लेख किया, जिन्हें वह AI क्षेत्र में सुरक्षा संबंधी चेतावनी के तौर पर देखते हैं।

उनका मानना है कि ऐसी घटनाओं के बाद अमेरिकी AI लैब्स के बीच AI विकास की गति को लेकर किसी तरह के समझौते की संभावना बन सकती है। लेकिन फिलहाल उन्हें ऐसा नहीं लगता कि दुनिया वैश्विक AI रेस को रोकने की दिशा में आगे बढ़ रही है।

दूसरे AI रिसर्चर्स से भी की अपील

कॉक्सन ने AI कंपनियों में काम कर रहे दूसरे रिसर्चर्स से भी अपने काम और भविष्य की भूमिका को लेकर गंभीरता से सोचने की अपील की है। उन्होंने सवाल उठाया है कि क्या रिसर्चर्स आने वाले वर्षों में ऐसे बेहद शक्तिशाली AI सिस्टम पर Reinforcement Learning (RL) की प्रक्रिया चलाना चाहेंगे, जबकि अभी पूरी तरह यह समझना बाकी है कि सुपरइंटेलिजेंट सिस्टम किस तरह काम करेगा और उसकी क्षमताओं को कैसे नियंत्रित किया जाएगा।

कॉक्सन का कहना है कि रिसर्चर्स को केवल यह सोचकर चुप नहीं रहना चाहिए कि 'यह तो होना ही है'। इसके बजाय उन्हें AI के विकास के लिए ज्यादा सुरक्षित परिस्थितियों और बेहतर सुरक्षा उपायों की मांग करनी चाहिए।

Anthropic CEO डारियो अमोदेई का AI रेगुलेशन पर क्या रुख है?

कॉक्सन की चिंताओं के बीच Anthropic के CEO डारियो अमोदेई का AI रेगुलेशन को लेकर अलग नजरिया भी सामने आया है। 16 अगस्त को अमोदेई ने उन दावों का विरोध किया था कि AI को रेगुलेट करने से इसकी ताकत केवल कुछ बड़ी कंपनियों और सरकारों के हाथों में चली जाएगी।

अमोदेई का तर्क है कि अगर नियम सोच-समझकर बनाए जाएं तो वे बड़ी और अत्याधुनिक AI कंपनियों की ताकत को सीमित कर सकते हैं और छोटी कंपनियों के लिए आगे बढ़ने की गुंजाइश भी बना सकते हैं।

अमोदेई ने 'झूठा विकल्प' क्यों कहा?

यह बहस निवेशक गेविन बेकर की उस दलील के बाद तेज हुई थी, जिसमें उन्होंने कहा था कि AI की ताकत कुछ बड़ी कंपनियों तक सीमित रखने के बजाय इसे ज्यादा से ज्यादा लोगों और कंपनियों के लिए उपलब्ध कराया जाना चाहिए। अमोदेई ने इस सोच को 'झूठा विकल्प' बताया।

उनका कहना है कि AI की ताकत को नियंत्रित करने और इसे सभी के लिए उपलब्ध कराने के बीच एक तीसरा रास्ता भी मौजूद है। उनके मुताबिक, निष्पक्ष नियम और मजबूत संस्थाएं बड़ी कंपनियों की ताकत पर नियंत्रण रख सकती हैं और साथ ही लोगों के अधिकारों की रक्षा भी कर सकती हैं।

AI को लेकर असली बहस क्या है?

जैकब कॉक्सन का इस्तीफा AI की उस बहस को सामने लाता है, जिसका असर आने वाले वर्षों में तकनीक से कहीं आगे तक जा सकता है। एक तरफ AI की तेज प्रगति से मेडिकल रिसर्च, साइंस, बिजनेस, शिक्षा और कई दूसरे क्षेत्रों में बड़े बदलाव की उम्मीद है। दूसरी तरफ सवाल यह है कि अगर AI सिस्टम इंसानी क्षमता से बहुत आगे निकलते हैं तो उनकी सुरक्षा, नियंत्रण और जवाबदेही कैसे सुनिश्चित की जाएगी।

कॉक्सन AI कंपनियों की मौजूदा रेस को बेहद जोखिम भरा मानते हैं और विकास की रफ्तार पर रोक या कंपनियों के बीच किसी तरह के समझौते की जरूरत की वकालत कर रहे हैं।

आखिरकार AI की बहस अब सिर्फ इस सवाल तक सीमित नहीं है कि 'AI कितना शक्तिशाली बन सकता है?' असली सवाल यह भी है कि उस शक्ति पर नियंत्रण किसका होगा, फैसले कौन लेगा और इंसानों की सुरक्षा कैसे सुनिश्चित की जाएगी।