सुपरइंटेलिजेंस के जोखिम को लेकर चेतावनी देने वालों की बढ़ती जमात में शामिल हुए डीपमाइंड के पूर्व शोधकर्ता

एजीआई सुरक्षा पर काम कर चुके Google DeepMind के एक पूर्व शोधकर्ता ने कहा कि कृत्रिम बुद्धिमत्ता में सभी को मार डालने की क्षमता है। उनका नाम उन अग्रणी एआई लैब्स से सुरक्षा चिंताओं के चलते इस्तीफा देने वालों की बढ़ती संख्या में जुड़ गया है।

बिलाल चुगताई ने जुलाई में कंपनी छोड़ दी थी और इस सप्ताह सार्वजनिक रूप से यह चेतावनी दी। हाल ही में दो अन्य शोधकर्ताओं ने भी इस्तीफा दिया।

एआई को लेकर चेतावनियाँ क्यों बढ़ती जा रही हैं

चुगताई ने DeepMind में कृत्रिम सामान्य बुद्धिमत्ता की सुरक्षा और संरेखण पर शोध इंजीनियर के रूप में काम किया। उन्होंने 2022 की शुरुआत में एआई पर काम करना शुरू किया था, जब ये सिस्टम मुश्किल से ही कोई उपयोगी काम कर पाते थे।

चार साल बाद, वह OpenAI के एजेंटों के उन झुंडों की ओर इशारा करते हैं जिन्होंने सदियों पुरानी गणित की समस्याएँ हल कर दीं। उनका कहना है कि इससे भी ज़्यादा चिंताजनक बात यह है कि जुलाई में एआई एजेंट अपने परीक्षण सैंडबॉक्स से बाहर निकल गए और बिना किसी निर्देश के Hugging Face को हैक कर लिया।

उन्होंने लिखा, “मेरा सचमुच मानना है कि एआई में हम सभी को मार डालने की क्षमता है और शायद इस नतीजे से बचने के लिए हमारे पास समय कम पड़ता जा रहा है।”

चुगताई ने कहा कि एआई कंपनियाँ अगले कुछ वर्षों में ऐसे अतिबुद्धिमान सिस्टम बना सकती हैं जो हर क्षेत्र में मानवीय क्षमताओं से आगे निकल जाएँ।

उन्होंने सवाल उठाया कि क्या डेवलपर यह सुनिश्चित कर सकते हैं कि ऐसे सिस्टम भरोसेमंद ढंग से मानवीय लक्ष्यों का पालन करें। उन्होंने चेतावनी दी कि लक्ष्य से भटकी अतिबुद्धिमत्ता मानव नियंत्रण से बाहर निकल सकती है और ऐसे कदम उठा सकती है जो मानवता को हमेशा के लिए शक्तिहीन कर दें या उसका विनाश कर दें।

चुगताई ने कहा कि एआई का संरेखण अब भी एक अनसुलझी चुनौती है। उनका तर्क था कि शोधकर्ताओं को अब भी इस बात की केवल शुरुआती समझ है कि उन्नत प्रणालियों को मानवीय उद्देश्यों को भरोसेमंद ढंग से पूरा करने के लिए कैसे प्रशिक्षित किया जाए। चुगताई ने यह चेतावनी भी दी कि एआई की क्षमताएँ, संरेखण पर हो रहे शोध से कहीं तेज़ी से आगे बढ़ रही हैं।

“एआई प्रणालियों को इस तरह प्रशिक्षित करने की हमारी मौजूदा समझ बेहद शुरुआती है कि वे सचमुच वही चाहें जो हम चाहते हैं। इससे भी बुरी बात यह है कि हम समय रहते संरेखण की समस्या हल करने की राह पर नहीं हैं: अत्याधुनिक एआई की क्षमताएँ, एआई संरेखण के बारे में हमारी समझ से कहीं तेज़ी से बेहतर हो रही हैं,” चुगताई ने आगे कहा।

वह एआई का विकास रोकने की मांग नहीं कर रहे हैं। वह चाहते हैं कि एआई कंपनियों के बीच जारी होड़ को धीमा करने के लिए समन्वय किया जाए, साथ ही अत्याधुनिक प्रणालियाँ कैसे बनाई और परखी जाती हैं, इस बारे में अधिक पारदर्शिता हो।

“व्यापक रूप से देखें तो, हमें एआई को सही दिशा में विकसित करने की समस्या पर गंभीरता से सोचने वाले कहीं अधिक लोगों की ज़रूरत है। मेरी नज़र में, इस सदी में मानवता के सामने यही सबसे महत्वपूर्ण समस्या है और इसके दाँव बहुत बड़े हैं,”

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

इस्तीफ़ों की झड़ी लग रही है

इस संदेश के साथ नौकरी छोड़ने वाले वह अकेले नहीं हैं। एंथ्रोपिक और ओपनएआई में कुल तीन साल काम करने के बाद, एंथ्रोपिक के प्रीट्रेनिंग शोधकर्ता जैकब कॉक्सन ने इसी महीने की शुरुआत में इस्तीफ़ा दे दिया। उन्होंने यह चेतावनी देते हुए नौकरी छोड़ी कि “एआई बनाने वाले लोग सचमुच मानते हैं कि दशक खत्म होने तक यह हम सबको मार सकता है।”

इसके बाद, एंथ्रोपिक के संरेखण विज्ञान प्रमुख इवान हुबिंगर ने अगले दशक में ऐसा होने की अपनी व्यक्तिगत संभावना 10% से अधिक बताई। तब से ओपनएआई के शोधकर्ताओं ने भी विकास की रफ़्तार धीमी करने की मांग का समर्थन किया है।

DeepMind की सुरक्षा टीम में काम कर चुके Josh Engels ने 12 सितंबर को घोषणा की कि वह मूल्यांकन गैर-लाभकारी संस्था METR से जुड़ गए हैं। उन्होंने Anthropic और OpenAI के प्रस्ताव ठुकरा दिए।

Engels ने कहा कि उन्हें एक भयावह जोखिम दिखाई देता है—AI सिस्टम पाँच साल के भीतर भारी नुकसान पहुँचा सकते हैं।

“अब मुझे लगता है कि अगले पाँच वर्षों में AI सिस्टम भारी नुकसान पहुँचा सकते हैं और इसकी आशंका भयावह रूप से वास्तविक है। मुझे इसकी सटीक संभावना नहीं पता, लेकिन मुझे लगता है कि यह इतनी अधिक है कि इसे दुनिया की सबसे महत्वपूर्ण समस्या बना देती है,” उन्होंने लिखा।

ये विदाइयाँ शीर्ष स्तर पर सहमति के एक दौर में हुई हैं। Anthropic के CEO Dario Amodei ने शनिवार को एक निबंध प्रकाशित कर कंपनियों से क्षमता में बढ़ोतरी की रफ्तार को सीमित रखने का आग्रह किया, और OpenAI के CEO Sam Altman ने इस अपील का समर्थन किया।

कार्यकारी अधिकारी और कंपनी छोड़ रहे शोधकर्ता अब इसी जोखिम का वर्णन मिलती-जुलती भाषा में कर रहे हैं। देखने वाली बात यह है कि अगली क्षमता-वृद्धि से पहले इसका समाधान आता है या नहीं।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto