एंथ्रोपिक के शोधकर्ता ने इस्तीफा दिया क्योंकि AI हम सभी को मार सकता है। क्या सचमुच ऐसा हो सकता है?

“इस दशक के अंत तक AI हम सबको मार सकता है” – ब्रिटिश AI शोधकर्ता जैकब कॉक्सन ने आज Anthropic की नौकरी छोड़ने के बाद ठीक यही कहा।

लेकिन किसी को उनकी बात गंभीरता से क्यों लेनी चाहिए? क्योंकि कॉक्सन का बायोडाटा AI जगत के भीतर के व्यक्ति का सबसे अच्छा उदाहरण है। Anthropic से पहले, उन्होंने OpenAI में काम किया और ChatGPT 4.5 को विकसित करने वाली टीम का हिस्सा थे।

तो साफ़ है, उन्हें महज़ डर फैलाने के बजाय असली चिंताओं के आधार पर बोलने वाला व्यक्ति होना चाहिए? आइए, उनकी कुछ चौंकाने वाली चेतावनियों के पीछे के तथ्यों का विश्लेषण करें।

AI हम सबको मार सकता है – लेकिन कैसे?

संभावना कम है कि कॉक्सन का मतलब यह हो कि Claude या GPT जैसा कोई AI मॉडल Terminator की तरह सचमुच जानलेवा मशीन बन सकता है। शायद उनका आशय यह है कि सुपरइंटेलिजेंस की क्षमताएँ इंसान की संज्ञानात्मक क्षमता को अप्रासंगिक बना सकती हैं।

और ऐसी ही चिंताएँ बिल गेट्स जैसी प्रमुख हस्तियाँ भी साझा करती हैं।

OpenAI के नवीनतम ChatGPT 6 Astra मॉडल का दावा है कि उसने AGI हासिल कर लिया है, जिसका मूलतः अर्थ है कि मशीन इंसानों की तरह सोच सकती है।

इसलिए, AI अब खुद ही शोध करना और एक और AI मॉडल बनाने की प्रक्रियाएँ विकसित करना शुरू कर सकता है। OpenAI और Anthropic, दोनों के अनुसार, सीमित स्तर पर ऐसा पहले से हो रहा है।

ऐसे में, बहुत जल्द AI को अपनी क्षमताएँ लगातार बेहतर करने के लिए इंसानों की ज़रूरत शायद न पड़े। इससे कितनी नौकरियाँ खत्म होंगी?

और जब पूरी एक पीढ़ी रचनात्मक और आलोचनात्मक सोच का काम AI को सौंपने की आदी हो जाएगी, तो सबसे पहले मौलिकता खत्म होगी।

शायद कॉक्सन अपने वायरल ट्वीट में इसी मौत का ज़िक्र कर रहे थे।

AI सब कुछ हैक कर सकता है

यह कहीं अधिक गंभीर और तात्कालिक ख़तरा है, जिसकी चिंता में आपकी नींद उड़ सकती है। मौजूदा पीढ़ी के जनरेटिव AI मॉडल में सिस्टम में सेंध लगाने और एक्सेस पर नियंत्रण हासिल करने की विनाशकारी क्षमता है।

कुछ ही महीने पहले, एक AI मॉडल ने बिना किसी प्रॉम्प्ट के अपने सैंडबॉक्स किए गए डेवलपमेंट वातावरण से खुद को हैक करके बाहर निकाला और डेवलपर को ईमेल भेजा। यह साइंस-फिक्शन फ़िल्म जैसा परिदृश्य अब हक़ीक़त बन चुका है।

GPT-6 Astra अब आधिकारिक तौर पर OpenAI की साइबर सुरक्षा की “Critical” सीमा पार कर चुका है। Astra ने ExploitBench पर 100% स्कोर किया।

सीधे शब्दों में कहें तो, ChatGPT 6 अब किसी वास्तविक सिस्टम की ज्ञात या अज्ञात खामी ढूँढ़ सकता है और कंप्यूटर के पीछे किसी मानव हैकर की ज़रूरत के बिना उसका फ़ायदा उठा सकता है।

दुख की बात है कि इंसानों की सुरक्षा संबंधी आदतें इस स्तर के आसपास भी नहीं हैं। कितने लोग अब भी टू-फ़ैक्टर ऑथेंटिकेशन का इस्तेमाल नहीं करते? कितने लोगों के पास अब भी कमज़ोर पासवर्ड हैं? कितने लोग अब भी किसी साइट का विवरण पढ़े बिना ब्राउज़र कुकीज़ स्वीकार कर लेते हैं? बहुत ज़्यादा।

और AI का सबसे बड़ा घातक वार यहीं से हो सकता है।

तो इंसान क्या कर सकते हैं?

दरअसल, बहुत कुछ। लेकिन यह हम आम नागरिकों के हाथ में नहीं है। सबसे बड़ी ज़िम्मेदारी नियामकों और नीति-निर्माताओं पर है। आर्टिफ़िशियल सुपरइंटेलिजेंस की प्रगति और विकास अहम हैं, लेकिन उन पर कुछ रोक-थाम भी ज़रूरी है।

और कई सराहनीय पहलें पहले से ही लागू हैं। न्यूयॉर्क में मेयर ज़ोहरान ममदानी ने आठवीं कक्षा तक के बच्चों के लिए AI के इस्तेमाल पर एक साल का प्रतिबंध लगाया, जिससे लगभग 6,00,000 छात्र प्रभावित हुए।

EU AI Act दुनिया का सबसे व्यापक बाध्यकारी AI कानून है। यह AI के कुछ उपयोगों पर प्रतिबंध लगाता है और शक्तिशाली सामान्य-उद्देश्य वाले मॉडल बनाने वालों के लिए प्रणालीगत जोखिमों की जाँच करना, उन्हें कम करना और अपने मॉडल सुरक्षित करना अनिवार्य बनाता है।

ब्रिटेन में सांसद और लॉर्ड्स ऐसे प्रस्तावों को आगे बढ़ा रहे हैं जिनसे अधिकारियों को AI का “किल स्विच” मिल सकता है और ब्रिटेन में सुपरइंटेलिजेंट AI का विकास संभावित रूप से रोका जा सकता है।

इसलिए, जैकब कॉक्सन ने आज अपने ट्वीट में जिस डर का ज़िक्र किया था, वह सच हो गया है और मेरे समेत लाखों लोगों तथा नियामकों ने उसे साझा किया है। वे इस पर क्या कार्रवाई करते हैं, यह एक अलग सवाल है—जिसका जवाब केवल समय ही दे सकता है।

स्रोत: BeInCrypto