Anthropic शोधकर्ता ने इस्तीफा दिया; चेताया कि AI लैब निजी तौर पर डरती हैं कि यह “हम सबको मार सकती है”

एंथropic के शोधकर्ता जैकब कॉक्सन ने कहा कि उन्होंने कंपनी से इस्तीफ़ा दे दिया है। उन्होंने आरोप लगाया कि एंथropic और OpenAI आत्म-सुधार करने वाली सुपरइंटेलिजेंस की ओर दौड़ लगा रहे हैं और इंसानी ज़िंदगियों को दाँव पर लगा रहे हैं।

शोधकर्ता ने कहा कि उन्होंने पिछले तीन साल दोनों कंपनियों में प्री-ट्रेनिंग के काम में बिताए। उन्होंने X पर पोस्ट की एक शृंखला में ये दावे किए।

एंथropic के शोधकर्ता ने भीतर मौजूद सभी लोगों के लिए गंभीर चेतावनी देते हुए कंपनी छोड़ दी

कॉक्सन ने तर्क दिया कि इस तकनीक की दिशा को व्यापक रूप से कम आँका जा रहा है। उन्होंने दावा किया कि आने वाले सिस्टम किसी भी चीज़ को हैक कर लेंगे, रातोंरात हर क्षेत्र को बदल देंगे और वास्तविक शक्ति तथा संसाधन हासिल कर लेंगे।

उन्होंने यह भी आरोप लगाया कि उद्योग के भीतर निजी बातचीत और सार्वजनिक संदेशों में ज़मीन-आसमान का अंतर है। कॉक्सन के मुताबिक, वरिष्ठ लोग प्रेस के सामने अपनी भाषा नरम रखते हैं, जबकि निजी तौर पर डर जताते हैं।

उन्होंने कहा, “AI बनाने वाले लोग ईमानदारी से मानते हैं कि दशक खत्म होने तक यह हम सबको मार सकता है। यह कोई मार्केटिंग स्टंट नहीं है।” उन्होंने आगे कहा, “इंसान की कोई दूसरी गतिविधि इतना बड़ा ख़तरा पैदा नहीं करती।”

कॉक्सन ने अपने दोनों पूर्व नियोक्ताओं के बीच अंतर बताया। उन्होंने दावा किया कि OpenAI में कई लोगों ने उस चीज़ की गंभीरता को नहीं समझा है जिसे उन्होंने सभ्यता के अस्तित्व का सवाल कहा, जबकि एंथropic इसे समझता है, लेकिन सबसे पहले पहुँचने की दौड़ में फँसा हुआ है।

इस साल पाला बदलने वाले कई कर्मचारियों में वह भी शामिल हैं। एंथropic की सेफ़गार्ड्स प्रमुख मृणांक शर्मा ने फ़रवरी में इस्तीफ़ा दे दिया था।

OpenAI के पूर्व मुख्य भविष्यवेत्ता जोशुआ अचियम ने 1 सितंबर को लिखा कि बेकाबू AI सिस्टम खुली दुनिया में अपनी प्रतियाँ बनाएँगे और पैसे तथा ताक़त हासिल करने की कोशिश करेंगे।

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

समन्वय की पुकार

कॉक्सन ने उस स्थिति में प्रवेश करने को, जिसे उन्होंने अंतिम चरण कहा, अहंकारपूर्ण दाँव बताया। उनका तर्क था कि ऐसा निर्णय किसी निजी कंपनी के Slack पर नहीं लिया जाना चाहिए।

हालाँकि, उन्होंने कहा कि उन्हें अब भी समन्वय की उम्मीद है। उनका दावा था कि Hugging Face पर हुए हमले ने अमेरिकी लैबों के बीच गति-निर्धारण समझौतों को अधिक व्यवहार्य बना दिया है।

दोनों कंपनियाँ पहले ही इस विचार के एक रूप का समर्थन कर चुकी हैं। जुलाई में 1,100 से अधिक अग्रणी AI लैब कर्मचारियों ने “सीमांत विकास की गति तय करना” पत्र पर हस्ताक्षर किए, जिनमें Anthropic के CEO डारियो अमोदेई और OpenAI के मुख्य वैज्ञानिक याकूब पचॉकी भी शामिल थे।

पत्र में लिखा है, “हम अमेरिकी सरकार से अनुरोध करते हैं कि वह स्वचालित AI विकास की अग्रणी सीमा की गति सोच-समझकर तय करने के लिए आवश्यक तकनीकी और शासन-संबंधी साधन विकसित करने के अंतरराष्ट्रीय प्रयास का समर्थन करे।”

इसके अलावा, दोनों कंपनियों ने Google, Microsoft और लगभग 150 अन्य संगठनों के साथ साइबर रक्षा पर एक संयुक्त खुले पत्र पर भी हस्ताक्षर किए हैं। पत्र में चेतावनी दी गई है कि आने वाले महीनों में AI-सक्षम हमले कहीं अधिक व्यापक और परिष्कृत हो जाएंगे।

कॉक्सन की चेतावनी ऐसे समय आई है जब संयुक्त राष्ट्र के मानवाधिकार प्रमुख वोल्कर तुर्क ने मानवाधिकार परिषद से कहा था कि उन्नत AI अस्तित्व के लिए खतरा पैदा कर सकता है।

कॉक्सन ने यह भी कहा कि वैश्विक दौड़ को रोकने के लिए मॉडल की क्षमताएँ बेहतर बनाने के प्रयासों पर अस्थायी प्रतिबंध लगाना आवश्यक हो सकता है। उन्होंने लैब के शोधकर्ताओं से यह विचार करने का आग्रह करते हुए अपनी बात समाप्त की कि क्या वे परिणामी प्रणाली को समझे बिना सुपरइंटेलिजेंट रीइन्फोर्समेंट-लर्निंग प्रक्रिया शुरू करना चाहते हैं।

BeInCrypto ने टिप्पणी के लिए Anthropic और OpenAI से संपर्क किया है।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto