जब तक AI किसी की जान नहीं ले लेता, तब तक उस पर नियमन नहीं होगा—ब्रिजवॉटर के CIO ने चेताया

ब्रिजवॉटर के प्रबंधकीय मुख्य निवेश अधिकारी ग्रेग जेन्सन का कहना है कि कृत्रिम बुद्धिमत्ता (AI) के बारे में तब तक कुछ नहीं किया जाएगा, जब तक यह लोगों की जान लेने न लगे। वे चाहते हैं कि समस्या का समाधान उस स्थिति के आने से काफी पहले कर लिया जाए।

उनकी यह चेतावनी ऐसे सप्ताह में आई है, जब सबसे बड़ी AI प्रयोगशालाओं के शोधकर्ताओं की ओर से सुरक्षा संबंधी चेतावनियाँ लगातार तेज़ हुई हैं।

ब्रिजवॉटर के CIO ने AI को लेकर चेतावनी दी और फरवरी 2020 का ज़िक्र किया

जेन्सन OpenAI और Anthropic के शुरुआती समर्थकों में से एक थे। उन्होंने Bloomberg के Odd Lots पॉडकास्ट में अपनी बात रखी। इस कार्यकारी ने AI को लेकर मौजूदा माहौल की तुलना उन हफ्तों से की, जब COVID-19 अमेरिकी तटों तक पहुँचने वाला था।

उन्होंने कहा, “दुर्भाग्य से, फरवरी 2020 में हालात ऐसे ही थे… जब तक AI लोगों की जान लेने न लगे, दुर्भाग्य से इतिहास बताता है कि हम कुछ नहीं करने वाले हैं, लेकिन हमें इसका सामना करना पड़ेगा। ऐसा होने वाला है, और अगर हम उससे पहले ही इससे निपटना शुरू कर दें, तो कहीं बेहतर होगा।”

उन्होंने जुलाई की उस घटना का ज़िक्र किया, जिसमें OpenAI के मॉडल एक अलग-थलग परीक्षण परिवेश से बाहर निकल गए और Hugging Face के सिस्टम से छेड़छाड़ की।

यूके AI सुरक्षा संस्थान ने पाया कि Anthropic के Mythos 5 पर बना एक AI एजेंट साइबर परीक्षण के दौरान एक मानव अनुरक्षक को धोखा देकर उसके हाथों दुर्भावनापूर्ण कोड आगे बढ़वाने के लिए फर्जी पहचानें बनाने में सफल रहा।

उन्होंने आगे कहा, “यह बम की तरह होना चाहिए। आप जानते हैं, हर किसी को इसे ऐसे देखना चाहिए जैसे यहाँ किसी की मौत हुई हो; यह अपराध कर रहा है, इधर-उधर घूम रहा है, उन अपराधों को करने की बात छिपा रहा है, वगैरह—दूसरे एजेंटों के साथ तालमेल बिठा रहा है, खुद को बलिदान कर रहा है—ये सब चीज़ें।”

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

जेंसन का कहना है कि एआई आपदा की आशंका किसी के भी सहज महसूस करने की सीमा से कहीं अधिक है

विनियमन के बिना, जेंसन को उम्मीद है कि अगले दो वर्षों में एआई द्वारा संचालित कोई बड़ी वित्तीय घटना होगी या ऐसी भौतिक आपदा आएगी जिसमें लोगों की जान जाएगी।

“मेरे इस बारे में सही होने की आशंका इतनी अधिक है कि किसी को भी सहज महसूस नहीं करना चाहिए। मुझे नहीं पता कि यह 30% है या 60% या कुछ और, लेकिन यह बहुत अधिक है और हम इस मामले से ज़रा भी नहीं निपट रहे—कुछ-कुछ वैसे ही, जैसे फ़रवरी 2020 में,” उन्होंने कहा।

जेंसन चाहते हैं कि एआई लैब औपचारिक समीक्षा के दायरे में लाई जाएँ और उनके कर्मचारियों से शपथ लेकर पूछताछ की जाए। उनका यह भी तर्क है कि डेवलपर अपने सिस्टम द्वारा किए गए अपराधों के लिए जवाबदेह होने चाहिए।

हाल ही में उद्योग जगत की चेतावनियाँ बढ़ती गई हैं। इनमें OpenAI और 100 से अधिक कंपनियों का खुला पत्र भी शामिल है, जिसमें एआई-सक्षम साइबर हमलों के बारे में चेतावनी दी गई है। कांग्रेस ने भी अब इस मुद्दे पर ध्यान देना शुरू कर दिया है।

सीनेट का एक विधेयक संघीय सुरक्षा मानक लागू होने तक अत्याधुनिक एआई का विकास रोकने का प्रस्ताव रखता है, जबकि फ्रंटियर विधेयक में स्वतंत्र ऑडिट और घटनाओं की रिपोर्टिंग अनिवार्य होगी।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto