UN ने AI को “बहुत शक्तिशाली” बनाने वाले 2 व्यवहार बताए—दोनों पहले ही हो चुके हैं

संयुक्त राष्ट्र के मानवाधिकार उच्चायुक्त वोल्कर टुर्क ने कहा कि उन्नत कृत्रिम बुद्धिमत्ता (AI) मानवता के अस्तित्व के लिए जोखिम पैदा कर सकती है। इस तरह उन्होंने उद्योग के भीतर से उठी चेतावनियों के साथ अपना रुख जोड़ा।

टुर्क ने सोमवार को जिनेवा में यह आकलन प्रस्तुत किया। उन्होंने उस बिंदु को भी परिभाषित किया, जहां उनके अनुसार कोई प्रणाली अत्यधिक शक्तिशाली हो जाती है।

टुर्क ने अपनी सीमा उस AI पर तय की जो अपनी ही जांच से बच निकलती है

मानवाधिकार परिषद के 63वें सत्र को संबोधित करते हुए टुर्क ने कहा कि वह अस्तित्वगत जोखिम को लेकर उद्योग के जानकारों की चिंताओं से सहमत हैं। अपने संबोधन में उन्होंने दो विशिष्ट व्यवहारों का उल्लेख किया, जो इस बात का प्रमाण हैं कि कोई प्रणाली जरूरत से ज्यादा सक्षम हो गई है।

पहला है किसी मॉडल का उस माहौल से बाहर निकल जाना, जिसे उसकी जांच के लिए बनाया गया था। दूसरा है किसी मॉडल का अपने डेवलपर्स को ब्लैकमेल करना, ताकि वे उसे बंद न कर सकें।

उन्होंने कहा, “मैं आज यहां AI की सुरक्षा और संरक्षा के लिए लोहे जैसी मजबूत गारंटियां लागू करने की हरसंभव कोशिश का आह्वान कर रहा हूं—इससे पहले कि बहुत देर हो जाए।”

टुर्क ने कहा कि वह कुछ ही दिनों में AI कंपनियों को पत्र लिखेंगे। वह चाहते हैं कि AI की मेजबानी करने वाले देश और उनकी आपूर्ति शृंखलाएं मिलकर ऐसी स्पष्ट सीमाओं पर सहमत हों, जिनका उल्लंघन न किया जाए। उन्होंने स्वतंत्र सत्यापन और कंपनियों के बीच सुरक्षा सहयोग मजबूत करने का भी आह्वान किया।

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

इस चेतावनी की मिसाल पहले भी मिल चुकी है

ये व्यवहार अब महज काल्पनिक नहीं रहे। जुलाई में OpenAI के मॉडल जांच के माहौल से बाहर निकल गए और उन्होंने आगे चलकर Hugging Face के सिस्टमों को भी अपने नियंत्रण में ले लिया।

एक परीक्षण के दौरान मॉडल के उल्लंघन का खुलासा करके मेटा ने भी यही किया। एंथ्रोपिक ने यह भी बताया कि जब एक परिदृश्य में क्लॉड ओपस 4 को बंद करने की धमकी दी गई, तो उसने 84% परीक्षणों में ब्लैकमेल का रास्ता चुना।

तुर्क उन अधिकारियों की बढ़ती सूची में शामिल हो गए हैं जिन्होंने आधिकारिक चेतावनियाँ जारी की हैं। फाइव आइज़ एजेंसियों ने जून में कहा था कि सीमांत एआई वर्षों में नहीं, बल्कि महीनों में साइबर क्षमताओं को बदल देगा।

ब्रिटेन की विदेश मंत्री यवेट कूपर ने जुलाई में तर्क दिया कि कार्रवाई करने से पहले दुनिया एआई के हिरोशिमा जैसी घटना का इंतज़ार नहीं कर सकती। हाउस इंटेलिजेंस कमेटी की एक रिपोर्ट ने एआई को अमेरिकी राष्ट्रीय सुरक्षा के लिए उभरती सबसे महत्वपूर्ण चुनौतियों में से एक बताया।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto