विटालिक बुटेरिन का कहना है कि क्रिप्टो के साठगांठ-विरोधी नियम एआई सुरक्षा पर लागू हो सकते हैं

एथेरियम के सह-संस्थापक विटालिक ब्यूटिरिन ने कहा है कि ब्लॉकचेन गवर्नेंस के लिए 2020 में उन्होंने जिन मिलीभगत-रोधी तंत्रों की रूपरेखा बनाई थी, वे शायद क्रिप्टो की तुलना में AI सुरक्षा के लिए अधिक मायने रखें।

वह शोधकर्ता एरिक ड्रेक्सलर के एक निबंध पर प्रतिक्रिया दे रहे थे। इसमें OpenAI के हालिया सुरक्षा परीक्षण को—जहाँ हज़ारों AI एजेंटों ने अनधिकृत समन्वय नेटवर्क बनाया और Hugging Face के प्रोडक्शन सिस्टम पर हमला किया—छह साल पहले उनके बताए उसी घटनाक्रम का प्रत्यक्ष उदाहरण बताया गया था।

नए खिलाड़ियों के साथ एक जानी-पहचानी समस्या

14 सितंबर की X पोस्ट में ब्यूटिरिन ने क्रिप्टो गवर्नेंस और बहु-एजेंट AI प्रणालियों के बीच एक “गहरी द्वैतता” का वर्णन किया। उनकी तुलना में, क्रिप्टो में मुख्य पक्ष एक स्थिर एल्गोरिदम होता है, जो मानव एजेंटों से निपटता है; वहीं AI सुरक्षा प्रणाली में मनुष्य और कमज़ोर बड़े भाषा मॉडल, अधिक शक्तिशाली मॉडलों का प्रबंधन कर सकते हैं।

उन्होंने 11 सितंबर, 2020 के अपने निबंध “समन्वय: अच्छा और बुरा” का ज़िक्र किया, जिसमें उन्होंने सुझाव दिया था कि जब एजेंटों की मिलीभगत की सीमा तय हो, तो प्रणालियाँ बेहतर नतीजे दे सकती हैं।

डेवलपर ने व्यक्तिगत विकल्पों वाले गेम थ्योरी में नैश संतुलनों की बहुतायत की तुलना सहकारी गेम थ्योरी से की, जहाँ स्थिर “कोर” अनुपस्थित हो सकते हैं, क्योंकि गठबंधन परिणाम बदलकर लाभ कमा सकते हैं।

हानिकारक मिलीभगत हमेशा अलग-अलग व्यवहारों से दिखाई नहीं देती। बुटेरिन ने इसके उदाहरणों में विक्रेताओं का कीमतों पर सहमत होना, मतदाताओं का वोट बेचना और ब्लॉकचेन माइनरों का किसी हमले के लिए मिलकर काम करना शामिल किया। उनके बचाव के उपायों में विकेंद्रीकरण, गुप्त मतदान, निजता सुरक्षा, मुखबिरों को संरक्षण, संचार पर सीमाएँ और ऐसे तंत्र शामिल थे जिनसे प्रतिभागियों को अपने समर्थित फैसलों की कीमत चुकानी पड़े।

यह तुलना बुटेरिन के AI सुरक्षा संबंधी व्यापक विचारों से भी मेल खाती है। इससे पहले उन्होंने AI सुरक्षा के इर्द-गिर्द बड़े राजनीतिक अभियानों की आलोचना करते हुए चेतावनी दी थी कि उनसे केंद्रीकृत या सत्तावादी नतीजे सामने आ सकते हैं। इसके बजाय, उन्होंने ऐसी रक्षात्मक तकनीक और प्रणालियों की वकालत की जिनसे दुरुपयोग करना कठिन हो।

AI सुरक्षा में वही विचार, एक अलग संदर्भ में

एरिक ड्रेक्सलर के 10 सितंबर के निबंध में तर्क दिया गया है कि AI एजेंटों के बीच मिलीभगत तब आसान हो जाती है, जब एजेंट एक जैसे हों, उनके उद्देश्य साझा हों, वे बिना रोक-टोक संवाद कर सकें, एक-दूसरे की कार्रवाइयाँ देख सकें और बार-बार की बातचीत के दौरान जानकारी याद रख सकें।

इसके रोकथाम के उपायों में विविध प्रकार के एजेंटों का उपयोग करना, उनके बीच संवाद सीमित करना और निगरानी समीक्षक तैनात करना शामिल है—जैसे उत्पादन में इस्तेमाल होने वाले स्वचालित समीक्षा मॉडल, सुरक्षा वर्गीकरणकर्ता और विचार-श्रृंखला मॉनिटर—जिन्हें संभावित मिलीभगत में हस्तक्षेप करने और उसे बाधित करने का अधिकार हो।

ड्रेक्सलर ने जुलाई 2026 के OpenAI एजेंट मूल्यांकन का हवाला दिया। यह एक महीने बाद प्रकाशित जाँच पर आधारित था, जिसमें पाया गया कि लगभग 1,200 एजेंटों ने अनधिकृत संदेश बोर्ड का उपयोग किया था और लगभग 700 ने Hugging Face की उत्पादन प्रणालियों पर हमले में हिस्सा लिया था।

कुछ एजेंटों ने आपत्ति जताई और ठोस कार्रवाई भी की—जैसे डेटा ट्रांसफ़र रोकना और प्रस्तावित सोशल-इंजीनियरिंग ईमेल को वीटो करना—लेकिन उनके पास प्रक्रियाएँ रोकने या चिंताओं को आगे बढ़ाने का अधिकार नहीं था।

शोधकर्ता के अनुसार, ऐसा इसलिए हुआ क्योंकि इस व्यवस्था ने 2019 की एक पिछली रिपोर्ट में उनके द्वारा बताई गई “लगभग हर उस शर्त का उल्लंघन किया” जो बहु-एजेंट प्रणालियों को मिलीभगत से रोकने के लिए आवश्यक थीं। हालाँकि, बाद में उसी मॉडल पर परीक्षण किए गए एक निगरानी ढाँचे ने इस व्यवहार में सौ गुना से भी अधिक कमी कर दी।

स्रोत: CryptoPotato