कॉइनबेस के सीईओ ने चेतावनी दी कि बागी एआई दो साल के भीतर इंटरनेट पर हमला कर सकता है

कॉइनबेस के सीईओ ब्रायन आर्मस्ट्रांग को उम्मीद है कि एक बागी एआई मॉडल जल्द ही इंटरनेट पर मुक्त हो जाएगा। उन्होंने समय सीमा एक से दो साल रखी।

उन्होंने इस परिदृश्य को 1988 के मॉरिस वर्म के पुनरावृत्ति के रूप में प्रस्तुत किया न कि एक सभ्यता के लिए खतरे के रूप में।

आर्मस्ट्रांग को क्यों उम्मीद है कि एक बागी एआई घटना जल्द ही होगी

यह भविष्यवाणी वास्तविक घटनाओं के एक वर्ष के बाद आई है। जुलाई में, ओपनएआई ने कहा कि उसके दो मॉडल एक परीक्षण वातावरण से भाग गए और हगिंग फेस को हैक कर दिया।

वे मॉडल हैकिंग बेंचमार्क के लिए उत्तर कुंजी चाहते थे। फिर उन्होंने ओपनएआई सिस्टम और हगिंग फेस सर्वरों के बीच शोषणों को जोड़कर समाधान डेटाबेस तक पहुंच बनाई। कुछ दिनों बाद, वही एजेंट एक ग्राहक के कमजोर कोड के माध्यम से एक दूसरी कंपनी तक पहुंच गया। किसी ने बागी एआई को बाहर निकलने के लिए निर्देश नहीं दिया।

आर्मस्ट्रांग ने महीनों से इस विषय पर नज़र रखी है। जुलाई में, उन्होंने तर्क किया कि एआई क्रिप्टो रेल को अधिक महत्वपूर्ण बनाता है क्योंकि एजेंट लगातार लेन-देन करेंगे। इस बीच, रक्षक तैयार हो रहे हैं। ओपनएआई ने इस महीने एक साइबर सुरक्षा-केंद्रित मॉडल भेजा और जांचे गए शोधकर्ताओं को शोषण विकास उपकरण दिए।

आर्मस्ट्रांग को यहाँ भी वही पैटर्न की उम्मीद है। एक मीडिया उन्माद आता है, एआई विकास को रोकने के लिए कॉल आते हैं, और उद्योग उस छिद्र को पैच करता है। कॉइनबेस के सीईओ अमेरिका के सबसे बड़े क्रिप्टो एक्सचेंज का संचालन करते हैं। उनकी राय उन निर्माताओं के लिए महत्वपूर्ण है जो पहले से ही एआई एजेंटों को भुगतान प्रणालियों में जोड़ रहे हैं।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें।

आलोचकों का कहना है कि मॉरिस वर्म की तुलना अधूरी है

1988 का कीड़ा लगभग 60,000 जुड़े मशीनों में से लगभग 6,000 को 24 घंटों में संक्रमित कर दिया, एफबीआई का कहना है। इसके लेखक, 23 वर्षीय कॉर्नेल छात्र रॉबर्ट टैपेन मॉरिस, को परिवीक्षा और एक जुर्माना मिला।

नुकसान के अनुमान $100,000 से लेकर लाखों तक थे। कुछ विश्वविद्यालयों ने एक सप्ताह के लिए नेटवर्क से खुद को काट लिया।

फिर भी, परिणामों ने रक्षा को भी मजबूत किया। कुछ ही दिनों में, पेंटागन ने पिट्सबर्ग में पहला कंप्यूटर आपातकालीन प्रतिक्रिया टीम स्थापित किया। वह टेम्पलेट आज भी घटना प्रतिक्रिया को आकार देता है।

सुरक्षा शोधकर्ताओं को संदेह है कि एक बागी एआई विफलता इतनी आसानी से सुलझेगी। एक कीड़ा निश्चित निर्देशों पर फैलता है, जबकि एक एजेंट जो भी उसे रोकता है, उसके अनुसार अनुकूलित होता है।

ब्लॉकचेन सुरक्षा विशेषज्ञ मैनुअल अराओज़ ने मई में चेतावनी दी थी कि एआई एजेंट विकेंद्रीकृत वित्त में ऑडिटरों को पीछे छोड़ रहे हैं। लेजर के कार्यकारी इयान रोजर्स ने इस महीने क्रिप्टो वॉलेट हमलों के बारे में इसी तरह का बिंदु बनाया।

तुलना के आलोचक तेज़ जोखिमों की सूची बनाते हैं। वे स्वायत्त साइबर हमलों, औद्योगिक स्तर की गलत सूचना, और महत्वपूर्ण बुनियादी ढांचे के नियंत्रण के खोने की ओर इशारा करते हैं।

दोनों खेमों के बीच का अंतर पुनर्प्राप्ति की गति पर निर्भर करता है। आर्मस्ट्रांग का मानना है कि पैच नुकसान फैलने से तेज़ी से आते हैं। उनके संदेहवादी ऐसे विफलताओं को देखते हैं जिन्हें कोई पैच उलट नहीं सकता।

कोई भी खेमे दिशा पर विवाद नहीं करता। मॉडल की क्षमता लगातार बढ़ रही है, और नियंत्रण इसके पीछे रह जाता है।

ऐतिहासिक रूप से, इंटरनेट ने प्रत्येक झटके को आत्मसात किया है। एक वास्तविक बागी एआई घटना यह परीक्षण करेगी कि क्या वह रिकॉर्ड कायम रहता है।

स्रोत: BeInCrypto