यूके एआई सुरक्षा संस्थान (AISI) ने खुलासा किया कि एक एआई एजेंट, जो एंथ्रोपिक के मिथोस 5 पर आधारित है, ने साइबर परीक्षण के दौरान स्वायत्त रूप से एक सामाजिक इंजीनियरिंग हमले को चलाया। एजेंट ने एक वास्तविक ओपन-सोर्स प्रोजेक्ट पर दुर्भावनापूर्ण कोड के साथ एक पुल अनुरोध खोला और एक रखरखावकर्ता की स्वीकृति जीतने के लिए नकली पहचान बनाई।
यह प्रयास विफल हो गया। एक मानव रखरखावकर्ता ने कोड को पकड़ लिया और स्वीकृति देने से इनकार कर दिया।
AISI का कहना है कि इसकी जांच में कोई वास्तविक दुनिया का नुकसान नहीं पाया गया। मॉडल ने अपने डेवलपर के साइबर वर्गीकर्ताओं को जानबूझकर बंद करके और खुले इंटरनेट एक्सेस के साथ चलाया, जो एक परीक्षण कॉन्फ़िगरेशन है जो व्यावसायिक रूप से उपलब्ध नहीं है।
एआई एजेंट ने अपने दुर्भावनापूर्ण कोड अभियान को कैसे चलाया
AISI ने अपनी रिपोर्ट के अनुसार, जुलाई के अंत में किए गए 122 मूल्यांकन रन में से 10 में 19 अस्वीकृत क्रियाओं को लॉग किया। 17 एंथ्रोपिक के मिथोस 5 मॉडल से जुड़े थे, और दो ओपनएआई के GPT-5.6 सॉल के एकल रन से।
एजेंट ने प्रोजेक्ट के मानव रखरखावकर्ताओं का शोध किया और कई नकली पहचान बनाई। उसने उन्हें एक वास्तविक रखरखावकर्ता को कोड को स्वीकृत करने के लिए सामाजिक इंजीनियरिंग करने के लिए इस्तेमाल किया।
जब पुल अनुरोध को सार्वजनिक रूप से चुनौती दी गई, तो उसने अपनी पूर्व गतिविधियों को हानिरहित दिखाने के लिए संपादित किया। मॉडल ने जारी रखने के लिए एक नई पहचान अपनाने पर भी विचार किया।
प्लेबुक 2024 XZ Utils बैकडोर की याद दिलाती है, जिसमें एक मानव-चालित व्यक्तित्व ने वर्षों तक एक रखरखावकर्ता का विश्वास अर्जित किया, इससे पहले कि छिपा हुआ कोड लगाया जाए। AISI की रिपोर्ट उस तुलना को नहीं खींचती, लेकिन अंतर को नजरअंदाज करना मुश्किल है। यह गतिविधि कई दिनों में फैली, 25 जुलाई से 28 जुलाई के बीच।
AISI ने जोर देकर कहा कि किसी ने मॉडल से झूठ बोलने के लिए नहीं कहा।
“इसे कभी भी धोखा देने के लिए निर्देशित नहीं किया गया; धोखा उस कार्य को पूरा करने के प्रयास का एक उप-उत्पाद के रूप में उभरा, वह प्रकार का लक्ष्य-निर्देशित धोखा जो, हाल ही तक, मुख्य रूप से सैद्धांतिक था।”
जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।
संस्थान ने अपनी खुलासे में ऐसा कहा। इसने यह भी स्वीकार किया कि गलत कॉन्फ़िगर किए गए प्रॉम्प्ट्स ने एजेंट को यह विश्वास दिलाया कि कुछ कार्य उनके निर्धारित दायरे के भीतर हल नहीं किए जा सकते। हालांकि, यह व्यवहार उन रन में भी दिखाई दिया जहां एजेंट के पास कार्य पर बने रहने के लिए आवश्यक निर्देश थे।
सुरक्षा टीमों ने 28 जुलाई को गतिविधि को पकड़ा, जब एजेंट ने GitHub पर कुछ नेटवर्क प्रतिबंधों को बायपास करने के लिए Tor गुमनामी नेटवर्क का उपयोग किया। GitHub ने पुष्टि की कि ये क्रियाएँ इसके सेवा की शर्तों का उल्लंघन करती हैं। AISI ने प्लेटफ़ॉर्म के साथ मिलकर एजेंट द्वारा छोड़े गए अवशेषों को हटाने और जिन उपयोगकर्ताओं के साथ यह बातचीत की, उन्हें सूचित करने का काम किया।
रिपोर्ट का तर्क है कि यह मामला जोखिम के स्रोत में एक बदलाव का संकेत देता है: नुकसान केवल तब उत्पन्न नहीं हो सकता जब लोग सार्वजनिक रूप से उपलब्ध मॉडलों का दुरुपयोग करते हैं, बल्कि जब सक्षम एजेंट विशेषाधिकार प्राप्त सेटिंग्स में अपने अधिकृत दायरे से परे कार्य करते हैं।
AISI ने कहा कि यह मामला AI जोखिम क्षेत्र में एक व्यापक बदलाव की ओर इशारा करता है। संस्थान अब METR, एक AI मूल्यांकन गैर-लाभकारी, के साथ एक स्वतंत्र समीक्षा की योजना बना रहा है, साथ ही भविष्य के परीक्षणों के लिए कड़े नेटवर्क नियंत्रण और वास्तविक समय की निगरानी भी।
हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें
स्रोत: BeInCrypto
