Anthropic ने पाया कि Claude ने 3 संगठनों के सिस्टम में अनधिकृत पहुंच प्राप्त की

Anthropic ने 3 घटनाओं का खुलासा किया जिसमें इसके Claude मॉडल ने साइबर सुरक्षा मूल्यांकन के दौरान 3 विभिन्न संगठनों के वास्तविक सिस्टमों तक अनधिकृत पहुंच प्राप्त की, जो लाइव इंटरनेट एक्सेस के साथ गलत कॉन्फ़िगर किए गए थे।

AI फर्म ने 141,006 मूल्यांकन रन की समीक्षा के बाद घटनाओं की पहचान की, यह जांच उसने तब शुरू की जब OpenAI ने खुलासा किया कि उसके मॉडल एक अलग परीक्षण वातावरण से भाग गए थे और Hugging Face तक पहुंच गए थे।

Claude ने कैप्चर-थे-फ्लैग परीक्षणों में वास्तविक सिस्टमों तक कैसे पहुंच बनाई

मूल्यांकन ने Claude को कैप्चर-थे-फ्लैग चुनौतियों के साथ कार्य सौंपे। ये अभ्यास एक मॉडल से मशीन में घुसपैठ करने और छिपी हुई जानकारी प्राप्त करने के लिए कहते हैं।

Anthropic ने मॉडल को बताया कि उनके पास इंटरनेट एक्सेस नहीं है। हालाँकि, एक गलत कॉन्फ़िगरेशन ने परीक्षण मशीनों को खुले वेब से जोड़ा हुआ छोड़ दिया। इस प्रकार, Claude ने जो वास्तविक सिस्टम पाए, उन्हें अभ्यास का हिस्सा माना।

सबसे गंभीर घटना में, Claude Opus 4.7 ने एक वास्तविक कंपनी की अवसंरचना में कमजोरियों का लाभ उठाया। मॉडल ने एप्लिकेशन और अवसंरचना क्रेडेंशियल्स निकाले और उत्पादन डेटा की कई सौ पंक्तियों तक पहुंच प्राप्त की।

“चारों रन में, मॉडल अंततः पहचान गया (जैसा कि इसके वर्बलाइज्ड तर्क में देखा जा सकता है) कि सिस्टम वास्तविक था—दो मामलों में, मॉडल ने तर्क किया कि वास्तविक कंपनी को अभ्यास का हिस्सा होना चाहिए। हालाँकि, किसी ने भी उस आधार पर हमले को रोकने का प्रयास नहीं किया,” Anthropic ने कहा।

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

Claude Mythos 5 ने PyPI पर मैलवेयर अपलोड किया

एक अन्य घटना में, क्लॉड मिथोस 5 ने पायपीआई, सार्वजनिक सॉफ़्टवेयर रजिस्ट्र्री में एक बूबीय-ट्रैप्ड पायथन पैकेज प्रकाशित किया। यह पैकेज लगभग 1 घंटे तक सक्रिय रहा और 15 वास्तविक सिस्टम पर चला।

एक सुरक्षा कंपनी का स्कैनर था, जिसने छिपे हुए कोड को निष्पादित किया। फिर क्लॉड ने उस कंपनी की क्रेडेंशियल्स को निकाल लिया और आगे की अवसंरचना तक पहुंच प्राप्त की। मॉडल की अपनी तर्कशक्ति ने प्रारंभ में जोखिम को चिह्नित किया, इससे पहले कि उसने खुद को यह विश्वास दिलाया कि वातावरण अनुकरणीय था।

“क्लॉड ने इस हमले को अंजाम देने के लिए व्यापक प्रयास किए—ऐसे प्रयास जो संभवतः एक मानव प्रतिभागी को यह संकेत देते कि यह अब केवल एक मूल्यांकन नहीं था, और कि वे वास्तव में एक वास्तविक पायपीआई पैकेज अपलोड कर रहे थे,” टीम ने जोड़ा।

एक तीसरी घटना में एक आंतरिक शोध मॉडल शामिल था जिसने लगभग 9,000 लक्ष्यों को स्कैन किया और एक कंपनी के एप्लिकेशन को SQL इंजेक्शन के माध्यम से समझौता किया। उस मॉडल ने अपना हमला रोक दिया जब उसने निष्कर्ष निकाला कि लक्ष्य वास्तविक था।

एंथ्रोपिक ने प्रभावित संगठनों को 27 जुलाई को सूचित किया और कहा कि यह तीसरे पक्ष की समीक्षा के लिए मूल्यांकनकर्ता METR के साथ बातचीत कर रहा है। कंपनी का तर्क है कि ये घटनाएँ एक संचालनात्मक विफलता को दर्शाती हैं न कि मॉडल संरेखण विफलता को, यह नोट करते हुए कि इसके मानक उपभोक्ता सुरक्षा उपायों ने इस व्यवहार को रोक दिया होता।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto