मिथोस रिटर्न्स: एंथ्रोपिक के परीक्षण दिखाते हैं कि फेबल 5 विशेष रूप से जोखिम भरा नहीं था

Anthropic कहता है कि आंतरिक परीक्षणों ने पाया कि Claude Fable 5 ने कोई अनूठा साइबर सुरक्षा खतरा नहीं पैदा किया, क्योंकि Claude Mythos 5 2 जुलाई को वैश्विक स्तर पर वापस आ रहा है।

यह स्वीकृति Fable 5 के वैश्विक पुनः लॉन्च के साथ आई है, जो 12 जून को अमेरिका के निर्यात नियंत्रणों के कारण 18-दिन की निलंबन को समाप्त करती है। Anthropic ने प्रतिबंध के पीछे वास्तविक खतरे का आकलन करने के लिए प्रतिकूल मॉडलों का परीक्षण किया।

Anthropic ने Fable 5 को क्यों निलंबित किया

Fable 5 और Mythos 5 9 जून को लॉन्च हुए, जो एक ही कोर मॉडल साझा करते हैं, जिसमें पूर्व सार्वजनिक रूप से उपलब्ध है। Mythos 5 केवल कुछ विश्वसनीय Project Glasswing भागीदारों के लिए रक्षा साइबर सुरक्षा कार्य के लिए सीमित रहा।

निर्यात नियंत्रण तब आए जब Amazon के शोधकर्ताओं ने Fable 5 की सुरक्षा उपायों को बायपास करने का एक तरीका खोजा। इस तकनीक ने मॉडल को सॉफ़्टवेयर कमजोरियों की पहचान करने के लिए प्रेरित किया और, एक मामले में, एक शोषण का प्रदर्शन किया।

Anthropic के परीक्षणों ने पाया कि Claude Opus 4.8, GPT-5.5, और Kimi K2.7 वही कमजोरियाँ पहचान सकते हैं जो Fable 5 ने Amazon रिपोर्ट में चिह्नित की थीं। हर परीक्षण किए गए मॉडल ने एकल शोषण प्रदर्शन को भी पुन: उत्पन्न किया।

यह खोज सुझाव देती है कि निर्देश ने उद्योग में साझा किए गए एक अंतर को लक्षित किया, न कि Fable-विशिष्ट खतरे को। Anthropic ने तकनीक को अवरुद्ध करने के लिए एक मजबूत वर्गीकरणकर्ता भी बनाया, जो अब अधिक नियमित कोडिंग और डिबगिंग अनुरोधों को भी चिह्नित करता है।

गार्डरेल वास्तव में कैसे काम करते हैं

Fable 5 ने सबसे मजबूत सुरक्षा मार्जिन के साथ लॉन्च किया है जो Anthropic ने किसी भी मॉडल में बनाया है। इसके वर्गीकरणकर्ता उन अनुरोधों को ब्लॉक करते हैं जो थोड़े भी जोखिम भरे लगते हैं, केवल स्पष्ट रूप से हानिकारक वाले नहीं। अमेज़न रिपोर्ट के बाद प्रशिक्षित नए वर्गीकरणकर्ता ने 99% से अधिक मामलों में रिपोर्ट किए गए बाईपास को ब्लॉक किया है, Anthropic के अनुसार। अब ब्लॉक किए गए अनुरोध स्वचालित रूप से Opus 4.8 पर पुनः मार्गित होते हैं।

यह सुरक्षा मार्जिन एक कीमत पर आता है। Anthropic स्वीकार करता है कि वर्गीकरणकर्ता अधिक सौम्य कोडिंग और डिबगिंग अनुरोधों को झंडा देता है, और कहता है कि यह झूठे सकारात्मक को कम करने के लिए इसे ट्यून करता रहेगा। Mythos 5, जिसमें इन सुरक्षा उपायों की संख्या कम है, केवल उन Mythos 5 संस्थानों के लिए वापस आया जिन्हें सरकार ने 26 जून को मंजूरी दी थी।

Anthropic के अपने डेटा एक कठिन प्रश्न उठाते हैं। यदि कमजोर मॉडल पहले से ही वही कर सकते हैं जिसके लिए Fable 5 पर प्रतिबंध लगाया गया था, तो अगली बार जब एक फ्रंटियर मॉडल लॉन्च होगा, तो नियामक कौन सा मानक लागू करेंगे?

स्रोत: BeInCrypto