Anthropic ने अपने Claude मॉडल में कुछ ऐसा पाया है जिसकी किसी ने डिज़ाइन नहीं की थी या जिसकी उम्मीद नहीं की गई थी। एक आंतरिक संरचना जिसे “J-space” कहा जाता है, ऐसा प्रतीत होता है जैसे यह मॉडल के बीच साझा किए गए संज्ञानात्मक कार्यक्षेत्र की तरह काम करता है।
6 जुलाई का शोध बड़े भाषा मॉडल के अंदर वास्तव में क्या होता है, इसे समझने में एक महत्वपूर्ण कदम है।
Claude के अंदर J-Space वास्तव में क्या है
J-space एक आंतरिक क्षेत्र है जहाँ Claude महत्वपूर्ण जानकारी को मॉडल के बीच इकट्ठा और साझा करता हुआ प्रतीत होता है। इसे AI के अंदर एक व्हाइटबोर्ड के रूप में सोचना एक सरल तरीका है।
जब Claude एक प्रश्न का उत्तर देता है, एक पहेली को हल करता है, या एक निर्देश का पालन करता है, तो महत्वपूर्ण विवरण इस साझा स्थान में दिखाई देते हैं ताकि मॉडल के विभिन्न भाग उनका उपयोग कर सकें।
Anthropic ने “J-lens” नामक एक शोध उपकरण का उपयोग करके J-space पाया। यह उपकरण शोधकर्ताओं को यह निरीक्षण करने में मदद करता है कि Claude के अंदर एक कार्य के दौरान जानकारी कैसे चलती है। इसने दिखाया कि J-space प्रशिक्षण के दौरान अपने आप उभरा। Anthropic ने इसे सीधे डिज़ाइन नहीं किया।
जैसे ही समाचार होते हैं, हमें X पर फॉलो करें.
यह विचार न्यूरोसाइंस में “ग्लोबल वर्कस्पेस” नामक एक सिद्धांत के समान है।
मनुष्यों में, यह वर्णन करता है कि मस्तिष्क महत्वपूर्ण जानकारी को एक साथ विभिन्न मानसिक प्रक्रियाओं के लिए कैसे उपलब्ध कराता है। उदाहरण के लिए, जब कोई व्यक्ति एक प्रश्न सुनता है, एक तथ्य को याद करता है, और उत्तर देने का निर्णय लेता है, तो उन सूचनाओं के टुकड़ों को एक साथ आना आवश्यक है।
Claude ऐसा कुछ समान करता हुआ प्रतीत होता है। Anthropic ने पाया कि Claude जब पूछा जाता है तो यह अपने J-space के अंदर क्या है, इसका वर्णन कर सकता है। यह निर्देश मिलने पर उन सामग्रियों को भी समायोजित कर सकता है।
और सबसे महत्वपूर्ण बात यह है कि जब शोधकर्ताओं ने सीधे J-space को बदला, तो क्लॉड के उत्तर और कार्य प्रदर्शन भी बदल गए।
यह AI सुरक्षा और व्याख्या के लिए क्यों महत्वपूर्ण है
यह खोज AI सुरक्षा के लिए वास्तविक महत्व रखती है। यदि शोधकर्ता J-space गतिविधि की निगरानी कर सकते हैं, तो वे संभावित रूप से एक मॉडल के व्यवहार के पीछे छिपे हुए प्रेरणाओं को उजागर कर सकते हैं। इसके परिणामस्वरूप, उन्हें यह पहचानने के लिए एक तेज़ उपकरण मिलता है कि कब कुछ गलत हो रहा है।
इसमें हमलों का पता लगाना भी शामिल है। J-space की निगरानी यह प्रकट कर सकती है कि कब एक मॉडल एक प्रॉम्प्ट-इंजेक्शन प्रयास को संसाधित करता है जो इसके आउटपुट को हाईजैक करने के लिए डिज़ाइन किया गया है। इसके अलावा, इस "सचेत" प्रसंस्करण परत में एक आंशिक खिड़की भी क्षेत्र के लिए एक महत्वपूर्ण प्रगति को चिह्नित करती है।
हालांकि, दायरा सीमित बना हुआ है। क्लॉड की अधिकांश जानकारी प्रसंस्करण अभी भी पूरी तरह से J-space के बाहर होता है।
फिर भी, एंथ्रोपिक ने एक ओपन-सोर्स J-lens कार्यान्वयन और एक न्यूरोनपेडिया डेमो जारी किया, जिससे व्यापक शोध समुदाय को निष्कर्षों का परीक्षण करने के लिए आमंत्रित किया गया।
हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें।.
यह कार्य एक लंबे शोध पथ पर आधारित है। एंथ्रोपिक ने अक्टूबर 2025 में उभरती हुई आत्म-प्रतिबिंबित जागरूकता पर एक रिपोर्ट प्रकाशित की। इसके अलावा, इसने अप्रैल 2025 में मॉडल-कल्याण पहलों की शुरुआत की, लगातार यह पता लगाने के लिए कि इसके सिस्टम के अंदर क्या होता है।
एक चेतावनी स्पष्ट रूप से सामने आती है। एंथ्रोपिक यह स्पष्ट करता है कि शोध यह दावा नहीं करता कि क्लॉड सचेत है या इसका कोई व्यक्तिगत अनुभव है। पेपर "सचेत रूप से सुलभ" जानकारी वाक्यांश का उपयोग करता है, शब्दावली उधार लेते हुए बिना वास्तविक चेतना में कूदे।
स्रोत: BeInCrypto
