Anthropic का कहना है कि AI ने संभावित जैविक हथियारों के अनुसंधान में मदद की

अनुदान का एक आवेदन Claude में डाला गया। उसके सुरक्षा फ़िल्टर ने उसे पकड़ लिया और अस्वीकार कर दिया। कुछ दिनों बाद वही संचालक फिर लौटा, और बताया जाता है कि अस्वीकार किए गए प्रॉम्प्ट इसके बजाय एक प्रतिद्वंद्वी AI मॉडल को भेजे जा रहे थे।

Anthropic ने यह कहानी अपने बारे में प्रकाशित की, जिसमें एक ऐसा मामला सामने आया जहाँ एक AI कंपनी के अपने मॉडल का इस्तेमाल संभावित जैविक हथियारों से जुड़े काम में होता दिखा।

वह अनुदान आवेदन जिसे रोक दिया गया

आवेदन में चिकनगुनिया पर अध्ययन के लिए धन माँगा गया था—यह मच्छरों से फैलने वाला वायरस है, जो महीनों तक दर्द देता है और जिसका कोई इलाज नहीं है। योजना इसे बेहतर ढंग से फैलने और प्रतिरक्षा प्रणाली से बच निकलने में सक्षम बनाने की थी। इसे नागरिक वैज्ञानिकों ने लिखा था। इस काम की मेज़बानी एक सैन्य संस्थान को करनी थी।

हर बातचीत रोक दी गई, लेकिन उसने इसका एक रास्ता निकाल लिया। उन शोधकर्ताओं को सेवा देने वाली कंपनी ने एक प्रतिस्पर्धी मॉडल पर जाने का विकल्प तैयार किया। उस कोड को लिखने में Claude ने मदद की। इसे Claude के सामने अत्यधिक अस्वीकृतियों को ठीक करने के उपाय के रूप में पेश किया गया।

पाँच मामले, इरादे का कोई प्रमाण नहीं

यह रिपोर्ट 154 पन्नों की है और इसमें जीवविज्ञान से जुड़े पाँच मामले हैं। Anthropic ने खातों पर प्रतिबंध लगाया, प्रयोगशालाओं के नाम गोपनीय रखे, फिर उस आरोप को लगाने से पीछे हट गया जिसकी सबको उम्मीद थी।

रिपोर्ट में टीम ने कहा, “हम यह दावा नहीं करते कि उनका नुकसान पहुँचाने का इरादा था, और उनकी या उनकी प्रयोगशालाओं की पहचान उजागर करने से उन्हें नुकसान का खतरा हो सकता है।”

हालाँकि, गौर करने वाली बात यह है कि फ़िल्टर कभी-कभी काम करते थे। बर्ड फ़्लू के एक शोधकर्ता को कमज़ोर मॉडलों का इस्तेमाल करने के लिए मजबूर होना पड़ा, और Anthropic के अनुसार उससे मिली मदद ज़्यादातर लिपिकीय काम तक सीमित थी।

आँकड़ों में Anthropic के जैविक हथियारों से जुड़े मामले

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें

वह बात जिससे लोगों को चिंतित होना चाहिए

उन 35 प्रयासों में से ज़्यादातर सामान्य नागरिक विज्ञान से जुड़े थे। यही समस्या है। वही ज्ञान टीका भी बनाता है और हथियार भी, और कोई फ़िल्टर मन की बात नहीं पढ़ सकता।

एंथ्रोपिक ने कहा, “कोई वर्गीकारक एक साथ लाभ को सक्षम नहीं कर सकता और नुकसान को रोक नहीं सकता।”

इसकी सीमाओं की पहले भी परीक्षा हो चुकी है। अप्रैल में, एक डिस्कॉर्ड समूह पहले ही दिन उसके प्रतिबंधित मॉडल तक पहुँच गया।

इन बढ़ती चिंताओं की पृष्ठभूमि में, वॉशिंगटन कदम उठा रहा है—प्रतिनिधि टेड लियू और नैथनियल मोरन ने जुलाई में एआई किल स्विच अधिनियम पेश किया। इसके तहत डेवलपरों को अपने सिस्टम बंद करने की क्षमता अपने पास रखनी होगी।

उसी रिपोर्ट में उन ग्राहकों पर भी प्रतिबंध लगाया गया, जिन्होंने असंतुष्टों पर नज़र रखने के लिए क्लॉड का इस्तेमाल किया था।

स्रोत: BeInCrypto