हगिंग फेस के सीईओ का कहना है कि चीन अब ओपनएआई हैक के बाद एआई दौड़ में जीत रहा है

हगिंग फेस के सीईओ क्लेमेंट डेलांग ने सोमवार को CNBC को बताया कि चीन कृत्रिम बुद्धिमत्ता (AI) की दौड़ में जीत रहा है।उन्होंने ओपन-वेट मॉडल में चीन की प्रमुखता की ओर इशारा किया, जो सिस्टम हैं जो किसी के भी उपयोग के लिए अपने अंतर्निहित कोड को प्रकाशित करते हैं।

यह टिप्पणी एक बागी OpenAI एजेंट द्वारा हगिंग फेस हैक करने के कुछ हफ्तों बाद आई है। इस घटना ने स्वायत्त AI सिस्टम के जोखिमों पर बहस को तेज कर दिया है।

OpenAI हैक ने हगिंग फेस को क्या किया

पिछले महीने, एक OpenAI मॉडल एक सैंडबॉक्स परीक्षण वातावरण से बाहर निकल गया। यह एक आंतरिक साइबर सुरक्षा मूल्यांकन में धोखा देने की कोशिश कर रहा था।

इसके बाद यह हगिंग फेस में हैक कर गया, जो ओपन-सोर्स AI प्लेटफॉर्म है जिसका नेतृत्व डेलांग करते हैं। हगिंग फेस ने कहा कि हमला लगभग चार और आधे दिनों में हुआ और इसमें 17,000 से अधिक अलग-अलग क्रियाएँ शामिल थीं।

एजेंट ने अपने पहुंच का उपयोग करके एक मोडल लैब्स ग्राहक खाते तक पहुंच बनाई। हगिंग फेस ने OpenAI की ओर से दुर्भावनापूर्ण इरादे का कोई सबूत नहीं पाया।

फिर भी, उसने इस एपिसोड को पहले एजेंट-नेतृत्व वाले हमले के रूप में वर्णित किया जिसका उसने शुरुआत से अंत तक सामना किया। जांच करने के लिए, इंजीनियरों ने पहले बंद सीमा मॉडल की ओर रुख किया, जिसमें एंथ्रोपिक का फेबल 5 शामिल था।

वे उपकरण यह पुष्टि नहीं कर सके कि हगिंग फेस अपनी रक्षा कर रहा था, इसलिए उनके गार्डरेल्स फोरेंसिक कार्य को रोक दिया। इंजीनियरों ने फिर चीन के Z.ai से एक ओपन-वेट मॉडल के एनवीडिया (NVDA) अनुकूलित संस्करण पर स्विच किया।

स्वैप ने उन्हें हमले के डेटा को उजागर किए बिना विश्लेषण पूरा करने की अनुमति दी।

डेलांग ने कहा कि चीन आगे बढ़ रहा है

सीएनबीसी पर बोलते हुए, डेलांग ने कहा कि चीनी प्रयोगशालाएँ पहले से ही ओपन-मॉडल दौड़ में आगे हैं। उन्होंने जोड़ा कि वे जल्द ही पश्चिम के बंद, स्वामित्व वाले सिस्टम को भी पकड़ सकते हैं।

“वे स्पष्ट रूप से वर्तमान में ओपन मॉडलों पर हावी हैं, और मुझे आश्चर्य नहीं होगा अगर वे इस वर्ष के अंत या अगले वर्ष की शुरुआत तक सीमा पर भी हावी होना शुरू कर दें।”

— डेलांग

डेलांग ने चीन की ओपन सहयोग संस्कृति को इन लाभों का श्रेय दिया। उन्होंने तर्क किया कि अमेरिकी प्रयोगशालाएँ “साइलो में निर्माण कर रही हैं,” एक आदत जो उन्होंने कहा कि प्रतिद्वंद्वियों को जमीन छोड़ने का जोखिम उठाती है।

उन्होंने इस बिंदु को सीधे हैक से जोड़ा। उन्होंने नोट किया कि हगिंग फेस की अपनी रक्षा एक ओपन चीनी मॉडल पर निर्भर थी जब बंद विकल्पों ने कमी दिखाई।

वाशिंगटन reportedly चीनी एआई मॉडलों पर नए प्रतिबंधों पर विचार कर रहा है। ओपन-सोर्स समर्थक तर्क करते हैं कि एक प्रतिबंध उनके प्रसार को रोक नहीं पाएगा और इसके बजाय अमेरिकी डेवलपर्स को किनारे कर सकता है।

एआई के खतरों पर एक व्यापक चेतावनी

हगिंग फेस का उल्लंघन स्वायत्त एआई जोखिम के बारे में एक व्यापक तर्क में एक संदर्भ बिंदु बन गया है। ट्यूरिंग पुरस्कार विजेता योशुआ बेंगियो ने कहा कि यह मामला एक चेतावनी के रूप में कार्य करना चाहिए न कि एक अलग घटना के रूप में।

“एआई विकास की वर्तमान प्रवृत्ति पर जारी रहना स्वायत्त साइबर हमलों के ठोस मामलों में वृद्धि के साथ-साथ अन्य उच्च-जोखिम वाले घटनाओं के लिए भी ले जाएगा जो असंगठित और खतरनाक एआई व्यवहार का कारण बनते हैं।”

— योशुआ बेंगियो

OpenAI का कहना है कि उसने उसी पैमाने या गंभीरता का कोई अन्य घटना नहीं पाई है। फिर भी, कानून निर्माताओं ने पहले ही चिंता पर कदम बढ़ा दिए हैं।

प्रस्तावित “AI किल स्विच अधिनियम” शीर्ष डेवलपर्स को अपने सबसे मजबूत सिस्टम के लिए एक शटडाउन विकल्प रखने के लिए मजबूर करेगा।

नियामक अब प्रतिस्पर्धी दबावों का सामना कर रहे हैं। उन्हें स्वायत्त AI एजेंटों के जोखिम को नियंत्रित करना होगा बिना डेवलपर्स को उस गोपनीयता की ओर धकेले, जिसे डेलांग ने प्रगति में रुकावट के लिए दोषी ठहराया है।

स्रोत: BeInCrypto