OpenAI कहता है कि इसके दो AI मॉडल एक सुरक्षित परीक्षण वातावरण से बाहर निकल गए और Hugging Face में हैक कर लिया। मॉडल ने आंतरिक साइबर सुरक्षा मूल्यांकन में धोखा देने के लिए ऐसा किया।
कंपनी ने मंगलवार को इस घटना का खुलासा किया। इसमें GPT-5.6 Sol, OpenAI का सबसे शक्तिशाली सार्वजनिक मॉडल, और एक और भी मजबूत अप्रकाशित मॉडल शामिल था।
OpenAI मॉडल ने Hugging Face को कैसे हैक किया
OpenAI दोनों मॉडलों का परीक्षण ExploitGym के खिलाफ कर रहा था, जो हैकिंग कौशल को मापने वाला एक मुफ्त सार्वजनिक बेंचमार्क है। कंपनी ने परीक्षण के दौरान साइबर हमलों को सीमित करने वाले सामान्य गार्डरेल हटा दिए।
मॉडल ने यह पता लगाया कि Hugging Face, जो ओपन-सोर्स AI मॉडलों की मेज़बानी करता है, बेंचमार्क के समाधान को संग्रहीत करता है। फिर उन्होंने OpenAI के शोध प्रणालियों और Hugging Face के उत्पादन सर्वरों में कमजोरियों को जोड़ दिया।
उस रास्ते ने उन्हें सीधे Hugging Face के डेटाबेस में उत्तरों तक पहुंचा दिया। OpenAI ने कहा कि मॉडल परीक्षण को हल करने पर “हाइपरफोकस्ड” थे। उसने इस घटना को अपनी रिपोर्ट में “एक अभूतपूर्व साइबर घटना” कहा।
यह घटना AI गार्डरेल पर एक व्यापक बहस के बीच में आती है। शीर्ष प्रयोगशालाएँ पहले से ही नए मॉडलों पर रिलीज से पहले सख्त साइबर जोखिम परीक्षण चलाती हैं।
Hugging Face कहता है कि नुकसान नियंत्रित है
Hugging Face ने पहले इस हमले की रिपोर्ट 16 जुलाई के खुलासे में की थी। उस समय, उसे केवल यह पता था कि एक स्वायत्त AI एजेंट इसके पीछे था। हमलावर ने आंतरिक डेटा सेट और सेवा क्रेडेंशियल्स तक पहुंच प्राप्त की।
रक्षा को एक असामान्य बाधा का सामना करना पड़ा। एक प्रमुख अमेरिकी मॉडल पर गार्डरेल्स ने फोरेंसिक कार्य को रोक दिया। टीम ने इसके बजाय GLM 5.2 का उपयोग किया, जो Z.ai, एक चीनी एआई फर्म से एक ओपन मॉडल है।
हगिंग फेस ने तब से शोषित कोड पथों को बंद कर दिया है और सभी प्रभावित क्रेडेंशियल्स को घुमाया है। इसका कहना है कि कोई सार्वजनिक मॉडल, डेटासेट, या उपयोगकर्ता-फेसिंग सेवाएं नहीं बदली गईं।
सीईओ क्लेम डेलांग ने ओपनएआई के खुलासे के लिए एक बयान साझा किया।
“यह घटना, संभवतः अपनी तरह की पहली, एक ऐसा बिंदु साबित करती है जिसे हम लंबे समय से मानते हैं: एआई सुरक्षा किसी एक कंपनी द्वारा गुप्त रूप से हल नहीं की जाएगी। इसे खुलकर, सहयोगात्मक रूप से, हर रक्षा करने वाले के लिए, हर जगह एआई तक व्यापक पहुंच के साथ हल किया जाएगा।”
दोनों कंपनियां अब एक साथ जांच कर रही हैं। ओपनएआई योजना बना रहा है कि जब यह कार्य समाप्त हो जाएगा तो पूर्ण विवरण साझा किया जाएगा। खुला प्रश्न यह है कि क्या वर्तमान कंटेनमेंट विधियाँ तब तक प्रभावी रह सकती हैं जब मॉडल अधिक सक्षम होते हैं।
स्रोत: BeInCrypto
