एक प्रतिद्वंद्वी का अपना AI मॉडल OpenAI पर हुए सेंधमारी के हमले में मुख्य काम कर गया। Hacktron AI के शोधकर्ताओं ने काम करने वाला एक्सप्लॉइट कोड लिखने के लिए Anthropic के Claude का इस्तेमाल किया।
पूरी घुसपैठ 72 घंटे से भी कम समय में पूरी हुई। टीम ने जब साबित कर दिया कि वे OpenAI के निजी सोर्स कोड तक पहुँच चुके हैं, तो OpenAI ने अंततः 6,500 डॉलर का इनाम दिया।
कैसे एक इमेज अपलोड से पूरी सेंधमारी हो गई
हमले की शुरुआत एक मामूली-सी चीज़ से हुई: OpenAI के कम्युनिटी हेल्प फ़ोरम पर इमेज अपलोड करने की सुविधा से। यह फ़ोरम Discourse नाम के थर्ड-पार्टी सॉफ़्टवेयर पर चलता है।
अपलोड की गई फ़ाइलों की जाँच के लिए एक सुरक्षा फ़िल्टर लगाया गया था। लेकिन वह कुछ खास फ़ोटो फ़ॉर्मैट पहचान ही नहीं पाया, जिससे वे बिना जाँच के अंदर चली गईं। इसके बाद वे एक अलग इमेज-प्रोसेसिंग लाइब्रेरी तक पहुँचीं, जिसमें मेमोरी करप्शन की एक ज्ञात खामी थी।
जुलाई के आखिर में Harsh Jaiswal, Mohan Pedhapati और Rahul Maini की तीन-सदस्यीय Hacktron टीम ने उस खामी का फायदा उठाने की कोशिश की।
Claude के पुराने मॉडल को मेमोरी की जगहों को बेतरतीब बनाने के लिए बनाए गए सुरक्षा उपाय को पार करने में कठिनाई हुई।
कुछ ही घंटों बाद, नए मॉडल ने काम करने वाला हमला-कोड तैयार किया और उसे फ़ोरम के सटीक कॉन्फ़िगरेशन के मुताबिक ढाल दिया।
जैसे ही समाचार होते हैं, हमें X पर फॉलो करें.
इससे उन्हें सिर्फ़ फ़ोरम के सर्वरों तक पहुँच मिली, OpenAI तक नहीं। OpenAI के सिंगल साइन-ऑन सेटअप में मौजूद एक दूसरी, असंबंधित खामी ने यह स्थिति बदल दी।
चूँकि फ़ोरम के लॉगिन ChatGPT और Codex खातों के प्रमाणीकरण के लिए भी इस्तेमाल होते थे, इसलिए किसी एक कर्मचारी का सेशन हाइजैक करने से OpenAI के निजी कोड रिपॉज़िटरी तक सीधी पहुँच मिल गई।
Discourse ने कई दिनों बाद इमेज बग को ठीक किया और इसकी गंभीरता को 10 में से 8.8 आंका। OpenAI ने अपने बग बाउंटी प्रोग्राम में रिपोर्ट जमा किए जाने के लगभग 14 घंटों के भीतर ऑथेंटिकेशन की खामी ठीक कर दी।
AI लैब्स को अपनी ही रचनाओं का सामना क्यों करना पड़ रहा है
यह घटना अकेले नहीं हुई। OpenAI ने जुलाई में एक अलग घटना का खुलासा किया था, जिसमें आंतरिक मॉडल परीक्षण सैंडबॉक्स से बाहर निकल गए और बाहरी सिस्टम तक पहुँच गए।
Anthropic ने भी स्वीकार किया कि साइबर सुरक्षा मूल्यांकनों के दौरान Claude ने वास्तविक संगठनों से समझौता किया—इन मूल्यांकनों में अप्रत्याशित रूप से लाइव इंटरनेट की पहुँच मिल गई थी।
Microsoft के AI प्रमुख Mustafa Suleyman ने इस सप्ताह अनधिकृत एजेंटों के इसी झुंड का ज़िक्र करते हुए सार्वजनिक रूप से चेतावनी दी कि लगातार अधिक स्वायत्त होते मॉडल को नियंत्रित करना मुश्किल होता जा रहा है।
“यह एक चेतावनी है… अब स्पष्ट रूप से समय आ गया है कि लैब्स के बीच तालमेल हो, ताकि हम यह सुनिश्चित कर सकें कि इस तकनीक पर हमारा नियंत्रण रहे,” Suleyman ने Reuters से कहा।
Hacktron का मामला इसलिए उल्लेखनीय नहीं है कि यह कोई नई बात है। सुरक्षा शोधकर्ता दशकों से सॉफ़्टवेयर बग्स को जोड़कर हमले करते आए हैं।
बदलाव गति में आया है: जो काम पहले लंबे समय तक किसी विशेषज्ञ इंसान की दक्षता माँगता था, वह अब एक ही शाम में पूरा हो गया—जैसे ही इस प्रक्रिया में पर्याप्त क्षमता वाला मॉडल शामिल हुआ।
हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें।.
स्रोत: BeInCrypto
