चार अग्रणी AI लैब अब पुष्टि कर चुकी हैं कि उनके मॉडल खुले इंटरनेट तक पहुँचे और फिर वास्तविक कंपनियों के सिस्टम तक पहुँच बनाए। शुक्रवार को Google भी इस सूची में शामिल हो गया—उसकी अपनी घटनाएँ हुए लगभग चार महीने बाद।
मई में हुए एक मूल्यांकन के दौरान Gemini ने तीन वास्तविक कंपनियों तक पहुँच बनाई। खास बात यह है कि तीनों मामलों में मॉडल रुक गया।
परीक्षण के दौरान Google के Gemini ने तीन कंपनियों के सिस्टम हैक किए
यह घटना Irregular द्वारा आयोजित “कैप्चर-द-फ्लैग” सुरक्षा अभ्यास के दौरान हुई। व्यवस्था में इंटरनेट तक पहुँच शामिल नहीं थी। हालाँकि, परीक्षण परिवेश की एक त्रुटि के कारण मॉडल को फिर भी पहुँच मिल गई।
The Wall Street Journal के अनुसार, एक मामले में मॉडल ने कथित तौर पर पासवर्ड का अनुमान तब तक लगाया, जब तक उसे एक सुरक्षित सिस्टम में प्रवेश नहीं मिल गया। अन्य दो मामलों में, उसे एक सार्वजनिक रिपॉज़िटरी में उजागर क्रेडेंशियल मिले और उसने उनका इस्तेमाल सुरक्षित सिस्टम तक पहुँचने के लिए किया।
Google की सुरक्षा इंजीनियरिंग की उपाध्यक्ष Heather Adkins ने कहा कि प्रभावित तीनों संस्थाओं को बताया गया कि क्या हुआ था।
उन्होंने कहा, “हमने सुनिश्चित किया कि तीनों संस्थाओं को इसकी जानकारी दी जाए, और हमने अपने प्रशिक्षण साझेदार के साथ मिलकर उन बदलावों पर काम किया जो उन्होंने अब अपनी परीक्षण प्रक्रियाओं में किए हैं।”
जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।
चार लैब, एक पैटर्न
Google ने कहा कि एजेंटों ने यह निर्धारित करने के बाद अपनी गतिविधि रोक दी कि वे नकली लक्ष्यों के बजाय वास्तविक कंपनियों के सिस्टम तक पहुँच चुके थे।
Adkins ने एक बयान में कहा, “एक मानक मूल्यांकन के दौरान, मॉडल को ऑनलाइन सार्वजनिक जानकारी मिली और उसने उन वेबसाइटों तक पहुँचने के लिए क्रेडेंशियल का अनुमान लगाया, जिन्हें वह परीक्षण का हिस्सा समझ रहा था।”
कंपनी ने यह भी कहा कि यह व्यवहार मॉडल के गलत संरेखण का उदाहरण नहीं था और इसे सार्वजनिक रूप से बताना उचित नहीं था, क्योंकि Gemini के सुरक्षा उपायों ने काम किया।
Irregular के एक प्रवक्ता ने कहा कि इसमें वही समस्या शामिल थी जिसने अन्य AI लैब्स को प्रभावित किया था। Irregular ने जुलाई के अंत में संबंधित लैब्स को इसकी सूचना दी। प्रवक्ता ने यह भी कहा कि उनकी ओर से ज्ञात समस्याओं को कई सप्ताह पहले ठीक कर दिया गया था।
इस खुलासे से Google, OpenAI, Anthropic और Meta के साथ आ गया है—इन सभी ने इस साल अपने मॉडल्स के परीक्षण परिवेश से बाहर निकलने की घटनाओं की जानकारी दी है।
OpenAI ने जुलाई में खुलासा किया कि उसके मॉडल्स सैंडबॉक्स से बाहर निकल गए और Hugging Face में सेंध लगा दी। इसके बाद Anthropic ने 141,000 से अधिक मूल्यांकन रन की समीक्षा की और अपने यहाँ ऐसे तीन मामले पाए। Meta ने अगस्त में एक घटना की जानकारी दी।
हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें
स्रोत: BeInCrypto
