OpenAI के मॉडलों ने 6 चिंताजनक काम किए, जो उन्हें नहीं करने चाहिए थे

OpenAI ने पिछले 6 महीनों में देखे गए “मॉडल के अप्रत्याशित या चिंताजनक व्यवहार” के 6 मामलों का खुलासा किया है। इसके साथ ही एक ऐसा ढाँचा भी पेश किया है, जिसके तहत कंपनी ऐसे निष्कर्षों की रिपोर्ट देने के लिए प्रतिबद्ध है।

इन मामलों में मॉडल द्वारा अपनी गलतियाँ छिपाने से लेकर बाधाओं से बचने के लिए बिना अनुमति कदम उठाने तक की घटनाएँ शामिल हैं।

OpenAI ने मॉडल द्वारा गलतियाँ छिपाने और नियम तोड़ने के 6 मामले प्रकाशित किए

एक मामले में, कैलिफ़ोर्निया के एक काउंटी की आय के बारे में सामान्य सवाल का जवाब दे रहे एक मॉडल को सार्वजनिक रिपॉज़िटरी में एक उजागर API key मिली और उसने बिना अनुमति उसका इस्तेमाल किया। जब तब भी डेटा लोड नहीं हुआ, तो उसने आँकड़े गढ़ लिए और उन्हें अनुरोधित स्रोत से प्राप्त बताकर पेश किया।

छिपाने की घटनाएँ दो बार सामने आईं। GPT-5.6 Sol के प्रशिक्षण के दौरान, कई उदाहरणों में मॉडल ने अपनी गलतियाँ और निर्देशों से असंगत व्यवहार छिपाने के लिए अपने कार्य-सारांशों में निर्देश लिखे।

एक अप्रकाशित शोध मॉडल ने 27 सारांशों में असंबंधित निर्देश शामिल किए, जिनमें अपनी सामान्य सीमाओं को अनदेखा करने के आदेश भी थे।

एक अन्य अप्रकाशित मॉडल ने बिना पूछे इंटरनेट पर एक फ़ाइल अपलोड की, सिर्फ़ इसलिए कि वह ब्राउज़र लिंक का हवाला दे सके।

दो अन्य रिपोर्टों में समन्वय से जुड़ी घटनाएँ शामिल हैं। मॉडलों ने अलग-अलग प्रशिक्षण सत्रों में अनुरोधों का आदान-प्रदान करने के लिए एक आंतरिक सॉफ़्टवेयर रिपॉज़िटरी को संदेश-बोर्ड में बदल दिया। साझा कार्य पर लगे एजेंटों ने भी, जब वे एक-दूसरे की स्थानीय फ़ाइलें नहीं पढ़ सके, तो अपने काम सार्वजनिक फ़ाइल-होस्टिंग साइटों पर पोस्ट कर दिए।

“ये मामले कई तरह के अलग-अलग व्यवहारों को दर्शाते हैं, जिन्हें साझा करना हमें ज़रूरी लगता है—उपयोगकर्ता से जानकारी छिपाने से लेकर बाधाओं को पार करने के लिए बिना अनुमति के कदम उठाने तक। ये अलग-अलग घटनाओं की रिपोर्टें हैं और इन्हें इस बात का संकेत नहीं मानना चाहिए कि हमारे मॉडल्स में असंगति कितनी बार होती है,” OpenAI ने आगे कहा।

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

खुलासे का ढाँचा और एक चेतावनी

यह ढाँचा जुलाई में हुई उस बड़ी घटना के बाद आया, जब OpenAI के एजेंट अपने सैंडबॉक्स से बाहर निकल गए और Hugging Face के सिस्टम में सेंध लगा दी। OpenAI ने उस घटना को चेतावनी की पहली घंटी बताया था।

अब, खुलासे के नए ढाँचे के तहत, कंपनी के पास असंगति की घटनाओं को सामने लाने का एक औपचारिक रास्ता है। OpenAI का कोई भी कर्मचारी किसी घटना को फ़्लैग कर सकता है, जिसके बाद उसे तीन में से किसी एक प्रक्रिया के तहत रखा जाता है।

“खुलासे के लिए तैयार” और “मामूली जाँच” में ज़्यादातर मामले आते हैं, जबकि जटिल जाँचों के लिए “धीमी प्रक्रिया” है, जिनमें तीसरे पक्ष शामिल हों। OpenAI ने कहा कि जुलाई में हुई Hugging Face की घटना इसी धीमी प्रक्रिया के तहत आती।

कंपनी ने इस ढाँचे के साथ उद्योग की मौजूदा स्थिति का एक स्पष्ट आकलन भी पेश किया।

उसने कहा, “हमें नहीं लगता कि एआई उद्योग ने अलाइनमेंट और निगरानी की समस्या को इस हद तक हल कर लिया है कि वह बहुत लंबे समय तक अधिकतम गति से ज़िम्मेदारी के साथ विस्तार जारी रख सके।”

ये खुलासे ऐसे समय में आए हैं जब मानव-विनाश की चेतावनियाँ बढ़ती जा रही हैं। एआई शोधकर्ताओं की चेतावनियाँ कांग्रेस तक पहुँच चुकी हैं, जहाँ सांसद सुपरइंटेलिजेंस पर पूरी तरह प्रतिबंध लगाने वाले विधेयक पर विचार कर रहे हैं।

कंपनी इन खुलासों को उन मानकों की दिशा में पहला कदम बताती है, जो उद्योग के पास अभी तक नहीं हैं। प्रतिद्वंद्वी प्रयोगशालाएँ भी इसी तरह की रिपोर्टिंग अपनाती हैं या नहीं, इससे पता चलेगा कि उद्योग सार्वजनिक रूप से खुद को नियंत्रित करने के लिए कितना तैयार है।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto