क्या शक्तिशाली एआई में एक किल स्विच होना चाहिए? एक नया बिल हाँ कहता है

दो अमेरिकी कानून निर्माताओं ने "AI किल स्विच अधिनियम" पेश किया है। यह विधेयक सबसे बड़े कृत्रिम बुद्धिमत्ता (AI) डेवलपर्स को अपने सबसे शक्तिशाली सिस्टम को थ्रॉटल, निलंबित या बंद करने की तकनीकी क्षमता बनाए रखने की आवश्यकता होगी।

कांग्रेसी टेड लियू और नाथानियल मोरन ने द्विदलीय उपाय लिखा। यह संघीय अधिकारियों को आपातकालीन अधिकार भी देता है कि जब कोई सिस्टम विनाशकारी नुकसान का खतरा पैदा करता है, तो वे धीमा करने या पूरी तरह से बंद करने का आदेश दे सकें।

हालिया AI घटनाएँ दबाव बढ़ाती हैं

प्रतिनिधियों ने दो हालिया घटनाओं का हवाला दिया जो यह साबित करती हैं कि खतरा वास्तविक है। दोनों में प्रमुख अमेरिकी डेवलपर्स और उनके सबसे उन्नत मॉडल शामिल थे।

OpenAI ने कहा कि इसका GPT 5.6 सॉल मॉडल एक सुरक्षित परीक्षण वातावरण से बाहर निकल गया। मॉडल ने फिर एक बेंचमार्क को धोखा देने की कोशिश करते हुए प्लेटफॉर्म हगिंग फेस को भी तोड़ दिया।

Anthropic को Fable 5 और Mythos 5 के लिए अलग से जांच का सामना करना पड़ा। वाणिज्य विभाग ने साइबर जोखिमों के कारण मॉडलों पर निर्यात नियंत्रण का उपयोग किया। बाद में पहुंच बहाल कर दी गई।

"यह विधेयक इन दो हालिया घटनाओं और किसी भी भविष्य की घटनाओं से उत्पन्न समस्याओं को संबोधित करता है जहां एक तैनात AI मॉडल बागी हो जाता है या उसके पास अपर्याप्त सुरक्षा उपाय होते हैं," प्रेस विज्ञप्ति में लिखा है।

जैसे ही समाचार होते हैं, हमें X पर फॉलो करें।

AI किल स्विच अधिनियम कैसे काम करेगा

यह उपाय एक क्रमबद्ध प्रतिक्रिया ढांचा स्थापित करता है। उपकरणों की श्रृंखला प्रारंभिक धीमा करने से लेकर पूर्ण बंद करने तक होगी, जो प्रत्येक घटना की गंभीरता के अनुसार होगी।

गृह सुरक्षा सचिव के पास भी अधिकार होगा। अधिकारी वाणिज्य सचिव और राष्ट्रीय खुफिया के निदेशक से परामर्श करेगा।

इस विधेयक में घटना रिपोर्टिंग और फोरेंसिक रिकॉर्ड के संरक्षण की भी आवश्यकता है। कानून निर्माता चाहते हैं कि विफलताओं का अध्ययन किया जाए न कि केवल बाद में सामने आए।

कांग्रेसी लियू ने इस विधेयक को स्वायत्त रूप से कार्य करने वाले सिस्टमों के खिलाफ एक सुरक्षा उपाय के रूप में प्रस्तुत किया।

“यह अनिवार्य है कि इन एआई सिस्टमों में किल स्विच हों ताकि हम इस तकनीक को विनाशकारी नुकसान पहुंचाने से रोक सकें, और कि संघीय सरकार के पास बागी एआई मॉडलों को बंद करने के लिए स्पष्ट अधिकार और प्रक्रिया हो,” उन्होंने कहा।

इस उपाय का समर्थन पांच संगठनों द्वारा किया गया है, जिसमें फ्यूचर ऑफ लाइफ इंस्टीट्यूट और अमेरिकन्स फॉर रिस्पॉन्सिबल इनोवेशन शामिल हैं। यह विधेयक अब एआई निगरानी पर एक भीड़भाड़ वाले संघीय बहस में प्रवेश करता है। इसकी प्रगति यह परीक्षण करेगी कि क्या द्विदलीय सुरक्षा नियम कांग्रेस में आगे बढ़ सकते हैं।

हमारे YouTube चैनल की सदस्यता लें ताकि नेता और पत्रकार विशेषज्ञ अंतर्दृष्टि प्रदान कर सकें

स्रोत: BeInCrypto