AI agent आपका पैसा गंवा दे तो जिम्मेदार कौन है?

4 मई को, मोर्स कोड में छिपा एक संदेश एक छह अंकों के क्रिप्टो ट्रांसफर को सक्रिय करने में मददगार साबित हुआ। यह दो जुड़े हुए एआई सिस्टमों के माध्यम से गुजरा। एक था एलोन मस्क का ग्रोक, जो एलोन मस्क की xAI द्वारा बनाया गया चैटबॉट है। दूसरा था बैंकर्बॉट, एक क्रिप्टो एजेंट जो एक लिंक किए गए वॉलेट से भुगतान कर सकता था।

हमलावर ने पहले वॉलेट को एक डिजिटल सदस्यता टोकन भेजा जिसने बैंक के भुगतान उपकरणों को अनलॉक किया। फिर ग्रोक ने संदेश को डिकोड किया, और बैंकर्बॉट ने प्रतिक्रिया को एक भुगतान आदेश के रूप में माना। इसने अनुमानित $150,000 से $200,000 का ट्रांसफर किया।

एक मोर्स-कोड संदेश छह अंकों के भुगतान में बदल गया

अब, यह चिंता का विषय क्यों है? क्योंकि यह मामला केवल दो एआई एजेंटों के बीच एक छह अंकों के शोषण को उजागर करता है। एक एआई ने पाठ उत्पन्न किया। दूसरे ने इसे खर्च करने की अनुमति के रूप में माना।

यदि हम आज के एआई एजेंटिक भुगतानों के पैमाने को देखें, तो ऐसे परिदृश्य एजेंटिक वित्त के भविष्य के लिए एक बुरा सपना बन सकते हैं।

कीरॉक ने अप्रैल 2026 तक $73 मिलियन के मूल्य के 176 मिलियन ऑन-चेन एजेंट भुगतानों की गिनती की। मध्य भुगतान $0.01 और $0.10 के बीच था, जबकि 76% $0.30 से नीचे गिर गए। जब सॉफ़्टवेयर उन्हें लगातार बना सकता है, तो छोटे भुगतान एक बड़े नियंत्रण समस्या बन जाते हैं।

यह पैटर्न मुख्यधारा के भुगतान अवसंरचना में स्थानांतरित हो रहा है। मास्टरकार्ड ने जून में मशीनों के लिए एजेंट पे लॉन्च किया उच्च-आवृत्ति, कम-मूल्य के भुगतानों के लिए, जबकि गूगल और वीज़ा एजेंटों के लिए पहचान और प्राधिकरण साबित करने के मानक विकसित कर रहे हैं।

BeInCrypto ने Rodrigo Coelho, CEO of Edge & Node; Nitin Gaur, Head of Institutions at Nethermind; और Francesco Andreoli, Director of Developer Relations at MetaMask से पूछा कि जोखिम किस पर है।

Coelho सीधे थे।

“जिस कंपनी ने इसे लागू किया। इसका कोई ऐसा संस्करण नहीं है जहाँ जिम्मेदारी मॉडल पर आती है,” कहा Rodrigo Coelho, AI और Web3 इन्फ्रास्ट्रक्चर डेवलपर Edge & Node के CEO।

कैलिफ़ोर्निया ने पहले ही उस सिद्धांत को कानून में डाल दिया है। AB 316, जो जनवरी से प्रभावी है, एक प्रतिवादी को जो AI को विकसित, संशोधित या उपयोग करता है, यह तर्क करने से रोकता है कि प्रणाली ने स्वायत्त रूप से कथित नुकसान का कारण बना। कारण और पूर्वानुमान अभी भी महत्वपूर्ण हैं।

रसीद अनुमति नहीं है

एक ऑन-चेन लेनदेन यह साबित करता है कि पैसा चला गया। यह साबित नहीं करता कि एजेंट के पास इसे स्थानांतरित करने का वैध mandato था।

“आज एजेंटों को लागू करने वाली अधिकांश कंपनियाँ वास्तव में यह साबित नहीं कर सकतीं कि उनके एजेंट को क्या करने के लिए अधिकृत किया गया था। वे आपको लेनदेन दिखा सकते हैं। यह एक श्रृंखला पर हुआ और रिकॉर्ड सार्वजनिक और स्थायी है। जो वे आपको नहीं दिखा सकते वह है इसके पीछे की अनुमति,” कहा Coelho ने।

गैप्स में शामिल हो सकते हैं कि किसने अधिकार सौंपा, कौन सी नीति लागू हुई, एजेंट ने कौन सी जानकारी पढ़ी और क्या भुगतान अपनी सीमाओं के भीतर रहा। एक वॉलेट पता इनमें से किसी भी प्रश्न का उत्तर नहीं देता।

नेटर्माइंड के नितिन गौर ने कहा कि विवाद का आधार जनादेश है।

“एक विवाद का निर्णय करने वाली चीज़ प्राधिकरण का प्रमाण है। दिखाएँ कि एजेंट ने एक वैध, हस्ताक्षरित, समय-सीमित जनादेश के भीतर कार्य किया और यह किसी अन्य अधिकृत भुगतान की तरह हल हो जाएगा।”

गूगल का AP2 उपयोगकर्ता की मंशा को रिकॉर्ड करने के लिए क्रिप्टोग्राफिक रूप से हस्ताक्षरित जनादेश का उपयोग करता है। वीज़ा का ट्रस्टेड एजेंट प्रोटोकॉल अनुमोदित एजेंटों को पहचान और संबंधित प्राधिकरण को साबित करने वाले डिजिटल हस्ताक्षर प्रस्तुत करने की अनुमति देता है।

मास्टरकार्ड प्रमाणन और प्रोग्रामेटिक रूप से लागू सीमाएँ जोड़ता है। रेलें भिन्न होती हैं, लेकिन डिज़ाइन का लक्ष्य साझा है: अनुमति को भुगतान के साथ यात्रा करनी चाहिए।

सीमाएँ उस स्थान पर रखें जहाँ एजेंट नहीं पहुँच सकता

यदि एजेंट इसे फिर से लिख सकता है, अपनी ही अनुरोध को मंजूरी दे सकता है या अनियंत्रित हस्ताक्षर शक्ति रखता है, तो एक जनादेश अभी भी विफल हो जाता है। कोएल्हो ने सीमा को निजी कुंजी पर खींचा।

“एजेंट को कुंजी नहीं रखनी चाहिए। इसे एक भुगतान का प्रस्ताव देने में सक्षम होना चाहिए, और एक अलग प्रणाली यह तय करती है कि वह भुगतान अनुमत है या नहीं,” कोएल्हो ने कहा।

मेटामास्क के फ्रांसेस्को आंद्रेओली ने संकेतों के बारे में वही बात की:

“जो नियंत्रण काम करते हैं वे हैं जो एजेंट नहीं पहुँच सकता, यदि आपकी नीति संकेत में है, तो यह एक नीति नहीं है, यह एक प्रणाली को सुझाव है जिसे हमने बार-बार बातों में लाते देखा है।”

व्यवहार में, इसका मतलब है विभाजित धन, कठिन लेनदेन और दैनिक सीमाएँ, अनुमोदित प्रतिकारी, तेज़ निरसन, और एक परीक्षण किया हुआ किल स्विच। एक स्वतंत्र प्रणाली हस्ताक्षर करने से पहले नियमों की जांच करती है।

एजेंटों को फीड करने वाले उपकरण एक और जोखिम पैदा करते हैं। Snyk ने फरवरी में 3,984 सार्वजनिक एजेंट कौशलों का स्कैन किया और 36.82% में कम से कम एक सुरक्षा समस्या पाई। इसने क्रेडेंशियल चोरी, बैकडोर या डेटा एक्सफिल्ट्रेशन से संबंधित 76 दुर्भावनापूर्ण पेलोड की पुष्टि की।

गौर प्रॉम्प्ट इंजेक्शन को प्रमुख पैटर्न के रूप में देखते हैं: “प्रॉम्प्ट इंजेक्शन प्रमुख पैटर्न है: एक एजेंट अविश्वसनीय सामग्री से निर्देश लेता है जिसे उसे पढ़ने के लिए कहा गया था और इसे इस तरह निष्पादित करता है जैसे कि प्रिंसिपल ने पूछा हो।”

इसलिए एक रक्षा योग्य ऑडिट ट्रेल के लिए एजेंट की पहचान, हस्ताक्षरित जनादेश, नीति संस्करण, लेनदेन, स्रोत डेटा, और कोई भी स्वीकृत अपवाद की आवश्यकता होती है, जो भुगतान होने पर लिखी जाती है। श्रृंखला एक भाग प्रदान करती है।

गौर का मानक छोटा है: “सिद्ध करने योग्य, रद्द करने योग्य और सीमित।”

इन गुणों के बिना, कंपनियों के पास एक ऐसा अपरिवर्तनीय रसीद होती है जिसके लिए वे बचाव नहीं कर सकते।

स्रोत: BeInCrypto