Ethereum के सह-संस्थापक विटालिक बुटेरिन का कहना है कि स्थानीय आर्टिफ़िशियल इंटेलिजेंस (AI) रोज़मर्रा के कामों का बड़ा हिस्सा संभालने के करीब है। उन्होंने अपने लैपटॉप पर Alibaba का Qwen3.8-Flash-Next चलाया और उसकी गति के नतीजे पोस्ट किए।
ChatGPT के उलट, इस सेटअप में क्लाउड सर्वर से कभी संपर्क नहीं होता। मॉडल कंप्यूटर पर ही रहता है और अनुरोध का जवाब कंप्यूटर खुद देता है।
विटालिक बुटेरिन के स्थानीय AI परीक्षण में दिखी उपयोगी गति
उनके लैपटॉप में AMD की Strix Halo चिप है। ज़्यादातर कंप्यूटरों में काम एक प्रोसेसर और अलग ग्राफ़िक्स कार्ड के बीच बँटा होता है, और दोनों की मेमोरी अलग-अलग होती है। Strix Halo इन दोनों को सिलिकॉन के एक ही टुकड़े पर रखती है और उन्हें मेमोरी का एक साझा पूल इस्तेमाल करने देती है।
यह डिज़ाइन इसलिए अहम है क्योंकि AI मॉडल को चलने से पहले मेमोरी में समाना होता है। आम ग्राफ़िक्स कार्ड में 8 से 24 गीगाबाइट मेमोरी होती है, जो इस आकार के मॉडल के लिए बहुत कम है। Strix Halo वाले कंप्यूटरों में 128 गीगाबाइट तक मेमोरी मिलती है, जिसका इस्तेमाल चिप का कोई भी हिस्सा कर सकता है। इसलिए एक लैपटॉप ऐसा मॉडल चला सकता है जिसके लिए कुछ समय पहले तक सर्वर हार्डवेयर की ज़रूरत पड़ती थी।
उन्होंने जो गति बताई, वह सामान्य कामों के लिए काफ़ी तेज़ है। छोटे प्रॉम्प्ट के जवाब पढ़ने की आरामदायक गति से मिले। लेकिन जब प्रॉम्प्ट में हज़ारों की संख्या में शब्द थे, तो जवाब धीमा हो गया—इसलिए बहुत लंबे दस्तावेज़ अब भी कमज़ोर पक्ष हैं।
Alibaba ने 26 अगस्त को मॉडल के खुले वेट प्रकाशित किए। टीम का कहना है कि मॉडल में 125 अरब पैरामीटर हैं, लेकिन एक समय में केवल छह अरब सक्रिय होते हैं, जिससे मेमोरी की ज़रूरत कम रहती है।
ब्यूटेरिन ने इसका नाम Qwen3.8-Flash रखा, हालांकि अलीबाबा डाउनलोड किए जा सकने वाले संस्करण को Qwen3.8-Flash-Next नाम से जारी करता है। इसके बड़े मॉडल Qwen3.8-Max ने अगस्त में बेंचमार्क परीक्षणों में शानदार अंक हासिल किए।
गोपनीयता से गणना कैसे बदलती है
ब्यूटेरिन को कच्ची गति से आगे एक और लाभ दिखता है। स्थानीय मॉडल डिवाइस पर जवाब देता है, इसलिए किसी भी प्रदाता को अनुरोध कभी नहीं मिलता।
ज़्यादा चुनौतीपूर्ण काम के लिए, उनका सुझाव है कि काम बाँट दिया जाए। स्थानीय मॉडल जो कर सकता है, वह संभाले; फिर बड़े होस्ट किए गए सिस्टम को भेजी जाने वाली किसी भी चीज़ से संवेदनशील जानकारी हटा दे।
“शक्तिशाली मॉडलों को क्वेरी भेजने के लिए अपने स्थानीय मॉडल का इस्तेमाल करें, ताकि आपकी क्वेरी में आपकी निजी जानकारी उजागर न हो”
व्यवहार में, स्थानीय मॉडल प्रॉम्प्ट से नाम, वॉलेट पते या निजी कोड निकाल देगा और फिर केवल बाकी सवाल आगे भेजेगा। ऐसी छँटाई से डिवाइस से बाहर जाने वाली जानकारी कम होगी। हालांकि, इससे यह गारंटी नहीं मिलेगी कि कोई संवेदनशील जानकारी छूटकर बाहर नहीं जाएगी।
यह तर्क उनके पिछले रुख से मेल खाता है। ईयू में चैट कंट्रोल को लेकर हुई बहस के दौरान उन्होंने निगरानी के ख़तरों के बारे में चेताया था, और क्रिप्टो उपयोगकर्ताओं ने भी मिलती-जुलती चिंताओं के चलते एजेंटों पर सख़्त सीमाओं की माँग की है।
मई में दायर एक सामूहिक मुक़दमे में आरोप लगाया गया है कि OpenAI ने ChatGPT उपयोगकर्ताओं की क्वेरी Meta और Google के साथ साझा कीं।
फ्रंटियर मॉडल पर अब भी क्लाउड प्रदाताओं का नियंत्रण है। फिर भी, स्थानीय प्रदर्शन में हर सुधार से रोज़मर्रा के और काम उनके सर्वरों से हट रहे हैं, और सस्ती साझा-मेमोरी वाली हार्डवेयर का इस्तेमाल लगातार फैल रहा है।
सवाल यह है कि लोग नियंत्रण के बदले कितनी क्षमता छोड़ने को तैयार होंगे।
स्रोत: BeInCrypto
