Oppo to Implement On-Device Mixture-of-Experts AI Architecture for Improved Battery Life
ओप्पो ने बुधवार को अपने स्मार्टफोन के लिए डिज़ाइन किए गए एक नए ऑन-डिवाइस आर्टिफिशियल इंटेलिजेंस (एआई) फीचर की घोषणा की। कंपनी ऊर्जा खपत को काफी हद तक कम करने के साथ-साथ प्रसंस्करण गति में सुधार करने के लिए विशेषज्ञों के मिश्रण (एमओई) एआई आर्किटेक्चर को लागू करने की योजना बना रही है। ओप्पो ने स्मार्टफोन और इसी तरह के उपकरणों के लिए प्रौद्योगिकी विकसित करने के लिए अग्रणी चिपसेट निर्माताओं के साथ सहयोग किया। हालाँकि, यह खुलासा नहीं किया गया कि कौन से आगामी स्मार्टफोन इस तकनीक से लैस होंगे। कंपनी ने हाल ही में नए AI फीचर्स के साथ ColorOS 15 का अनावरण किया है, और इसकी प्रमुख Find X8 सीरीज़ 24 अक्टूबर को लॉन्च की जाएगी।
ओप्पो ने स्मार्टफोन के लिए ऑन-डिवाइस MoE AI आर्किटेक्चर का अनावरण किया
कंपनी ने स्मार्टफोन के लिए अपनी नई इन-हाउस तकनीक का विवरण साझा किया। MoE आर्किटेक्चर नया नहीं है, और इसे AI फर्म मिक्सट्रल द्वारा लोकप्रिय बनाया गया है, जिसने कई ओपन-सोर्स MoE-आधारित AI मॉडल जारी किए हैं।
बड़े भाषा मॉडल (एलएलएम) के विपरीत, जिसमें एक विशाल केंद्रीकृत प्रणाली होती है और विभिन्न प्रकार के एआई कार्य कर सकते हैं, एमओई आर्किटेक्चर छोटे भाषा मॉडल (एसएलएम) पर निर्भर करता है। ये एसएलएम एक विशेष कार्य में विशेषज्ञ होते हैं और छोटे लेकिन अधिक प्रासंगिक डेटासेट के कारण उन्हें उच्च सटीकता और गति के साथ निष्पादित कर सकते हैं।
ऑन-डिवाइस मिश्रण-विशेषज्ञों का एआई आर्किटेक्चर कार्यान्वयन
फोटो साभार: ओप्पो
MoE आर्किटेक्चर में, कई SLM को बैकएंड में एक साथ जोड़ा जाता है और फ्रंटएंड पर एक सिंक्रनाइज़ इंटरफ़ेस प्रदान किया जाता है। जब भी कोई उपयोगकर्ता किसी कार्य का अनुरोध करता है, तो सिस्टम इसे संभालने में सबसे सक्षम एसएलएम को सौंप देता है। परिणामस्वरूप, सिस्टम समानांतर प्रसंस्करण में सक्षम है, और एक साथ कई कार्य करने के बावजूद, प्रसंस्करण गति महत्वपूर्ण रूप से प्रभावित नहीं होती है।
एसएलएम के उपयोग के साथ समानांतर प्रसंस्करण से बिजली की खपत भी कम हो जाती है। ओप्पो का दावा है कि उसने इस आर्किटेक्चर को डिवाइस पर लागू करने का एक तरीका ढूंढ लिया है, जिससे तेज एआई प्रोसेसिंग के साथ-साथ बैटरी लाइफ में भी सुधार होगा।
आंतरिक परीक्षण के आधार पर, चीनी स्मार्टफोन निर्माता का दावा है कि MoE-आधारित AI सिस्टम पारंपरिक विकल्प की तुलना में AI कार्यों को 40 प्रतिशत तेजी से संसाधित कर सकता है।
ओप्पो ने इस बात पर भी प्रकाश डाला कि ऑन-डिवाइस MoE आर्किटेक्चर उपयोगकर्ताओं को अधिक गोपनीयता प्रदान करेगा क्योंकि सर्वर पर कम AI कार्यों को संसाधित करने की आवश्यकता होगी। इसका मतलब यह होगा कि डेटा स्थानीय रूप से संग्रहीत है और केवल उपयोगकर्ता के पास ही उस तक पहुंच है।
