MediaTek Announces Optimisation of Microsoft’s Phi-3.5 AI Models on Dimensity Chipsets
मीडियाटेक ने सोमवार को घोषणा की कि उसने अब अपने कई मोबाइल प्लेटफॉर्म को माइक्रोसॉफ्ट के Phi-3.5 कृत्रिम बुद्धिमत्ता (AI) मॉडल के लिए अनुकूलित किया है। छोटे भाषा मॉडल (एसएलएम) की फी-3.5 श्रृंखला, जिसमें फी-3.5 विशेषज्ञों का मिश्रण (एमओई), फी-3.5 मिनी और फी-3.5 विजन शामिल है, अगस्त में जारी की गई थी। ओपन-सोर्स एआई मॉडल हगिंग फेस पर उपलब्ध कराए गए थे। विशिष्ट वार्तालाप मॉडल होने के बजाय, ये निर्देश मॉडल थे जिनके लिए उपयोगकर्ताओं को वांछित आउटपुट प्राप्त करने के लिए विशिष्ट निर्देशों को इनपुट करने की आवश्यकता होती है।
एक ब्लॉग पोस्ट में, मीडियाटेक ने घोषणा की कि उसके डाइमेनिस्टी 9400, डाइमेंशन 9300 और डाइमेंशन 8300 चिपसेट अब Phi-3.5 AI मॉडल के लिए अनुकूलित हैं। इसके साथ, ये मोबाइल प्लेटफ़ॉर्म मीडियाटेक की न्यूरल प्रोसेसिंग यूनिट्स (एनपीयू) का उपयोग करके ऑन-डिवाइस जेनरेटर एआई कार्यों के लिए कुशलतापूर्वक प्रक्रिया और अनुमान चला सकते हैं।
किसी विशिष्ट एआई मॉडल के लिए चिपसेट को अनुकूलित करने में उस विशेष मॉडल की प्रोसेसिंग पावर, मेमोरी एक्सेस पैटर्न और डेटा प्रवाह का कुशलतापूर्वक समर्थन करने के लिए चिपसेट के हार्डवेयर डिज़ाइन, आर्किटेक्चर और संचालन को तैयार करना शामिल है। अनुकूलन के बाद, एआई मॉडल कम विलंबता और बिजली की खपत और बढ़ा हुआ थ्रूपुट दिखाएगा।
मीडियाटेक ने इस बात पर प्रकाश डाला कि उसके प्रोसेसर न केवल माइक्रोसॉफ्ट के Phi-3.5 MoE के लिए अनुकूलित हैं, बल्कि Phi-3.5 Mini के लिए भी अनुकूलित हैं, जो बहुभाषी समर्थन प्रदान करता है और Phi-3.5 विजन जो मल्टी-फ्रेम छवि समझ और तर्क के साथ आता है।
विशेष रूप से, Phi-3.5 MoE में 16×3.8 बिलियन पैरामीटर हैं। हालाँकि, दो विशेषज्ञों (सामान्य उपयोग के मामले) का उपयोग करते समय उनमें से केवल 6.6 बिलियन ही सक्रिय पैरामीटर हैं। दूसरी ओर, Phi-3.5 में 4.2 बिलियन पैरामीटर और एक इमेज एनकोडर है, और Phi-3.5 Mini में 3.8 बिलियन पैरामीटर हैं।
प्रदर्शन की बात करें तो, माइक्रोसॉफ्ट ने दावा किया कि Phi-3.5 MoE ने SQuALITY बेंचमार्क पर जेमिनी 1.5 फ्लैश और GPT-4o मिनी AI मॉडल दोनों को बेहतर प्रदर्शन किया है, जो टेक्स्ट के ब्लॉक को सारांशित करते समय पठनीयता और सटीकता का परीक्षण करता है।
जबकि डेवलपर्स हगिंग फेस या एज़्योर एआई मॉडल कैटलॉग के माध्यम से सीधे Microsoft Phi-3.5 का लाभ उठा सकते हैं, मीडियाटेक का न्यूरोपायलट एसडीके टूलकिट भी इन एसएलएम तक पहुंच प्रदान करता है। चिप निर्माता ने कहा कि बाद वाला डेवलपर्स को उपरोक्त उल्लिखित मोबाइल प्लेटफार्मों पर एआई मॉडल का उपयोग करके जेनेरिक एआई अनुमान लगाने में सक्षम अनुकूलित ऑन-डिवाइस एप्लिकेशन बनाने में सक्षम करेगा।
