मेटा ने बुधवार को अपने अगली पीढ़ी के मेटा ट्रेनिंग और इंफरेंस एक्सेलरेटर (MTIA) का अनावरण किया, जो कृत्रिम बुद्धिमत्ता (AI) कार्यभार के लिए कस्टम-मेड चिपसेट का परिवार है। कंपनी द्वारा पहली AI चिप पेश किए जाने के लगभग एक साल बाद AI चिपसेट में अपग्रेड किया गया है। ये इंफरेंस एक्सेलरेटर टेक दिग्गज के मौजूदा और भविष्य के उत्पादों, सेवाओं और उसके सोशल मीडिया प्लेटफ़ॉर्म में मौजूद AI को शक्ति प्रदान करेंगे। विशेष रूप से, मेटा ने इस बात पर प्रकाश डाला कि चिपसेट की क्षमताओं का उपयोग इसके रैंकिंग और अनुशंसा मॉडल की सेवा के लिए किया जाएगा।

अपने ब्लॉग पोस्ट के ज़रिए घोषणा करते हुए, मेटा ने कहा, “मेटा के बड़े पैमाने के बुनियादी ढांचे की अगली पीढ़ी को एआई को ध्यान में रखकर बनाया जा रहा है, जिसमें नए जनरेटिव एआई (जेनएआई) उत्पादों और सेवाओं, अनुशंसा प्रणालियों और उन्नत एआई अनुसंधान का समर्थन करना शामिल है। यह एक ऐसा निवेश है जिसके बारे में हमें उम्मीद है कि आने वाले वर्षों में इसमें वृद्धि होगी क्योंकि एआई मॉडल का समर्थन करने के लिए कंप्यूटिंग की ज़रूरतें मॉडल के परिष्कार के साथ-साथ बढ़ती हैं।”

मेटा के अनुसार, नई AI चिप अपनी वास्तुकला में सुधार के कारण बिजली उत्पादन और दक्षता दोनों में महत्वपूर्ण सुधार प्रदान करती है। MTIA की अगली पीढ़ी अपने पूर्ववर्ती की तुलना में कंप्यूट और मेमोरी बैंडविड्थ को दोगुना करती है। यह मेटा के अनुशंसा मॉडल की भी सेवा कर सकता है जिसका उपयोग वह अपने सोशल मीडिया प्लेटफ़ॉर्म पर अपने उपयोगकर्ताओं के लिए सामग्री को वैयक्तिकृत करने के लिए करता है।

चिपसेट के हार्डवेयर के बारे में मेटा ने कहा कि सिस्टम में रैक-आधारित डिज़ाइन है जो 72 एक्सेलरेटर तक रखता है, जहाँ तीन चेसिस में 12 बोर्ड होते हैं और उनमें से प्रत्येक में दो एक्सेलरेटर होते हैं। प्रोसेसर 1.35GHz पर चलता है जो 800MHz पर अपने पूर्ववर्ती की तुलना में बहुत तेज़ है। यह 90W के उच्च आउटपुट पर भी चल सकता है। एक्सेलरेटर और होस्ट के बीच के फैब्रिक को भी PCIe Gen5 में अपग्रेड किया गया है।

सॉफ्टवेयर स्टैक वह जगह है जहां कंपनी ने बड़े सुधार किए हैं। चिपसेट को PyTorch 2.0 और संबंधित सुविधाओं के साथ पूरी तरह से एकीकृत करने के लिए डिज़ाइन किया गया है। कंपनी ने बताया, “MTIA के लिए निचले स्तर का कंपाइलर फ्रंटएंड से आउटपुट लेता है और अत्यधिक कुशल और डिवाइस-विशिष्ट कोड तैयार करता है।”

अब तक के परिणाम बताते हैं कि यह MTIA चिप कम जटिलता (LC) और उच्च जटिलता (HC) रैंकिंग और अनुशंसा मॉडल दोनों को संभाल सकती है जो मेटा के उत्पादों के घटक हैं। इन मॉडलों में, मॉडल आकार और प्रति इनपुट नमूने की गणना की मात्रा में ~ 10x-100x का अंतर हो सकता है। चूँकि हम पूरे स्टैक को नियंत्रित करते हैं, इसलिए हम व्यावसायिक रूप से उपलब्ध GPU की तुलना में अधिक दक्षता प्राप्त कर सकते हैं। इन लाभों को प्राप्त करना एक सतत प्रयास है और हम अपने सिस्टम में MTIA चिप्स का निर्माण और तैनाती करते हुए प्रति वाट प्रदर्शन में सुधार करना जारी रखते हैं।

एआई के उदय के साथ, कई तकनीकी कंपनियाँ अब कस्टमाइज़्ड एआई चिपसेट बनाने पर ध्यान केंद्रित कर रही हैं जो उनकी विशेष ज़रूरतों को पूरा कर सकें। ये प्रोसेसर सर्वर पर भारी कंप्यूट पावर प्रदान करते हैं जो उन्हें विशिष्ट कार्यों के लिए सामान्य एआई चैटबॉट और एआई टूल जैसे उत्पाद लाने में सक्षम बनाता है।