MLCommons Releases New AI Benchmark to Test Speed of Responses to User Queries
कृत्रिम बुद्धिमत्ता बेंचमार्किंग समूह एमएलकॉमन्स ने बुधवार को परीक्षणों और परिणामों का एक नया सेट जारी किया, जो उस गति को दर्शाता है जिस पर शीर्ष-स्तरीय हार्डवेयर एआई अनुप्रयोगों को चला सकता है और उपयोगकर्ताओं को प्रतिक्रिया दे सकता है।
MLCommons द्वारा जोड़े गए दो नए बेंचमार्क उस गति को मापते हैं जिस पर AI चिप्स और सिस्टम डेटा से भरे शक्तिशाली AI मॉडल से प्रतिक्रियाएँ उत्पन्न कर सकते हैं। परिणाम मोटे तौर पर यह प्रदर्शित करते हैं कि ChatGPT जैसा AI एप्लिकेशन कितनी तेज़ी से उपयोगकर्ता क्वेरी का जवाब दे सकता है।
नए बेंचमार्क में से एक में बड़े भाषा मॉडल के लिए प्रश्न-उत्तर परिदृश्य की गति को मापने की क्षमता जोड़ी गई है। इसे लामा 2 कहा जाता है, इसमें 70 बिलियन पैरामीटर शामिल हैं और इसे मेटा प्लेटफ़ॉर्म द्वारा विकसित किया गया था।
एमएलकॉमन्स के अधिकारियों ने बेंचमार्किंग टूल्स के समूह में एक दूसरा टेक्स्ट-टू-इमेज जनरेटर भी जोड़ा, जिसे एमएलपर्फ कहा जाता है, जो स्टेबिलिटी एआई के स्टेबल डिफ्यूजन एक्सएल मॉडल पर आधारित है।
अल्फाबेट के गूगल, सुपरमाइक्रो और खुद एनवीडिया जैसी कंपनियों द्वारा निर्मित एनवीडिया के एच100 चिप द्वारा संचालित सर्वर ने रॉ परफॉरमेंस के मामले में दोनों नए बेंचमार्क आसानी से जीत लिए। कई सर्वर बिल्डरों ने कंपनी की कम शक्तिशाली एल40एस चिप पर आधारित डिजाइन प्रस्तुत किए।
सर्वर निर्माता क्राई ने क्वालकॉम एआई चिप के साथ इमेज जेनरेशन बेंचमार्क के लिए एक डिजाइन प्रस्तुत किया, जो एनवीडिया के अत्याधुनिक प्रोसेसर की तुलना में काफी कम बिजली खपत करता है।
इंटेल ने अपने गौडी2 एक्सेलरेटर चिप्स पर आधारित एक डिज़ाइन भी प्रस्तुत किया। कंपनी ने परिणामों को “ठोस” बताया।
एआई अनुप्रयोगों को तैनात करते समय कच्चा प्रदर्शन ही एकमात्र ऐसा मापदंड नहीं है जो महत्वपूर्ण है। उन्नत एआई चिप्स बहुत अधिक मात्रा में ऊर्जा की खपत करते हैं और एआई कंपनियों के लिए सबसे महत्वपूर्ण चुनौतियों में से एक ऐसी चिप को तैनात करना है जो न्यूनतम ऊर्जा के लिए इष्टतम मात्रा में प्रदर्शन प्रदान करे।
एमएलकॉमन्स में बिजली की खपत मापने के लिए एक अलग बेंचमार्क श्रेणी है।
© थॉमसन रॉयटर्स 2024
(यह कहानी एनडीटीवी स्टाफ द्वारा संपादित नहीं की गई है और एक सिंडिकेटेड फीड से स्वतः उत्पन्न होती है।)
नवीनतम तकनीकी समाचारों और समीक्षाओं के लिए, गैजेट्स 360 को फ़ॉलो करें एक्सFacebook, WhatsApp, थ्रेड्स और Google News. गैजेट्स और तकनीक पर नवीनतम वीडियो के लिए, हमारे YouTube चैनल को सब्सक्राइब करें। यदि आप शीर्ष प्रभावशाली लोगों के बारे में सब कुछ जानना चाहते हैं, तो Instagram और YouTube पर हमारे इन-हाउस Who’sThat360 को फ़ॉलो करें।
KuCoin मनी लॉन्ड्रिंग नियमों का पालन करने में विफल रहा, संदिग्ध क्रिप्टो ट्रेडों में $9 बिलियन का इस्तेमाल किया गया, अमेरिका का कहना है
