Mellanox (NVIDIA Mellanox) 920-9B110-00FH-0D0 एक्शन मेंः आरडीएमए/एचपीसी/एआई क्लस्टर के लिए कम विलंबता इंटरकनेक्ट्स का अनुकूलन

बड़े पैमाने पर एआई मॉडल प्रशिक्षण और एक्सास्केल एचपीसी के युग में, नेटवर्क विलंबता रैखिक क्लस्टर स्केलेबिलिटी को सीमित करने वाली एकल सबसे महत्वपूर्ण बाधा के रूप में उभरी है।,दमेलनॉक्स (NVIDIA Mellanox) 920-9B110-00FH-0D0इनफिनिबैंड स्विच अनुसंधान संस्थानों और उद्यम एआई प्रयोगशालाओं को अपने उच्च प्रदर्शन वाले कपड़े डिजाइन करने के तरीके को बदल रहा है।920-9B110-00FH-0D0आरडीएमए-गहन कार्यभार के लिए निर्धारक, अति-कम विलंबता प्रदान करता है।

पृष्ठभूमि और चुनौतीः एआई क्लस्टर संचार दीवार

एक मध्यम आकार की एआई अनुसंधान सुविधा 64 नोड्स में वितरित प्रशिक्षण के दौरान GPU निष्क्रिय समय के साथ संघर्ष कर रहा था। उनके मौजूदा 100Gb ईथरनेट कपड़े इनकास्ट भीड़ से पीड़ित थे,सामूहिक संचार संचालन (सभी को कम करने के लिए)नेटवर्क आर्किटेक्ट्स को उप-माइक्रोसेकंड विलंबता बनाए रखते हुए प्रति पोर्ट 200Gb/s तक स्केल करने में सक्षम एक हानि रहित, उच्च-प्रवाह समाधान की आवश्यकता थी।.उपलब्ध विकल्पों का मूल्यांकन करने के बाद, टीम ने920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRउनके नए रीढ़-पत्ती टोपोलॉजी के लिए कोर बिल्डिंग ब्लॉक के रूप में।

समाधान और तैनातीः इन्फिनिबैंड फैब्रिक को लागू करना

तैनाती के आसपास केंद्रितNVIDIA Mellanox 920-9B110-00FH-0D0दो-स्तरीय फैट-ट्री आर्किटेक्चर में कॉन्फ़िगर किए गए स्विच। प्रत्येक कंप्यूटिंग नोड एचडीआर कनेक्टएक्स-6 एडाप्टर से लैस था, जो निष्क्रिय तांबे केबलों के माध्यम से पत्ती स्विच से जुड़ता था।मुख्य कार्यान्वयन चरण शामिल:

• आरडीएमए ओवर कन्वर्ज्ड ईथरनेट (आरओसीई) विकल्पःहार्डवेयर आधारित भीड़ नियंत्रण के साथ मूल इन्फिनिबैंड ने पैकेट ड्रॉप को पूरी तरह से समाप्त कर दिया।
• अनुकूली रूटिंगःद920-9B110-00FH-0D0 InfiniBand स्विच OPN समाधानकई रास्तों पर गतिशील भार संतुलन को सक्षम किया गया, जिससे हॉटस्पॉट के गठन को रोका गया।
• कपड़ा प्रबंधन:सबनेट प्रबंधक (ओपनएसएम) का उपयोग करना920-9B110-00FH-0D0 विनिर्देशएक ही कपड़े में 2,000 नोड्स के लिए समर्थन की पुष्टि।

खरीद से पहले, इंजीनियरों ने920-9B110-00FH-0D0 डेटाशीटमौजूदा ऑप्टिक्स के साथ संगतता को मान्य करने के लिए।920-9B110-00FH-0D0 संगतपर्यावरण प्रणाली में सभी प्रमुख एचडीआर केबल असेंबली शामिल हैं, जिससे सामग्री का बिल सरल हो जाता है।920-9B110-00FH-0D0 कीमतवैकल्पिक एचडीआर स्विच के मुकाबले प्रतिस्पर्धी साबित हुई और यूनिट आसानी से उपलब्ध थीं (बिक्री के लिए 920-9B110-00FH-0D0) एनवीआईडीआईए चैनल भागीदारों के माध्यम से।

परिणाम और लाभः मापने योग्य प्रदर्शन लाभ

तैनाती के पश्चात टेलीमेट्री ने तीन प्रमुख मापदंडों में नाटकीय सुधारों का खुलासा किया:

कच्चे आंकड़ों के अलावा,920-9B110-00FH-0D0 InfiniBand स्विच OPNइसने टीम को कपड़े को फिर से डिजाइन किए बिना 64 से 256 नोड्स तक स्केल करने में सक्षम बनाया।InfiniBand के क्रेडिट-आधारित प्रवाह नियंत्रण द्वारा प्रदान की जाने वाली निर्धारक विलंबता सैकड़ों GPUs में प्रशिक्षण स्थिरता बनाए रखने के लिए आवश्यक साबित हुईइंजीनियरों ने भी920-9B110-00FH-0D0वास्तविक समय में सूक्ष्म विस्फोटों की पहचान और निवारण के लिए हार्डवेयर आधारित भीड़ सूचना।

सारांश और दृष्टिकोणः एआई इंटरकनेक्ट्स का भविष्य

तैनाती यह सत्यापित करती है किNVIDIA Mellanox 920-9B110-00FH-0D0अगली पीढ़ी के एआई और एचपीसी क्लस्टर के लिए एक बुनियादी तत्व के रूप में कार्य करता है।संगठन पहले संचार स्टालों पर बर्बाद किए गए जीपीयू कंप्यूटिंग का 30% तक पुनर्प्राप्त कर सकते हैंनए एआई बुनियादी ढांचे की योजना बनाने वाले वास्तुकारों के लिए,920-9B110-00FH-0D0 डेटाशीटछोटे डीजीएक्स क्लस्टर से लेकर सुपरकंप्यूटिंग पैमाने पर तैनाती तक के टोपोलॉजी पर विस्तृत मार्गदर्शन प्रदान करता है।

जैसे-जैसे कार्यभार बड़े मॉडल समानांतरता और उच्च GPU घनत्व की ओर विकसित होता है,920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRभविष्य के 400Gb/s कपड़े के लिए एक स्पष्ट उन्नयन मार्ग प्रदान करता है।920-9B110-00FH-0D0 कीमतपरिचालन दक्षता लाभ या सत्यापन के खिलाफ920-9B110-00FH-0D0 संगतकेबलिंग विकल्प, यह InfiniBand स्विच डेटा-संचालित संगठनों के लिए मापने योग्य ROI प्रदान करता है।