मेलानाॅक्स (एनवीडिया मेलानॅक्स) 920-9B210-00FN-0D0 इन्फिनीबैंड स्विच तकनीकी समाधान

1परियोजना पृष्ठभूमि और आवश्यकताओं का विश्लेषण

आधुनिक एआई प्रशिक्षण समूहों और उच्च प्रदर्शन कंप्यूटिंग (एचपीसी) वातावरणों को एक आम स्केलिंग चुनौती का सामना करना पड़ता हैः जैसा कि जीपीयू की संख्या और कंप्यूटिंग घनत्व बढ़ता है,पारंपरिक ईथरनेट कपड़े टीसीपी/आईपी ओवरहेड के कारण प्राथमिक बाधा बन जाते हैंआरडीएमए (रिमोट डायरेक्ट मेमोरी एक्सेस) पर निर्भर कार्यभार के लिए, माइक्रोसेकंड स्तर के भी जिटटर प्रभावी जीपीयू उपयोग को 30-40% तक कम कर सकते हैं।मेलनॉक्स (NVIDIA Mellanox) 920-9B210-00FN-0D0इनफिनिबैंड स्विच सीधे इन चुनौतियों का सामना करता है, जो सामूहिक संचालन, सभी-कम करने वाले एल्गोरिदम और उच्च आवृत्ति एमपीआई संचार के लिए अनुकूलित हानि रहित, निर्धारक कपड़े प्रदान करता है।

अगली पीढ़ी के एआई/एचपीसी नेटवर्क के लिए प्रमुख आवश्यकताओं में शामिल हैंः सब-माइक्रोसेकंड स्विचिंग विलंबता, 400Gb/s NDR गति का समर्थन, हार्डवेयर आधारित इन-नेटवर्क कंप्यूटिंग (SHARP v2),और मौजूदा एचडीआर बुनियादी ढांचे के साथ पीछे की ओर संगतता.920-9B210-00FN-0D0इन सभी मानदंडों को पूरा करता है जबकि उद्यम-स्तरीय प्रबंधनीयता और टेलीमेट्री प्रदान करता है।

2समग्र नेटवर्क और सिस्टम आर्किटेक्चर डिजाइन

अनुशंसित वास्तुकला एक दो-परत फैट-ट्री (स्पाइन-लेफ) टोपोलॉजी पर केंद्रित है,जो वितरित प्रशिक्षण में विशिष्ट सभी-से-सभी संचार पैटर्न के लिए पूर्ण bisection बैंडविड्थ और निर्धारक विलंबता प्रदान करता हैरीढ़ की परत मेंNVIDIA Mellanox 920-9B210-00FN-0D0स्विच, जिनमें से प्रत्येक एक एनडीआर कपड़े की रीढ़ के रूप में कार्य करता है। लीफ स्विच (जैसे, क्यूएम9700 श्रृंखला) कनेक्ट कनेक्टएक्स-7 या ब्लूफील्ड-3 एडेप्टर के माध्यम से कंप्यूटिंग नोड्स से कनेक्ट करते हैं,जबकि रीढ़ की हड्डी के लिए अपलिंक 400Gb / s NDR गति पर चल रहा है.

2,000 GPU से अधिक के बड़े पैमाने पर तैनाती के लिए, एक तीन-स्तरीय वास्तुकला (कोर-एग्रीगेशन-एक्सेस) को लागू किया जा सकता है,920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s एनडीआरयह डिजाइन रैखिक प्रदर्शन स्केलिंग सुनिश्चित करता है और फोर्कलिफ्ट अपग्रेड की आवश्यकता के बिना भविष्य में NDR200 (800Gb/s) तक विस्तार का समर्थन करता है।अधिकारी920-9B210-00FN-0D0 InfiniBand स्विच OPNमल्टी-साइट खरीद को सरल बनाता है और पूरे फैब्रिक में फर्मवेयर स्थिरता सुनिश्चित करता है।

3समाधान में 920-9B210-00FN-0D0 की भूमिका और प्रमुख विशेषताएं

द920-9B210-00FN-0D0इनफिनिबैंड के भीतर उच्च प्रदर्शन की रीढ़/कोर तत्व के रूप में कार्य करता है। इसकी प्रमुख क्षमताओं में शामिल हैंः

• 400Gb/s NDR पोर्ट घनत्व:प्रत्येक920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s एनडीआरस्विच 32 400Gb/s बंदरगाहों तक प्रदान करता है, 500 मीटर तक लचीली केबलिंग के लिए तांबे और ऑप्टिकल ट्रांससीवर दोनों का समर्थन करता है (एकल मोड) ।
• नेटवर्क कम्प्यूटिंग (SHARP v2):हार्डवेयर-गतिवर्धित ऑल-रिड्यूस ऑपरेशन एआई प्रशिक्षण कार्यभार के लिए सामूहिक संचार समय को 8 गुना तक कम करते हैं, सीधे जीपीयू उपयोग में सुधार करते हैं।
• अनुकूली रूटिंग और भीड़ नियंत्रण:गतिशील पथ चयन हॉटस्पॉट के गठन से बचाता है और इनकास्ट यातायात पैटर्न के तहत निर्धारक विलंबता सुनिश्चित करता है।
• आरडीएमए ओवर कन्वर्ज्ड ईथरनेट (आरओसीई) विकल्पःRoCE के विपरीत, मूल InfiniBand920-9B210-00FN-0D0कोई पीएफसी विन्यास की आवश्यकता नहीं है और 95% लिंक उपयोग पर भी लगातार प्रदर्शन प्रदान करता है।

इंजीनियरों को920-9B210-00FN-0D0 डेटाशीटऔर920-9B210-00FN-0D0 विनिर्देशविस्तृत शक्ति (आमतौर पर 350W), थर्मल, और विलंबता आंकड़ों के लिए (उप-200ns स्विचिंग देरी) । स्विच पूरी तरह से920-9B210-00FN-0D0 संगतसभी प्रमुख NVIDIA InfiniBand एंडपॉइंट और तीसरे पक्ष के NDR ऑप्टिक्स के साथ।

4. तैनाती और स्केलिंग सिफारिशें (टोपोलॉजी उदाहरण)

छोटा क्लस्टर (128-256 GPU):2x की एकल रीढ़920-9B210-00FN-0D0स्विच, प्रत्येक 8-16 पत्ती स्विच से कनेक्ट करता है। पूर्ण bisection बैंडविड्थ और अतिरेक प्रदान करता है।मध्यम क्लस्टर (512-1024 जीपीयू):गैर-अवरोधक विन्यास में चार रीढ़ के स्विच, प्रत्येक पत्ती स्विच में 4 अपलिंक (2 प्रति रीढ़ के लिए) होते हैं। यह टोपोलॉजी यह सुनिश्चित करती है कि कोई भी एकल लिंक पीक ट्रैफ़िक के तहत 80% उपयोग से अधिक न हो।बड़ा क्लस्टर (2048+ GPU):8x की कोर परतNVIDIA Mellanox 920-9B210-00FN-0D0स्विच, एक ही मॉडल का उपयोग करके एकत्रित परत, और QM9700 श्रृंखला के साथ एक्सेस परत। सभी 400Gb/s NDR पर इंटरकनेक्ट करते हैं, वैकल्पिक NDR200 तत्परता के साथ।

लागत का आकलन करने वाले संगठनों के लिए,920-9B210-00FN-0D0 कीमतस्वामित्व की कुल लागत (टीसीओ) में कारक के रूप में उच्च अंत ईथरनेट स्विच के खिलाफ प्रतिस्पर्धी स्थिति में है।920-9B210-00FN-0D0 बिक्री के लिएNVIDIA के अधिकृत वितरण नेटवर्क के माध्यम से, 4-6 सप्ताह के विशिष्ट नेतृत्व समय के साथ।

5संचालन, निगरानी, समस्या निवारण और अनुकूलन

प्रबंधन एनवीआईडीआईए यूनिफाइड फैब्रिक मैनेजर (यूएफएम) के माध्यम से केंद्रीकृत है, जो वास्तविक समय टेलीमेट्री, पूर्वानुमान विफलता विश्लेषण और स्वचालित सुधार प्रदान करता है।920-9B210-00FN-0D0 InfiniBand स्विच ओपीएन समाधानइनमें शामिल हैंः

• प्रदर्शन के आधारभूत मानदंड:यूएफएम के विलंबता हीटमैप का उपयोग माइक्रो-बर्स्ट की पहचान करने के लिए करें।920-9B210-00FN-0D0 विनिर्देशईसीएन चिह्नों और बफर की कार्यक्षमता के लिए हार्डवेयर काउंटरों की पुष्टि करें.
• फर्मवेयर प्रबंधनःएक ही एनडीआर फर्मवेयर शाखा पर सभी इकाइयों को बनाए रखें।920-9B210-00FN-0D0 डेटाशीटकनेक्टएक्स-7 और ब्लूफील्ड-3 के लिए संगतता मैट्रिक्स शामिल है।
• दोष परिदृश्यःरिडंडेंट पावर सप्लाई और फैन मॉड्यूल N+1 रिडंडेंसी की अनुमति देते हैं। UFM स्वचालित रूप से विफल लिंक या स्विच के आसपास ट्रैफ़िक को पुनर्निर्देशित कर सकता है।
• अनुकूलन युक्तियाँःसभी रीढ़ के हड्डी के बंदरगाहों पर अनुकूली रूटिंग सक्षम करें; वैश्विक ठहराव फ्रेम अक्षम करें; सभी कम गहन कार्यभार के लिए SHARP कॉन्फ़िगर करें;920-9B210-00FN-0D0 InfiniBand स्विच OPNभौतिक बंदरगाहों को तार्किक भूमिकाओं के लिए मैप करने के लिए पहचानकर्ता।

6. सारांश और मूल्य निर्धारण

दमेलनॉक्स (NVIDIA Mellanox) 920-9B210-00FN-0D0उच्च-प्रदर्शन वाले एआई और एचपीसी कपड़े के लिए एक बुनियादी निर्माण ब्लॉक का प्रतिनिधित्व करता है। 400Gb/s एनडीआर बैंडविड्थ, उप-माइक्रोसेकंड स्विचिंग विलंबता और SHARP v2 इन-नेटवर्क कंप्यूटिंग प्रदान करके,यह नेटवर्क की बाधाओं को समाप्त करता है जो आमतौर पर GPU स्केलिंग को सीमित करते हैं.920-9B210-00FN-0D0यह सिर्फ एक स्विच नहीं है, यह एक पूर्ण920-9B210-00FN-0D0 InfiniBand स्विच ओपीएन समाधानइसमें मौजूदा एचडीआर बुनियादी ढांचे के साथ पूर्ण संगतता, यूएफएम के माध्यम से एंटरप्राइज-ग्रेड प्रबंधनीयता और भविष्य की एनडीआर200 गति के लिए एक स्पष्ट माइग्रेशन पथ शामिल है।आरडीएमए/एचपीसी/एआई क्लस्टर इंटरकनेक्ट प्रदर्शन को अनुकूलित करने के इच्छुक नेटवर्क आर्किटेक्ट और आईटी प्रबंधकों के लिए, यह स्विच उच्च GPU उपयोगिता, कम कार्य पूरा करने के समय और कम परिचालन ओवरहेड के माध्यम से मापने योग्य ROI प्रदान करता है।

मुख्य विनिर्देश संदर्भ