मेलानॉक्स (NVIDIA मेलानॉक्स) 920-9B110-00FH-0D0 इनफिनीबैंड स्विच इन एक्शन: लो-लेटेंसी इंटरकनेक्ट को अनुकूलित करना
May 29, 2026
वास्तविक दुनिया के एआई प्रशिक्षण और उच्च प्रदर्शन कंप्यूटिंग तैनाती में, नेटवर्क विलंबता और सीपीयू ओवरहेड अक्सर स्केलेबिलिटी के मूक हत्यारे बन जाते हैं।इस आवेदन पत्र में इस बात की जांच की गई है कि एक मध्यम आकार के अनुसंधान संगठन ने इन चुनौतियों का सामना कैसे किया।मेलनॉक्स (NVIDIA Mellanox) 920-9B110-00FH-0D0इनफिनिबैंड स्विच उनके जीपीयू आधारित अनुसंधान क्लस्टर के लिए मुख्य कपड़े के रूप में।
संगठन के विरासत 100Gb / s ईथरनेट RoCE कपड़े को पीएफसी (प्राथमिकता प्रवाह नियंत्रण) तूफान और अप्रभावी भीड़ से निपटने के कारण अप्रत्याशित पूंछ विलंबता का सामना करना पड़ा।जैसा कि उनके एआई मॉडल आकार 10 अरब से बढ़कर 50 अरब से अधिक पैरामीटर, सामूहिक संचार संचालन (सभी को कम करना, सभी को सभी) ने कुल पुनरावृत्ति समय का लगभग 45% खपत की।कम विलंबता वाला कपड़ा जो रैखिक प्रदर्शन स्केलिंग बनाए रखते हुए आरडीएमए का पूरी तरह से लाभ उठा सकता है. खोज जल्दी से920-9B110-00FH-0D0सबसे आशाजनक बिल्डिंग ब्लॉक के रूप में।
टीम ने चयनित920-9B110-00FH-0D0 MQM8790-HS2F 200Gb/s HDRस्पाइन लेयर रीढ़ के रूप में स्विच, चार रैक में 64 जीपीयू नोड्स इंटरकनेक्ट।920-9B110-00FH-0D0 InfiniBand स्विच OPNऑर्डर फ्रेमवर्क के लिए, उन्होंने 40 एचडीआर पोर्टों के साथ दो रिडंडेंट स्पाइन स्विच तैनात किए, जिससे गैर-ब्लॉकिंग 1: 1 ओवरसब्सक्राइब रेशियो प्राप्त हुआ।तैनाती ने अनुकूलन रूटिंग और SHARPv2 (स्केलेबल हाइरार्चिकल एग्रीगेशन एंड रिडक्शन प्रोटोकॉल) ¢ सुविधाओं का लाभ उठाया जो पूरी तरह से दस्तावेज में हैं920-9B110-00FH-0D0 डेटाशीट✓ सामूहिक संचालन को सीधे स्विच कपड़े पर उतारने के लिए। संगतता के लिए, टीम ने पुष्टि की कि920-9B110-00FH-0D0 संगतपारिस्थितिकी तंत्र में उनके मौजूदा कनेक्टएक्स-6 एचडीआर एडाप्टर और मानक क्यूएसएफपी56 ऑप्टिक्स शामिल थे।
पोस्ट-डिप्लोयमेंट टेलीमेट्री ने नाटकीय सुधारों का खुलासा किया। किसी भी दो जीपीयू नोड्स के बीच एंड-टू-एंड विलंबता 3.2μs (RoCE) से घटकर 1.1μs से कम हो गई, जिसमें 80% की कमी आई।NVIDIA Mellanox 920-9B110-00FH-0D0512-जीपीयू नौकरियों के लिए 57% तक ऑल-रिड्यूस पूरा करने का समय कम किया गया। निम्नलिखित तालिका में प्रमुख मीट्रिक का सारांश दिया गया हैः
| मीट्रिक | पिछला (RoCE) | 920-9B110-00FH-0D0 के साथ |
|---|---|---|
| औसत पी2पी विलंबता (एमपीआई पिंगपॉन्ग) | 3.2 μs | 1.08 μs |
| ऑल-रिड्यूस (512 जीपीयू, 1 जीबी संदेश) | 17.3 एमएस | 7.4 एमएस |
| प्रभावी बैंडविड्थ उपयोग | 62% | 94% |
| सीपीयू ओवरहेड (प्रति 10Gb/s) | ~ 8% | < 1% |
कच्चे आंकड़ों के अलावा,920-9B110-00FH-0D0 InfiniBand स्विच OPN समाधानNVIDIA UFM (Unified Fabric Manager) का उपयोग करके, टीम ने वास्तविक समय में कपड़े की दृश्यता, स्वचालित पथ अनुकूलन,और सक्रिय भीड़भाड़ अलर्ट ✓ क्षमताएं उनके पिछले ईथरनेट तैनाती में उपलब्ध नहीं हैं.920-9B110-00FH-0D0 विनिर्देशयह भी ऊर्जा-कुशल संचालन को सक्षम कियाः 1U चेसिस ने केवल 180W का पूर्ण भार पर उपभोग किया, जिससे उनके पीयूई योगदान में कमी आई।
इसी तरह के उन्नयन का मूल्यांकन करने वाले संगठनों के लिए,920-9B110-00FH-0D0 कीमततुलनात्मक रूप से समान 200Gb / s ईथरनेट स्विच के खिलाफ अनुकूल है जब कम एनआईसी ओवरहेड और महंगे हानि रहित-ईथरनेट लाइसेंसिंग के उन्मूलन के लिए लेखांकन किया जाता है। कई वितरक अब सूचीबद्ध हैंबिक्री के लिए 920-9B110-00FH-0D0टीम के आरओआई विश्लेषण ने केवल जीपीयू उपयोग में सुधार से 9 महीने की प्रतिफल अवधि दिखाई।
तैनाती ने पुष्टि की किNVIDIA Mellanox 920-9B110-00FH-0D0माइक्रोसेकंड से कम विलंबता, पूर्ण द्वि-खंडीय बैंडविड्थ और आरडीएमए-देशी दक्षता के अपने वादे को पूरा करता है। अगली पीढ़ी के एआई क्लस्टर या एचपीसी सिस्टम डिजाइन करने वाले वास्तुकारों के लिए,यह स्विच एक सिद्धजैसे-जैसे कार्यभार एक्सैस्केल की ओर बढ़ता जाता है,920-9B110-00FH-0D0उच्च-प्रदर्शन वाले इंटरकनेक्ट डिजाइन में सबसे आगे रहेगा।