NVIDIA Mellanox MQM9790-NS2F इन्फिनिबँड स्विच इन प्रॅक्टिस | RDMA, HPC साठी लो-लेटन्सी इंटरकनेक्ट ऑप्टिमायझेशन

NVIDIA Mellanox MQM9790-NS2F इन्फिनिबँड स्विच व्यवहार में｜RDMA, HPC, और AI क्लस्टर के लिए लो-लेटेंसी इंटरकनेक्ट ऑप्टिमाइज़ेशन

आधुनिक AI ट्रेनिंग, HPC सिमुलेशन, और डिस्ट्रीब्यूटेड स्टोरेज वातावरण में, वास्तविक बाधा शायद ही कभी रॉ कंप्यूट पावर होती है—यह नोड-टू-नोड इंटरकनेक्ट की दक्षता है। NVIDIA Mellanox MQM9790-NS2F, एक 400Gb/s NDR इन्फिनिबँड स्विच, विशेष रूप से स्टैक की इस परत को संबोधित करने के लिए डिज़ाइन किया गया है। यह लेख MQM9790-NS2F लो-लेटेंसी फैब्रिक डिज़ाइन के माध्यम से RDMA, HPC, और AI क्लस्टर प्रदर्शन को कैसे बेहतर बनाता है, यह दिखाने के लिए एक प्रतिनिधि परिनियोजन परिदृश्य के माध्यम से चलता है।

पृष्ठभूमि और चुनौतियाँ

एक विशिष्ट अनुसंधान या एंटरप्राइज़ AI क्लस्टर में सैकड़ों GPU सर्वर, एक पैरेलल फ़ाइल सिस्टम, और एक जॉब शेड्यूलर हो सकता है जो MPI और NCCL वर्कलोड वितरित करता है। जैसे-जैसे GPU पीढ़ी आगे बढ़ती है, प्रत्येक नोड 200Gb/s HDR फैब्रिक की तुलना में कहीं अधिक ईस्ट-वेस्ट ट्रैफ़िक उत्पन्न कर सकता है। टीमें आम तौर पर तीन दर्द बिंदुओं की रिपोर्ट करती हैं: कलेक्टिव ऑपरेशंस के दौरान टेल लेटेंसी में वृद्धि, फैब्रिक टियर्स में कंजेशन फैलना, और हॉप्स जोड़े बिना पोर्ट काउंट को स्केल करने में कठिनाई।

नेटवर्क आर्किटेक्ट्स के लिए, चुनौती केवल लिंक स्पीड को अपग्रेड करना नहीं है। यह नियतात्मक, लॉसलेस ट्रांसपोर्ट को बनाए रखना है, जबकि अनावश्यक लेटेंसी से बचने के लिए फैब्रिक को पर्याप्त रूप से फ्लैट रखना है। यहीं पर MQM9790-NS2F विनिर्देशों का वास्तविक वर्कलोड प्रोफाइल के विरुद्ध मूल्यांकन आवश्यक हो जाता है।

समाधान और परिनियोजन दृष्टिकोण

इस परिदृश्य में, क्लस्टर को MQM9790-NS2F इन्फिनिबँड स्विच के आसपास निर्मित 400Gb/s NDR स्पाइन-लीफ फैब्रिक में माइग्रेट किया गया था। एक MQM9790-NS2F 400Gb/s NDR 64-पोर्ट OSFP प्लेटफ़ॉर्म के रूप में, यह एक ही स्विच में उच्च रेडिक्स प्रदान करता है, जिससे डिज़ाइन को नॉन-ब्लॉकिंग बैंडविड्थ बनाए रखते हुए फैब्रिक टियर्स को कम करने की अनुमति मिलती है। परिनियोजन ने एक संरचित दृष्टिकोण का पालन किया:

• लीफ लेयर: MQM9790-NS2F स्विच 400Gb/s NDR लिंक के माध्यम से GPU नोड्स और स्टोरेज टारगेट को कनेक्ट करते हैं
• स्पाइन लेयर: अतिरिक्त MQM9790-NS2F यूनिट इंटर-लीफ कनेक्टिविटी और पाथ डाइवर्सिटी प्रदान करते हैं
• कलेक्टिव एक्सेलेरेशन: NVIDIA SHARPv3 MPI और NCCL ऑपरेशंस को फैब्रिक पर ऑफलोड करता है
• कंजेशन कंट्रोल: एडप्टिव रूटिंग और एडवांस्ड QoS इनकास्ट और हॉट स्पॉट से बचाते हैं
• मैनेजमेंट: फैब्रिक हेल्थ की निगरानी के लिए स्टैंडर्ड इन्फिनिबँड टूल्स और टेलीमेट्री

चूंकि MQM9790-NS2F इन्फिनिबँड स्विच क्वांटम-2 परिवार का हिस्सा है, यह मौजूदा इन्फिनिबँड प्रबंधन प्रथाओं और एडॉप्टर इकोसिस्टम के साथ इंटरऑपरेट करता है। MQM9790-NS2F संगत हार्डवेयर का मूल्यांकन करने वाली टीमों को यह सत्यापित करना चाहिए कि होस्ट चैनल एडॉप्टर, OSFP केबल और फर्मवेयर स्तर NDR आवश्यकताओं के साथ संरेखित हों। इस तरह के MQM9790-NS2F इन्फिनिबँड स्विच समाधान की योजना आमतौर पर मिश्रित-पीढ़ी के बॉटलनेक से बचने के लिए GPU रिफ्रेश साइकिल के साथ बनाई जाती है।

परिणाम और लाभ

परिनियोजन के बाद, सबसे स्पष्ट परिवर्तन कसकर युग्मित वर्कलोड के लिए जॉब पूर्णता समय में था। कलेक्टिव ऑपरेशंस जो पहले कंजेशन पर अटक जाते थे, अब कम और अधिक सुसंगत टेल लेटेंसी के साथ पूरे होते हैं। 64-पोर्ट OSFP घनत्व ने केबलिंग को भी सरल बनाया और किसी भी दो एंडपॉइंट्स के बीच स्विचिंग हॉप्स की संख्या को कम किया, जो सीधे RDMA प्रदर्शन को लाभ पहुंचाता है।

ऑपरेशंस के दृष्टिकोण से, फैब्रिक को समझना आसान हो गया। कम टियर्स का मतलब कम विफलता डोमेन और सरल समस्या निवारण है। NVMe ओवर फैब्रिक्स सहित स्टोरेज ट्रैफ़िक, कंप्यूट ट्रैफ़िक के समान लो-लेटेंसी ट्रांसपोर्ट साझा करता है, जो समग्र क्लस्टर उपयोगिता में सुधार करता है। आईटी प्रबंधकों के लिए, मुख्य बात यह है कि फैब्रिक लेयर में निवेश करने से कंप्यूट लेयर पर पहले से भुगतान की गई क्षमता को अनलॉक किया जा सकता है।

खरीद और योजना टीमें अक्सर डिज़ाइन को अंतिम रूप देने से पहले पोर्ट काउंट, पावर और कूलिंग एनवेलप की पुष्टि करने के लिए MQM9790-NS2F डेटाशीट की समीक्षा करती हैं। MQM9790-NS2F मूल्य और MQM9790-NS2F बिक्री के लिए उपलब्धता के बारे में प्रश्न अधिकृत वितरकों और NVIDIA एंटरप्राइज़ प्रतिनिधियों को निर्देशित किए जाते हैं, क्योंकि मूल्य निर्धारण कॉन्फ़िगरेशन, समर्थन और क्षेत्र पर निर्भर करता है। 

सारांश और आउटलुक

NVIDIA Mellanox MQM9790-NS2F प्रदर्शित करता है कि कैसे एक उच्च-रेडिक्स 400Gb/s NDR प्लेटफ़ॉर्म फैब्रिक जटिलता को बढ़ाए बिना AI, HPC, और RDMA क्लस्टर प्रदर्शन को नया आकार दे सकता है। जैसे-जैसे वर्कलोड स्केल करते हैं और GPU घनत्व बढ़ता है, लो-लेटेंसी इन्फिनिबँड स्विचिंग एक मूलभूत निवेश बनी रहेगी। अगले फैब्रिक रिफ्रेश की योजना बनाने वाले आर्किटेक्ट्स के लिए, MQM9790-NS2F नियतात्मक, उच्च-थ्रूपुट इंटरकनेक्ट के लिए एक व्यावहारिक बिल्डिंग ब्लॉक है।