NVIDIA Mellanox 920-9B110-00FH-0D0 इन्फिनिबँड स्विच तकनीकी समाधान

NVIDIA Mellanox 920-9B110-00FH-0D0 InfiniBand स्विच तकनीकी समाधान RDMA, HPC और AI क्लस्टर के लिए कम विलंबता इंटरकनेक्ट अनुकूलन के लिए

परियोजना पृष्ठभूमि और आवश्यकताओं का विश्लेषण

आधुनिक डेटा केंद्र जो एआई प्रशिक्षण, एचपीसी सिमुलेशन और वितरित भंडारण का समर्थन करते हैं, नेटवर्क परत पर बैंडविड्थ और विलंबता पर दोहरे दबाव का सामना करते हैं। जीपीयू नोड घनत्व बढ़ता रहता है,जबकि अंतर-नोड संचार पूंछ विलंबता और झटका समग्र क्लस्टर दक्षता के लिए सीमित कारक बन जाते हैंकई संगठनों के लिए, व्यावहारिक प्रश्न यह नहीं है कि 400Gb/s NDR को अपनाना है या नहीं, बल्कि एक सिद्ध, लागत प्रभावी HDR कपड़े का निर्माण कैसे करें जो अभी भी निर्धारक प्रदर्शन प्रदान करता है।

ऐसी परियोजना के लिए विशिष्ट आवश्यकताओं में कम विलंबता वाले आरडीएमए परिवहन, हानि रहित कपड़े व्यवहार, मौजूदा ईडीआर और एफडीआर बुनियादी ढांचे के साथ पिछड़े संगतता और एक स्पष्ट स्केलिंग पथ शामिल हैं।NVIDIA Mellanox 920-9B110-00FH-0D0 इन आवश्यकताओं को पूरा करने के लिए NVIDIA क्वांटम परिवार के भीतर 200Gb/s HDR InfiniBand स्विच के रूप में तैनात है.

समग्र नेटवर्क और सिस्टम आर्किटेक्चर डिजाइन

अनुशंसित वास्तुकला एक दो-स्तरीय रीढ़-पत्ती InfiniBand कपड़े है जो 200Gb / s HDR लिंक पर निर्मित है। पत्ती स्विच कंप्यूटिंग नोड्स, स्टोरेज लक्ष्य और प्रबंधन सर्वर को जोड़ते हैं,जबकि रीढ़ की हड्डी स्विच अंतर-पत्ती कनेक्टिविटी और पथ विविधता प्रदान करते हैंयह डिजाइन हॉप काउंट को कम रखता है और पूर्व-पश्चिम यातायात के लिए गैर-ब्लॉकिंग बैंडविड्थ सुनिश्चित करता है, जो एचपीसी और एआई वर्कलोड पर हावी है।

एंडपॉइंट परत पर, होस्ट चैनल एडाप्टर आरडीएमए मोड में काम करते हैं, जो सीपीयू हस्तक्षेप के बिना मेमोरी-टू-मेमोरी हस्तांतरण को सक्षम करते हैं। कपड़े भीड़ नियंत्रण, अनुकूली रूटिंग,और सामूहिक त्वरणप्रबंधन और टेलीमेट्री यातायात एक ही भौतिक बुनियादी ढांचे को साझा करता है लेकिन QoS नीतियों के माध्यम से अलग है ताकि निगरानी उत्पादन कार्यभार में हस्तक्षेप न करे।

मुख्य डिजाइन सिद्धांतों में शामिल हैंः

• विलंबता को कम करने और समस्या निवारण को सरल बनाने के लिए फ्लैट टोपोलॉजी
• स्तरों के बीच गैर-ब्लॉकिंग या कम ओवरसब्सक्राइब लिंक
• आवश्यकतानुसार ईडीआर/एफडीआर पिछड़े संगतता के साथ सुसंगत एचडीआर एंड-टू-एंड
• उच्च उपलब्धता और लोड संतुलन के लिए अनावश्यक पथ
• परिचालन सुसंगतता के लिए मानक InfiniBand प्रबंधन

NVIDIA Mellanox 920-9B110-00FH-0D0 की भूमिका और प्रमुख विशेषताएं

NVIDIA Mellanox 920-9B110-00FH-0D0 इस कपड़े के मूल निर्माण खंड के रूप में कार्य करता है। एक 920-9B110-00FH-0D0 MQM8790-HS2F 200Gb / s HDR प्लेटफॉर्म के रूप में,यह 40 QSFP56 पोर्ट और 16Tb/s गैर-ब्लॉकिंग स्विचिंग क्षमता 1U फॉर्म फैक्टर में प्रदान करता हैयह घनत्व उच्च-आधार वाली पत्तियों की भूमिकाओं का समर्थन करता है और घने रैक में केबलिंग को सरल बनाता है।

920-9B110-00FH-0D0 विनिर्देशों की समीक्षा करने वाली टीमों के लिए, स्विच सामूहिक ऑपरेशन ऑफलोड के लिए RDMA, MPI, और NVIDIA SHARP का समर्थन करता है।उन्नत भीड़ नियंत्रण और अनुकूली रूटिंग एआई प्रशिक्षण और एमपीआई कार्यभार में आम पूंछ विलंबता और इनकास्ट समस्याओं को लक्षित करते हैं920-9B110-00FH-0D0 InfiniBand स्विच OPN मानक InfiniBand प्रबंधन उपकरण के साथ भी एकीकृत है, परिचालन सीखने की वक्र को कम करता है।

एक 920-9B110-00FH-0D0 InfiniBand स्विच OPN समाधान की योजना बनाते समय, आर्किटेक्ट्स को 920-9B110-00FH-0D0 संगत घटकों की पुष्टि करनी चाहिए, जिसमें QSFP56 केबल, मेजबान चैनल एडाप्टर,और फर्मवेयर संस्करण. डिजाइन चरण की शुरुआत में 920-9B110-00FH-0D0 डेटाशीट की समीक्षा करने से खरीद से पहले बिजली, शीतलन और रैक स्थान की आवश्यकताओं को मान्य करने में मदद मिलती है।

तैनाती और स्केलिंग की सिफारिशें

एक विशिष्ट तैनाती 32 से 64 कंप्यूटिंग नोड्स की एक पायलट पोड के साथ शुरू होती है जो 920-9B110-00FH-0D0 लीफ स्विच की एक जोड़ी से जुड़ी होती है। क्लस्टर बढ़ने के साथ रीढ़ की हड्डी कनेक्टिविटी जोड़ी जाती है,पत्तियों के बीच गैर अवरोधक बैंडविड्थ बनाए रखनायह वृद्धिशील दृष्टिकोण पूर्ण पैमाने पर रोलआउट से पहले विलंबता और थ्रूपुट की पुष्टि की अनुमति देता है।

स्केलिंग के लिए, कपड़े को सममित रखेंः पत्ती और रीढ़ की क्षमता को मेल खाने वाली वृद्धि में जोड़ें ताकि ओवरसब्सक्राइब रेशियो अनुमानित रहे।केबल प्रबंधन और पोर्ट लेबलिंग को शुरू से ही मानकीकृत किया जाना चाहिए, क्योंकि उच्च घनत्व वाले QSFP56 तैनाती को बनाए रखना मुश्किल हो जाता है यदि भौतिक लेआउट असंगत है।

नीचे दी गई तालिका में दो स्तरीय डिजाइन विचार का सारांश दिया गया हैः

संचालन, निगरानी, समस्या निवारण और अनुकूलन

परिचालन की सफलता दृश्यता पर निर्भर करती है। InfiniBand कपड़े लिंक त्रुटियों, भीड़ घटनाओं और बफर उपयोग के लिए काउंटर प्रदान करते हैं।इन्हें निरंतर एकत्र किया जाना चाहिए और कार्य शेड्यूलर डेटा के साथ सहसंबंधित किया जाना चाहिए, इसलिए प्रदर्शन प्रतिगमन का पता लगाने के बजाय विशिष्ट कपड़े खंडों पर लगाया जा सकता है।

सामान्य समस्या निवारण परिदृश्यों में क्रेडिट स्टॉल, गलत कॉन्फ़िगर QoS, और स्विच और एडेप्टर के बीच फर्मवेयर असंगतता शामिल हैं। एक संरचित चेकलिस्टरूटिंग नीति की पुष्टि करें, भीड़भाड़ टेलीमेट्री का निरीक्षण कर सकते हैं समाधान के लिए औसत समय को कम करें। अनुकूलन प्रयासों को औसत थ्रूपुट के बजाय पूंछ विलंबता पर ध्यान केंद्रित करना चाहिए,चूंकि एचपीसी और एआई वर्कलोड सबसे खराब व्यवहार के प्रति संवेदनशील हैं.

खरीद और जीवनचक्र नियोजन के लिए, टीम अक्सर 920-9B110-00FH-0D0 मूल्य और 920-9B110-00FH-0D0 की तुलना अधिकृत चैनलों में बिक्री विकल्पों के लिए करती है। मूल्य निर्धारण कॉन्फ़िगरेशन पर निर्भर करता है,समर्थन स्तर, और क्षेत्र, इसलिए वितरकों और NVIDIA उद्यम प्रतिनिधियों के साथ प्रारंभिक भागीदारी की सिफारिश की जाती है।

सारांश और मूल्य निर्धारण

NVIDIA Mellanox 920-9B110-00FH-0D0 RDMA, HPC, और AI क्लस्टर इंटरकनेक्ट के लिए एक सिद्ध 200Gb / s HDR आधार प्रदान करता है। कपड़े के स्तर को कम करके, सामूहिक त्वरण का समर्थन करके,और हानि रहित कम विलंबता परिवहन को सक्षम करनानेटवर्क आर्किटेक्ट्स और पूर्व-बिक्री इंजीनियरों के लिए,यह एचडीआर इन्फिनिबैंड कपड़े के लिए एक व्यावहारिक और स्केलेबल बिल्डिंग ब्लॉक का प्रतिनिधित्व करता है जिसमें आगे का रास्ता स्पष्ट है.