NVIDIA Mellanox MCX4121A-ACAT सर्वर एडाप्टर कार्रवाई में।

NVIDIA Mellanox MCX4121A-ACAT सर्वर एडाप्टर कार्रवाई में।

पृष्ठभूमि और चुनौतीः जब 25GbE विलंबता की दीवार से मिलता है

एक मध्यम आकार का क्लाउड सेवा प्रदाता ∙ चलो उन्हें "CloudNova" कहते हैं ∙ एक परिचित लेकिन दर्दनाक बाधा का सामना कर रहा था. उनका डेटा सेंटर 25GbE बुनियादी ढांचे पर चला,लेकिन आवेदन प्रदर्शन एक अलग कहानी बतायाडेटाबेस प्रतिकृति में देरी हुई, वितरित मशीन लर्निंग नौकरियों ने ग्रेडिएंट सिंक्रनाइज़ेशन पर ठहराव किया, और NVMe स्टोरेज सरणी ने कभी भी अपने वादा किए गए IOPS को वितरित नहीं किया। अपराधी?पारंपरिक टीसीपी/आईपी स्टैक ओवरहेड अपने कंप्यूटिंग नोड्स पर 25% से अधिक सीपीयू कोर का उपभोग कर रहा था, और मौजूदा एनआईसी में आरडीएमए के लिए हार्डवेयर की कमी थी। उन्हें न केवल अधिक बैंडविड्थ की आवश्यकता थी, बल्किप्रयोग करने योग्यमाइक्रोसेकंड के स्तर पर निर्धारकता के साथ बैंडविड्थ.NVIDIA Mellanox MCX4121A-ACAT∙ एक कार्ड जो आधुनिक डेटा सेंटरों के लिए ठीक से बनाया गया है।

समाधानः MCX4121A-ACAT ईथरनेट एडाप्टर कार्ड को तैनात करना

CloudNova की आर्किटेक्चर टीम ने अपने पुराने 10GbE NIC कोMCX4121A-ACAT ईथरनेट एडाप्टर कार्ड120 कंप्यूटिंग नोड्स पर, प्रत्येक दोहरे SFP28 पोर्ट से लैस है। तैनाती ने नुकसान रहित ईथरनेट परिवहन को सक्षम करने के लिए एडेप्टर के मूल RoCE v2 समर्थन का लाभ उठाया,अलग-अलग InfiniBand कपड़े की आवश्यकता को समाप्त करनासमाधान की कुंजी थीMCX4121A-ACAT ConnectX-4 Lx दोहरी बंदरगाह 25GbE SFP28डिजाइन, जो प्रति सर्वर 50Gb/s कुल थ्रूपुट के लिए सक्रिय-सक्रिय लिंक बॉन्डिंग की अनुमति देता है।टीम ने स्विच स्तर पर पीएफसी (प्राथमिकता प्रवाह नियंत्रण) और ईसीएन (स्पष्ट भीड़ सूचना) को कॉन्फ़िगर कियादो सप्ताह के भीतर, यह सुनिश्चित किया गया कि पीक लोड के दौरान भी RoCE यातायात हानि रहित रहे।पूरे भंडारण और कंप्यूटिंग कपड़े आरडीएमए पर चल रहा था एक संक्रमण मौजूदा एसएफपी 28 केबलिंग और मेलनॉक्स स्पेक्ट्रम स्विच के साथ एडेप्टर के आउट-ऑफ-द-बॉक्स संगतता द्वारा निर्बाध बनाया गया.

परिचालन के दृष्टिकोण से,MCX4121A-ACAT संगतईकोसिस्टम अमूल्य साबित हुआ। कार्ड CloudNova के उबंटू-आधारित सर्वर और कुबरनेट्स क्लस्टर के साथ निर्दोष रूप से एकीकृत थे, केवल मानक ड्राइवर स्थापना की आवश्यकता थी। टीम नेMCX4121A-ACAT डेटाशीटबफर आवंटन को ठीक करने और मिश्रित कार्यभार वातावरण के लिए इष्टतम प्रदर्शन प्राप्त करने, जिसमें MySQL क्लस्टर, स्पार्क एनालिटिक्स,और TensorFlow प्रशिक्षण नौकरियों.

मापने योग्य परिणामः थ्रूपुट, लेटेंसी और सीपीयू दक्षता

आरडीएमए के साथ आरओसीई के माध्यम से सक्षम किया गयाNVIDIA Mellanox MCX4121A-ACAT, स्टोरेज बैकएंड ने NVMe-oF रीड लेटेंसी को 85μs से घटाकर केवल 12μs ¢ में 7 गुना सुधार देखा। प्राथमिक और स्टैंडबाय नोड्स के बीच डेटाबेस प्रतिकृति देरी 320ms से घटकर 2ms से कम हो गई।लगभग समवर्ती विफलता को सक्षम करनामशीन लर्निंग वर्कलोड के लिए, ResNet-50 प्रशिक्षण के लिए सभी-कम सिंक्रनाइज़ेशन समय में 62% की कमी आई, जिससे समग्र युग प्रशिक्षण समय 4.2 घंटे से घटकर 1.6 घंटे हो गया।

विलंबता के अलावा, सर्वर थ्रूपुट लाभ भी समान रूप से सम्मोहक थे। हार्डवेयर ऑफलोड इंजन में चेकसम ऑफलोड, एलएसओ/एलआरओ,और वीएलएएन टैगिंग सभी नोड्स में नेटवर्क प्रसंस्करण के लिए सीपीयू उपयोग को 28% से घटाकर 5% से कमइसने एप्लिकेशन लॉजिक के लिए प्रति सर्वर 20 से अधिक सीपीयू कोर मुक्त किए, सीधे कंटेनर घनत्व को 40% बढ़ाया।MCX4121A-ACAT विनिर्देश, कार्ड उप-1μs विलंबता के साथ प्रति पोर्ट 25GbE लाइन दर प्रदान करता है, और CloudNova के आंतरिक बेंचमार्क ने उत्पादन में इन संख्याओं की पुष्टि की।

परिचालन लाभः टीसीओ और भविष्य की तैयारी

जबकि कच्चे प्रदर्शन के आंकड़े एक सम्मोहक कहानी बताते हैं, परिचालन लाभ समान रूप से महत्वपूर्ण थे।MCX4121A-ACAT ईथरनेट एडाप्टर कार्ड समाधानएक अलग आरडीएमए कपड़े की आवश्यकता को समाप्त करके स्वामित्व की कुल लागत को कम किया (स्विच बुनियादी ढांचे में $ 180K से अधिक की बचत) ।पूर्ववर्ती एनआईसी की तुलना में प्रति सर्वर बिजली की खपत में 8W की कमी आई, जो लगभग 15% की वार्षिक शीतलन बचत में तब्दील होता है। इसके अतिरिक्त, एडेप्टर के दो-पोर्ट डिजाइन ने मूल रूप से रिडंडेंसी प्रदान की जब एक लिंक फ्लैप का अनुभव किया,यातायात स्वचालित रूप से शून्य पैकेट हानि के साथ द्वितीयक पोर्ट पर विफल हो गया, जैसा कि एडाप्टर के टेलीमेट्री लॉग द्वारा सत्यापित किया गया है।

आईटी प्रबंधकों के लिएMCX4121A-ACAT मूल्यक्लाउडनोवा के सीएफओ ने कहा कि वैकल्पिक समाधानों के मुकाबले वापसी की अवधि 10 महीने से कम थी, जो काफी हद तक सर्वर उपयोग में वृद्धि और काम पूरा करने के समय में कमी के कारण थी।टीम ने आगे की ओर देखने वाली वास्तुकला की भी सराहना कीबिक्री के लिए MCX4121A-ACATवर्तमान में 25GbE का समर्थन करता है, लेकिन भविष्य के उन्नयन के लिए निवेश सुरक्षा सुनिश्चित करते हुए उपयुक्त ऑप्टिक्स के साथ 10GbE या 40GbE वातावरण के लिए पुनः उपयोग किया जा सकता है।

सारांश और दृष्टिकोणः आरडीएमए-तैयार डेटा केंद्रों के लिए एक ब्लूप्रिंट

CloudNova की यात्राNVIDIA Mellanox MCX4121A-ACAT25GbE बुनियादी ढांचे की पूरी क्षमता को उजागर करने के इच्छुक संगठनों के लिए एक स्पष्ट खाका प्रदर्शित करता है।और मौजूदा पारिस्थितिक तंत्रों के साथ सहज एकीकरण,MCX4121A-ACAT ईथरनेट एडाप्टर कार्डनेटवर्क I/O को एक फ्लैटलॉक से प्रदर्शन सक्षम करने वाले में बदल देता है। परिणाम ¢ 7 गुना कम स्टोरेज विलंबता, 83% सीपीयू ओवरहेड में कमी,और 62% तेजी से एमएल प्रशिक्षण, मापने योग्य व्यावसायिक परिणाम देने के लिए अनुकूलक की क्षमता के लिए बोलते हैं.

भविष्य की ओर देखते हुए, जैसे-जैसे एआई वर्कलोड और रीयल-टाइम एनालिटिक्स निर्धारक नेटवर्किंग के लिए मांग को आगे बढ़ाते हैं,MCX4121A-ACAT ConnectX-4 Lx दोहरी बंदरगाह 25GbE SFP28फोर्कलिफ्ट अपग्रेड के बिना आरडीएमए को अपनाने के लिए एक ठोस आधार प्रदान करता है।लेकिन एक रणनीतिक संपत्तिविस्तृत ट्यूनिंग मापदंड और तैनाती सर्वोत्तम प्रथाएं आधिकारिक वेबसाइट पर उपलब्ध हैं।MCX4121A-ACAT डेटाशीटकिसी भी गंभीर तैनाती के लिए एक आवश्यक संदर्भ।