NVIDIA Mellanox MCX653105A-HDAT सर्वर एडाप्टर एक्शन मेंः आरडीएमए/आरओसीई कम विलंबता परिवहन और सर्वर

आधुनिक डेटा केंद्रों में, वितरित भंडारण, उच्च-प्रदर्शन कंप्यूटिंग (एचपीसी), और एआई प्रशिक्षण समूहों को एक आम बाधा का सामना करना पड़ता हैः नेटवर्क।पारंपरिक टीसीपी/आईपी स्टैक महत्वपूर्ण विलंबता और सीपीयू ओवरहेड पेश करते हैंइस केस स्टडी में इस बात की जांच की गई है कि कैसे एक मध्यम आकार के क्लाउड प्रदाता ने इन चुनौतियों से निपटने के लिएNVIDIA Mellanox MCX653105A-HDATआरडीएमए/आरओसीई आधारित कम विलंबता परिवहन को सक्षम करने और सर्वर थ्रूपुट को नाटकीय रूप से बढ़ाने के लिए सर्वर एडाप्टर।

पृष्ठभूमि और चुनौतियाँ: जब हर माइक्रोसेकंड मायने रखता है

प्रदाता का मौजूदा 25GbE बुनियादी ढांचा, मानक TCP/IP चला रहा था, उनके नए NVMe-over-Fabrics भंडारण बैकएंड का समर्थन करने के लिए संघर्ष कर रहा था।स्टोरेज नोड्स पर सीपीयू उपयोग नियमित रूप से केवल नेटवर्क प्रसंस्करण से 70% से अधिक था, और इंटर-नोड विलंबता 50μs के आसपास घूमती है ¢ उनके विलंबता संवेदनशील डेटाबेस कार्यभार के लिए अस्वीकार्य। इसके अलावा, जैसा कि वे सैकड़ों नोड्स तक बढ़े,नेटवर्क भीड़भाड़ ने एप्लिकेशन एसएलए को प्रभावित करने वाले पूंछ विलंबता स्पाइक्स का कारण बनाउन्हें एक ऐसे समाधान की आवश्यकता थी जो नेटवर्क ओवरहेड को कम कर सके, सब-माइक्रोसेकंड विलंबता प्रदान कर सके, और लोड के तहत लगातार प्रदर्शन बनाए रख सके।

समाधान और तैनाती: MCX653105A-HDAT ConnectX एडाप्टर PCIe नेटवर्क कार्ड का परिचय

कई विकल्पों का मूल्यांकन करने के बाद, टीम नेMCX653105A-HDAT ईथरनेट एडाप्टर कार्डइसकी दोहरी-पोर्ट 100GbE क्षमता और RoCE (RDMA over Converged Ethernet) के लिए मूल समर्थन के लिए।NVIDIA Mellanox MCX653105A-HDAT120 स्टोरेज और कंप्यूटिंग नोड्स पर तैनात किया गया था, निम्न कॉन्फ़िगरेशन के साथः

• RoCE सक्षमभीड़भाड़ नियंत्रण के लिए ECN (स्पष्ट भीड़भाड़ सूचना) और DCQCN के साथ
• एनवीएमई-ओएफ लक्ष्य लोडहार्डवेयर के लिए, भंडारण I/O के लिए मेजबान CPU को दरकिनार करना
• विभाजनभंडारण यातायात के लिए हानि रहित प्राथमिकता प्रवाह में
• टेलीमेट्री निगरानीएडाप्टर के अंतर्निहित प्रदर्शन काउंटर का उपयोग करके

के अनुसारMCX653105A-HDAT डेटाशीट, कार्ड इनफिनिबैंड और ईथरनेट प्रोटोकॉल दोनों का समर्थन करता है, लेकिन टीम ने अपने मौजूदा ईथरनेट स्विच के साथ निर्बाध रूप से एकीकृत करने के लिए RoCEv2 चुना। संगतता सरल थीःसभी प्रमुख सर्वर मॉडल थेMCX653105A-HDAT संगत, केवल मानक पीसीआईई स्लॉट और अद्यतन फर्मवेयर की आवश्यकता होती है। एडेप्टर की लाइव माइग्रेशन सुविधाओं का उपयोग करके शून्य डाउनटाइम के साथ दो सप्ताहांत में तैनाती पूरी की गई थी।

परिणाम और लाभः मापने योग्य प्रदर्शन लाभ

इसका प्रभाव तत्काल और पर्याप्त था। निम्नलिखित तालिका में मुख्य मीट्रिक का सारांश हैMCX653105A-HDAT ईथरनेट एडाप्टर कार्ड समाधान:

इन आंकड़ों के अलावा, टीम ने अतिरिक्त परिचालन लाभों का उल्लेख किया।MCX653105A-HDAT विनिर्देशहार्डवेयर आधारित कनेक्शन ट्रैकिंग और एएसएपी 2 प्रवाह ऑफलोड शामिल हैं, जिसने पूर्व-पश्चिम यातायात की गति को कम किया और चिकनी स्केलिंग की अनुमति दी।MCX653105A-HDAT कीमतछह महीने के भीतर सीपीयू कोर लाइसेंसिंग लागत में कमी और नोड प्रति उच्च भंडारण घनत्व के कारण उचित था।बिक्री के लिए MCX653105A-HDATमानक चैनलों के माध्यम से, इस प्रदर्शन को सभी आकारों के संगठनों के लिए सुलभ बना रहा है।

सारांश और दृष्टिकोण: अगली पीढ़ी के बुनियादी ढांचे के लिए एक नींव

यह मामला दर्शाता है किMCX653105A-HDAT कनेक्टएक्स एडाप्टर PCIe नेटवर्क कार्डयह केवल एक तेज़ एनआईसी नहीं है, यह वास्तविक डेटा-केंद्रित कंप्यूटिंग के लिए एक मंच है।NVIDIA Mellanox MCX653105A-HDATसर्वरों के संचार के तरीके को बदलता है, पुराने प्रोटोकॉल ओवरहेड को समाप्त करता है और NVMe स्टोरेज और वितरित मेमोरी कपड़े की पूरी क्षमता को अनलॉक करता है।

भविष्य को देखते हुए, प्रदाता एआई प्रशिक्षण कार्यभार के लिए GPUDirect RDMA को शामिल करने के लिए अपनी तैनाती का विस्तार करने की योजना बना रहा है,साथ ही कस्टम पैकेट प्रसंस्करण के लिए एडेप्टर की प्रोग्रामेबिलिटी सुविधाओं का पता लगानेआईटी आर्किटेक्ट और नेटवर्क इंजीनियरों के लिए समान स्केलिंग चुनौतियों का सामना करना पड़ रहा है,MCX653105A-HDAT ईथरनेट एडाप्टर कार्डकम विलंबता, उच्च थ्रूपुट डेटा सेंटर नेटवर्किंग के लिए एक सिद्ध, भविष्य के लिए तैयार मार्ग प्रदान करता है।