आरडीएमए/आरओसीई कम विलंबता परिवहन और सर्वर थ्रूपुट सफलता

एक तेजी से बढ़ता हुआ AI अनुसंधान प्रयोगशाला एक परिचित समस्या से जूझ रही थी: उनका 100GbE इंफ्रास्ट्रक्चर वायर-रेट बैंडविड्थ प्रदान कर रहा था, लेकिन एप्लिकेशन लेटेंसी लगातार ऊंची बनी हुई थी। वितरित प्रशिक्षण नौकरियों में बार-बार नेटवर्क जिटर की समस्या आ रही थी, और NVMe-ओवर-फैब्रिक्स स्टोरेज एक्सेस से अप्रत्याशित देरी हो रही थी। मूल कारण? पारंपरिक TCP/IP स्टैक पैकेट प्रोसेसिंग के लिए लगभग 30% CPU कोर का उपभोग कर रहे थे, जिससे वास्तविक वर्कलोड के लिए कम कंप्यूटिंग शक्ति बच रही थी। टीम को एक मौलिक बदलाव की आवश्यकता थी - होस्ट सीपीयू पर बोझ डाले बिना डेटा को स्थानांतरित करना। उस खोज ने उन्हें मूल्यांकन करने के लिए प्रेरित किया मेलानॉक्स (एनवीडिया मेलानॉक्स) MCX653105A-HDAT सर्वर एनआईसी।

प्रयोगशाला ने MCX653105A-HDAT को 24 कंप्यूट नोड्स में परिनियोजित किया, जिनमें से प्रत्येक में डुअल-पोर्ट 100GbE कनेक्टिविटी थी। एक मूल MCX653105A-HDAT कनेक्टएक्स एडॉप्टर PCIe नेटवर्क कार्ड के रूप में, यह हार्डवेयर-ऑफलोडेड RoCE (RDMA ओवर कन्वर्ज्ड ईथरनेट) का समर्थन करता है, जिससे डेटा कर्नेल को बायपास कर सकता है और सीधे मेमोरी क्षेत्रों के बीच स्थानांतरित हो सकता है। कॉन्फ़िगरेशन प्रक्रिया सीधी थी: MCX653105A-HDAT संगत सर्वर (सुपरमाइक्रो और डेल पावरएज) को सत्यापित करने के बाद, इंजीनियरों ने नवीनतम MLNX_OFED ड्राइवर स्थापित किए और DCQCN कंजेशन कंट्रोल के साथ RoCE को सक्षम किया। MCX653105A-HDAT ईथरनेट एडॉप्टर कार्ड ने तुरंत सीपीयू से नेटवर्क प्रोसेसिंग को ऑफलोड कर दिया, जिससे सॉफ्टवेयर ओवरहेड लगभग शून्य हो गया।

स्टोरेज ट्रैफिक के लिए, टीम ने RDMA पर सीधे NVMe नेमस्पेस मैप किए। एनवीडिया मेलानॉक्स MCX653105A-HDAT ने सब-माइक्रोसेकंड लेटेंसी के साथ डेटा मूवमेंट को संभाला, जबकि हार्डवेयर-आधारित स्टीयरिंग ने कंप्यूट और स्टोरेज फ्लो के बीच अलगाव सुनिश्चित किया। MCX653105A-HDAT डेटाशीट के अनुसार, एडॉप्टर 200Gb/s तक एग्रीगेट थ्रूपुट का समर्थन करता है - और व्यवहार में, प्रयोगशाला ने पूर्ण लोड के तहत एक भी पैकेट ड्रॉप किए बिना प्रति पोर्ट लाइन-रेट 100GbE प्राप्त किया।

• एंड-टू-एंड लेटेंसी में 50% की कमी: MPI पिंग-पोंग परीक्षण 2.8µs (TCP) से 1.4µs (RoCE) तक गिर गए।
• सीपीयू उपयोग में 70% की कमी: नेटवर्क स्टैक प्रोसेसिंग पूरी तरह से हार्डवेयर में स्थानांतरित हो गई, जिससे मॉडल प्रशिक्षण के लिए कोर मुक्त हो गए।
• स्टोरेज IOPS दोगुना हो गया: NVMe-oF ओवर RDMA ने सॉफ्टवेयर ब्रिज को समाप्त कर दिया, जिससे छोटे-ब्लॉक एक्सेस के लिए लेटेंसी 10µs से नीचे चली गई।

टीम ने अपने उत्पादन वातावरण के खिलाफ MCX653105A-HDAT विनिर्देशों को भी मान्य किया: PCIe 4.0 x16 इंटरफ़ेस, डुअल-स्लॉट थर्मल डिज़ाइन, और RoCE कंजेशन नोटिफिकेशन के लिए पूर्ण समर्थन। क्षमता योजना के लिए, उन्होंने कुल स्वामित्व लागत के मुकाबले MCX653105A-HDAT मूल्य की समीक्षा की - एडॉप्टर ने सर्वर फैलाव को कम करके और वर्कलोड घनत्व में सुधार करके तीन महीने के भीतर खुद को चुकाया। अधिकृत वितरकों के माध्यम से MCX653105A-HDAT बिक्री के लिए की खोज करते समय, उन्हें कई कॉन्फ़िगरेशन विकल्प मिले (सिंगल-पोर्ट, डुअल-पोर्ट, सिक्योर बूट के साथ या उसके बिना)।

यह परिनियोजन पुष्टि करता है कि एनवीडिया मेलानॉक्स MCX653105A-HDAT एक हाई-स्पीड एनआईसी से कहीं अधिक है - यह एक पूर्ण डेटा त्वरण मंच है। नेटवर्क प्रोसेसिंग को हार्डवेयर में ले जाकर और वास्तविक RDMA/RoCE को सक्षम करके, संगठन फोर्कलिफ्ट अपग्रेड के बिना सीपीयू-बाउंड नेटवर्किंग से मुक्त हो सकते हैं। चाहे आप AI प्रशिक्षण, वितरित डेटाबेस, या हाइपरकन्वर्ज्ड स्टोरेज चला रहे हों, MCX653105A-HDAT कनेक्टएक्स एडॉप्टर PCIe नेटवर्क कार्ड नियतात्मक कम लेटेंसी और अधिकतम थ्रूपुट प्रदान करता है। अपनी अगली इंफ्रास्ट्रक्चर रीफ्रेश की योजना बनाने वाली टीमों के लिए, MCX653105A-HDAT डेटाशीट और MCX653105A-HDAT विनिर्देशों की समीक्षा करना पहला तार्किक कदम है। एडॉप्टर वैश्विक वितरकों के माध्यम से व्यापक रूप से MCX653105A-HDAT बिक्री के लिए उपलब्ध है, और प्रमुख सर्वर प्लेटफार्मों के साथ संगतता एक सुचारू प्रवासन पथ सुनिश्चित करती है। जैसा कि एक इंजीनियर ने संक्षेप में कहा: " MCX653105A-HDAT ईथरनेट एडॉप्टर कार्ड ने हमारे 100GbE फैब्रिक को एक बाधा से प्रदर्शन गुणक में बदल दिया।"