NVIDIA Mellanox MCX556A-ECAT सर्वर अडैप्टर एक्शन में | RDMA/RoCE लो-लेटेंसी ट्रांसपोर्ट और सर्वर थ्रूपुट लाभ

NVIDIA Mellanox MCX556A-ECAT सर्वर एडाप्टर कार्रवाई में।

पृष्ठभूमि और चुनौतीः जब 100GbE विलंबता दीवार से मिलता है

एक अग्रणी मात्रात्मक व्यापारिक फर्म - चलो उन्हें "अल्फाक्वांट" कहते हैं - एक महत्वपूर्ण बुनियादी ढांचे के संकट का सामना कर रहा था।जो प्रति सेकंड 2 मिलियन से अधिक बाजार संदेशों को संसाधित करता है, अप्रत्याशित विलंबता स्पाइक्स का अनुभव कर रहा था जो सीधे P & L को प्रभावित करता था। फर्म पहले ही 100GbE नेटवर्क में अपग्रेड कर चुकी थी, लेकिन उनके मौजूदा सर्वर एडाप्टर इसे बनाए नहीं रख सकते थे।टीसीपी/आईपी स्टैक उनके ट्रेडिंग सर्वर पर सीपीयू कोर का 30% से अधिक खपत कर रहा था, और सॉफ्टवेयर आधारित नेटवर्किंग स्टैक ने जिटटर को पेश किया जिसने लगातार उप-10μs राउंड-ट्रिप समय प्राप्त करना असंभव बना दिया।भी कम प्रदर्शन कर रहा थाअल्फा क्वांट को अपने नेटवर्क I/O आर्किटेक्चर पर एक आमूलचूल पुनर्विचार करने की आवश्यकता थी।

उनकी खोज ने उन्हेंNVIDIA Mellanox MCX556A-ECATएक सर्वर एडाप्टर जिसे सबसे अधिक विलंबता-संवेदनशील वातावरण के लिए डिज़ाइन किया गया है। फर्म की वास्तुकला टीम ने मान्यता दी किMCX556A-ECAT कनेक्टएक्स एडाप्टर PCIe नेटवर्क कार्डसॉफ्टवेयर स्टैक की बाधा को दूर करने के लिए आवश्यक हार्डवेयर ऑफलोड और आरडीएमए क्षमताओं की पेशकश की।

समाधानः MCX556A-ECAT ईथरनेट एडाप्टर कार्ड को तैनात करना

अल्फाक्वांट नेMCX556A-ECAT ईथरनेट एडाप्टर कार्ड80 ट्रेडिंग सर्वर पर, प्रत्येक दोहरे QSFP28 बंदरगाहों से लैस है जो एक 100GbE कपड़े से जुड़े हैं।तैनाती ने व्यापार डेटा और भंडारण यातायात दोनों के लिए हानि रहित ईथरनेट परिवहन को सक्षम करने के लिए एडेप्टर के मूल RoCE v2 समर्थन का लाभ उठायासमाधान की कुंजी कन्वर्जेड ईथरनेट पर आरडीएमए चलाने की एडाप्टर की क्षमता थी, जो एक अलग इन्फिनिबैंड नेटवर्क की आवश्यकता को समाप्त करती है।टीम ने स्विच स्तर पर पीएफसी (प्राथमिकता प्रवाह नियंत्रण) और ईसीएन (स्पष्ट भीड़ सूचना) को कॉन्फ़िगर किया, व्यापार यातायात के लिए प्राथमिकता 3 और भंडारण के लिए प्राथमिकता 4 को समर्पित करता है।पूरी ट्रेडिंग और स्टोरेज फैब्रिक RDMA पर चल रही थी, जो कि एडॉप्टर के मौजूदा लिनक्स आधारित वातावरण के साथ व्यापक संगतता के कारण एक निर्बाध संक्रमण था।.

परिचालन के दृष्टिकोण से,MCX556A-ECAT संगतईकोसिस्टम अमूल्य साबित हुआ। कार्ड AlphaQuant के Dell PowerEdge सर्वर और एरिस्टा स्विच के साथ निर्दोष रूप से एकीकृत, केवल मानक NVIDIA ड्राइवर स्थापना की आवश्यकता है। टीम ने संदर्भित कियाMCX556A-ECAT डेटाशीटबफर आवंटन को ठीक से समायोजित करने और मिश्रित कार्यभार वातावरण के लिए इष्टतम प्रदर्शन प्राप्त करने के लिए एकजुट सेटिंग्स को बाधित करने के लिए, जिसमें बाजार डेटा का सेवन, ऑर्डर निष्पादन शामिल था,और वास्तविक समय जोखिम विश्लेषण.

मापने योग्य परिणामः विलंबता, थ्रूपुट और सीपीयू दक्षता

आरडीएमए के साथ आरओसीई के माध्यम से सक्षम किया गयाNVIDIA Mellanox MCX556A-ECAT, ट्रेडिंग एप्लिकेशन में अंत से अंत तक विलंबता औसत 42μs से घटकर केवल 6.5μs हो गई।ट्रेडिंग डेस्क को लाभदायक निष्पादन के लिए आवश्यक निर्धारकता प्रदान करनाउनके स्टोरेज बैकएंड के लिए, NVMe-oF रीड लेटेंसी 152μs से घटकर 18μs से कम हो गई ¢ एक 8 गुना सुधार जिसने जोखिम गणनाओं को 70% तक तेज कर दिया।

विलंबता के अलावा, सर्वर थ्रूपुट लाभ भी समान रूप से सम्मोहक थे। हार्डवेयर ऑफलोड इंजन में चेकसम ऑफलोड, एलएसओ/एलआरओ,और वीएलएएन टैगिंग सभी सर्वरों पर नेटवर्क प्रसंस्करण के लिए सीपीयू उपयोग को 32% से घटाकर 5% से कमइससे ट्रेडिंग एल्गोरिदम के लिए प्रति सर्वर 24 सीपीयू कोर मुक्त हुए, जिससे ऑर्डर थ्रूपुट 1.2 मिलियन से बढ़कर 2.1 मिलियन संदेश प्रति सेकंड हो गया।

परिचालन लाभः टीसीओ और बुनियादी ढांचे का समेकन

जबकि कच्चे प्रदर्शन के आंकड़े एक सम्मोहक कहानी बताते हैं, परिचालन लाभ समान रूप से महत्वपूर्ण थे।MCX556A-ECAT ईथरनेट एडाप्टर कार्ड समाधानएक अलग आरडीएमए कपड़े की आवश्यकता को समाप्त करके स्वामित्व की कुल लागत को कम किया (स्विच बुनियादी ढांचे में $ 350K से अधिक की बचत) ।पूर्ववर्ती एनआईसी की तुलना में प्रति सर्वर बिजली की खपत में 8W की कमी आई, लगभग 20% की वार्षिक शीतलन बचत में तब्दील होता है। इसके अतिरिक्त, एडेप्टर के दो-पोर्ट डिजाइन ने मूल रूप से रिडंडेंसी प्रदान की जब एक लिंक फ्लैपिंग का अनुभव किया,यातायात स्वचालित रूप से शून्य पैकेट हानि के साथ द्वितीयक पोर्ट पर विफल हो गया, जैसा कि एडाप्टर के टेलीमेट्री लॉग द्वारा सत्यापित किया गया है।

आईटी प्रबंधकों के लिएMCX556A-ECAT कीमतवैकल्पिक समाधानों के खिलाफ, अल्फाक्वांट के बुनियादी ढांचे के नेतृत्व ने कहा कि पुनर्भुगतान अवधि आठ महीने से कम थी, जो काफी हद तक बढ़ी हुई ट्रेडिंग थ्रूपुट और कम विलंबता दंड के कारण थी।टीम ने आगे की ओर देखने वाली वास्तुकला की भी सराहना कीबिक्री के लिए MCX556A-ECATवर्तमान में 100GbE का समर्थन करता है लेकिन उचित ऑप्टिक्स के साथ 40GbE या 50GbE पर भी चल सकता है, भविष्य के उन्नयन के लिए निवेश सुरक्षा सुनिश्चित करता है।

के अनुसारMCX556A-ECAT विनिर्देश, एडेप्टर में उन्नत टेलीमेट्री सुविधाएँ शामिल हैं ️ प्रति-पोर्ट पैकेट काउंटर, त्रुटि आँकड़े और तापमान निगरानी ️ जो अल्फाक्वांट ने अपने प्रोमेथियस / ग्राफाना स्टैक के साथ मूल रूप से एकीकृत की हैं।इससे व्यापारिक प्रदर्शन पर प्रभाव डालने से पहले केबल की गिरावट और स्विच भीड़ का सक्रिय पता लगाने में सक्षम था.

सारांश और दृष्टिकोण: अल्ट्रा-लो-लैटेंसी इन्फ्रास्ट्रक्चर के लिए एक ब्लूप्रिंट

अल्फाक्वांट की यात्राNVIDIA Mellanox MCX556A-ECAT100GbE बुनियादी ढांचे की पूरी क्षमता को उजागर करने के इच्छुक संगठनों के लिए एक स्पष्ट खाका प्रदर्शित करता है। दो-पोर्ट 100GbE थ्रूपुट, हार्डवेयर-त्वरित RoCE,और मौजूदा पारिस्थितिक तंत्रों के साथ सहज एकीकरण,MCX556A-ECAT ईथरनेट एडाप्टर कार्डनेटवर्क I/O को प्रदर्शन की बाधा से प्रतिस्पर्धात्मक लाभ में बदल देता है। इसके परिणाम 6.5 गुना कम विलंबता, 87% CPU ओवरहेड में कमी,और 75% अधिक ऑर्डर थ्रूपुट सबसे अधिक मांग वाले वातावरण में मापने योग्य व्यावसायिक परिणाम प्रदान करने के लिए एडेप्टर की क्षमता के लिए बोलते हैं.

आगे देखते हुए, जैसा कि एआई/एमएल वर्कलोड और वास्तविक समय विश्लेषण निर्धारक नेटवर्किंग के लिए मांग को आगे बढ़ाते हैं,MCX556A-ECAT कनेक्टएक्स एडाप्टर PCIe नेटवर्क कार्डफोर्कलिफ्ट अपग्रेड के बिना आरडीएमए को अपनाने के लिए एक ठोस आधार प्रदान करता है।लेकिन एक रणनीतिक संपत्तिविस्तृत ट्यूनिंग मापदंड और तैनाती सर्वोत्तम प्रथाएं आधिकारिक वेबसाइट पर उपलब्ध हैं।MCX556A-ECAT डेटाशीटकिसी भी गंभीर तैनाती के लिए एक आवश्यक संदर्भ।