NVIDIA Mellanox 920-9B210-00FN-0D0 की घोषणा: 400Gb/s NDR के साथ अल्ट्रा-स्केल AI नेटवर्क फाउंडेशन को फिर से परिभाषित करना

NVIDIA Mellanox 920-9B210-00FN-0D0 की घोषणा: 400Gb/s NDR के साथ अल्ट्रा-स्केल AI नेटवर्क फाउंडेशन को फिर से परिभाषित करना

जैसे-जैसे बड़े भाषा मॉडल सैकड़ों अरबों से खरबों मापदंडों तक स्केल करते हैं, पारंपरिक 200Gb/s HDR नेटवर्क घने सामूहिक संचार परिदृश्यों जैसे कि ऑल-टू-ऑल में अपनी सीमाएं दिखा रहे हैं, जहां नेटवर्क कंजेशन के कारण GPU उपयोग अक्सर गिर जाता है। NVIDIA ने आधिकारिक तौर पर का अनावरण किया है, जो एक 400Gb/s NDR InfiniBand स्विच है जिसे सबसे अधिक मांग वाले AI और HPC वर्कलोड के लिए आवश्यक बैंडविड्थ, घनत्व और इन-नेटवर्क इंटेलिजेंस प्रदान करने के लिए इंजीनियर किया गया है।

चुनौती: जब HDR बॉटलनेक बन जाता है

2,000 से अधिक नोड्स से परे अपने GPU क्लस्टर को स्केल करने वाले संगठनों के लिए, 200Gb/s HDR की सीमाएं तेजी से स्पष्ट हो जाती हैं। ऑल-रिड्यूस और ऑल-टू-ऑल ऑपरेशंस के दौरान - जो वितरित प्रशिक्षण के लिए मौलिक हैं - नेटवर्क कंजेशन GPU उपयोग को 85% से घटाकर 50% से नीचे कर सकता है, प्रभावी रूप से कंप्यूट निवेश में लाखों डॉलर बर्बाद कर सकता है। नेटवर्क आर्किटेक्ट्स को हजारों एंडपॉइंट्स पर दोषरहित प्रदर्शन बनाए रखते हुए नियतात्मक सब-माइक्रोसेकंड विलंबता प्रदान करने की दोहरी चुनौती का सामना करना पड़ता है।

(ऑर्डरिंग पार्ट नंबर) 64-पोर्ट OSFP प्लेटफॉर्म पर 400Gb/s NDR प्रदर्शन लाकर इन चुनौतियों का सामना करता है, जो सबसे अधिक मांग वाले AI प्रशिक्षण वातावरण में भी नेटवर्क-प्रेरित स्टॉल को खत्म करने के लिए आवश्यक हेडरूम और इंटेलिजेंस प्रदान करता है।मुख्य तकनीकी विशेषताएं

व्यापक रूप से अपनाए गए MQM9790-NS2F के समान सिलिकॉन पर निर्मित, 920-9B210-00FN-0D0 MQM9790-NS2F 400Gb/s NDR प्लेटफॉर्म एक्सस्केल-क्लास डिप्लॉयमेंट के लिए डिज़ाइन की गई सुविधाओं का एक व्यापक सेट प्रदान करता है। 920-9B210-00FN-0D0 डेटाशीट के अनुसार, स्विच प्रदान करता है:

64 पोर्ट 400Gb/s NDR: प्रत्येक OSFP पोर्ट फॉरवर्ड एरर करेक्शन (FEC) के साथ द्विदिश 400Gb/s का समर्थन करता है, जो 51.2 Tb/s की कुल स्विचिंग क्षमता प्रदान करता है।अल्ट्रा-लो विलंबता: 920-9B210-00FN-0D0 विनिर्देशों में प्रलेखित सब-100ns कट-थ्रू विलंबता, RDMA और MPI ऑपरेशंस के लिए न्यूनतम ओवरहेड सुनिश्चित करती है।एकीकृत SHARPv3:

• स्विच फैब्रिक पर सीधे सामूहिक ऑपरेशंस (ऑल-रिड्यूस, ऑल-टू-ऑल, ब्रॉडकास्ट) को ऑफलोड करता है, बड़े पैमाने की नौकरियों के लिए संचार विलंबता को 40% तक कम करता है।अनुकूली रूटिंग और कंजेशन कंट्रोल:
• हॉटस्पॉट से बचने के लिए यातायात को गतिशील रूप से पुनः रूट करता है, प्रतिकूल यातायात पैटर्न के तहत भी अनुमानित प्रदर्शन बनाए रखता है।उन्नत टेलीमेट्री: प्रति-फ्लो और प्रति-पोर्ट काउंटर, बफर ऑक्यूपेंसी मॉनिटरिंग के साथ, सक्रिय प्रबंधन के लिए गहरी दृश्यता प्रदान करते हैं।920-9B210-00FN-0D0 संगत
• पारिस्थितिकी तंत्र में NVIDIA-प्रमाणित OSFP केबल, ऑप्टिकल ट्रांसीवर और सॉफ्टवेयर टूल की एक विस्तृत श्रृंखला शामिल है, जो मौजूदा HDR या ग्रीनफील्ड NDR वातावरण में निर्बाध एकीकरण सुनिश्चित करता है। अगली पीढ़ी के बुनियादी ढांचे की योजना बनाने वाले संगठनों के लिए, स्विच मिश्रित HDR/NDR फैब्रिक का समर्थन करता है, जिससे उत्पादन वर्कलोड को बाधित किए बिना चरणबद्ध अपग्रेड सक्षम होते हैं।वास्तविक दुनिया के डिप्लॉयमेंट की जरूरतों को संबोधित करना
• नए AI प्रशिक्षण क्लस्टर डिजाइन करने वाले या मौजूदा HDR फैब्रिक को अपग्रेड करने वाले नेटवर्क आर्किटेक्ट्स के लिए, 920-9B210-00FN-0D0 InfiniBand स्विच OPN समाधान कई सम्मोहक लाभ प्रदान करता है। इसका 64-पोर्ट घनत्व प्रति स्विच 64 डुअल-पोर्ट सर्वर तक टॉप-ऑफ-रैक डिप्लॉयमेंट को सक्षम बनाता है, जिससे 40-पोर्ट विकल्पों की तुलना में आवश्यक स्विच और केबल की संख्या कम हो जाती है। लीफ-स्पाइन टोपोलॉजी में, यह कम स्पाइन टियर, कम विलंबता और कम कुल स्वामित्व लागत में तब्दील होता है।स्विच NVIDIA के InfiniBand पोर्टफोलियो की मजबूत प्रबंधन क्षमताओं को भी विरासत में मिला है। NVIDIA के यूनिफाइड फैब्रिक मैनेजर (UFM) के साथ, प्रशासक फैब्रिक स्वास्थ्य में गहरी दृश्यता प्राप्त कर सकते हैं, प्रावधान को स्वचालित कर सकते हैं, और उत्पादन वर्कलोड को प्रभावित करने से पहले विसंगतियों का सक्रिय रूप से पता लगा सकते हैं। मिशन-क्रिटिकल अनुप्रयोगों के लिए स्विच की दोहरी-रिडंडेंट पावर सप्लाई और हॉट-स्वैपेबल फैन मॉड्यूल 99.999% उपलब्धता सुनिश्चित करते हैं।
• 920-9B210-00FN-0D0 मूल्यऔर कुल स्वामित्व लागत का मूल्यांकन करते समय, स्विच बड़े पैमाने पर डिप्लॉयमेंट के लिए सम्मोहक अर्थशास्त्र प्रदान करता है। जबकि अग्रिम लागत HDR विकल्पों की तुलना में अधिक है, प्रति-पोर्ट लागत और प्रति-GPU नेटवर्किंग लागत बड़े क्लस्टर में amortized होने पर काफी कम होती है, जिससे NDR एक्सस्केल परियोजनाओं के लिए तेजी से लागत प्रभावी विकल्प बन जाता है। 920-9B210-00FN-0D0 बिक्री के लिए

सारांश: अगली पीढ़ी के AI के लिए NDR फाउंडेशनNVIDIA Mellanox 920-9B210-00FN-0D0 उच्च-प्रदर्शन नेटवर्किंग में एक महत्वपूर्ण कदम का प्रतिनिधित्व करता है, जो अगली पीढ़ी के AI और HPC क्लस्टर के लिए आवश्यक बैंडविड्थ, घनत्व और इंटेलिजेंस प्रदान करता है। 400Gb/s NDR गति को 64-पोर्ट OSFP घनत्व और SHARPv3 इन-नेटवर्क कंप्यूटिंग के साथ जोड़कर, यह स्विच आर्किटेक्ट्स को स्केलेबल, नियतात्मक फैब्रिक बनाने में सक्षम बनाता है जो सबसे अधिक मांग वाले खरबों-पैरामीटर वर्कलोड के साथ तालमेल बिठा सकते हैं।

अगली पीढ़ी के बुनियादी ढांचे की योजना बनाने वाले संगठनों के लिए, 920-9B210-00FN-0D0 एक स्पष्ट, उच्च-प्रदर्शन पथ प्रदान करता है - चाहे वह ग्रीनफील्ड डिप्लॉयमेंट के रूप में हो या मौजूदा HDR फैब्रिक से रणनीतिक अपग्रेड के रूप में। अपने मजबूत फीचर सेट, एंटरप्राइज-ग्रेड प्रबंधनीयता और व्यापक NVIDIA पारिस्थितिकी तंत्र के साथ निर्बाध संगतता के साथ, यह स्विच एक्सस्केल-क्लास नेटवर्किंग का एक आधार बनने के लिए तैयार है।