NVIDIA Mellanox 920-9B210-00FN-0D0 Annoncé : Redéfinir la base du réseau IA ultra-échelle avec 400 Gb/s NDR

NVIDIA Mellanox 920-9B210-00FN-0D0 annoncé : Redéfinir la base des réseaux IA ultra-évolutifs avec 400 Gb/s NDR

Alors que les grands modèles linguistiques passent de centaines de milliards à des trillions de paramètres, les réseaux HDR traditionnels de 200 Gb/s montrent leurs limites dans les scénarios de communication collective denses tels que le all-to-all, où l'utilisation des GPU chute souvent en raison de la congestion du réseau. NVIDIA a officiellement dévoilé le NVIDIA Mellanox 920-9B210-00FN-0D0, un commutateur InfiniBand NDR de 400 Gb/s conçu pour fournir la bande passante, la densité et l'intelligence intégrée nécessaires aux charges de travail IA et HPC les plus exigeantes.

Le défi : quand le HDR devient le goulot d'étranglement

Pour les organisations qui font évoluer leurs clusters GPU au-delà de 2 000 nœuds, les limites du HDR 200 Gb/s deviennent de plus en plus apparentes. Lors des opérations all-reduce et all-to-all — qui sont fondamentales pour l'entraînement distribué — la congestion du réseau peut réduire l'utilisation des GPU de 85 % à moins de 50 %, gaspillant ainsi des millions de dollars en investissement de calcul. Les architectes réseau sont confrontés au double défi de fournir une latence déterministe inférieure à la microseconde tout en maintenant des performances sans perte sur des milliers de points d'extrémité.

Le 920-9B210-00FN-0D0 InfiniBand switch OPN (Ordering Part Number) relève ces défis de front en apportant des performances NDR de 400 Gb/s à une plateforme OSFP à 64 ports, offrant la marge de manœuvre et l'intelligence nécessaires pour éliminer les ralentissements induits par le réseau, même dans les environnements d'entraînement IA les plus exigeants.

Caractéristiques techniques clés

Construite sur le même silicium que le MQM9790-NS2F largement adopté, la plateforme 920-9B210-00FN-0D0 MQM9790-NS2F 400 Gb/s NDR offre un ensemble complet de fonctionnalités conçues pour les déploiements de classe exascale. Selon la 920-9B210-00FN-0D0 datasheet, le commutateur offre :

• 64 ports de 400 Gb/s NDR : Chaque port OSFP prend en charge 400 Gb/s bidirectionnels avec correction d'erreurs directe (FEC), offrant une capacité de commutation agrégée de 51,2 Tb/s.
• Latence ultra-faible : La latence de coupe inférieure à 100 ns, comme documenté dans les 920-9B210-00FN-0D0 specifications, garantit une surcharge minimale pour les opérations RDMA et MPI.
• SHARPv3 intégré : Décharge les opérations collectives (all-reduce, all-to-all, broadcast) directement sur le tissu du commutateur, réduisant la latence de communication jusqu'à 40 % pour les travaux à grande échelle.
• Routage adaptatif et contrôle de la congestion : Réachemine dynamiquement le trafic pour éviter les points chauds, maintenant des performances prévisibles même sous des modèles de trafic adverses.
• Télémétrie avancée : Les compteurs par flux et par port, ainsi que la surveillance de l'occupation des tampons, fournissent une visibilité approfondie pour une gestion proactive.

Le 920-9B210-00FN-0D0 compatible comprend une large gamme de câbles OSFP certifiés NVIDIA, de transceivers optiques et d'outils logiciels, garantissant une intégration transparente dans les environnements HDR existants ou les nouveaux environnements NDR. Pour les organisations qui planifient leur infrastructure de nouvelle génération, le commutateur prend en charge les tissus mixtes HDR/NDR, permettant des mises à niveau progressives sans perturber les charges de travail de production.

Répondre aux besoins de déploiement du monde réel

Pour les architectes réseau concevant de nouveaux clusters d'entraînement IA ou mettant à niveau les tissus HDR existants, la solution 920-9B210-00FN-0D0 InfiniBand switch OPN solution offre plusieurs avantages convaincants. Sa densité de 64 ports permet des déploiements en haut de rack avec jusqu'à 64 serveurs à double port par commutateur, réduisant le nombre de commutateurs et de câbles requis par rapport aux alternatives à 40 ports. Dans les topologies leaf-spine, cela se traduit par moins de niveaux spine, une latence plus faible et un coût total de possession réduit.

Le commutateur hérite également des capacités de gestion robustes du portefeuille InfiniBand de NVIDIA. Avec le Unified Fabric Manager (UFM) de NVIDIA, les administrateurs peuvent obtenir une visibilité approfondie sur la santé du tissu, automatiser le provisionnement et détecter proactivement les anomalies avant qu'elles n'affectent les charges de travail de production. Les alimentations redondantes doubles du commutateur et les modules de ventilateur remplaçables à chaud garantissent une disponibilité de 99,999 % pour les applications critiques.

Lors de l'évaluation du 920-9B210-00FN-0D0 price et du coût total de possession, le commutateur offre une économie intéressante pour les déploiements à grande échelle. Bien que le coût initial soit plus élevé que les alternatives HDR, le coût par port et le coût de mise en réseau par GPU sont considérablement plus faibles lorsqu'ils sont amortis sur un grand cluster, faisant du NDR un choix de plus en plus rentable pour les projets exascale. Le 920-9B210-00FN-0D0 for sale est maintenant disponible via les partenaires du réseau de NVIDIA, avec les premières expéditions aux clients déjà en cours.

Résumé : La base NDR pour l'IA de nouvelle génération

Le NVIDIA Mellanox 920-9B210-00FN-0D0 représente une avancée significative dans la mise en réseau haute performance, offrant la bande passante, la densité et l'intelligence requises pour la prochaine génération de clusters IA et HPC. En combinant la vitesse NDR de 400 Gb/s avec la densité OSFP à 64 ports et le calcul intégré SHARPv3, ce commutateur permet aux architectes de construire des tissus évolutifs et déterministes qui peuvent suivre le rythme des charges de travail les plus exigeantes avec des trillions de paramètres.

Pour les organisations qui planifient leur infrastructure de nouvelle génération, le 920-9B210-00FN-0D0 offre une voie claire et haute performance, que ce soit pour un déploiement à partir de zéro ou comme mise à niveau stratégique des tissus HDR existants. Avec son ensemble de fonctionnalités robustes, sa gestion de niveau entreprise et sa compatibilité transparente avec l'écosystème NVIDIA plus large, ce commutateur est appelé à devenir une pierre angulaire de la mise en réseau de classe exascale.