NVIDIA Mellanox MCX4121A-ACAT Adaptateur serveur en action. RDMA/RoCE Transports à faible latence et gains de débit du serveur

NVIDIA Mellanox MCX4121A-ACAT Adaptateur serveur en action. RDMA/RoCE Transports à faible latence et gains de débit du serveur

Contexte et défi: lorsque 25GbE rencontre le mur de latence

Un fournisseur de services cloud de taille moyenne - appelons-le CloudNova - était confronté à un goulot d'étranglement familier mais douloureux.Mais les performances des applications racontaient une autre histoire.La réplication des bases de données est en retard, les travaux d'apprentissage distribué sont bloqués par la synchronisation des gradients, et les réseaux de stockage NVMe n'ont jamais livré leurs IOPS promis.Les frais de stockage traditionnels TCP/IP consommaient plus de 25% des cœurs de processeur sur leurs nœuds de calcul, et les NIC existants n'avaient pas de décharge matérielle pour RDMA.utilisableLeur recherche les a conduits à laNVIDIA Mellanox MCX4121A-ACAT est un appareil de télécommunicationUne carte conçue précisément pour ces problèmes de centre de données modernes.

La solution: déployer la carte d'adaptateur Ethernet MCX4121A-ACAT

L'équipe d'architecture de CloudNova a remplacé ses anciennes NIC 10GbE par lesCarte d'adaptateur Ethernet MCX4121A-ACATLe déploiement a tiré parti de la prise en charge native RoCE v2 de l'adaptateur pour permettre un transport Ethernet sans perte,éliminant le besoin de tissus InfiniBand distinctsLa clé de la solution était laLe système de connectivité de base est un système de connectivité de base.La conception, qui permettait une liaison active-active pour un débit global de 50 Gb/s par serveur.L'équipe a configuré PFC (Priority Flow Control) et ECN (Explicit Congestion Notification) au niveau du commutateur, assurant que le trafic RoCE reste sans perte même en cas de charges de pointe.l'ensemble du tissu de stockage et de calcul fonctionnait sur RDMA une transition réalisée sans heurts par la compatibilité prête à l'emploi de l'adaptateur avec le câblage SFP28 existant et les commutateurs Mellanox Spectrum.

D'un point de vue opérationnel, leCompatible avec MCX4121A-ACATLes cartes s'intègrent parfaitement avec les serveurs basés sur Ubuntu et le cluster Kubernetes de CloudNova, ne nécessitant qu'une installation de pilote standard.Fiche de données MCX4121A-ACATpour affiner l'allocation des tampons et interrompre les paramètres de fusion, afin d'obtenir des performances optimales pour leur environnement de charge de travail mixte, y compris les clusters MySQL, Spark analytics,et les tâches de formation TensorFlow.

Résultats mesurables: débit, latence et efficacité du processeur

L'amélioration des performances a été immédiate et quantifiable.NVIDIA Mellanox MCX4121A-ACAT est un appareil de télécommunication, le back-end de stockage a vu la latence de lecture NVMe-oF passer de 85 μs à seulement 12 μs, soit une amélioration de 7 fois. le décalage de réplication de la base de données entre les nœuds primaires et en veille est passé de 320 ms à moins de 2 ms,permettant un basculement quasi synchronePour les charges de travail d'apprentissage automatique, le temps de synchronisation total réduit pour la formation ResNet-50 a diminué de 62%, réduisant ainsi le temps total de formation d'époque de 4,2 heures à 1,6 heure.

Au-delà de la latence, les gains de débit des serveurs ont été tout aussi convaincants.et le marquage VLAN réduit l'utilisation du processeur pour le traitement du réseau de 28% à moins de 5% sur tous les nœudsCela a libéré plus de 20 cœurs CPU par serveur pour la logique d'application, augmentant directement la densité des conteneurs de 40%.Les spécifications MCX4121A-ACAT, la carte offre un débit de ligne de 25 GbE par port avec une latence inférieure à 1 μs, et les benchmarks internes de CloudNova ont confirmé ces chiffres en production.

Bénéfices opérationnels: TCO et préparation à l'avenir

Si les chiffres bruts du rendement racontent une histoire convaincante, les gains opérationnels ont été tout aussi importants.Solution de carte d'adaptateur Ethernet MCX4121A-ACATréduit le coût total de possession en éliminant le besoin d'un tissu RDMA séparé (économisant plus de 180 000 $ en infrastructure de commutation).Consommation d'énergie par serveur en baisse de 8 W par rapport aux NIC précédentes, ce qui se traduit par une économie de refroidissement annuelle d'environ 15%.le trafic est automatiquement transféré vers le port secondaire sans perte de paquets, comme vérifié par les journaux de télémétrie de l'adaptateur.

Pour les gestionnaires informatiques qui évaluent lesLe prix MCX4121A-ACATEn ce qui concerne les solutions alternatives, le directeur financier de CloudNova a noté que la période de récupération était inférieure à 10 mois, principalement en raison de l'utilisation accrue des serveurs et de la réduction des délais de réalisation des travaux.L'équipe a également apprécié l'architecture tournée vers l'avenirMCX4121A-ACAT à vendreLe système actuel prend en charge 25GbE aujourd'hui, mais peut être réutilisé pour des environnements 10GbE ou 40GbE avec des optiques appropriées, assurant ainsi la protection des investissements pour les futures mises à niveau.

Résumé et perspectives: un plan pour les centres de données prêts à RDMA

Le parcours de CloudNova avec leNVIDIA Mellanox MCX4121A-ACAT est un appareil de télécommunicationIl démontre un schéma clair pour les organisations qui cherchent à libérer tout le potentiel de l'infrastructure 25GbE.et l'intégration transparente avec les écosystèmes existants, leCarte d'adaptateur Ethernet MCX4121A-ACATtransforme l'E/S du réseau d'un goulot d'étranglement en un facteur de performance.et 62% de formation plus rapide en machine learning ¢ témoignent de la capacité de l'adaptateur à fournir des résultats mesurables.

À l'avenir, alors que les charges de travail liées à l'IA et l'analyse en temps réel continuent de stimuler la demande de réseautage déterministe, leLe système de connectivité de base est un système de connectivité de base.Pour les architectes et les responsables informatiques qui planifient leur prochaine mise à jour de l'infrastructure, cet adaptateur ne représente pas seulement un composant,mais un atout stratégiqueLes paramètres de réglage détaillés et les meilleures pratiques de déploiement sont disponibles dans leFiche de données MCX4121A-ACAT- une référence essentielle pour tout déploiement sérieux.