Solution technique de l'adaptateur de serveur NVIDIA Mellanox MCX623106AN-CDAT

June 10, 2026

Solution technique de l'adaptateur de serveur NVIDIA Mellanox MCX623106AN-CDAT

Ce livre blanc technique fournit aux architectes de réseau, ingénieurs de prévente et équipes d'opérations une conception complète de la solution centrée sur leNVIDIA Mellanox MCX623106AN-CDAT est une plateforme de téléphonie mobile.Nous abordons comment atteindre une faible latence déterministe et maximiser le débit du serveur en utilisant RDMA/RoCE dans les environnements modernes des centres de données.

1. Analyse des antécédents et des besoins du projet

Les piles TCP/IP traditionnelles introduisent des frais généraux importants de traitement d'interruption, de copie en mémoire et de commutation de contexte qui limitent les performances des applications, en particulier pour les bases de données distribuées NVMe-oF,et groupes de formation en IALes principales exigences pour les infrastructures de nouvelle génération sont les suivantes:

  • latence de bout en bout inférieure à 10 μs pour le stockage et l'analyse en temps réel
  • Le dépassement du processeur vers des cœurs libres pour la logique d'entreprise (objectif: < 20% d'utilisation du processeur lié au réseau)
  • Tissu Ethernet sans perte prenant en charge PFC et ECN sur les topologies feuille-colonne vertébrale 100GbE
  • chiffrement en ligne sans dégradation des performances (IPsec/TLS)
  • Intégration transparente avec les cadres d'automatisation existants (Ansible, Terraform)

2. Architecture globale du réseau et du système

L'architecture de référence adopte une topologie à deux niveaux avec des ports 100GbE.Carte réseau PCIe avec adaptateur ConnectX MCX623106AN-CDATLes éléments clés de la conception:

  • Commutateurs à feuille: configurés avec 4 Mo de tampon partagé, priorités PFC 3 (stockage) et 4 (trafic d'IA), seuil de marquage ECN à 200 KB de profondeur de file d'attente
  • Commutateurs de colonne vertébrale: tissu non bloquant 12,8 Tbps, ratio de surabonnement 3: 1 (optimisé pour les modèles est-ouest)
  • Configuration de l'hôte: PCIe 4.0 x16 (ou PCIe 5.0 le cas échéant), 256 Mo de mémoire du firmware par adaptateur
  • Transports RDMA: RoCEv2 avec contrôle de congestion DCQCN, 4K MTU, données en ligne jusqu'à 256 octets

LeSolution de carte d'adaptateur Ethernet MCX623106AN-CDATsupporte jusqu'à 1 024 fonctions virtuelles (VF) et 256 fonctions physiques (PF), ce qui le rend idéal pour les NFV et les charges de travail en conteneurs.

3. Rôle du NVIDIA Mellanox MCX623106AN-CDAT et caractéristiques clés

LeNVIDIA Mellanox MCX623106AN-CDAT est une plateforme de téléphonie mobile.Il sert de moteur du plan de données, déchargeant tout le traitement réseau du processeur hôte.La feuille de données MCX623106AN-CDATet officielLes spécifications MCX623106AN-CDAT, les capacités critiques comprennent:

Caractéristique Avantages pour RDMA/RoCE
La direction matérielle (ASAP2) Envoyer des paquets directement à des files d'attente spécifiques sans intervention du processeur
Gestion de la congestion RoCE sur puce DCQCN implémenté dans le firmware 100ns granularité de réponse
GPUDirect® RDMA Accès à la mémoire GPU en contournant la mémoire hôte 2μs réduction de la latence
Accélération VirtIO Performances natives pour les réseaux VM/container

LeLa carte d'adaptateur Ethernet MCX623106AN-CDATIl comprend également un cryptage sécurisé de démarrage et de flash, répondant aux politiques de sécurité strictes des secteurs financier et gouvernemental.

4Recommandations pour le déploiement et l'expansion

Pour les déploiements en champs bruns, l'adaptateur est entièrementCompatible avec MCX623106AN-CDATavec les commutateurs 100GbE existants (broadcom, Mellanox, Cisco) après mise à niveau du micrologiciel.

  • Phase 1 (validation par laboratoire):Deux nœuds de stockage + deux nœuds de calcul, activer PFC et ECN par port, valider avec ib_write_bw (débit cible 98Gb/s par port)
  • Phase 2 (pilote):Un rack complet (40 nœuds), déployer DCQCN avec des seuils ECN: min=150KB, max=500KB
  • Phase 3 (extension de l'échelle):Multi-rack avec couche de colonne vertébrale, surveillez les images de pause globales des PFC (maintenant < 0,1% du trafic total)

Pour l'expansion, l'adaptateur prend en charge l'agrégation des liens (LAG) et le routage adaptatif (AR) lorsqu'il est utilisé avec des commutateurs NVIDIA Spectrum.Les environnements à vitesse mixte (100GbE à 25GbE) nécessitent des réservations de tampons sur les ports de sortie..

5. Opérations, surveillance et dépannage

Le cadre NVIDIA DOCA fournit une télémétrie complète.

  • Compteurs par file d'attente:rdma_out_of_sequence, cnp_sent, cnp_received (par l'intermédiaire de l'outil -S)
  • Santé du PCIe:Erreurs corrigeables/non corrigeables, négociation de la vitesse de liaison (outil mlxlink)
  • Détection de la congestion:Températeurs de surveillance des PFC, ratio de paquets marqué par ECN (objectif <5%)

Dépannage courant: Si les performances de RoCE tombent en dessous de 80 Gb/s, vérifiez la bifurcation PCIe (doit être x16), désactivez le TSO/GRO et confirmez les seuils ECN des commutateurs.Le prix MCX623106AN-CDAT, la solution atteint généralement un retour sur investissement dans un délai de 9 à 12 mois en consolidant le nombre de serveurs.

6. Résumé et évaluation de la valeur

LeNVIDIA Mellanox MCX623106AN-CDAT est une plateforme de téléphonie mobile.Il offre un tissu déterministe à faible latence tout en réduisant les frais généraux du processeur jusqu'à 75% par rapport aux réseaux basés sur des logiciels.étapes de déploiement, et les meilleures pratiques opérationnelles.MCX623106AN-CDAT à vendrePour une référence complète, leLa feuille de données MCX623106AN-CDATet détailléeLes spécifications MCX623106AN-CDATsont disponibles sur demande.