Solutions de commutateurs NVIDIA : Foire aux questions - Segmentation et haute disponibilité de l'accès au cœur

Les commutateurs NVIDIA prennent en charge plusieurs approches de segmentation pour optimiser les performances et la sécurité des centres de données d'IA :

• Segmentation basée sur les VLAN pour l'isolation logique du trafic d'entraînement, d'inférence et de stockage de l'IA
• Virtualisation réseau permettant plusieurs réseaux virtuels sur une infrastructure physique partagée
• Partitionnement de la qualité de service (QoS) pour hiérarchiser le trafic des charges de travail d'IA
• Séparation des zones de sécurité entre l'accès utilisateur, la gestion et les plans de données

L'architecture réseau haute performance de NVIDIA maintient des performances constantes grâce à :

• Structures de commutation non bloquantes sur toutes les densités de ports
• Gestion avancée du trafic avec des mémoires tampons profondes pour les rafales de charges de travail d'IA
• Capacités Ethernet sans perte empêchant la congestion dans les environnements RoCEv2
• Performances à débit filaire sur tous les ports simultanément, quelle que soit la segmentation

Les commutateurs NVIDIA offrent des capacités de haute disponibilité complètes, essentielles pour les centres de données d'IA :

• Redondance matérielle avec des alimentations, des ventilateurs et des modules de gestion doubles
• Basculement sans interruption protocoles assurant un fonctionnement continu en cas de défaillance des composants
• Agrégation de liens multi-châssis pour les configurations de liaison montante active-active
• Mises à niveau système en douceur sans interruption de service
• Surveillance du réseau avec des diagnostics de santé en temps réel et des analyses prédictives

Le maintien d'une faible latence lors de la mise en œuvre de la segmentation est obtenu grâce à :

• Architecture de commutation directe minimisant les délais de traitement
• Segmentation accélérée par le matériel réduisant la surcharge du processeur
• Chemins de transfert optimisés pour le trafic intra-segment et inter-segments
• Contrôle de flux basé sur les priorités empêchant les pics de latence induits par la congestion
• Classes de trafic IA dédiées avec transfert accéléré

Pour des performances optimales des couches d'accès au cœur, nous recommandons :

• Mettre en œuvre une segmentation hiérarchique correspondant aux limites organisationnelles et applicatives
• Utiliser des politiques cohérentes sur les commutateurs d'accès, d'agrégation et de cœur
• Déployer des outils de provisionnement automatisés pour la gestion des segments à grande échelle
• Surveiller les mesures de performance spécifiques aux segments pour les charges de travail d'IA
• Planifier la croissance des segments et l'évolution des exigences de sécurité

Les solutions de haute disponibilité de NVIDIA pour les centres de données d'IA incluent :

• Architectures de structure active-active éliminant les points uniques de défaillance
• Mécanismes de basculement automatique pour la redondance des chemins réseau
• Surveillance de l'état de santé intégrée sur tous les segments du réseau
• Capacités complètes de reprise après sinistre
• Fonctionnalités de maintenance proactive réduisant les temps d'arrêt planifiés

NVIDIA fournit des outils avancés pour la gestion des réseaux segmentés :

• Consoles de gestion centralisées avec des tableaux de bord adaptés aux segments
• Surveillance des performances en temps réel par segment de réseau
• Provisionnement et application de politiques de segments automatisés
• Journalisation et analyses complètes pour le dépannage
• Intégration avec les plateformes de gestion de réseau populaires