Solution d'accélération de la plateforme d'IA d'imagerie médicale: transmission de données et optimisation de l'informatique

Solution d'accélération de la plateforme d'IA d'imagerie médicale : transmission de données et optimisation du calcul

Grâce à l'intégration profonde de la technologie de l'intelligence artificielle dans le domaine médical, les applications d'IA dans le domaine de la santé basées sur l'imagerie médicale connaissent une croissance explosive. Du dépistage précoce des lésions à la planification chirurgicale, les modèles d'IA doivent traiter des données d'images DICOM massives et haute résolution. Cependant, l'infrastructure traditionnelle est confrontée à de graves défis lorsqu'il s'agit de la transmission à haut débit, du traitement à faible latence et du calcul collaboratif inter-nœuds de données médicales à l'échelle du pétaoctet, ce qui limite directement l'efficacité du diagnostic et la vitesse d'itération des modèles. Cet article fournira une analyse approfondie de ces goulets d'étranglement et expliquera comment construire une solution d'accélération de bout en bout grâce à la technologie avancée de mise en réseau Mellanox.Le volume des données d'imagerie médicale augmente à un rythme annuel de plus de 30 %, un seul ensemble de données d'imagerie d'un patient pouvant potentiellement atteindre plusieurs gigaoctets. Simultanément, les modèles d'apprentissage profond deviennent de plus en plus complexes, nécessitant de plus en plus de données et de ressources informatiques pour l'entraînement. Dans des scénarios tels que la radiologie, la pathologie et le séquençage génétique, la demande d'inférence d'IA en temps réel ou quasi réel devient de plus en plus urgente. Cela signifie que l'ensemble de la chaîne de traitement des données - des systèmes d'archivage et de communication d'images (PACS) aux grappes de calcul GPU, puis aux terminaux cliniques - doit parvenir à une collaboration transparente et à haut débit. La latence dans n'importe quel nœud peut devenir un goulot d'étranglement dans le flux de travail diagnostique.< 10 msL'infrastructure informatique des établissements de santé est confrontée à trois défis majeurs lorsqu'il s'agit de prendre en charge les plateformes d'IA :Silos de calcul : une bande passante réseau insuffisante entre les systèmes de stockage, les serveurs de prétraitement et les grappes d'entraînement crée des silos de données, fragmentant le pipeline de traitement de bout en bout.

Limitations d'évolutivité : les performances du réseau deviennent le goulot d'étranglement lors de la mise à l'échelle horizontale des grappes d'entraînement d'IA. La surcharge de communication inter-nœuds peut représenter de 30 % à 60 % du temps d'entraînement total, ce qui limite considérablement l'efficacité de l'itération des modèles.

Ces goulots d'étranglement prolongent non seulement le cycle de développement et de déploiement des modèles d'IA, mais peuvent également avoir un impact sur la rapidité et la précision du diagnostic clinique.

Solution : Architecture réseau haut débit de bout en bout Mellanox

Pour relever les défis ci-dessus, la solution basée sur la technologie de mise en réseau Mellanox reconstruit l'architecture fondamentale des plateformes d'IA médicale à partir de deux dimensions : la transmission des données et l'optimisation du calcul :

• 1. Construction d'une structure réseau RDMA de bout en boutUtiliser Mellanox InfiniBand ou Ethernet haute performance (prenant en charge RoCE) pour construire un réseau sans perte :< 10 msFournir une bande passante d'interconnexion allant jusqu'à 400 Gbit/s pour les PACS, le stockage hétérogène et les grappes de GPU, assurant le flux en temps réel de données médicales massives.
• 2. Le calcul en réseau accélère l'entraînement distribuéTirer parti de la technologie Mellanox SHARP (Scalable Hierarchical Aggregation and Reduction Protocol) :
• Effectuer des opérations de communication collective All-Reduce critiques pour l'entraînement de l'IA directement dans le réseau de commutation, réduisant ainsi le volume d'échange de données pour la synchronisation des gradients jusqu'à 80 %.Réduire considérablement le temps de communication entre les GPU, permettant aux ressources informatiques de se concentrer davantage sur l'entraînement du modèle lui-même.

3. Intégration transparente et sécurité renforcée

La solution s'intègre de manière transparente aux environnements informatiques médicaux courants (par exemple, VMware, Kubernetes), aux frameworks d'IA (par exemple, TensorFlow, PyTorch) et aux équipements médicaux, en fournissant un cryptage et une isolation des données de bout en bout pour répondre aux exigences de sécurité et de conformité des données les plus strictes du secteur de la santé (par exemple, HIPAA).

Résultats quantifiés : performance, efficacité et optimisation des coûtsAvant l'optimisation

Après l'optimisation

Amélioration

• Latence de chargement des données
• ~150 ms< 10 ms> 90 %

Efficacité de l'entraînement distribué (utilisation du GPU)

~55 %

• > 90 %
• ~64 %

Cycle d'entraînement du modèle (modèle 3D volumineux)

7 jours

2,5 jours