Inférence d’IA générative avec les serveurs lames Cisco UCS série X M7 / processeurs Intel Xeon de 5e génération

Descriptif

Une solution basée sur Cisco UCS® avec des processeurs Intel® Xeon® Scalable et Cisco Nexus® offre une base convaincante et évolutive pour le déploiement de l’IA générative à grande échelle. Cette architecture offre une combinaison de :

• Performances optimales : Cisco UCS avec processeurs Intel Xeon Scalable avec accélérateurs d’IA spécialisés et infrastructures logicielles optimisées améliore considérablement les performances et l’évolutivité de l’inférence. Les commutateurs Cisco Nexus 9000 offrent une bande passante élevée, une faible latence, des mécanismes de gestion de la congestion et une télémétrie pour répondre aux exigences réseau élevées des applications d’IA/ML.
• Architecture équilibrée : Cisco UCS excelle à la fois dans le calcul deep learning et non deep learning, essentiel pour l’ensemble du pipeline d’inférence. Cette approche équilibrée conduit à une meilleure performance globale et à une meilleure utilisation des ressources.
• Évolutivité à la demande : Cisco UCS s’adapte de manière transparente à vos besoins en matière d’inférence d’IA générative. Ajoutez ou supprimez des serveurs, ajustez les capacités de mémoire et configurez les ressources de manière automatisée à mesure que vos modèles évoluent et que vos charges de travail augmentent à l’aide de Cisco Intersight®.

Le système modulaire Cisco UCS série X et les serveurs en rack C240 et C220 prennent en charge les processeurs Intel Xeon évolutifs de 5e génération, ce qui vous permet d’exécuter l’inférence dans le centre de données ou à la périphérie, à l’aide d’un format modulaire ou en rack.