Opérations d’inférence d’IA générative avec Cisco UCS / processeurs Intel Xeon de 5e et 4e générations

Descriptif

Cisco UCS, alimenté par des processeurs Intel® Xeon® de 5e génération et Cisco Nexus, est une base évolutive pour le déploiement de l’IA générative à grande échelle. Cette architecture offre les avantages suivants :

• Performances optimales : Cisco UCS avec processeurs Intel Xeon Scalable avec accélérateurs d’IA spécialisés et infrastructures logicielles optimisées améliore considérablement les performances et l’évolutivité de l’inférence.
• Architecture équilibrée : Cisco UCS excelle à la fois dans le calcul Deep Learning et non Deep Learning, essentiel pour l’ensemble du pipeline d’inférence. Cette approche équilibrée conduit à une meilleure performance globale et à une meilleure utilisation des ressources.
• Évolutivité à la demande : Cisco UCS s’adapte de manière transparente à vos besoins en matière d’inférence d’IA générative. Ajoutez ou supprimez des serveurs, ajustez les capacités de mémoire et configurez les ressources de manière automatisée à mesure que vos modèles évoluent et que vos charges de travail augmentent à l’aide de Cisco Intersight.

Vous avez la possibilité d’exécuter l’inférence dans le centre de données ou à la périphérie, en utilisant un format modulaire ou en rack.