Accélérateur d'IA Intel® Gaudi® 2
Accélération hautes performances pour l'IA générative et les LLM.
Accélérateur d'IA Intel® Gaudi® 2
Notre accélérateur d'IA Intel® Gaudi® 2 améliore le rapport prix/performances du Deep Learning
Il offre également une plus grande efficacité opérationnelle pour l'entraînement et l'exécution de modèles de pointe, qu'il s'agisse des plus grands modèles linguistiques et multimodaux ou de modèles de vision par ordinateur et de PNL de base. Les accélérateurs Intel Gaudi 2 ont été conçus pour une évolutivité efficace, que ce soit dans le Cloud ou dans votre centre de données. Ils offrent à l'industrie de l'IA le choix dont elle a plus que jamais besoin.
Fonctionnalités de l'architecture Intel® Gaudi® 2 :
basées sur le modèle Intel Gaudi de première génération éprouvé.
- Technologie de traitement 7 nm
- Informatique hétérogène
- 24 cœurs de processeur Tensor
- Moteurs de multiplication à double matrice
- 24 Ethernet 100 Gigabit intégrés sur puce
- Mémoire HBM2E embarquée de 96 Go
- SRAM de 48 Mo
- Contrôle multimédia intégré
Accélérateur d'IA Intel® Gaudi® 2 dans le Cloud
Découvrez les performances et la facilité d'utilisation de l'accélérateur d'IA Intel® Gaudi® 2 sur le Cloud Intel® Tiber™ pour les développeurs.
En savoir plus
Accélérateur d'IA Intel® Gaudi® 2 dans le centre de données
Votre infrastructure peut bénéficier d'un rapport prix/performances avantageux grâce aux solutions de Supermicro et IEI.
En savoir plus
L'accélérateur d'IA Intel® Gaudi® 2 reste la SEULE alternative comparable à Nvidia H100 pour les performances en IA générative
D'après les derniers bancs d'essai MLPerf Training 3.1 et Inference 4.0, publiés respectivement en décembre 2023 et mars 2024, l'accélérateur Intel Gaudi 2 reste la seule alternative comparable à Nvidia H100.
Outre le banc d'essai industriel MLPerf, l'accélérateur d'IA Intel Gaudi 2 s'est démarqué dans d'autres évaluations tierces1.
L'accélérateur d'IA Intel® Gaudi® 2 prend en charge une évolutivité horizontale flexible et massive
Grâce à 24 ports 100 Gigabit Ethernet (RoCEv2) intégrés sur chaque accélérateur d'IA Intel Gaudi 2, les clients bénéficient d'une évolutivité flexible et rentable qui étend les performances de l'accélérateur d'IA Intel Gaudi 2 de un à des milliers d'accélérateurs.
L'image ci-dessous présente le design de référence de serveur avec 8 accélérateurs Intel Gaudi 2.
Pour en savoir plus sur l'évolutivité réseau avec l'accélérateur d'IA Intel Gaudi 2, consultez notre page Mise en réseau ›
Partenaire en vedette
Les commutateurs Cisco Nexus 9364D-GX2A sont qualifiés pour connecter les accélérateurs Intel Gaudi 2 afin de construire un réseau scale-out pour l'exécution d'un grand modèle de langage (LLM) de formation, d'inférence ou de charges de travail d'IA générative similaires.
Créez facilement de nouveaux modèles ou migrez des modèles existants sur les accélérateurs d'IA Intel Gaudi 2
Le logiciel Intel Gaudi est optimisé pour simplifier la plateforme Intel Gaudi et booster les performances. Il offre aux développeurs les documents, les outils, les tutoriels et les modèles de référence nécessaires pour les aider à se lancer rapidement et facilement avec le logiciel Intel Gaudi.
Découvrez et implémentez facilement plus de 500 000 modèles grâce à la bibliothèque Habana Optimum sur le hub Hugging Face.
Pour en savoir plus, consultez notre site pour les développeurs ›
Ressources pour l'accélérateur d'IA Intel Gaudi 2
Infos sur les produits et leurs performances
Consultez https://habana.ai/habana-claims-validation pour connaître les charges de travail et les configurations. Les résultats peuvent varier https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom