Logo Intel Gaudi

Créez, migrez et optimisez vos modèles d'IA avec

le logiciel Intel® Gaudi®

Accédez aux accélérateurs Intel® Gaudi® ainsi qu'aux références de modèles, bibliothèques, conteneurs et outils pour la formation et le déploiement de GenAI et LLM.

Modèles

Optimisez, ajustez, déboguez et profilez votre modèle pour atteindre vos objectifs de performance.

Documentation

Accédez à la documentation ou aux référentiels les plus récents sur GitHub*.

Données relatives aux performances

Examinez les données de performance de la formation et du modèle d'inférence sur l'accélérateur d'IA Intel Gaudi.

Assistance

Posez des questions dans notre forum ou parcourez notre GitHub.

Les dernières actualités du logiciel Intel Gaudi

Voir le blog

{"limitDisplayedContent":"showAll","collectionRelationTags":{"relations":{"OR":["etm-96a2a467cd514dff85b6c153b364b0fa","etm-8ad69a00500f46bcbfde5ad9f3f1422f","etm-a9b846f3b3e24e3a88a53659a892cd29"],"AND":["etm-b21347d4d9474d5081968efe45da1418","etm-D68A7C5C-B64D-4332-8263-EF62D1A680E7"]},"featuredIds":[]},"collectionId":"833854","resultPerPage":4.0,"filters":[],"coveoRequestHardLimit":"1000","accessDetailsPagePath":"/content/www/us/en/secure/design/internal/access-details.html","collectionGuids":["etm-D68A7C5C-B64D-4332-8263-EF62D1A680E7","etm-b21347d4d9474d5081968efe45da1418"],"cardView":true,"sorting":"Newest","defaultImagesPath":"/content/dam/www/public/us/en/images/uatable/default-icons","coveoMaxResults":5000,"coveoSplitSize":8,"fpgaFacetRootPaths":"{\"fpgadevicefamily\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Programmable Devices\"],\"quartusedition\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Quartus Software\"],\"quartusaddon\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® Quartus Software - Add-ons\"],\"fpgaplatform\":[\"Primary Content Tagging\",\"Intel® FPGAs\",\"Intel® FPGA Platforms\"]}","newWrapperPageEnabled":true,"descendingSortingForNumericalFacetsName":"[\"Intel® Quartus® Prime Pro Edition\",\"Intel® Quartus® Prime Lite Edition\",\"Intel® Quartus® Prime Standard Edition\",\"Quartus® II Subscription Edition\",\"Quartus® II Web Edition\"]","columnsConfiguration":{"idColumn":false,"dateColumn":false,"versionColumn":false,"contentTypeColumn":false,"columnsMaxSize":0},"dynamicColumnsConfiguration":[{"name":"DynamicColumn_version","type":"version","gtv":"Version","width":135,"selected":true}],"updateCollateralMetadataEnabled":true,"relatedAssetsEnable":true,"disableExpandCollapseAll":true,"enableRelatedAssetsOnExpandAll":false,"disableBlueBanner":true,"isICS":false,"isUPE":false}

FAQ

Foire aux questions

Visitez le Cloud d'IA Intel® Tiber™ pour accéder à un nœud doté de huit accélérateurs Intel Gaudi 2. L'accès est accordé sur une base horaire à un coût raisonnable. Pour plus de détails, voir la section Obtenir l'accès.

Utilisez le kit d'outils de migration du processeur graphique préinstallé dans le logiciel Intel Gaudi. Le kit d'outils convertit le code Python* avec CUDA* et d'autres commandes spécifiques aux processeurs graphiques en code que les accélérateurs Intel Gaudi peuvent comprendre. Le kit d'outils s'exécute en temps réel et ne modifie pas le code d'origine. Vous devez ajouter la bibliothèque GPU_migration dans le script du modèle. Le Guide de l'utilisateur du kit d'outils de migration du processeur graphique explique comment s'assurer que le modèle est fonctionnel sur les accélérateurs Intel Gaudi.

Vous trouverez des modèles entièrement documentés et optimisés dans les référentiels GitHub* suivants : références de modèles et Optimum pour les accélérateurs Intel Gaudi de Hugging Face*. Ces référentiels contiennent des instructions sur la manière de télécharger l'ensemble de données et d'exécuter les modèles.

Configuration fournit des informations sur la migration des modèles vers le processeur Intel Gaudi, ainsi que des vidéos et des liens directs vers une documentation détaillée. Pour les nouveaux utilisateurs de processeurs Intel Gaudi, reportez-vous au Guide de démarrage rapide du Cloud d'IA Intel Tiber.

Commencez par la bibliothèque Optimum pour les accélérateurs Intel Gaudi. Il s'agit d'une bibliothèque dédiée qui permet à tous les modèles basés sur Hugging Face Transformer et sur Diffusion de s'exécuter sur les accélérateurs Intel Gaudi. Pour commencer, voir la section Utilisation de Hugging Face.

Nous recommandons à la plupart des utilisateurs d'exécuter l'image Docker* pour PyTorch* d'Intel, car elle contient tous les logiciels, pilotes et bibliothèques Intel Gaudi nécessaires à l'exécution correcte des modèles. Pour extraire et exécuter des images Docker pour les accélérateurs Intel Gaudi, reportez-vous aux instructions d'installation de Docker.

Les chiffres de performance pour la formation et l'inférence, y compris les derniers chiffres de performance MLPerf*, sont disponibles dans les Données de performance des modèles.

Visitez le Forum des développeurs de l'accélérateur d'IA Intel Gaudi pour poser des questions et voir les réponses des membres de l'équipe Intel et de la communauté au sens large.

Pour identifier la version la plus récente du logiciel, consultez les Notes de mise à jour. Pour trouver la version actuelle du logiciel Intel Gaudi sur votre plateforme, reportez-vous à la section Vérification de la pile logicielle dans la documentation du logiciel Intel Gaudi.

Oui. Utilisez le kit de développement logiciel TPC* (Tensor Processor Core) pour les accélérateurs Intel Gaudi afin d'écrire des noyaux. Il s'agit d'une bibliothèque de noyaux basée sur TPC-C, les noyaux CUDA personnalisés doivent donc être convertis en noyaux TPC pour les accélérateurs Intel Gaudi. Pour en savoir plus, voir la section Programmation TPC.

Si vous avez des questions auxquelles vous ne trouvez pas de réponse ici, postez-les dans le Forum des développeurs de l'accélérateur d'IA Intel Gaudi. Pour toute question spécifique relative à l'utilisation de modèles PyTorch* sur GitHub*, postez dans l'onglet Problèmes du référentiel GitHub Model-References.