FPGAi
Accélérez l’activation de votre solution personnalisée par l’IA. Découvrez comment FPGAi vous permet d’activer et de déployer l’IA dans votre solution personnalisée pour atteindre la faible latence, l’efficacité énergétique et l’agilité nécessaires à une innovation continue.
Les FPGA d'Altera ouvrent une nouvelle ère de l'IA
Fusionner FPGAs et IA n’est pas seulement une évolution, c’est une révolution.
Altera inaugure la nouvelle ère du FPGAi avec une structure FPGA hautes performances et imprégnée d’IA. Notre logique programmable étroitement intégrée et notre IA permettent l’adaptation des données en temps réel et la prise de décision autonome, équipant les systèmes pour atteindre les complexités de nouvelle génération.
Pourquoi FPGAs pour l’IA
Les charges de travail d’IA devenant de plus en plus complexes et exigeantes, il est donc essentiel de choisir le bon matériel pour l’accélération de l’IA. Découvrez comment FPGAs pouvons offrir des solutions puissantes et flexibles pour les applications d’IA.
Pourquoi les FPGA sont parfaits pour la mise en œuvre d'applications d'intelligence artificielle et de Machine Learning à l'Edge
Découvrez les cas d'utilisation émergents de l'inférence de l'IA basée sur les FPGA dans les applications d'IA à l'Edge personnalisées et les solutions logicielles et matérielles d'Intel pour l'IA FPGA à l'Edge.
FPGA vs GPU pour le Deep Learning
Bien qu'aucune architecture unique ne fonctionne mieux pour toutes les applications de Machine et de Deep Learning, les FPGA peuvent offrir des avantages distincts par rapport aux GPU et à d'autres types de matériel.
Réseaux neuronaux quantifiés pour l'inférence FPGA
La quantification de faible précision pour les réseaux neuronaux prend en charge les spécifications des applications d'IA en fournissant un plus grand débit pour la même empreinte ou en réduisant l'utilisation des ressources.
Partenaires qui accélèrent l'AI at the Edge
Regardez ces vidéos pour découvrir comment les partenaires d'Altera peuvent vous aider à accélérer les charges de travail d'IA sur les FPGA.
Applications FPGAi
IA à l’Edge
FPGAs sont particulièrement adaptés à l’IA de périphérie dans diverses applications industrielles, médicales, de test et de mesure, aérospatiales, de défense et de diffusion. Les processeurs Arm intégrés, les processeurs logiciels Nios® V et divers protocoles d’E/S prenant en charge diverses données à la périphérie, associés à une faible latence déterministe, une faible consommation et une longévité, FPGAs confèrent des avantages supplémentaires à la périphérie.
GenAI ou Custom
L’Agilex™ 7 FPGA série M peut être utilisé pour l’inférence LLM personnalisée basée sur des transformateurs, surpassant les GPU en termes de puissance et de taille.
Avec 32 Go de HBM2E offrant 820 Gbit/s et jusqu’à 512 Go de DDR5 à 224 Gbit/s, il est idéal pour les caches LLM et KV. Le haut débit SERDES (116 Gbit/s), la prise en charge de 800 GbE et PCIe 5.0 (64 Gbit/s) garantissent une évolutivité et un transfert de données rapides. Les DSP à précision variable de l’appareil prennent en charge des formats adaptés aux inférences de l’IA tels que FP16, bfloat16 et INT8. L’architecture Hyperflex™ permet un fonctionnement de 500 MHz+ pour une inférence rapide de l’IA.
Attachement IA
Avec la prise en charge de 800 GbE, des solutions sur mesure peuvent être conçues pour les créateurs de clusters d’IA, avec FPGAs agissant comme des cartes réseau d’IA FPGA pour réduire la gigue d’ingestion des données et la congestion réseau des GPU pendant la formation ou l’inférence. Les options standard personnalisées et ouvertes pour le montée en puissance parallèle et le montée en puissance parallèle sont prises en charge.
FPGAs sont parfaits pour le prétraitement de l’IA, où les données sont formatées et filtrées pour être utilisées efficacement dans la formation ou l’inférence de l’IA.
FPGAs pouvez accélérer les bases de données des entreprises privées pour une récupération rapide des données.
Capacité de solution : FPGA hautes performances
L’Agilex™ 7 FPGA série M avec 89 INT8 TOPS, une capacité de mémoire HBM2e intégrée (bande passante de 32 Go et 820 Gbit/s) et un contrôleur de mémoire DDR5/LPDDR5 renforcé (prenant en charge 5 600 Mbit/s) allège les goulots d’étranglement pour les modèles d’IA liés à la mémoire tels que les modèles de transformateurs basés sur l’IA générative LLM.
Les appareils FPGA Agilex™ 5, avec jusqu’à 56 OPT INT8, sont dotés de la première structure FPGA infusée de blocs tenseurs IA pour une densité de calcul plus élevée. Les blocs tenseurs peuvent effectuer 20 multiplications-accumulations BlockFP16 ou INT8 en un cycle d’horloge, ce qui entraîne une augmentation 5x de la densité de calcul par rapport aux autres appareils du portefeuille Agilex FPGA.
Facilité d’utilisation pour les développeurs : conversion transparente des modèles pré-entraînés et optimisation automatique pour les ressources FPGA
FPGA suite IA offre une conversion par bouton poussoir du modèle pré-entraîné en IP d’inférence IA à l’aide de OpenVINO. L’outil d’optimisation automatique de la suite balaie l’espace de conception pour une mise en œuvre optimale des modèles d’IA.
L’émulation logicielle de l’IP FPGA AI Suite est accessible via l’interface du plug-in OpenVINO, ce qui permet d’évaluer rapidement la précision de l’IP IA FPGA sans avoir besoin de matériel (disponible pour Agilex™ 5 FPGA uniquement).
FPGA suite IA intègre le logiciel de conception Quartus® Prime et Platform Designer pour simplifier l’incorporation de la propriété intellectuelle d’inférence IA.
Agilité applicative : permettre une innovation continue
Les ingénieurs peuvent concevoir et faire évoluer des solutions d’IA en FPGAs de rester à la pointe de la technologie en utilisant la reprogrammabilité des appareils1 , des cycles de vie prolongés des produits et des options d’E/S polyvalentes qui permettent une innovation et une adaptation continues.
FPGAs sont intrinsèquement adaptés à l’IA. Les FPGAs des milliers de blocs DSP, des hiérarchies de mémoire et une large prise en charge des E/S permettent de personnaliser les conceptions et de construire des réseaux d’IA à partir de zéro pour obtenir des performances optimales.
Les modèles d’IA de différentes tailles peuvent être mis en œuvre efficacement, des modèles TinyML économes en énergie aux modèles de moyenne et grande taille à la périphérie et aux modèles de transformateurs GenAI LLM dans les centres de données.
Explorer les ressources pour démarrer
Intel® FPGA AI Suite
Accélérez votre développement de FPGA pour l'inférence de l'IA en utilisant des cadres tels que TensorFlow ou PyTorch et le kit d'outils OpenVINO, tout en tirant parti de flux de développement de FPGA robustes et éprouvés avec le logiciel Intel Quartus Prime.
En savoir plus
Intel® Distribution du kit d'outils OpenVINO™
Un kit d'outils open-source qui permet d'écrire une fois et de déployer n'importe où.
En savoir plus
Vous voulez davantage d'informations ?
N'hésitez pas à nous faire part de vos questions.
Nous contacter