FPGAi

Accélérez l’activation de votre solution personnalisée par l’IA. Découvrez comment FPGAi vous permet d’activer et de déployer l’IA dans votre solution personnalisée pour atteindre la faible latence, l’efficacité énergétique et l’agilité nécessaires à une innovation continue.

« Agilex 7 FPGAs améliorer les performances et l’efficacité de l’inférence LLM et fournir une plateforme d’amélioration continue, servant les modèles de transformateurs plus rapidement. Pour des LLM comme Llama3.1-70B et Mixtral 8x7B, Positron obtient des performances par watt 3,5 fois supérieures et des performances par dollar 4,5 fois supérieures aux principaux GPU du fournisseur historique.*

Thomas Sohmers, PDG
*Chiffres à jour au T32024 et version 1.1 du logiciel.

Myrtle.ai choisi les FPGAs Altera Agilex 7 comme plate-forme pour Vollo car ils permettent à une grande variété de modèles clients, du trading financier aux télécommunications sans fil et à la cybersécurité, d’obtenir des latences inférieures à celles de toute autre plate-forme.

Liz Corrigan, chef de produit