ID de l'article: 000059690 Type de contenu: Information et documentation de produit Dernière révision: 02/03/2023

Quelle est la relation entre la complexité d’un modèle et son débit d’inférence ?

Environnement

NCS2

BUILT IN - ARTICLE INTRO SECOND COMPONENT
En bref

Facteurs pouvant affecter le FPS obtenu à partir de l’outil de banc d’essai

Descriptif

Impossible de déterminer pourquoi l’outil de banc d’essai signale des FPS d’inférence similaires pour deux modèles de complexités très différentes, qui est défini par des opérations en virgule flottante Giga (GFLOP).

Résolution
  • Un nombre plus élevé de CESPS est directement détâchant vers un nombre réduit de FPS. Toutefois, il n’y a pas de comparaison équitable entre les FPS et les LEURPS.
  • Facteurs pouvant affecter le FPS obtenu à partir de l’outil de banc d’essai :
    • Fonctionnez en mode synchrone et asynchrone
    • Nombre de flux
    • Nombre de demandes d’inférence
Informations complémentaires

Intel® NCS2 est construite sur le VPU Intel® Movidius™ Myriad™ X doté de 16 cœurs rasables programmables et d’un moteur de calcul neuronal dédié. Cette fonctionnalité améliore les performances des réseaux.

Produits associés

Cet article concerne 2 produits

Le contenu de cette page est une combinaison de traduction humaine et informatique du contenu original en anglais. Ce contenu vous est fourni pour votre commodité et à titre informatif seulement et ne saurait être totalement exact ou complet. En cas de contradiction entre la version anglaise de cette page et la traduction, c'est la version anglaise qui prévaut. Afficher la version anglaise de cette page.