Quelle est la relation entre la complexité d’un modèle et son débit d’inférence ?

Impossible de déterminer pourquoi l’outil de banc d’essai signale des FPS d’inférence similaires pour deux modèles de complexités très différentes, qui est défini par des opérations en virgule flottante Giga (GFLOP).

• Un nombre plus élevé de CESPS est directement détâchant vers un nombre réduit de FPS. Toutefois, il n’y a pas de comparaison équitable entre les FPS et les LEURPS.
• Facteurs pouvant affecter le FPS obtenu à partir de l’outil de banc d’essai :
  • Fonctionnez en mode synchrone et asynchrone
  • Nombre de flux
  • Nombre de demandes d’inférence

Intel® NCS2 est construite sur le VPU Intel® Movidius™ Myriad™ X doté de 16 cœurs rasables programmables et d’un moteur de calcul neuronal dédié. Cette fonctionnalité améliore les performances des réseaux.