Base de connaissances pour l'assistance

Quelle est la raison pour laquelle la déduction du format de modèle FP32 est plus rapide que celle du format de modèle FP16 sur le processeur ?

Type de contenu: Compatibilité | ID de l'article: 000093301 | Dernière révision: 20/11/2023

Descriptif Résolution

Descriptif

Format de modèle FP32 et format de modèle FP16 inférés sur le processeur.
La vitesse d’inférence du format de modèle FP32 était plus rapide que celle du format de modèle FP16.
Impossible de déterminer la raison lors de l’inférence du format du modèle FP32 est plus rapide que le format du modèle FP16 sur le processeur.

Résolution

Le résultat de l’inférence varie en fonction du plug-in de l’appareil pris en charge et du format de modèle pris en charge.

Produits associés

Cet article s'applique aux produits 3.

Logiciels pour processeurs Intel® Xeon Phi™ OpenVINO™ toolkit Bibliothèques de performances

Avis de non-responsabilité

Le contenu de cette page est une combinaison de traduction humaine et informatique du contenu original en anglais. Ce contenu vous est fourni pour votre commodité et à titre informatif seulement et ne saurait être totalement exact ou complet. En cas de contradiction entre la version anglaise de cette page et la traduction, c'est la version anglaise qui prévaut. Afficher la version anglaise de cette page.

Vous avez besoin d'aide ?

Contacter l'assistance