Travail sur la mise en œuvre de la collecte d’inférences pour 1000 images/itérations pour différents modèles avec plusieurs lots.
Inférence réussie du code personnalisé pour un lot unique avec de bons résultats.
Impossible d’obtenir un bon FPS une fois que le code personnalisé a été modifié en plusieurs lots.
Résolution
Pour une meilleure compréhension de la façon dont la forme est généralement gérée par OpenVINO™ Model Optimizer. & simplicité de la conversion IR du modèle dynamique, il est suggéré d’utiliser OpenVINO™ PyPI.
Commande de conversion pour le modèle de forme dynamique : mo -m model.onnx -input_shape [-1,3,224,224]
Commande d’inférence pour le modèle de forme dynamique : benchmark_app -m model.xml --data_shape [5,3,224,224]
Si la forme du modèle IR est modifiée, il suffit de relancer le modèle ONNX* avec MO. Cependant, gardez à l’esprit que la forme analysée DOIT s’aligner sur la forme ONNX* d’origine.
Chaque fois que des modifications sont apportées au modèle d’origine, il doit être exécuté à nouveau avec MO pour générer un modèle IR qui reflète les dernières modifications.
Produits associés
Cet article s'applique aux produits 3.
Logiciels pour processeurs Intel® Xeon Phi™
OpenVINO™ toolkit
Bibliothèques de performances
Avis de non-responsabilité
Le contenu de cette page est une combinaison de traduction humaine et informatique du contenu original en anglais. Ce contenu vous est fourni pour votre commodité et à titre informatif seulement et ne saurait être totalement exact ou complet. En cas de contradiction entre la version anglaise de cette page et la traduction, c'est la version anglaise qui prévaut. Afficher la version anglaise de cette page.