Documentation de référence sur les différences dans l’utilisation des OpenVINO™ avec le format du modèle IR par rapport au format directement à partir du format source.
Impossible de trouver des informations sur les différences entre exécuter OpenVINO™ avec le format de modèle IR et directement à partir du format source (ONNX*, Pytorch*).
-
L’exécution d’une inférence OpenVINO™ avec le format de modèle IR offre les meilleurs résultats possibles puisque le modèle est déjà converti. Ce format offre une latence de première inférence plus faible et des options pour l’optimisation du modèle. Ce format est le plus optimisé pour l’inférence OpenVINO™.
-
Lorsque l’inférence est exécutée directement à partir du format source, la conversion du modèle est automatique et est gérée par OpenVINO™. Cette méthode est pratique mais peut ne pas donner les meilleures performances ou stabilité. Il ne fournit pas non plus d’options d’optimisation.
Reportez-vous à la page Préparation du modèle pour plus d’informations sur les formats de modèle OpenVINO™ pris en charge.