Quelles sont les différences entre l’exécution d’OpenVINO™ avec le format de modèle IR et le format source
Type de contenu: Information et documentation de produit | ID de l'article: 000099171 | Dernière révision: 09/07/2024
Impossible de trouver des informations sur les différences entre exécuter OpenVINO™ avec le format de modèle IR et directement à partir du format source (ONNX*, Pytorch*).
L’exécution d’une inférence OpenVINO™ avec le format de modèle IR offre les meilleurs résultats possibles puisque le modèle est déjà converti. Ce format offre une latence de première inférence plus faible et des options pour l’optimisation du modèle. Ce format est le plus optimisé pour l’inférence OpenVINO™.
Lorsque l’inférence est exécutée directement à partir du format source, la conversion du modèle est automatique et est gérée par OpenVINO™. Cette méthode est pratique mais peut ne pas donner les meilleures performances ou stabilité. Il ne fournit pas non plus d’options d’optimisation.
Reportez-vous à la page Préparation du modèle pour plus d’informations sur les formats de modèle OpenVINO™ pris en charge.