Impossible d’exécuter Benchmark_app pour le modèle ONNX sur le GPU

• Modèle ONNX inféré avec OpenVINO™ Benchmark_app 2023.0 sur le processeur et le GPU.
• Inférence réussie sur le processeur, mais échec sur le GPU.

Actuellement, la prise en charge de la forme dynamique pour le GPU est une fonctionnalité d’aperçu et présente les limitations suivantes :

• Il prend principalement en charge les modèles de traitement du langage naturel (NLP). Toutes les opérations et optimisations ne réussissent pas et ne prennent pas en charge les formes dynamiques. En conséquence, un modèle donné peut tomber en panne ou subir des baisses de performances importantes.
• En raison de la surcharge d’exécution dominante sur le périphérique hôte, les formes dynamiques peuvent être moins performantes que les formes statiques sur un GPU dédié.
• Le classement dynamique n’est pas pris en charge.

Reportez-vous à Périphérique GPU pour plus d’informations.