En bref
Limitation de la prise en charge de la forme dynamique pour le GPU
Descriptif
- Modèle ONNX inféré avec OpenVINO™ Benchmark_app 2023.0 sur le processeur et le GPU.
- Inférence réussie sur le processeur, mais échec sur le GPU.
Résolution
Actuellement, la prise en charge de la forme dynamique pour le GPU est une fonctionnalité d’aperçu et présente les limitations suivantes :
- Il prend principalement en charge les modèles de traitement du langage naturel (NLP). Toutes les opérations et optimisations ne réussissent pas et ne prennent pas en charge les formes dynamiques. En conséquence, un modèle donné peut tomber en panne ou subir des baisses de performances importantes.
- En raison de la surcharge d’exécution dominante sur le périphérique hôte, les formes dynamiques peuvent être moins performantes que les formes statiques sur un GPU dédié.
- Le classement dynamique n’est pas pris en charge.
Informations complémentaires
Reportez-vous à Périphérique GPU pour plus d’informations.