Plugin hétérogène avec le Stick de calcul neuronal Intel® 2

Documentation

Installation et configuration

000055368

07/09/2022

Le plugin hétérogène (HETERO) permet l’inférence informatique sur un réseau à l’aide de plusieurs périphériques. Vous pouvez exécuter des réseaux en mode hétérogène afin de :

  • Utilisez la puissance des accélérateurs, y compris le calcul des composants les plus lourds du réseau sur des accélérateurs, et exécutez des couches non prises en charge sur les périphériques de chute comme le processeur.
  • Utilisez plus efficacement tout le matériel disponible au cours d’une seule inférence.

Pour utiliser le plugin hétérogène et exécuter une inférence sur votre Stick de calcul neuronal Intel® 2 à l’aide de l’application Benchmark de™ OpenVINO, suivez les étapes ci-dessous :

  1. Créez les échantillons C++ en exécutant buildsamples.sh (pour Linux) ou build_samples_msvc.bat (pour Windows) se trouvant dans inference_engine/samples répertoire.
  2. Utilisez le benchmark_app pour tester et configurer le plugin Hetero avec les périphériques que vous souhaitez utiliser. Par exemple, l’exécution de -d HETERO:GPU,CPU donne la priorité au GPU, alors que le processeur sera un périphérique de chute.

Vous trouverez plus d’informations sur le plugin hétérogène et le kit d’outils OpenVINO.