ID de l'article: 000089266 Type de contenu: Dépannage Dernière révision: 08/09/2022

Impossible d’accélérer le temps d’inférence lors de l’inférence avec deux Stick de calcul neuronal Intel® 2 (NCS2s) à l’aide du plugin MULTI

BUILT IN - ARTICLE INTRO SECOND COMPONENT
En bref

Meilleur moyen d’inférer le modèle avec deux NCS2 à l’aide du plugin MULTI

Descriptif
  • Modèle YOLOv4 personnalisé par inférence avec deux NCS2 utilisant un plugin MULTI, MULTI:MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480.
  • Le temps d’inférence n’a pas accéléré.
Résolution

Le meilleur moyen d’utiliser un plugin Multi avec plusieurs NCS2 est de configurer chaque NCS2 et de créer le multi-périphérique au-dessus.

from openvino.inference_engine import IECore

ie = IECore()

myriad1_config = {}
myriad2_config = {}
ie.set_config(config=myriad1_config, device_name="MYRIAD.3.1-ma2480")
ie.set_config(config=myriad2_config, device_name="MYRIAD.3.3-ma2480")
# Load the network to the multi-device, specifying the priorities
exec_net = ie.load_network(
network=net, device_name="MULTI", config={"MULTI_DEVICE_PRIORITIES": "MYRIAD.3.1-ma2480,MYRIAD.3.3-ma2480"}
)
# Query the optimal number of requests

#Use -nireq 10 to get maximum FPS.
nireq = exec_net.get_metric("OPTIMAL_NUMBER_OF_INFER_REQUESTS")

Produits associés

Cet article concerne 2 produits

Le contenu de cette page est une combinaison de traduction humaine et informatique du contenu original en anglais. Ce contenu vous est fourni pour votre commodité et à titre informatif seulement et ne saurait être totalement exact ou complet. En cas de contradiction entre la version anglaise de cette page et la traduction, c'est la version anglaise qui prévaut. Afficher la version anglaise de cette page.