Pour réduire le temps de chargement, chargez le modèle à partir de l’objet blob, qui est un graphique analysé, pour contourner l’étape d’analyse syntaxique du modèle.
Il existe deux processus internes lors du chargement d’un modèle sur l’unité de traitement de la vision :
Pendant le processus de chargement, les graphiques VPU analysés sont envoyés au matériel, étape par étape, par xlink depuis l’hôte.
Le chargement d’un modèle à partir d’un objet blob peut réduire considérablement le temps nécessaire à certains modèles, mais il est possible que cela ne fonctionne pas pour tous les modèles.
Outre la taille du modèle, le temps de chargement dépend du type de couche, de la taille des données d’entrée, etc.
Le plug-in HDDL est plus efficace que le plug-in MYRIAD lors du chargement du modèle à partir d’un objet blob.
Suivez ces étapes pour activer le plug-in HDDL au lieu du plug-in MYRIAD sur le Stick de calcul neuronal Intel® 2 :