Intel® Distribution de OpenVINO™ boîte à outils

Nouveautés

• Plus de couverture de l’IA de génération et d’intégrations d’infrastructures pour minimiser les changements de code

• Nouveaux modèles pris en charge sur les CPU et GPU : Qwen3 VL
• Nouveaux modèles pris en charge sur les processeurs : GPT-OSS 120B
• Aperçu : Présentation du backend OpenVINO pour llama.cpp, qui permet une inférence optimisée sur les processeurs, GPU et NPU Intel. Validé sur des modèles GGUF tels que Llama-3.2-1B-Instruct-GGUF, Phi-3-mini-4k-instruct-gguf, Qwen2.5-1.5B-Instruct-GGUF et Mistral-7B-Instruct-v0.3.
• Nouveau notebook : chatbot VLM unifié avec prise en charge des fichiers vidéo et commutation de modèle interactif sur Qwen3-VL, Qwen2.5-VL et LLaVa-NeXT-Video.
• Prise en charge plus large des modèles LLM et davantage de techniques de compression de modèle
• 
  
  • OpenVINO™ GenAI ajoute la mise en cache TaylorSeer Lite pour la génération d’images et de vidéos, accélérant ainsi l’inférence des transformateurs de diffusion sur les pipelines Flux, SD3 et LTX-Video, alignée sur les diffuseurs de visage étreignants.
  • La génération LTX-Video sur GPU permet une accélération de bout en bout grâce à la fusion des opérateurs RMSNorm et RoPE, améliorant ainsi considérablement les performances de génération vidéo.
  • OpenVINO™ GenAI ajoute la prise en charge dynamique de LoRA pour les modèles Qwen3-VL et VL avec LLM, ce qui permet aux développeurs d’échanger leurs cartes au moment de l’exécution pour un service efficace de plusieurs variantes de modèles en production sans recharger le modèle de base.
  • Aperçu : l’API release-weights pour ov ::Model permet la récupération de la mémoire lors de la compilation du modèle sur les NPU, ce qui réduit considérablement la consommation de mémoire maximale pour les déploiements en périphérie et client. Les utilisateurs doivent définir cette propriété dans ov ::Model et elle sera appliquée lors de la compilation.
• Plus de portabilité et de performances pour exécuter l’IA à la périphérie, dans le cloud ou localement

• Introduction de la prise en charge des processeurs Intel® Core™ série 3 (ancien nom de code Wildcat Lake) et des graphiques Intel® Arc™ Pro B70 avec 32 Go de mémoire pour l’inférence à un seul GPU sur des LLM de paramètres 20-30B
• Le décodage de recherche rapide s’est étendu aux pipelines de langage de vision, offrant une génération de jetons beaucoup plus rapide pour les charges de travail multimodales sur les processeurs et les GPU Intel.
• OpenVINO™ GenAI a désormais une empreinte d’exécution plus petite après avoir éliminé les dépendances ICU DLL de la tokenisation, ce qui réduit l’utilisation de la mémoire, accélère le démarrage et facilite le déploiement.
• OpenVINO GenAI présente WhisperPipeline pour Node.js via son package NPM, offrant une reconnaissance vocale prête à la production avec une transcription audio-texte au niveau des mots.
• OpenVINO™ Model Server améliore la prise en charge des modèles Qwen3-MOE et GPT-OSS-20b, offrant des performances, une précision accrues et un traitement robuste des demandes simultanées avec un traitement continu des lots. Ces modèles pré-optimisés sont disponibles sur Hugging Face pour un déploiement facile. En outre, le serveur Model introduit des capacités d’inpainting et de outpainting d’images via le point de terminaison /image pour la retouche d’images d’IA.

Obtenez tous les détails. Consultez les notes de mise à jour 2026.1.

Consignes d’installation

Vous pouvez choisir comment installer OpenVINO™ Runtime à partir d’Archive* en fonction de votre système d’exploitation :

• Installer OpenVINO Runtime sous Linux*
• Installer OpenVINO Runtime sous Windows*
• Installer OpenVINO Runtime sous macOS*

Ce qui est inclus dans le package de téléchargement (fichier d’archive)

• Offre des API C/C++ et Python
• Inclut également des exemples de code

Liens utiles

NOTE: Liens ouverts dans une nouvelle fenêtre.

• Page d’accueil
• Télécharger
• Toute la documentation, les guides et les ressources
• Ordinateurs portables OpenVINO
• Notes de mise à jour
• Forum de la communauté
• Signaler un problème sur GitHub*