IA à l'Edge

Ensemble, l'intelligence artificielle (IA) et l'Edge Computing offrent une valeur quasi-en temps réel aux consommateurs et aux entreprises.

Points essentiels à retenir

  • L'IA à l'Edge étend l'IA du centre de données aux périphériques locaux à l'Edge.

  • Bien que l'IA à l'Edge soit complexe, les entreprises qui ont déjà investi à l'Edge sont bien positionnées pour commencer à utiliser l'IA.

  • Les approches typiques d'adoption de l'IA à l'Edge comprennent l'achat d'une solution, la conception d'une solution ou l'adoption d'une approche combinée.

  • Avoir une plateforme unifiée comme base permet d'assurer l'interopérabilité et le succès de l'IA à l'Edge, quelle que soit l'approche d'adoption.

author-image

Par

Qu'est-ce que l'IA à l'Edge

Les capacités innovantes à l'Edge, facilitées par l'amélioration des performances et de l'efficacité informatiques, rassemblent les mondes physique et numérique. L'IA à l'Edge, qui apporte l'IA aux appareils et aux capteurs locaux, accélère l'analyse des données et la prise de décisions, indépendamment du Cloud ou du centre de données. Résultat : réactivité et informations en quasi-temps réel, efficacité accrue, coûts opérationnels réduits et possibilité d'offrir de nouveaux types d'expériences client.

Rôle de l'IA à l'Edge

Que l'objectif final soit d'automatiser les flux de travail d'imagerie médicale pour accélérer le diagnostic ou d'améliorer l'efficacité opérationnelle dans une usine de construction métallique, le rôle de l'IA à l'Edge est le même : exploiter les données pour agir plus rapidement. Dans le domaine de l'IA, c'est une tâche appelée inférence qui tient ce rôle.

Lors de l'inférence, les données d'entrée en direct sont alimentées dans un modèle d'IA qui a été précédemment entraîné pour effectuer des fonctions telles que la prise de décisions, l'envoi d'alertes, la fourniture d'informations ou l'accomplissement de tâches comme le tri des images.

L'IA à l'Edge utilise fréquemment des appareils de l'Internet des objets (IoT), notamment des caméras, des sources de données et des capteurs, pour collecter et analyser des données concrètes. Supposons qu'un fournisseur d'électricité ou d'eau souhaite protéger ses pylônes, ses canalisations ou ses réseaux contre des personnes mal intentionnées. Les données provenant des vidéos de sécurité et des capteurs peuvent être traitées à l'Edge, alertant automatiquement les opérateurs des menaces en quasi-temps réel. Avec la possibilité de collecter et de traiter des données presque instantanément, l'IA à l'Edge étend largement les capacités d'une organisation, en permettant un éventail d'applications et d'expériences basées sur l'IA à l'Edge. Qu'il s'agisse d'un chatbot fonctionnant sur un guichet de banque, de voitures dotées de capacités automatisées d'assistance et d'évitement des collisions, d'alertes transmises en quasi-temps réel en cas de dangers ou d'incidents de sécurité dans les rues de la ville ou dans l'usine, les cas d'utilisation de l'IA à l'Edge dans tous les secteurs sont vastes.


IA à l'Edge vs. IA traditionnelle

L'IA traditionnelle est principalement basée sur le Cloud, les données étant envoyées au centre de données, où elles sont traitées et renvoyées après analyse. Ces modèles d'infrastructure de calcul centrés sur le Cloud ne sont pas les plus appropriés aux processus et opérations des entreprises, pour lesquels le facteur temps est primordial.

De nombreux cas d'utilisation de l'inférence en entreprise bénéficient de l'analyse des données très rapide. Ils nécessitent souvent un traitement des données en temps réel et ont des exigences de latence strictes. Très souvent, ils doivent être implémentés dans des endroits où la connectivité est médiocre, ce qui les rend vulnérables aux retards et aux erreurs dus à la perte de paquets de données lors de la transmission vers et depuis le Cloud.

Pour répondre à ces besoins et à ces défis, l'IA à l'Edge effectue l'analyse des données à la source, par exemple dans l'usine, l'hôpital ou la vitrine. Les algorithmes sont déployés sur site, où les données sont traitées soit dans un hub central, soit directement sur des appareils à l'Edge équipés de processeurs intégrés.

IA à l'Edge hybride


Ces deux approches, l'IA à l'Edge et l'IA dans le Cloud, ne s'excluent pas mutuellement. À mesure que l'IA à l'Edge progresse, une approche hybride qui distribue les charges de travail d'inférence entre l'Edge et le Cloud devrait être largement adoptée. L'idée est que des informations légères et en quasi-temps réel à l'Edge peuvent être renforcées par un contexte plus profond dans le Cloud.

En combinant la vitesse et l'efficacité de l'Edge avec des ressources évolutives basées sur le Cloud, l'Edge hybride facilitera les applications de pointe avec des environnements de déploiement et des exigences de performances diverses. Une approche hybride permettra également aux entreprises d'agréger les informations de plusieurs modèles dans leurs processus.

Bien que l'IA à l'Edge soit souvent associée à la vision par ordinateur, le paysage de cette technologie s'étend rapidement pour inclure des applications multi-modèles impliquant l'lA générative (GenAI), le langage naturel (conversion de texte, chatbots) et la robotique. Ces cas d'utilisation émergents sont censés révolutionner tous les secteurs d'activité. Dans la fabrication, les logiciels basés sur l'IA générative pourraient faciliter une chaîne d'approvisionnement agile et dynamique, tandis que les véhicules autonomes et l'infrastructure intelligente pourraient aider les villes intelligentes à réduire la pression sur l'environnement et à optimiser le flux de trafic.

Avantages de l'IA à l'Edge

L'IA à l'Edge peut aider les entreprises à relever un certain nombre de défis complexes pour résoudre des problèmes concrets. Certains des avantages de l'IA à l'Edge comprennent :

 

  • Vitesse et efficacité opérationnelles : essentielle à l'innovation, l'automatisation basée sur l'IA à l'Edge permet des opérations autonomes en quasi-temps réel, en éliminant les retards associés au traitement basé sur le Cloud. La latence et les goulots d'étranglement du réseau sont minimisés, ce qui augmente les taux de transfert de données.
  • Rentabilité : le volume croissant de données provenant de capteurs et d'appareils rend l'Edge computing plus rentable que d'envoyer des données au Cloud et d'attendre leur retour. La diminution de la bande passante consommée et des ressources nécessaires basées sur le Cloud permet de réduire les dépenses opérationnelles.
  • Économies d'énergie : les appareils IA à l'Edge conçus pour diminuer la consommation énergétique peuvent s'avérer nettement plus efficaces que le traitement basé sur le Cloud. De même, le matériel réseau (routeurs, commutateurs, etc.) consomme moins d'énergie, car le trafic vers et depuis le centre de données est minimisé.
  • Sécurité et souveraineté des données : le maintien des données sensibles à l'Edge permet de réduire les risques de sécurité et de protection de la vie privée en garantissant le contrôle, l'autonomie et le respect des réglementations locales.

Aspects de l'IA à l'Edge

Amener l'IA vers des environnements à l'Edge présente de nouveaux défis par rapport à l'exécution de l'IA dans le Cloud public ou privé, notamment :

 

  • Ajout de l'IA aux investissements existants : de nombreux environnements à l'Edge disposent d'une infrastructure à fonction fixe héritée incluant une variété d'équipements et de logiciels propriétaires. Les technologies propriétaires dont le format est incompatible peuvent présenter des défis techniques lors de leur intégration à une solution à l'Edge.
  • Entraînement et ajustement des modèles : les modèles d'IA à l'Edge sont uniques et doivent être adaptés (ajustés) à un secteur ou un cas d'utilisation spécifique. La connaissance du domaine humain s'avère souvent essentielle dans ces cas précis. Les entreprises ont besoin d'outils simples qui aident les experts qui ne sont pas scientifiques des données à transformer leur expertise en capacités d'IA.
  • Répondre à la diversité du matériel : les applications natives de l'Edge couvriront probablement une multitude de nœuds, de systèmes d'exploitation, de protocoles de connectivité, de besoins de calcul et de stockage, de restrictions d'énergie et de coûts, et de préoccupations de conformité. Les développeurs ont besoin de moyens de gérer cette complexité et de prendre en charge un environnement informatique hétérogène distribué.
  • Sécurisation et gestion des applications distribuées : les entreprises font face à de nouveaux défis lorsqu'elles souhaitent déployer l'IA avancée à l'Edge. La gestion du parc informatique est essentielle à l'application de l'IA à grande échelle, et la sécurité est une nécessité à chaque étape du processus.
  • Planification pour des conditions difficiles ou restreintes : les environnements à l'Edge imposent différents types de stress au matériel d'IA, tels que la chaleur, l'humidité ou les vibrations. Les solutions d'IA à l'Edge pour des cas d'utilisation tels que la surveillance du trafic ou l'assurance qualité doivent souvent être placées dans des zones comprenant de petites quantités d'équipement physique. Tout cela doit reposer sur une faible consommation d'énergie, ce qui est également important pour maîtriser les coûts et promouvoir le développement durable.

Solutions d'IA à l'Edge

Comment moderniser les opérations métier avec l'IA à l'Edge est un sujet profond et multi-facettes. Certaines entreprises, par exemple dans les secteurs de la fabrication et de l'industrie, voudront ajouter la technologie à l'Edge et l'« intelligence » à l'équipement opérationnel existant à mesure qu'elles évoluent vers une entreprise numérique qui utilise des données en quasi-temps réel pour générer de la valeur. D'autres, par exemple dans les secteurs de la finance et de la santé, disposent d'opérations de grande envergure centrées sur les données, qui sont trop vastes ou disparates pour la surveillance et l'analyse par des humains. Ces organisations se tournent vers la numérisation et l'automatisation de leurs processus de données pour découvrir des modèles et des informations plus rapidement et pour améliorer l'efficacité, la conformité et la sécurité des données.

Quels que soient les défis qu'une entreprise tente de relever, il est recommandé de gérer l'introduction de l'IA par phases. Bien que les cas d'utilisation les plus avancés et de grande envergure nécessitent une pile technologique pour l'IA de l'Edge au Cloud, le démarrage de l'IA à l'Edge peut se faire sans investissement majeur dans l'infrastructure. Les entreprises disposant déjà d'environnements à l'Edge sont probablement prêtes à se lancer dans l'IA dès aujourd'hui. Les ressources de calcul à l'Edge existantes, telles que les systèmes de point de vente (POS), les PC industriels et les serveurs locaux dans le domaine de la santé, peuvent gérer de nombreuses charges de travail d'IA, notamment la vision par ordinateur.

Remarques concernant l'intégration

Le principal défi de la mise en œuvre d'une solution d'IA à l'Edge est de surmonter la complexité inhérente à la coordination des divers éléments qui composent la solution, notamment l'infrastructure de calcul, les appareils IoT et l'équipement existant. Une plateforme technologique unifiée peut aider à réduire cette complexité et à promouvoir l'interopérabilité entre plusieurs environnements d'IA, ainsi que la normalisation dans une infrastructure hétérogène, en créant une trame unifiée de l'Edge au Cloud.

Considérations matérielles

Que ce soit pour entraîner des modèles dans le Cloud, les ajuster (fine-tuning) ou les déployer à l'Edge, le choix du matériel d'IA approprié aide les entreprises à dimensionner leur budget et leurs exigences de performances.
Certains processeurs prennent en charge l'ensemble du pipeline de l'IA, de l'entraînement de modèles extrêmement complexes aux besoins plus simples, notamment l'intégration de l'IA dans les appareils des utilisateurs finaux :

 

  • Les processeurs (CPU) avec accélérateurs intégrés peuvent traiter de nombreuses charges de travail d'IA à l'Edge sans nécessiter de matériel spécialisé.
  • Les processeurs graphiques (GPU) conviennent aux charges de travail les plus exigeantes dans le centre de données, à l'Edge ou dans les appareils des utilisateurs finaux.
  • Les FPGA sont souvent utilisés comme accélérateurs d'IA et processeurs d'IA pour les charges de travail d'IA de l'Edge au Cloud. Par rapport aux CPU et aux GPU, les FPGA sont plus polyvalents et peuvent être reconfigurés pour s'adapter à une grande variété de cas d'utilisation. Leur combinaison de vitesse, de programmabilité et de flexibilité évite le processus coûteux et complexe de développement de puces personnalisées.

Choix de l'approche d'adoption

Les entreprises qui cherchent à étendre les applications d'IA à l'Edge se répartissent généralement en trois catégories : celles qui souhaitent acheter une solution ou une application d'IA sur mesure, celles qui veulent créer leur propre application d'IA et celles qui cherchent à atteindre leurs objectifs d'IA par une combinaison des deux approches.

Création d'une solution d'IA : pour construire sa propre solution d'IA à l'Edge, les plateformes logicielles natives et indépendantes du fournisseur permettent la création, le déploiement et l'itération sur les flux de travail d'IA ; elles affichent la plus vaste interopérabilité et la plus large prise en charge de protocoles. Après le déploiement, les plateformes natives de l'Edge facilitent également la gestion et la mise à jour des logiciels d'IA dans tous les environnements distribués à l'Edge.
Lors de l'évaluation des plateformes, il est important de prendre en compte les facteurs suivants :

 

  • Prise en charge des environnements informatiques hétérogènes souvent présents à l'Edge
  • Normes ouvertes pour assurer la pérennité des efforts d'IA
  • Options de développement professionnelles avec un minimum de codage (low-code)
  • Possibilité d'importer des applications existantes
  • Tableaux de bord de télémétrie intégrés pour dimensionner le matériel et optimiser les applications
  • Fonctionnalités de sécurité intégrées
  • Fonctionnalités d'autoscaling (mise à l'échelle automatique) et de conteneurisation de type Cloud

 

Achat de solutions d'IA prêtes à l'emploi : les entreprises peuvent également acheter des solutions d'IA auprès d'un fournisseur ou d'un intégrateur de systèmes, qui propose des systèmes matériels et logiciels intégrés adaptés à des cas d'utilisation et à des besoins spécifiques. Il est important de choisir une solution prête pour le marché, qui dispose de capacités d'IA interopérables et qui a fait ses preuves en termes de déploiements réussis dans le secteur et le domaine en question.

Adopter une approche combinée : de nombreuses entreprises trouvent que la combinaison de leurs propres efforts de développement avec des composants pré-assemblés peut être le moyen le plus efficace de réussir leurs initiatives d'IA. Une gamme de tutoriels et de ressources démontrant des cas d'utilisation de l'IA à l'Edge peuvent accélérer le temps de valorisation (time to value) et simplifier le développement. En outre, il existe un large éventail de ressources logicielles qui facilitent le développement : frameworks, kits d'outils, outils de développement spécifiques au secteur, architectures et implémentations de référence, etc.