Mettre en œuvre la génération augmentée de récupération (RAG) pour accélérer le développement d'applications LLM

Accélérez vos initiatives de RAG et d'IA générative

Les applications basées sur de grands modèles de langage (LLM), telles que les chatbots, offrent des avantages considérables quel que soit le secteur d'activité. Les entreprises utilisent les LLM pour réduire les coûts opérationnels, améliorer la productivité des employés et offrir des expériences clients plus personnalisées.

Les entreprises comme la vôtre s'efforcent de transformer cette technologie révolutionnaire en un avantage concurrentiel, mais une grande partie d'entre elles devront d'abord adapter des LLM prêts à l'emploi aux données de leur organisation afin que les modèles puissent fournir des résultats d'IA spécifiques. Toutefois, les coûts et le temps nécessaires à l'ajustement des modèles constituent des obstacles considérables qui freinent de nombreux innovateurs potentiels.

Pour surmonter ces obstacles, la génération augmentée de récupération (RAG) offre une approche plus rentable pour personnaliser les LLM. En ancrant des modèles sur vos données propriétaires sans ajustement, la RAG vous permet de lancer rapidement des applications LLM adaptées à votre entreprise ou à vos clients. Au lieu d'exiger un ré-entraînement ou un ajustement, elle vous permet de connecter le LLM prêt à l'emploi à une base de connaissances externe élaborée à partir des données uniques et exclusives à votre organisation. Cette base de connaissances alimente les résultats du modèle avec le contexte et les informations spécifiques de l'entreprise.

Dans cet article, vous apprendrez à configurer les éléments clés de votre projet RAG, du choix du matériel et des logiciels à la construction de votre base de connaissances et à l'optimisation de votre application en production. Nous partagerons également des outils et des ressources qui vous permettront d'optimiser la puissance et l'efficacité de chaque phase du pipeline.

Dans quels cas utiliser l'approche RAG ?

Avant de commencer à évaluer les composants de base du pipeline, vous devez déterminer si la RAG ou l'ajustement convient mieux à votre application LLM.

Comme ces deux approches reposent sur un LLM de base, la personnalisation des LLM est plus rapide qu'en entraînant un modèle à partir de zéro. Les modèles de base ont été pré-entraînés et ne nécessitent pas d'accès à des ensembles de données massifs, à une équipe d'experts en données ni à une puissance de calcul supplémentaire pour l'entraînement.

Cependant, une fois que vous aurez choisi un modèle de base, vous devrez l'adapter à votre entreprise, afin qu'il produise des résultats répondant à vos défis et vos besoins. L'approche RAG peut s'avérer très utile pour votre application LLM si vous ne disposez pas du temps ou du budget nécessaire à l'ajustement. Elle réduit également le risque d'hallucinations, peut fournir des sources pour améliorer l'explicabilité de ses résultats et offrir des avantages en matière de sécurité, car les informations sensibles peuvent être conservées en toute sécurité dans des bases de données privées.

Découvrez les avantages de la RAG pour les initiatives d'IA générative

Choisissez un matériel qui privilégie les performances et la sécurité

Le pipeline RAG comprend de nombreux composants à forte intensité de calcul, et les utilisateurs finaux attendent des réponses à faible latence. Le choix de la plateforme de calcul est donc fondamental.

Les processeurs Intel® Xeon® vous permettent d'alimenter et de gérer l'ensemble du pipeline RAG sur une seule plateforme, rationalisant ainsi le développement, le déploiement et la maintenance. Ils sont dotés de moteurs d'IA intégrés pour accélérer les opérations clés du pipeline, notamment l'ingestion et la récupération des données, ainsi que l'inférence IA, sur le CPU, sans nécessiter de matériel supplémentaire.

Pour les applications RAG qui nécessitent le débit le plus élevé ou la latence la plus faible, vous pouvez intégrer des accélérateurs d'IA Intel® Gaudi® afin de répondre aux exigences de performances avancées de manière rentable. Les accélérateurs Intel® Gaudi® sont conçus pour accélérer l'inférence et peuvent même remplacer les CPU et autres accélérateurs pour l'inférence RAG.

Dans la mesure où les entreprises utilisent souvent la RAG lorsqu'elles travaillent avec des données confidentielles, il est primordial de protéger votre pipeline pendant le développement et la production. Les processeurs Intel® Xeon® utilisent des technologies de sécurité intégrées, à savoir Intel® Software Guard Extensions (Intel® SGX) et Intel® Trust Domain Extensions (Intel® TDX), pour permettre un traitement sécurisé de l'IA dans l'ensemble du pipeline grâce au calcul confidentiel et au chiffrement des données.

Une fois déployée, votre application est susceptible de voir sa latence augmenter en raison d'une hausse de la demande de la part des utilisateurs finaux. Le matériel Intel® étant hautement évolutif, vous êtes en mesure d'ajouter rapidement des ressources d'infrastructure pour répondre à une utilisation croissante. Vous pouvez également intégrer des optimisations pour prendre en charge des opérations clés dans le pipeline, telles que la vectorisation des données, la recherche vectorielle et l'inférence LLM.

Vous pouvez tester les performances de la RAG sur les processeurs Intel® Xeon® et les processeurs d'IA Intel® Gaudi® via le Cloud Intel® Tiber™ pour les développeurs

Utilisez un framework RAG pour intégrer facilement des chaînes d'outils d'IA

Pour relier de nombreux composants, les pipelines RAG combinent plusieurs chaînes d'outils d'IA pour l'ingestion de données, les bases de données vectorielles, les LLM, et bien plus encore.

Lorsque vous commencez à développer votre application RAG, les frameworks RAG intégrés tels que LangChain, fastRAG d'Intel Lab et LlamaIndex peuvent simplifier le développement. Les frameworks RAG fournissent souvent des API permettant d'intégrer des chaînes d'outils d'IA dans le pipeline et offrent des solutions basées sur des modèles pour des cas d'utilisation concrets.

Intel offre des optimisations pour améliorer les performances globales du pipeline sur le matériel Intel®. Par exemple, fastRAG intègre Intel® Extension pour PyTorch et Optimum Habana pour optimiser les applications RAG sur les processeurs Intel® Xeon® et les accélérateurs d'IA Intel® Gaudi®.

Intel a également contribué à l'optimisation de LangChain afin d'améliorer les performances sur le matériel Intel®. Découvrez comment vous pouvez facilement mettre en place ce flux de travail en utilisant LangChain et les accélérateurs d'IA Intel® Gaudi® 2

Créez votre base de connaissances

La RAG permet aux entreprises de fournir aux LLM d'importantes informations exclusives sur leurs activités et leurs clients. Ces données sont stockées dans une base de données vectorielles que vous pouvez créer vous-même.

Identifiez les sources d'informations

Imaginez que vous souhaitez vous servir de la RAG pour déployer un assistant personnel d'IA qui répond aux questions des employés sur votre activité. Vous pouvez fournir à un LLM des données clés telles que des informations sur les produits, les politiques de l'entreprise, des données sur les clients et des protocoles spécifiques à un service. Les employés pourraient poser des questions au chatbot propulsé par la RAG et obtenir des réponses spécifiques à l'entreprise, ce qui leur permettrait d'accomplir leurs tâches plus rapidement et de se concentrer sur la réflexion stratégique.

Bien évidemment, les bases de connaissances varient selon les secteurs d'activité et les applications. Une société pharmaceutique peut vouloir utiliser des archives de résultats de tests et d'antécédents des patients. Un fabricant peut transmettre les spécifications d'un équipement et les données historiques de performances à un bras robotisé basé sur la RAG afin qu'il puisse détecter rapidement les problèmes potentiels de cet équipement. Une institution financière peut vouloir connecter un LLM à des stratégies financières propriétaires et à des tendances de marché en temps réel pour permettre à un chatbot de fournir des conseils financiers personnalisés.

En somme, vous devez collecter les données importantes auxquelles vous souhaitez que votre LLM ait accès pour constituer votre base de connaissances. Ces données peuvent provenir de diverses sources textuelles, notamment des PDF, des transcriptions vidéo, des e-mails, des diapositives de présentation et même des données tabulaires provenant de sources telles que des pages Wikipédia et des tableurs. La RAG prend également en charge les solutions d'IA multimodales, qui combinent plusieurs modèles d'IA pour traiter les données quelle que soit la modalité, notamment le son, les images et la vidéo.

Par exemple, un détaillant peut utiliser une solution RAG multimodale pour rechercher rapidement des événements clés dans les vidéos de surveillance. Pour ce faire, il crée une base de données de séquences vidéo et utilise des invites textuelles, telles que « homme mettant quelque chose dans sa poche », pour identifier les séquences pertinentes au lieu d'avoir à les rechercher manuellement dans des centaines d'heures de vidéo.

Préparez vos données

Pour préparer vos données en vue d'un traitement efficace, vous devrez d'abord les nettoyer, par exemple en supprimant les informations en double et le bruit, puis les diviser en fragments facile à gérer. Vous trouverez ici d'autres conseils pour nettoyer vos données.

Ensuite, vous devrez utiliser un framework d'IA appelé modèle d'intégration pour convertir vos données en vecteurs, à savoir des représentations mathématiques du texte qui permettent au modèle de comprendre un plus grand contexte. Les modèles d'intégration peuvent être téléchargés à partir d'une tierce partie, comme ceux figurant sur le tableau de bord des modèles d'intégration open source de Hugging Face, et peuvent souvent être intégrés de manière transparente à votre framework RAG via les API de Hugging Face. Une fois la vectorisation effectuée, vous pouvez stocker vos données dans une base de données vectorielles afin qu'elles soient prêtes à être récupérées efficacement par le modèle.

En fonction du volume et de la complexité de vos données, leur traitement et la création d'intégrations peut exiger autant de calculs que l'inférence LLM. Les processeurs Intel® Xeon® gèrent efficacement l'ingestion, l'intégration et la vectorisation de vos données sur un nœud basé sur des CPU, sans nécessiter de matériel supplémentaire.

En outre, les processeurs Intel® Xeon® peuvent être associés à des modèles d'intégration quantifiés pour optimiser le processus de vectorisation, ce qui permet de multiplier par quatre le débit d'encodage par rapport aux modèles non quantifiés¹.

Optimisez les requêtes et la récupération du contexte

Lorsqu'un utilisateur soumet une requête à un modèle basé sur la RAG, un mécanisme de récupération recherche dans votre base de connaissances des données externes pertinentes afin d'enrichir le résultat final du LLM. Ce processus s'appuie sur des opérations de recherche vectorielle pour trouver et classer les informations les plus pertinentes.

Les opérations de recherche vectorielle sont hautement optimisées sur les processeurs Intel® Xeon®. Les Intel® Advanced Vector Extensions 512 (Intel® AVX-512) intégrées aux processeurs Intel® Xeon® améliorent les opérations clés de la recherche vectorielle et réduisent le nombre d'instructions, ce qui se traduit par des améliorations significatives en termes de débit et de performances.

Vous pouvez également tirer parti de la solution Scalable Vector Search (SVS) d'Intel Lab afin d'améliorer les performances des bases de données vectorielles. SVS optimise les capacités de recherche vectorielle sur les processeurs Intel® Xeon® afin d'améliorer les temps de recherche et les performances globales du pipeline.

Optimisez la génération de réponses du LLM

Une fois enrichi de données supplémentaires provenant de votre magasin de vecteurs, le LLM peut générer une réponse contextuelle précise. Cela nécessite l'inférence LLM, qui est généralement la phase la plus exigeante en matière de calcul dans le pipeline RAG.

Les processeurs Intel® Xeon® utilisent Intel® Advanced Matrix Extensions (Intel® AMX), un accélérateur d'IA intégré, pour effectuer des opérations matricielles plus efficaces et améliorer la gestion de la mémoire, ce qui permet de maximiser les performances de l'inférence. Pour les LLM de taille moyenne et de grande taille, utilisez les accélérateurs d'IA Intel® Gaudi® pour accélérer l'inférence avec des performances et une efficacité spécialement conçues pour l'IA.

Intel offre également plusieurs bibliothèques d'optimisation pour vous permettre de maximiser l'inférence LLM sur vos ressources matérielles. Nos bibliothèques Intel® oneAPI fournissent des optimisations de bas niveau pour des frameworks d'IA populaires tels que PyTorch et TensorFlow, ce qui vous permet d'utiliser des outils open source familiers optimisés sur le matériel Intel®. Vous pouvez également ajouter des extensions telles qu'Intel® Extension for PyTorch pour activer des techniques avancées d'inférence quantifiée afin d'améliorer les performances globales.

Une fois votre application en production, vous souhaiterez peut-être passer à la dernière version du LLM pour répondre à la demande des utilisateurs finaux. Dans la mesure où la RAG ne nécessite pas d'ajustement et où votre base de connaissances existe en dehors du modèle, cette approche vous permet de remplacer rapidement votre LLM par un nouveau modèle afin d'accélérer l'inférence.

Accélérez votre solution RAG avec Intel

La RAG peut vous aider à déployer des applications LLM personnalisées de manière rapide et rentable, sans nécessiter d'ajustements. Grâce aux composants de base appropriés, vous pouvez mettre en place un pipeline RAG optimisé en quelques étapes seulement.

Lorsque vous poursuivez votre initiative d'IA, le portefeuille de solutions d'IA Intel® améliore chaque phase de votre pipeline RAG. Nos solutions matérielles et logicielles sont conçues pour accélérer votre réussite.