Qu'est-ce que l'approche RAG ?
Les grands modèles de langage (LLM) comme les chatbots sont capables de traduire rapidement des langues, de fournir aux clients des réponses semblables à celles d'un humain et même de générer du code. En revanche, ils ne connaissent que les informations qu'ils ont rencontrées au cours de leur entraînement. Afin d'aborder efficacement des domaines de connaissances spécialisés et en constante évolution, tels que la connaissance approfondie de votre activité et de vos clients, les LLM doivent être exposés aux données les plus récentes. Même si le ré-entraînement ou l'ajustement (fine-tuning) représente une option, ce processus peut impliquer du temps et des coûts supplémentaires. Même dans ces circonstances, les LLM peuvent générer des réponses incorrectes.
La génération augmentée de récupération (RAG) est un framework d'IA de plus en plus populaire, qui aide les LLM à fournir des réponses d'IA plus précises et plus pertinentes. Elle ajoute à un LLM des données provenant d'une base de connaissances externe, ce qui permet aux LLM d'accéder aux informations les plus fiables et les plus récentes, et ainsi de fournir des réponses à jour et contextuelles.
RAG offre aux entreprises une approche rentable de l'IA générative. Des LLM prêts à l'emploi, appelés LLM de base, sont entraînés pour répondre à un large éventail de sujets. En revanche, ils doivent souvent être adaptés aux données de l'entreprise avant de pouvoir produire des résultats spécifiques. En offrant aux entreprises la possibilité d'injecter leurs propres données dans les LLM sans avoir à les ré-entraîner ni à les ajuster, cette approche simplifie le déploiement d'applications concrètes et spécifiques à un domaine.
Votre entreprise pourrait par exemple proposer à ses employés un chatbot basé sur la RAG afin d'améliorer la productivité. Pour vous aider à planifier vos vacances, vous pourriez demander au chatbot le nombre de jours de congés dont vous disposez pour le reste de l'année. Le chatbot lancerait une recherche dans les bases de données internes, en extrayant la politique de votre entreprise en matière de congés et le nombre de jours que vous avez déjà utilisés pour calculer le nombre de jours de congés que vous pouvez demander.
Un LLM de base qui n'a pas été entraîné sur les documents de votre entreprise ne peut pas fournir de réponse. Pire, il peut fournir en toute confiance une mauvaise réponse. Pour que le modèle de base réponde efficacement à la question, vous devez l'ajuster chaque fois que quelqu'un prend un jour de congé.
Quels sont les avantages de la RAG ?
L'intégration de la RAG au applications d'IA générative présente une série d'avantages.
- Alternative rentable à l'ajustement : dans bien des cas, la RAG permet aux entreprises d'adapter les LLM à leur activité et à leurs données nettement plus vite et pour bien moins cher que si elles devaient ré-entraîner ou ajuster les modèles. Les modèles d'IA générative sont ainsi capables de fournir des résultats d'IA utiles et pertinents aux employés et aux clients.
- Résultats plus fiables : les experts estiment que les LLM les plus populaires au monde génèrent des résultats incorrects, ou « hallucinent », entre 2 et 22 % du temps1. En fournissant aux LLM un contexte supplémentaire à partir de sources de connaissances fiables, la RAG contribue à améliorer la précision des LLM et à réduire les hallucinations. La RAG peut aussi fournir des citations de sources afin que les utilisateurs puissent vérifier les faits et faire des recherches plus approfondies.
- Informations en temps quasi-réel : grâce à la RAG, les entreprises peuvent injecter en permanence de nouvelles données dans les modèles, ce qui permet aux LLM de rester au fait de sujets qui évoluent rapidement. Les modèles basés sur la RAG sont même capables de se connecter directement à des sources comme les sites Web et les réseaux sociaux pour générer des réponses à partir d'informations en temps quasi-réel.
- Meilleure confidentialité des données : comme les bases de connaissances externes peuvent être stockées localement ou dans des centres de données privés, la RAG n'oblige pas les entreprises à partager des données confidentielles avec des LLM tiers. Les organisations peuvent personnaliser et déployer des modèles tout en préservant la sécurité de leurs données.
Comment fonctionne la RAG ?
Un LLM traditionnel est entraîné sur des quantités massives de données provenant d'Internet, y compris des articles, des transcriptions de vidéos et des forums de discussion. Un système RAG ajoute un mécanisme de récupération qui recoupe les informations d'une base de connaissances personnalisée avant de répondre à une question. Ces informations supplémentaires renforcent l'entraînement du LLM, ce qui permet d'obtenir une réponse plus adaptée aux besoins de l'utilisateur ou de l'entreprise.
La première étape de la mise en place d'une solution LLM basée sur la RAG consiste à construire une base de connaissances. Cette collecte de données peut inclure diverses sources textuelles, comme les manuels et les fiches produits de l'entreprise. Il vous faudra préparer vos données en vue d'un traitement efficace, notamment en les nettoyant, par exemple en supprimant les informations en double, puis les diviser en fragments facile à gérer. Ensuite, un modèle d'IA spécialisé, appelé modèle d'intégration, convertit le texte en vecteurs (représentations mathématiques du texte) qui saisissent le contexte et les relations entre les mots. Les vecteurs sont stockés dans une base de données vectorielles pour une récupération rapide.
Quand un utilisateur ou un sous-système soumet une requête, celle-ci passe par l'élément central du flux de travail, à savoir le mécanisme de recherche. Ce dernier recherche des correspondances dans la base de données vectorielles et partage les données les plus pertinentes avec le LLM pour l'enrichir d'un contexte supplémentaire.
Le LLM associe ensuite son entraînement aux données externes pour générer une réponse finale, garantissant ainsi à l'utilisateur une réponse contextuelle précise et utile.
Pour en savoir plus sur ces étapes, lisez notre article sur le déploiement d'applications RAG.
Utilisations de la RAG
Les entreprises de tous les secteurs utilisent la RAG pour accroître la productivité des employés, offrir des expériences personnalisées et réduire les coûts d'exploitation.
Voici quelques exemples de la façon dont la RAG transforme l'activité des entreprises.
- Expériences d'achat personnalisées : les systèmes de recommandation basés sur la RAG peuvent recueillir en temps réel les préférences des clients et les tendances du marché à partir de sources telles que les moteurs de recherche et X (anciennement Twitter). Les détaillants peuvent ainsi fournir à chaque acheteur des recommandations de produits personnalisées en temps quasi-réel. Lisez notre article consacré à ce sujet.
- Maintenance prédictive dans les usines : en exploitant les données historiques de performance, les données spécifiques aux équipements et les données des capteurs en direct, les systèmes de détection d'anomalies basés sur la RAG peuvent détecter les irrégularités des équipements dès les premiers signes, ce qui permet aux fabricants de traiter les problèmes potentiels avant qu'ils n'entraînent des temps d'arrêt. La connaissance approfondie des machines complexes donne aux systèmes RAG la possibilité de détecter des changements subtils dans la vitesse et la précision de l'équipement qui échappent souvent aux systèmes traditionnels. Lisez notre article consacré à ce sujet.
- Assistants IA pour les services financiers : les chatbots basés sur la RAG peuvent synthétiser un réseau complexe de tendances et de réglementations du marché en temps réel et fournir aux utilisateurs des conseils financiers opportuns, personnalisés et exploitables. Grâce à ces puissants assistants IA, les institutions financières sont à même de fournir des conseils personnalisés à une large base de clients, tout en se conformant à des réglementations en constante évolution. Lisez notre article consacré à ce sujet.
Poursuivez votre initiative RAG
Si vous souhaitez profiter de la valeur et des opportunités de l'IA générative et des LLM, la RAG permet de personnaliser les applications LLM plus vite que l'ajustement. Les articles suivants vous renseigneront sur le pipeline RAG et les outils qui rationalisent son déploiement.
Composants de base de la RAG avec Intel : principaux composants du pipeline RAG.
Comment déployer des applications RAG : recommandations de matériel et de logiciels Intel® pour l'ensemble du pipeline RAG.
Cloud Intel® Tiber™ pour l'IA : testez les aspects importants du pipeline RAG sur du matériel et des logiciels Intel®.