Dernière revue :
Qu'est-ce que le RAG ? Définition et enjeux pour l'entreprise
Le RAG (Retrieval-Augmented Generation) est une architecture d'IA qui couple un moteur de recherche dans vos documents à un modèle génératif : le modèle répond en s'appuyant sur vos données métier citables plutôt que sur ses seules connaissances d'entraînement.
Le RAG fonctionne en trois étapes invisibles pour l'utilisateur final. Premièrement, vos documents (PDF, pages web, base de connaissances) sont découpés et convertis en vecteurs numériques, c'est-à-dire des coordonnées mathématiques qui représentent leur sens, puis stockés dans une base vectorielle. Deuxièmement, lorsqu'un utilisateur pose une question, le système recherche les passages les plus sémantiquement proches de la requête. Troisièmement, ces passages sont injectés dans le prompt envoyé au LLM, qui rédige une réponse en s'appuyant explicitement sur ces sources. La conséquence pratique est majeure. Le modèle ne s'appuie plus sur sa mémoire d'entraînement, il lit à chaque requête les documents pertinents que vous lui fournissez. C'est ce qui distingue le RAG du fine-tuning, qui modifie les paramètres internes du modèle. Le RAG laisse le modèle intact et joue uniquement sur ce qu'il a sous les yeux au moment de répondre.
Exemple concret
Une étude publiée en 2025 dans JMIR Cancer a comparé des chatbots avec et sans RAG, construits sur GPT-4 et GPT-3.5, sur 62 questions sur le cancer posées en japonais. Sans RAG, environ 40 % des réponses contenaient une hallucination. Branchés sur le Cancer Information Service japonais, les chatbots RAG sont descendus à 0 % (GPT-4) et 6 % (GPT-3.5) sur les sujets couverts par cette source. Branchés sur une recherche Google, ils restaient entre 6 et 10 %, et montaient à 19 et 35 % sur les questions absentes de la source fiable. Le RAG réduit fortement l'hallucination, à condition que la source soit fiable et couvre la question. Autre effet : les chatbots RAG ont su dire qu'ils ne savaient pas.
Questions fréquentes
Concrètement, comment fonctionne un RAG ?
En trois étapes invisibles pour l'utilisateur. Vos documents sont découpés et convertis en vecteurs stockés dans une base vectorielle ; à chaque question, le système retrouve les passages les plus proches du sens de la requête ; ces passages sont injectés dans le prompt, et le modèle rédige sa réponse en s'appuyant sur ces sources. Le modèle ne puise plus dans sa mémoire d'entraînement, il lit à chaque requête les documents que vous lui fournissez.
Quelle différence entre RAG et fine-tuning ?
Le fine-tuning modifie les paramètres internes du modèle, ce qui suppose un réentraînement à chaque mise à jour de connaissance. Le RAG laisse le modèle intact et joue uniquement sur les documents qu'il a sous les yeux au moment de répondre : ajouter un document ne demande qu'une réindexation. Pour des données qui changent souvent, le RAG est généralement préférable.
Le RAG supprime-t-il les hallucinations ?
Non, il les réduit, à condition que la source soit fiable et couvre la question. Dans une étude publiée en 2025 dans JMIR Cancer (62 questions posées en japonais), environ 40 % des réponses de chatbots sans RAG contenaient une hallucination. Branchés sur le Cancer Information Service japonais, les chatbots RAG sont descendus à 0 % (GPT-4) et 6 % (GPT-3.5) sur les sujets couverts par cette source. Branchés sur une recherche Google, ils montaient à 19 et 35 % sur les questions absentes de la source fiable.
Pourquoi tester un RAG avant d'envisager un fine-tuning ?
Parce qu'un RAG ne demande qu'une réindexation, là où le fine-tuning exige des compétences rares, une infrastructure de calcul lourde et un réentraînement à chaque évolution documentaire. Le RAG offre aussi trois atouts : la traçabilité (chaque réponse cite sa source), la fraîcheur (un nouveau document est indexé sans réentraînement) et la maîtrise (votre base documentaire reste votre propriété, quel que soit le fournisseur du modèle).
En quoi la traçabilité du RAG est-elle un enjeu juridique ?
Parce que chaque réponse cite la source documentaire utilisée, ce qui rend la réponse auditable a posteriori et défendable. L'affaire Air Canada en 2024 a fait jurisprudence : un chatbot avait halluciné une politique de remboursement, et la compagnie a perdu le procès qui a suivi. Citer la source est la condition d'une défendabilité en cas de litige.
À voir aussi
Sources
- Reducing Hallucinations and Trade-Offs in Responses in Generative AI Chatbots for Cancer Information, Nishisako, Higashi & Wakao, JMIR Cancer, 2025;11:e70176. https://pmc.ncbi.nlm.nih.gov/articles/PMC12425422/
- Moffatt v. Air Canada, Civil Resolution Tribunal de Colombie-Britannique, février 2024. https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html