Le principe
Un LLM ne connaît que ce qu'il a vu à l'entraînement. Les documents internes d'une entreprise, les mails, tout ce qui est postérieur à sa date de coupure lui échappe. Le RAG contourne le problème sans réentraîner le modèle : avant de répondre, le système cherche les passages pertinents dans une base de documents et les insère dans le prompt. Le modèle rédige ensuite sa réponse en s'appuyant dessus.
Trois étapes, donc : retrouver (retrieval), augmenter le prompt, générer. Le principe a été formalisé en 2020 dans un article de chercheurs de Facebook AI Research, l'actuel Meta AI. C'est ce qui tourne derrière NotebookLM ou Claude Projects quand on leur confie des fichiers.
Comment la recherche fonctionne
La brique centrale est l'embedding : chaque morceau de document est transformé en un vecteur qui capture son sens, la question de l'utilisateur aussi, et une mesure de similarité identifie les passages les plus proches. Les documents sont découpés au préalable en fragments de quelques centaines de caractères, car un vecteur unique pour un livre entier diluerait le sens.
Ce que ça change
Le RAG réduit d'abord les hallucinations : le modèle a la source sous les yeux plutôt que de deviner. Il donne aussi accès à des données privées ou récentes sans qu'elles aient jamais fait partie de l'entraînement. Côté coût enfin, ajouter une information à jour revient à l'indexer dans la base, là où un fine-tuning demanderait du calcul et du temps.
Les limites
Le RAG déplace le problème plus qu'il ne le supprime : la qualité de la réponse dépend entièrement des documents indexés et de leur découpage. Un passage récupéré à côté de la question, et le modèle répond faux avec la même assurance. La suite logique, le RAG agentique, laisse un agent itérer sur sa recherche quand le premier passage récupéré ne suffit pas.