RAG (génération augmentée par recherche)

Le RAG (retrieval-augmented generation) consiste à donner à un modèle d’IA, au moment de la question, les extraits pertinents de vos propres documents, pour qu’il réponde à partir de vos sources plutôt que de sa mémoire.

Mise en contexte

Le RAG est la réponse à une question fréquente : « faut-il entraîner un modèle sur nos données ? ». Rarement. On indexe vos documents, on retrouve les passages pertinents pour chaque question et on les fournit au modèle avec la consigne. Les réponses sont sourcées, à jour, et vos données ne servent pas à entraîner quoi que ce soit.

Nous l’utilisons pour les assistants internes, la réponse à partir de procédures, l’aide à la rédaction fondée sur vos référentiels. Par exemple, un assistant peut répondre aux questions d’un commercial à partir des fiches techniques et des conditions de vente, en citant sa source.

La qualité d’un RAG dépend d’abord de la qualité de l’indexation et du découpage des documents.

Questions fréquentes

  • RAG dans la grande majorité des cas : moins coûteux, à jour dès qu’un document change, réponses sourcées. Le fine-tuning est justifié pour un style ou un format très spécifique, pas pour injecter des connaissances.

  • Seuls les extraits nécessaires à chaque question sont envoyés au modèle, chez un fournisseur choisi pour sa localisation, ou vers un modèle hébergé en Europe. L’index reste chez vous.

Poser ma question

Une question sur ce sujet ?

Nous écrire