Le RAG ne se résume pas aux embeddings
La qualité d’un RAG dépend autant de la préparation des données que du modèle utilisé. Découpage, métadonnées, stratégie de recherche et filtrage ont un impact direct sur la pertinence.
Une architecture robuste doit aussi prévoir la traçabilité des sources et la possibilité de refuser une réponse lorsque le contexte disponible est insuffisant.
Un bon RAG est donc un pipeline documentaire complet, pas seulement une requête de similarité vectorielle.
Choisir une stratégie de chunking
Des chunks trop petits perdent le contexte métier. Des chunks trop grands réduisent la précision de recherche et augmentent le volume de tokens transmis au modèle.
Le découpage doit tenir compte de la structure réelle des documents : titres, paragraphes, tableaux, sections contractuelles ou blocs fonctionnels.
Il est utile de mesurer plusieurs stratégies plutôt que de choisir une taille arbitraire une fois pour toutes.
Combiner recherche vectorielle et filtres métier
Une recherche sémantique ne doit pas contourner les droits d’accès ou le contexte métier. Avant même de calculer la similarité, le système doit réduire le corpus autorisé.
Tenant, type de document, période, statut, langue ou niveau de confidentialité sont des filtres qui doivent participer à la recherche.
Dans de nombreux cas, une stratégie hybride combinant recherche lexicale et recherche vectorielle donne de meilleurs résultats qu’une approche purement sémantique.
Concevoir pour l’observabilité
Mesurer les documents récupérés, le score de similarité, les latences et les erreurs permet d’identifier rapidement si le problème vient de la recherche ou de la génération.
Cette observabilité est indispensable pour faire évoluer progressivement les prompts, les stratégies de retrieval et les modèles.
Les traces doivent permettre de reproduire une réponse sans exposer inutilement les données sensibles.
Évaluer la qualité avant la production
Un RAG ne peut pas être validé uniquement avec quelques démonstrations. Il faut constituer un jeu de questions représentatives et mesurer la précision des sources récupérées ainsi que la qualité des réponses.
Des tests automatiques peuvent détecter les régressions après un changement de modèle, de prompt ou de stratégie de chunking.
L’objectif n’est pas seulement d’obtenir une réponse plausible, mais une réponse utile, traçable et fondée sur les bonnes sources.
