RAG is meer dan embeddings
De kwaliteit van een RAG hangt evenveel af van de voorbereiding van de data als van het model. Chunking, metadata, zoekstrategie en filtering bepalen rechtstreeks de relevantie.
Een robuuste architectuur moet ook de traceerbaarheid van bronnen waarborgen en een antwoord kunnen weigeren als de beschikbare context onvoldoende is.
Een goed RAG-systeem is dus een volledige documentpipeline, geen simpele zoekopdracht op vectorgelijkenis.
Een chunkingstrategie kiezen
Te kleine chunks verliezen de bedrijfscontext. Te grote chunks verlagen de zoekprecisie en verhogen het aantal tokens dat naar het model gaat.
De chunking moet de werkelijke structuur van de documenten volgen: koppen, alinea’s, tabellen, contractbepalingen of functionele blokken.
Het loont om meerdere strategieën te meten in plaats van voorgoed één willekeurige grootte te kiezen.
Vectorzoeken combineren met bedrijfsfilters
Semantisch zoeken mag toegangsrechten en bedrijfscontext niet omzeilen. Nog voordat de gelijkenis wordt berekend, moet het systeem het toegestane corpus afbakenen.
Tenant, documenttype, periode, status, taal of vertrouwelijkheidsniveau zijn filters die aan de zoekopdracht moeten deelnemen.
In veel gevallen presteert een hybride strategie die lexicaal en vectorieel zoeken combineert beter dan een puur semantische aanpak.
Ontwerpen voor observeerbaarheid
Wie gevonden documenten, gelijkenisscores, latentie en fouten bijhoudt, ziet sneller of een probleem uit het zoeken of uit de generatie komt.
Deze observeerbaarheid is essentieel om prompts, zoekstrategieën en modellen stap voor stap te verbeteren.
Traces moeten een antwoord reproduceerbaar maken zonder onnodig gevoelige data bloot te geven.
De kwaliteit beoordelen vóór productie
Een RAG-systeem valideer je niet met een paar demo’s. Teams moeten een representatieve set vragen samenstellen en zowel de zoekprecisie als de kwaliteit van de antwoorden meten.
Geautomatiseerde tests kunnen regressies opsporen na een wijziging van model, prompt of chunkingstrategie.
Het doel is niet alleen een plausibel antwoord, maar een nuttig, traceerbaar antwoord dat op de juiste bronnen berust.
