Un RAG es más que embeddings
La calidad de un RAG depende tanto de la preparación de los datos como del modelo. La fragmentación, los metadatos, la estrategia de búsqueda y el filtrado influyen directamente en la pertinencia.
Una arquitectura robusta también debe garantizar la trazabilidad de las fuentes y la capacidad de no responder cuando el contexto disponible es insuficiente.
Un buen sistema RAG es, por tanto, un pipeline documental completo y no una simple consulta de similitud vectorial.
Elegir una estrategia de fragmentación
Los fragmentos demasiado pequeños pierden el contexto de negocio. Los demasiado grandes reducen la precisión de la búsqueda y aumentan el número de tokens enviados al modelo.
La fragmentación debe reflejar la estructura real de los documentos: títulos, párrafos, tablas, cláusulas contractuales o bloques funcionales.
Conviene medir varias estrategias en lugar de fijar para siempre un tamaño arbitrario.
Combinar búsqueda vectorial y filtros de negocio
La búsqueda semántica no debe eludir los derechos de acceso ni el contexto de negocio. Incluso antes de calcular la similitud, el sistema debe acotar el corpus autorizado.
El tenant, el tipo de documento, el periodo, el estado, el idioma o el nivel de confidencialidad son filtros que deben intervenir en la búsqueda.
En muchos casos, una estrategia híbrida que combina búsqueda léxica y vectorial ofrece mejores resultados que un enfoque puramente semántico.
Diseñar pensando en la observabilidad
Registrar los documentos recuperados, las puntuaciones de similitud, la latencia y los errores permite identificar más fácilmente si un problema procede de la búsqueda o de la generación.
Esta observabilidad es esencial para mejorar progresivamente los prompts, las estrategias de búsqueda y los modelos.
Las trazas deben permitir reproducir una respuesta sin exponer innecesariamente datos sensibles.
Evaluar la calidad antes de producción
Un sistema RAG no se valida con unas cuantas demostraciones. Los equipos deben construir un conjunto de preguntas representativo y medir tanto la precisión de la búsqueda como la calidad de las respuestas.
Las pruebas automatizadas permiten detectar regresiones tras un cambio de modelo, de prompt o de estrategia de fragmentación.
El objetivo no es solo una respuesta plausible, sino una respuesta útil, trazable y basada en las fuentes adecuadas.
