Um RAG é mais do que embeddings
A qualidade de um RAG depende tanto da preparação dos dados como do modelo. A fragmentação, os metadados, a estratégia de pesquisa e a filtragem influenciam diretamente a pertinência.
Uma arquitetura robusta deve também garantir a rastreabilidade das fontes e a capacidade de recusar uma resposta quando o contexto disponível é insuficiente.
Um bom sistema RAG é, portanto, um pipeline documental completo e não uma simples consulta de semelhança vetorial.
Escolher uma estratégia de fragmentação
Fragmentos demasiado pequenos perdem o contexto de negócio. Fragmentos demasiado grandes reduzem a precisão da pesquisa e aumentam o número de tokens enviados ao modelo.
A fragmentação deve refletir a estrutura real dos documentos: títulos, parágrafos, tabelas, cláusulas contratuais ou blocos funcionais.
Vale a pena medir várias estratégias em vez de fixar para sempre um tamanho arbitrário.
Combinar pesquisa vetorial e filtros de negócio
A pesquisa semântica não deve contornar os direitos de acesso nem o contexto de negócio. Antes mesmo de calcular a semelhança, o sistema deve delimitar o corpus autorizado.
O tenant, o tipo de documento, o período, o estado, a língua ou o nível de confidencialidade são filtros que devem participar na pesquisa.
Em muitos casos, uma estratégia híbrida que combina pesquisa lexical e vetorial obtém melhores resultados do que uma abordagem puramente semântica.
Conceber a pensar na observabilidade
Registar os documentos recuperados, as pontuações de semelhança, a latência e os erros permite identificar mais facilmente se um problema vem da pesquisa ou da geração.
Esta observabilidade é essencial para melhorar progressivamente os prompts, as estratégias de pesquisa e os modelos.
Os registos devem permitir reproduzir uma resposta sem expor desnecessariamente dados sensíveis.
Avaliar a qualidade antes da produção
Um sistema RAG não se valida com algumas demonstrações. As equipas devem construir um conjunto de perguntas representativo e medir tanto a precisão da pesquisa como a qualidade das respostas.
Os testes automatizados permitem detetar regressões após uma mudança de modelo, de prompt ou de estratégia de fragmentação.
O objetivo não é apenas uma resposta plausível, mas uma resposta útil, rastreável e fundamentada nas fontes certas.
