Arquitectura RAG con PostgreSQL y pgvector
Un sistema RAG no es un chatbot conectado a una carpeta. Es una cadena de decisiones sobre documentos, fragmentos, permisos, recuperación, contexto, respuesta y evaluación.
Escrito por Camilo Boo
Automatización de procesos, software interno e IA aplicada.
Empieza por el caso de uso, no por el modelo
Antes de elegir embeddings o ajustar índices, hay que definir qué pregunta resolverá el sistema, quién puede hacerla, qué documentos debe consultar y qué riesgo tiene una respuesta incorrecta.
No es lo mismo localizar una cláusula que resumir un expediente, comparar versiones o preparar un borrador. Cada tarea exige una estrategia de recuperación y validación distinta.
Diseña una ingesta trazable
- Conserva identificador del documento, versión, origen y fecha de procesamiento.
- Extrae texto con una estrategia adecuada para PDFs digitales y escaneados.
- Registra errores de OCR y documentos que requieren revisión.
- No pierdas encabezados, páginas, secciones ni metadatos útiles.
Fragmentación y embeddings
El tamaño del fragmento debe equilibrar precisión y contexto. Cortar por un número fijo de caracteres puede separar títulos, artículos, tablas o argumentos que deberían recuperarse juntos.
Conviene fragmentar respetando la estructura del documento y almacenar suficiente contexto para reconstruir la fuente. En pgvector, cada fragmento puede convivir con metadatos relacionales, permisos y estados de publicación.
Recuperación híbrida y filtros
La similitud semántica encuentra contenido relacionado, pero puede fallar con referencias exactas, nombres, códigos o artículos. Combinar búsqueda vectorial con búsqueda textual y filtros por metadatos suele mejorar la precisión.
- Filtra por organización, usuario, expediente o colección antes de recuperar.
- Combina ranking semántico y textual cuando el dominio lo requiera.
- Evita enviar al modelo fragmentos redundantes o contradictorios sin contexto.
- Registra qué fragmentos sustentaron cada respuesta.
La interfaz debe favorecer la revisión
Una respuesta útil muestra documentos, páginas o secciones utilizadas. También permite abrir la fuente y distinguir entre información recuperada e inferencias del modelo.
En ámbitos jurídicos, técnicos o sensibles, la revisión humana no es un añadido. Forma parte del diseño del producto.
Evalúa con preguntas reales
La evaluación no debería limitarse a comprobar si la respuesta suena bien. Debe medir si recuperó las fuentes correctas, si omitió información relevante, si respetó permisos y si el resultado ayuda a completar la tarea.