Por qué importa RAG

La Generación Aumentada por Recuperación (RAG) es la forma más práctica de fundamentar las respuestas de los LLM en tus propios datos. Pero construir un sistema listo para producción requiere más que simplemente conectar una base de datos vectorial.

Estrategias de Fragmentación

  • Tamaño fijo: Simple pero puede separar unidades semánticas.
  • Semántica: Dividida por significado usando similitud de embedding.
  • Recursivo: Dividido por encabezados, párrafos y luego oraciones.
  • Document-aware: Respetar la estructura Markdown/HTML.

Búsqueda híbrida

Combina búsqueda vectorial densa con búsqueda por palabras clave dispersa (BM25). Esto detecta tanto coincidencias semánticas como coincidencias exactas de términos.

Reclasificación

Tras la recuperación inicial, utiliza un modelo cross-encoder para volver a puntuar los resultados. Esto mejora significativamente la precisión.

Evaluación

  • Fidelidad: ¿La respuesta se queda en el contexto recuperado?
  • Relevancia: ¿Son realmente útiles los fragmentos recuperados?
  • Corrección de la respuesta: ¿Es correcta la respuesta final en hechos reales?

Herramientas y Marcos

  • LlamaIndex: Marco RAG de alto nivel con recetas integradas.
  • LangChain: Capa de orquestación flexible.
  • RAGAS: Marco de evaluación diseñado para un propósito.
  • Chroma / Qdrant / Weaviate: Bases de datos vectoriales con diferentes compensaciones.