Alucinación

Cuando un modelo genera con seguridad contenido falso o inventado. Se mitiga con RAG, uso de herramientas y verificación.

El caso clásico: inventarse una cita o una API de aspecto verosímil que no existe. Se mitiga anclando las respuestas en fuentes recuperadas (RAG), pidiendo al modelo que cite evidencias y verificando los datos críticos antes de fiarse.

Recursos relacionados

Tutorial del Marco LlamaIndex

Tutorial práctico de LlamaIndex, el framework diseñado para construir aplicaciones RAG que conectan LLMs con fuentes de datos personalizadas. Cubre pipelines de ingestión de datos, estrategias de indexación, motores de consulta y recuperación basada en agentes, con ejemplos prácticos para conectores de PDF, web y base de datos; ideal para desarrolladores que quieren construir asistentes de IA específicos de dominio basados en sus propios documentos.

Marco RAG de Haystack

Haystack es un framework open source de deepset para construir aplicaciones LLM listas para producción, especializado en RAG y pipelines de preguntas y respuestas. Ofrece componentes modulares para procesamiento de documentos, embeddings y recuperación, que se conectan fácilmente con modelos de OpenAI, Hugging Face y más.