Hallucination

Quand un modèle génère avec assurance un contenu faux ou inventé. À atténuer avec le RAG, l’usage d’outils et la vérification.

Le cas d’école : inventer une référence ou une API plausible… qui n’existe pas. On s’en prémunit en ancrant les réponses dans des sources récupérées (RAG), en exigeant des citations, et en vérifiant les faits critiques avant de s’y fier.

Ressources associées

Tutoriel du cadre LlamaIndex

Un tutoriel pratique sur LlamaIndex, le cadre conçu pour construire des applications RAG qui connectent des LLM à des sources de données personnalisées. Il couvre les pipelines d'ingestion de données, les stratégies d'indexation, les moteurs de requête et la récupération basée sur des agents, avec des exemples pratiques pour les connecteurs PDF, web et base de données — destiné aux développeurs qui veulent construire des assistants IA spécifiques à un domaine, fondés sur leurs propres documents.

Cadre RAG Haystack

Haystack est un framework open source de deepset pour construire des applications LLM prêtes pour la production, spécialisé dans le RAG et les pipelines de questions-réponses. Il propose des composants modulaires pour le traitement de documents, l'embedding et la récupération, facilement connectables aux modèles d'OpenAI, Hugging Face et plus.