Halluzination

Wenn ein Modell selbstbewusst falsche oder erfundene Inhalte erzeugt. Abhilfe schaffen RAG, Tool-Nutzung und Verifikation.

Der Klassiker: eine plausibel wirkende Quelle oder API erfinden, die es gar nicht gibt. Dagegen helfen Antworten mit Quellenbezug (RAG), das Einfordern von Belegen und das Prüfen kritischer Fakten, bevor man sich darauf verlässt.

Verwandte Ressourcen

LlamaIndex Framework Tutorial

Ein Praxis-Tutorial für LlamaIndex, das Framework für den Bau von RAG-Anwendungen, die LLMs mit eigenen Datenquellen verbinden. Es behandelt Daten-Ingestion-Pipelines, Indexierungsstrategien, Query-Engines und agentenbasierte Abfrage mit praktischen Beispielen für PDF-, Web- und Datenbank-Connectors – für Entwickler, die domänenspezifische KI-Assistenten auf Basis eigener Dokumente bauen wollen.

Haystack RAG-Framework

Haystack ist ein Open-Source-Framework von deepset für den Aufbau produktionsreifer LLM-Anwendungen, spezialisiert auf RAG und Question-Answering-Pipelines. Es bietet modulare Komponenten für Dokumentenverarbeitung, Embedding und Retrieval, die sich einfach mit Modellen von OpenAI, Hugging Face und anderen verbinden lassen.