ハルシネーション
モデルが誤りや捏造を自信満々に生成する現象。RAG、ツール利用、検証で軽減できる。
典型例は、もっともらしいが実在しない引用や API をでっち上げること。検索した出典に基づかせ（RAG）、根拠の提示を求め、重要な事実は依拠前に検証することで減らせる。
関連リソース
LlamaIndex フレームワークチュートリアル
LLM をカスタムデータソースに接続する RAG アプリケーション構築に特化したフレームワーク LlamaIndex の実践チュートリアル。データ取り込みパイプライン、インデックス戦略、クエリエンジン、エージェントベースの検索をカバーし、PDF・Web・データベースコネクタの実例を提供。自社ドキュメントに根ざしたドメイン特化型 AI アシスタントを構築したい開発者向け。
Haystack RAG フレームワーク
Haystack は deepset のオープンソースフレームワークで、本番対応の LLM アプリケーション構築に特化し、RAG と質問応答パイプラインを得意とする。ドキュメント処理、エンベディング、検索のモジュラーコンポーネントを提供し、OpenAI や Hugging Face のモデルと容易に連携できる。