幻觉

模型自信地生成虚假或捏造内容的现象。可用 RAG、工具调用与校验来缓解。

典型例子是编造一个看似合理却不存在的引用或 API。可通过让回答基于检索到的来源（RAG）、要求模型给出证据引用，并在依赖前核实关键事实来降低。

相关资源

LlamaIndex 框架教程

LlamaIndex 实战教程——专为构建 RAG 应用而设计的框架，将 LLM 连接到自定义数据源。涵盖数据摄入管线、索引策略、查询引擎和基于 Agent 的检索，并提供 PDF、网页和数据库连接器的实战示例。适合希望构建基于自有文档的领域专属 AI 助手的开发者。

Haystack RAG 框架

Haystack 是 deepset 开源的生产级 LLM 应用框架，专注检索增强生成（RAG）和问答管线。它提供文档处理、嵌入和检索等模块化组件，可轻松对接 OpenAI、Hugging Face 等模型，适合搭建企业级搜索与知识问答系统。