환각(할루시네이션)
모델이 자신 있게 거짓·날조 내용을 생성하는 현상으로, RAG·도구 사용·검증으로 완화합니다.
있지도 않은 그럴듯한 출처나 API를 지어내는 것이 전형적인 예입니다. 검색된 근거에 답변을 고정하고(RAG), 출처 인용을 요구하고, 중요한 사실은 직접 검증하는 것으로 줄일 수 있습니다.
관련 리소스
LlamaIndex 프레임워크 튜토리얼
LLM을 커스텀 데이터 소스에 연결하는 RAG 앱 구축을 위한 프레임워크 LlamaIndex 실전 튜토리얼입니다. 데이터 수집 파이프라인, 인덱싱 전략, 쿼리 엔진, 에이전트 기반 검색을 다루며 PDF·웹·데이터베이스 커넥터에 대한 실전 예제를 제공합니다. 자체 문서를 기반으로 한 도메인 특화 AI 어시스턴트를 구축하려는 개발자에게 적합합니다.
헤이스트랙 RAG 프레임워크
Haystack는 프로덕션 준비 완료된 LLM 애플리케이션 구축을 위한 deepset의 오픈소스 프레임워크로, RAG와 질의응답 파이프라인에 특화되어 있습니다. 문서 처리, 임베딩, 검색을 위한 모듈식 구성요소를 제공하며, OpenAI·Hugging Face 등 모델과 쉽게 연동됩니다.