RAG(검색 증강 생성)
지식베이스에서 관련 문서를 검색해 모델에 전달함으로써 내 데이터에 근거해 답하게 하는 기법입니다.
전형적인 파이프라인은 이렇습니다. 문서를 청크로 나누고, 임베딩해 벡터 DB에 넣고, 질문과 가장 가까운 청크를 검색해 LLM에 컨텍스트로 전달합니다. 재학습 없이도 환각을 줄이고 답변을 최신으로 유지할 수 있습니다.
관련 리소스
LlamaIndex 프레임워크 튜토리얼
LLM을 커스텀 데이터 소스에 연결하는 RAG 앱 구축을 위한 프레임워크 LlamaIndex 실전 튜토리얼입니다. 데이터 수집 파이프라인, 인덱싱 전략, 쿼리 엔진, 에이전트 기반 검색을 다루며 PDF·웹·데이터베이스 커넥터에 대한 실전 예제를 제공합니다. 자체 문서를 기반으로 한 도메인 특화 AI 어시스턴트를 구축하려는 개발자에게 적합합니다.
헤이스트랙 RAG 프레임워크
Haystack는 프로덕션 준비 완료된 LLM 애플리케이션 구축을 위한 deepset의 오픈소스 프레임워크로, RAG와 질의응답 파이프라인에 특화되어 있습니다. 문서 처리, 임베딩, 검색을 위한 모듈식 구성요소를 제공하며, OpenAI·Hugging Face 등 모델과 쉽게 연동됩니다.
Qdrant 벡터 데이터베이스
Qdrant는 프로덕션용으로 설계된 고성능 오픈소스 벡터 데이터베이스·유사도 검색 엔진입니다. Rust로 작성되었으며, 풍부한 페이로드 필터링, 멀티 테넌시, 셀프호스팅·관리형 클라우드 배포를 지원하여 RAG 파이프라인, 추천 시스템, 시맨틱 검색을 구동합니다.