본문으로 건너뛰기

지식 증류

작은 ‘학생’ 모델이 큰 ‘교사’ 모델을 모방하도록 학습시켜, 낮은 비용으로 품질 대부분을 유지하는 기법입니다.

빠르고 저렴한 “mini”, “flash”급 모델 상당수는 대형 플래그십을 증류한 것입니다. 정확도를 약간 내주는 대신 지연과 비용을 크게 줄여, 대량 프로덕션 호출에 알맞습니다.

관련 리소스

실습 중심의 LLM 미세 조정
LoRA·QLoRA와 같은 매개변수 효율적 방법부터 전통적 전체 파인튜닝까지 대규모 언어 모델 파인튜닝 실전 가이드입니다. 데이터셋 준비, 하이퍼파라미터 튠닝, 평가 지표를 실제 코드 예제와 함께 다루며, 처음부터 학습하는 비용 없이 기본 모델을 특정 도메인에 적응시키려는 ML 엔지니어에게 적합합니다.