평가가 중요한 이유

전통적인 소프트웨어와 달리, LLM 애플리케이션은 비결정적 출력을 가집니다. 단순히 단위 테스트를 작성하는 것이 아니라 체계적인 평가가 필요합니다.

주요 지표

  • 정확도: 출력이 기대되는 답변과 일치하는가?
  • 관련성: 답변이 주제에 맞고 유용한가?
  • 충실함: 답변이 제공된 맥락에 맞는지 여부입니다.
  • 독성: 출력물에 해로운 내용이 포함되어 있습니까?
  • 지연: 생성 시간은 얼마나 걸리나요?
  • 비용: 요청당 비용은 얼마인가요?

평가 접근법

  • 인간 평가: 금본위제이지만 느리고 비용이 많이 듭니다.
  • LLM-as-judge: 강력한 모델(예: GPT-6 Astra 또는 Claude Sonnet 5.5)을 사용해 출력을 평가합니다.
  • 자동화된 지표: 요약을 위한 BLEU, ROUGE; 코드pass@k 필요해.
  • A/B 테스트: 실제 사용자와 두 버전을 비교합니다.

도구

  • RAGAS: RAG 파이프라인(충실성, 관련성, 리콜) 평가.
  • DeepEval: 14+ 지표를 가진 오픈 소스 LLM 평가 프레임워크.
  • LangSmith: LangChain의 추적 및 평가 플랫폼.
  • Braintrust: AI 제품의 평가 및 관측 가능성.

모범 사례

  • 예외 사례를 포함하는 100-500개의 예로 구성된 평가 데이터셋을 구축합니다.
  • 모든 프롬프트 변경에 대해 평가를 실행합니다.
  • 대시보드에서 시간에 따른 지표를 추적합니다.
  • 품질 게이트 설정: 점수가 임계값 이하로 떨어지면 블록이 배포됩니다.

평가 데이터셋 구축

모든 LLM 평가의 토대는 고품질 테스트 세트입니다. 주요 사용 사례, 엣지 케이스, 실패 모드를 포괄하는 100~500개의 예시를 목표로 하세요. «쉬운» 사례(항상 통과해야 하는 것)와 «어려운» 사례(알려진 실패 모드)를 모두 포함하세요. 각 예시에 기대 출력 또는 최소한 기대 동작을 표시하세요.

작업 유형별 주요 지표

  • 질의응답 / RAG: 정확 일치, F1 점수, LLM-as-judge(현재의 프런티어 모델로 관련성, 정확성, 완전성을 기준으로 1~5점 척도로 응답을 채점).
  • 요약: 겹침은 ROUGE-L로, 일관성과 충실성은 LLM-as-judge로(요약에 원문에 없는 정보가 들어 있는지).
  • 분류: 클래스별 정밀도, 재현율, F1. 체계적인 오분류를 찾기 위해 혼동 행렬도 추적하세요.
  • 코드 생성: Pass@k(코드가 단위 테스트를 통과하는지), 그리고 스타일과 유지보수성에 대한 사람 검토.

자동화와 회귀 테스트

LLM 평가를 단위 테스트처럼 다루세요. 프롬프트 변경, 모델 업데이트, 설정 조정 때마다 평가 스위트를 실행하세요. LangSmith, Braintrust 또는 pytest를 쓰는 자체 스크립트로 자동화할 수 있습니다. 품질 게이트를 두세요. 어떤 지표든 기준선 대비 5% 넘게 떨어지면 그 변경을 막고 원인을 조사하세요.

2000개가 아니라 20개로 시작하라

가장 흔한 평가 실수는 큰 라벨 데이터셋을 기다리는 것입니다. 실제로 읽은 20개 예시에 각각 수용 가능한 답을 붙인 것은, 읽지 않은 2000개 스크레이핑보다 의사결정을 더 많이 바꿉니다. 거기서 시작해 그것을 기준으로 출시하고, 신경 쓰는 특정 실패가 집합에 없을 때만 키우세요.

집합은 지루한 경우를 포함해 실제 사용 분포를 반영해야 합니다. 흥미로운 질문 20개짜리 집합은 흥미로운 질문을 얼마나 잘 다루는지를 측정하고, 일상적인 트래픽 90%에 대해서는 아무것도 알려 주지 않습니다.

분위기가 아니라 구성 요소를 채점하라

열린 출력의 종단 점수는 잡음이 많고 행동으로 옮기기 어렵습니다. 파이프라인을 분해하세요. 올바른 컨텍스트가 검색되었는가, 답이 그 컨텍스트에 충실했는가, 형식이 유효했는가, 지연이 수용 가능했는가. 각각 싼 검사가 있고 각각 다른 수정을 가리킵니다. 충실성에서 실패하는 시스템은 더 나은 프롬프트가 필요하고, 검색에서 실패하는 것은 다른 인덱스가, 형식에서 실패하는 것은 스키마 제약이 필요합니다. 단일 숫자로는 구분할 수 없습니다.

심사 모델에는 자체 보정이 필요하다

모델을 채점자로 쓰는 것은 합리적이고 열린 산문에는 종종 필요하지만, 심사자는 실제로 읽은 표본에서 인간 라벨과 보정되어야 합니다. 심사자의 점수가 아니라 일치율을 측정하세요. 심사자 버전을 고정하고 바뀌면 보정을 다시 확인하세요. 조용히 업데이트된 심사자가 대시보드 전체를 움직일 수 있습니다.

실패를 보관하라

실패한 각 예시를 그것을 만든 입력과 함께 저장하세요. 몇 달이 지나면 그 모음이 프로젝트에서 가장 가치 있는 자산이 됩니다. 시스템이 실제로 무엇을 못하는지를 인코딩한 유일한 산출물이기 때문입니다.

이 글의 모델 이름은 2026-11-10에 OpenAI와 Anthropic 공식 문서와 대조해 확인했습니다.