주요 고려사항
적절한 대형 언어 모델(LLM)을 선택하는 것은 AI 개발에서 가장 중요한 결정 중 하나입니다. 잘못된 선택은 성능 저하, 과도한 비용, 공급업체 종속으로 이어질 수 있습니다. 또한 목표는 계속 움직입니다. 모델 이름, 컨텍스트 한도, 정가는 1년에 여러 번 바뀝니다. 아래 표를 포함한 모든 비교는 영구적인 순위가 아니라 날짜가 붙은 스냅샷으로 취급하고, 예산을 확정하기 전에 공급업체의 가격 페이지를 다시 확인하세요.
평가 기준
- 작업 적합성: 특정 작업(코딩, 추론, 창작 글쓰기, 요약)에 뛰어난가? 전체 인상이 아니라 실제 작업으로 테스트하세요.
- 컨텍스트 윈도우: 한 번에 얼마나 많은 텍스트를 처리할 수 있는가? 긴 문서 워크플로는 입력과 출력 모두를 위한 공간이 필요합니다.
- 지연 시간: 얼마나 빠르게 응답하는가? 대화형 제품은 배치 파이프라인보다 엄격한 제한이 있습니다.
- 비용: 입력과 출력의 토큰당 비용은 얼마인가? 출력 토큰은 보통 입력 토큰보다 몇 배 비쌉니다.
- 개인정보 보호: 직접 호스팅할 수 있는가, 아니면 클라우드 API를 써야 하는가? 규제 대상 데이터는 일부 공급업체를 아예 배제할 수 있습니다.
2026년 인기 옵션
- Claude (Anthropic): 긴 문서, 섬세한 추론, 코딩에 탁월합니다.
- GPT-6 (OpenAI): 강력한 멀티모달 기능을 갖추었고, 플래그십·중간·예산 모델을 아우릅니다.
- Gemini (Google): 큰 컨텍스트 윈도우를 제공하며, 플래그십은 무료 티어에 포함되지 않습니다.
- Qwen (알리바바): 동급 최고의 중국어 성능과 오픈 웨이트 옵션을 제공합니다.
- Llama (메타): 완전 오픈소스이며 자체 호스팅이 가능하고 커뮤니티가 강합니다.
의사결정 프레임워크
먼저 반드시 충족해야 할 조건을 정의하세요. 지연 시간 2초 미만? 고정 월 예산? 완전한 데이터 주권? 그런 다음 실제 데이터로 2~3개 후보를 벤치마크한 뒤 결정하세요. 요구사항이 먼저이고 모델 이름은 그다음입니다. 공개 리더보드 상위 모델이라도 지연 시간, 개인정보, 비용 제약을 충족하지 못할 수 있습니다.
유용한 순서는 지연 시간과 가용성, 예산, 데이터 주권, 마지막으로 순수 성능입니다. 하드 제약을 통과하지 못하는 후보는 데모가 아무리 좋아도 제외합니다. 그다음 살아남은 후보만 까다로운 사례를 포함한 50~100개의 실제 예시로 비교하세요. 토큰당 비용이 아니라 성공한 작업당 종단 간 비용을 측정하고, 재시도와 사람의 검토도 포함하세요.
비용 비교표
아래 표는 현재 모델을 세 가지 가격대에 묶은 것입니다. 순위가 아니라 계층으로 읽으세요. 플래그십 모델은 토큰당 비용이 예산 모델의 50~100배에 달할 수 있으므로, 첫 번째 질문은 "내 작업에 정말 최상위 계층이 필요한가"입니다.
| 모델 | 입력 ($/1M) | 출력 ($/1M) | 컨텍스트 |
|------|-------------|-------------|----------|
| GPT-6 Astra | $10.00 | $50.00 | 1.05M |
| GPT-6.1 Sol | $2.00 | $10.00 | 1.05M |
| GPT-6 Luna | $0.10 | $0.50 | 1.05M |
| Claude Fable 5.1 | $10.00 | $50.00 | 1M |
| Claude Opus 5.5 | $4.00 | $20.00 | 1M |
| Claude Sonnet 5.5 | $2.00 | $10.00 | 1M |
| Claude Haiku 5.5 | $0.10 | $0.50 | 1M |
| Gemini 4 Argon | 공식 가격 참조 | 공식 가격 참조 | 1M |
가격은 2026-10-15에 각 공급업체의 공식 가격 페이지를 기준으로 확인했습니다. 예산을 확정하기 전에 공급업체에서 다시 확인하세요.
셀프 호스팅 비용은 정가가 아니라 GPU 임대료와 가동률에 따라 달라집니다.
월 비용 예시
월 100만 입력 토큰과 20만 출력 토큰의 워크로드를 가정합니다. 위 정가로 계산하면:
- GPT-6 Astra: 1M × $10.00 + 0.2M × $50.00 = $10.00 + $10.00 = 월 $20.00
- Claude Sonnet 5.5: 1M × $2.00 + 0.2M × $10.00 = $2.00 + $2.00 = 월 $4.00
- GPT-6 Luna: 1M × $0.10 + 0.2M × $0.50 = $0.10 + $0.10 = 월 $0.20
이 수치는 공개 단가에 대한 산술 계산일 뿐입니다. 답변 품질, 지연 시간, 신뢰성에 대해서는 아무것도 말해주지 않으며, 이는 여전히 자신의 워크로드에서 테스트해야 합니다.
비율이 절대 금액보다 중요합니다. 이 가격에서는 같은 토큰량에 대해 플래그십이 중간 모델의 5배, 예산 모델의 100배 비용이 듭니다. 그 차이가 지불할 가치가 있는지는 가격만이 아니라 자신의 데이터로 측정한 품질에 달려 있습니다.
흔한 실패 패턴
- 단가만 보기: 재시도, 실패한 호출, 긴 프롬프트는 토큰 수를 배로 늘립니다. 단가가 절반이어도 두 번 시도해야 한다면 더 저렴하지 않습니다.
- 컨텍스트 길이 무시하기: 토큰 단가가 낮아도 매우 긴 프롬프트에서는 요청당 비용이 높아질 수 있습니다. 100만 토큰당 가격만 보지 말고 요청당 토큰 수를 측정하세요.
- 분류 작업에 플래그십 사용하기: 라벨링, 라우팅, 추출은 대개 예산 모델로 충분합니다. 플래그십은 어려운 사례에 남겨두세요.
- 캐시 및 배치 할인 무시하기: 많은 공급업체가 반복되는 프리픽스나 비동기 배치 작업에 할인을 제공합니다. 이를 무시하면 추정치가 높아져 잘못된 모델을 선택하게 될 수 있습니다.
실용적인 팁
- 작동하는 가장 저렴한 모델부터 시작하세요: 간단한 작업에는 GPT-6 Luna나 현재 Gemini Flash 같은 예산 모델을 사용하세요. 품질이 부족할 때만 상위로 올리세요.
- 자신의 데이터로 벤치마크하세요: 리더보드 점수는 자신의 사용 사례를 반영하지 않습니다. 50~100개의 실제 예시로 테스트하세요.
- 총 소유 비용을 고려하세요: 셀프 호스팅에는 DevOps 시간이 필요합니다. 클라우드 API는 유지보수가 없지만 토큰당 비용이 더 높습니다.
- 모델 이식성을 계획하세요: LLM 계층을 추상화하여(LiteLLM 또는 LangChain) 다시 작성하지 않고 공급업체를 전환할 수 있게 하세요.
- 예산 확정 전에 가격을 다시 확인하세요: 정가와 모델 라인업은 바뀝니다. 가정에 날짜를 붙이고 새 모델이 나오면 다시 검토하세요.