오픈소스/오픈 웨이트
소스 코드나 가중치가 공개되어 사용·연구·셀프호스팅이 가능한 모델과 도구입니다.
“오픈 웨이트”(Llama, Qwen, Mistral 등)는 모델을 직접 내려받아 돌릴 수 있다는 뜻으로, 프라이버시와 오프라인 활용의 핵심입니다. 다만 라이선스는 제각각이라 엄밀한 오픈소스가 아닌 경우도 있습니다.
관련 리소스
Ollama를 이용한 로컬 LLM 배포
Llama·Mistral·Phi 등 오픈소스 LLM을 로컬 머신에서 다운로드하고 실행할 수 있는 크로스 플랫폼 도구입니다. CLI, 로컬 API 서버, OpenAI 호환 엔드포인트를 제공하여 GPU나 클라우드 계정 없이 프라이빗하게 모델을 체험할 수 있습니다. 오프라인 AI 기능이 필요하거나 프로덕션 배포 전 프롬프트를 테스트하려는 개발자에게 적합합니다.
PyTorch 딥러닝 프레임워크
PyTorch는 Meta에서 개발한 선도적 오픈소스 딥러닝 프레임워크로, 동적 계산 그래프와 Python 친화적 인터페이스로 유명합니다. 최첨단 AI 연구부터 프로덕션 배포까지 지원하며, GPU와 TPU에서 모델을 훈련·디버깅·확장할 수 있는 풍부한 도구 생태계를 갖추고 있습니다.
메타 라마
Llama는 오픈소스 AI 생태계의 중추인 Meta의 오픈 웨이트 언어 모델 제품군으로, 로컬이나 어느 클라우드에서든 배포할 수 있습니다. 경량부터 프론티어급까지 다양한 크기로 제공되며, 수많은 파인튜닝 파생 모델의 기반이 되어 조직이 AI 스택을 완전히 통제할 수 있게 합니다.