关键考量

选择合适的大语言模型（LLM）是 AI 开发中最重要的决策之一。错误的选择可能导致性能不佳、成本过高或供应商锁定。这还是一个不断变化的目标：模型名称、上下文上限和标价每年都会变动数次。请把任何对比——包括下文的表格——当作带有日期的快照，而不是永久排名，并在确定预算前重新查看厂商的定价页面。

评估标准

  • 任务适配：模型是否擅长你的特定任务（编程、推理、创意写作、摘要）？要在任务上测试，而不是凭总体印象。
  • 上下文窗口：模型一次能处理多少文本？长文档工作流需要同时容纳输入和输出。
  • 延迟：模型响应速度如何？交互式产品比批处理管道的限制更严。
  • 成本：输入和输出的每 token 成本是多少？输出 token 通常比输入 token 贵数倍。
  • 隐私：能否自托管，还是必须使用云端 API？受监管的数据可能完全排除某些厂商。

2026 年热门选项

  • Claude (Anthropic)：擅长长文档、细致推理和编程。
  • GPT-6 (OpenAI)：强大的多模态能力，产品线覆盖旗舰、中端和低成本型号。
  • Gemini (Google)：大上下文窗口，旗舰型号不在免费层。
  • Qwen (阿里巴巴)：中文性能最佳，提供开放权重版本。
  • Llama (Meta)：完全开源，可自托管，社区强大。

决策框架

首先定义你的硬性需求：延迟低于 2 秒？固定的月度预算？完全数据主权？然后在实际数据上对 2-3 个候选模型进行基准测试后再做决定。需求优先，型号其次：在公开排行榜上领先的模型，仍可能不满足你的延迟、隐私或成本约束。

一个有用的顺序是：先看延迟与可用性，再看预算，然后看数据主权，最后才看原始能力。任何无法满足硬性约束的候选都应淘汰，无论演示效果多好。之后，仅在通过筛选的模型中用 50-100 个真实样本比较，包括那些棘手的样本。衡量每个成功任务的端到端成本，而不是每 token 成本，并把重试和人工复核算进去。

成本对比表

下表把当前型号分为三个价格层级。请把表格看作一组层级，而不是排名。旗舰模型每 token 成本可能是低成本型号的 50-100 倍，所以第一个问题是：你的任务是否真的需要最高层级？

| 模型 | 输入 ($/1M) | 输出 ($/1M) | 上下文 |

|------|-------------|-------------|--------|

| GPT-6 Astra | $10.00 | $50.00 | 1.05M |

| GPT-6.1 Sol | $2.00 | $10.00 | 1.05M |

| GPT-6 Luna | $0.10 | $0.50 | 1.05M |

| Claude Fable 5.1 | $10.00 | $50.00 | 1M |

| Claude Opus 5.5 | $4.00 | $20.00 | 1M |

| Claude Sonnet 5.5 | $2.00 | $10.00 | 1M |

| Claude Haiku 5.5 | $0.10 | $0.50 | 1M |

| Gemini 4 Argon | 见官方定价 | 见官方定价 | 1M |

价格于 2026-10-15 依据各厂商官方定价页面核实；在确定预算前请再次查看厂商页面。

自托管成本取决于 GPU 租用价格和利用率，而不是标价。

月度成本算例

假设每月工作负载为 100 万输入 token 和 20 万输出 token。按上面的标价计算：

  • GPT-6 Astra：1M × $10.00 + 0.2M × $50.00 = $10.00 + $10.00 = 每月 $20.00
  • Claude Sonnet 5.5：1M × $2.00 + 0.2M × $10.00 = $2.00 + $2.00 = 每月 $4.00
  • GPT-6 Luna：1M × $0.10 + 0.2M × $0.50 = $0.10 + $0.10 = 每月 $0.20

这些数字只是对公开单价的算术计算，并不说明回答质量、延迟或可靠性；这些仍需在你的工作负载上测试。

比例比绝对金额更重要：按这些价格，在相同 token 量下，旗舰模型的成本是中端型号的 5 倍，是低成本型号的 100 倍。这个差价是否值得，取决于你在自己数据上测到的质量，而不是单纯看价格。

常见失败模式

  • 只看单价：重试、失败调用和长提示词都会放大 token 数量。成本只有一半但需要两次尝试的模型，实际并不更便宜。
  • 忽略上下文长度：即使每 token 单价很低，超长提示词的每次请求仍可能很贵。要衡量每次请求的 token 数，而不只是每百万 token 的价格。
  • 用旗舰模型做分类：打标签、路由和抽取通常用低成本模型就能做好。把旗舰模型留给困难样本。
  • 忽略缓存与批处理折扣：许多厂商对重复前缀或异步批处理任务收取更低费用。忽略这些会让你的估算偏高，从而把你推向错误的模型。

实用建议

  • 从最便宜的可用模型开始：简单任务使用 GPT-6 Luna 或当前的 Gemini Flash 等低成本型号。质量不够时再升级。
  • 在你自己的数据上基准测试：排行榜分数不反映你的特定用例。用 50-100 个真实样本测试。
  • 考虑总拥有成本：自托管需要 DevOps 时间。云 API 零维护但每 token 成本更高。
  • 规划模型可移植性：抽象 LLM 层（使用 LiteLLM 或 LangChain），以便无需重写即可切换提供商。
  • 确定预算前重新核对价格：标价和型号阵容都会变化。给假设标注日期，并在新模型发布时重新评估。