大模型选型指南：六维框架帮你选对不选贵
能力 / 成本 / 延迟 / 合规 / 上下文 / 生态 六维决策框架与场景对照表
核心结论：选型不是「谁最强用谁」，而是「在合规前提下，用最低成本满足任务效果」。本文给出可复用的六维框架与一张场景对照表。
一、六维评估框架
| 维度 | 要回答的问题 | 典型权衡 |
|---|---|---|
| 合规可达 | 境内外业务是否允许、能否稳定访问 | 合规渠道 vs 平替模型 |
| 任务能力 | 推理/创意/代码/多模态是否够用 | 旗舰 vs 专用小模型 |
| 成本 | 每百万 token 输入/输出单价 | 效果 vs 预算 |
| 延迟 | 首字与完整响应时间 | 实时交互 vs 批处理 |
| 上下文 | 单次能处理多长材料 | 大窗口 vs RAG 分段 |
| 生态 | SDK、微调、工具、社区成熟度 | 绑定 vs 可移植 |
二、场景对照表
| 业务场景 | 推荐路线 | 说明 |
|---|---|---|
| 客服/问答机器人 | 中端模型 + RAG | 重知识准确，不必旗舰 |
| 代码生成 | 专用编程模型/Agent | 看基准与编辑器集成 |
| 复杂分析报告 | 旗舰模型 | 重推理，成本可接受 |
| 海量简单分类 | 极小模型/规则 | 降本一个数量级 |
| 多模态理解 | 支持图文音视频的模型 | 看模态覆盖与精度 |
三、推荐的分层架构
把流量按难度分流：极小模型做预筛选与简单任务，中端模型处理大多数常规请求，仅把真正复杂的长链路任务交给旗舰模型。这样既能控成本，又不牺牲关键体验。
实践建议建立自己的小规模评测集（50-200 条真实任务），新模型发布后用同一批任务跑分，月度复核。别盲信榜单，跑你自己的业务数据才算数。
四、常见问题
免费额度能用于生产吗？
仅适合验证与低频场景。生产环境应评估稳定性、限速与 SLA，免费渠道随时可能调整。
要不要自己做微调？
多数场景先用优质提示词 + RAG 即可，微调适合有海量专属语料、且通用模型确实不达标的情形，成本与运维更高。