所有文章
阅读时长 2 分钟
模型都在降价，为什么 API 采购反而更难了
便宜的价格很容易上头，但它解决不了迁移、稳定性和真实任务表现。价格战里最重要的，不是猜谁会赢，而是别把自己锁死。
每百万 token 的标价只是采购输入，不是总成本。缓存规则、长上下文加价、工具调用、失败重试、限流和迁移工作都会改变最终账单。
按真实流量重放
从生产样本统计输入、输出、缓存命中、并发和失败重试，再用各厂商公开价格计算。不要拿同一个理想 token 数乘所有报价；不同 tokenizer 和提示模板会产生不同用量。
价格和质量放在同一张表
比较每个成功任务成本，而不是每次调用成本。低价模型若需要更多重试、人工修正或更长输出，可能更贵；高价模型也只有在质量提升能减少后续成本时才值得。
为价格变化保留出口
模型名、参数和响应格式放在适配层，保存关键任务的回归集。迁移前跑质量、延迟和成本三项门槛，避免因为一次降价公告当天切换生产。
上线前检查
- 成本按成功任务而非调用统计
- 报价包含缓存与长上下文规则
- 至少一个备用模型通过核心回归集
