倍率只是标价,真实成本还要乘以:
- 模型的输入输出比例。输出通常贵 3-4 倍,长输出的任务实际成本被低估。
- 上下文重复计费。多轮对话每次都重发历史,轮次越多,单位成本越高。
- 重试。失败重试的请求也计费,稳定性差的上游等于加价。
算真实成本的公式:
(输入 token × 输入单价 + 输出 token × 输出单价)× 重试系数 × 倍率重试系数经常被忽略。一个 95% 成功率和 99% 成功率的渠道,看起来只差 4 个点,实际成本差 4% 左右,但用户体验差很多。
比价的时候看单次任务总成本,别看每百万 token 的标价。
主楼- 暂无回复
继续逛逛