倍率只是标价,真实成本还要乘以:

  1. 模型的输入输出比例。输出通常贵 3-4 倍,长输出的任务实际成本被低估。
  2. 上下文重复计费。多轮对话每次都重发历史,轮次越多,单位成本越高。
  3. 重试。失败重试的请求也计费,稳定性差的上游等于加价。

算真实成本的公式:
(输入 token × 输入单价 + 输出 token × 输出单价)× 重试系数 × 倍率

重试系数经常被忽略。一个 95% 成功率和 99% 成功率的渠道,看起来只差 4 个点,实际成本差 4% 左右,但用户体验差很多。

比价的时候看单次任务总成本,别看每百万 token 的标价。

主楼