一批用户反馈最近回答质量下降。

排查:

  1. 自己测,确实感觉变差
  2. 看日志,发现部分请求被路由到了备用渠道
  3. 备用渠道的模型版本比主渠道老

原因:主渠道当天有波动,健康检查判定失败,自动切换。切换后没切回来。

改进:

  • 切回策略要有,不能只切不回
  • 备用渠道的模型版本要定期核对,别用太老的
  • 响应里返回实际使用的模型版本,便于排查

第三条很关键。用户和我都以为用的是同一个模型,实际不是。没有版本号根本查不出来。

主楼