一批用户反馈最近回答质量下降。
排查:
- 自己测,确实感觉变差
- 看日志,发现部分请求被路由到了备用渠道
- 备用渠道的模型版本比主渠道老
原因:主渠道当天有波动,健康检查判定失败,自动切换。切换后没切回来。
改进:
- 切回策略要有,不能只切不回
- 备用渠道的模型版本要定期核对,别用太老的
- 响应里返回实际使用的模型版本,便于排查
第三条很关键。用户和我都以为用的是同一个模型,实际不是。没有版本号根本查不出来。
主楼- 暂无回复
继续逛逛
一批用户反馈最近回答质量下降。
排查:
原因:主渠道当天有波动,健康检查判定失败,自动切换。切换后没切回来。
改进:
第三条很关键。用户和我都以为用的是同一个模型,实际不是。没有版本号根本查不出来。