同一模型同一提示词,换客户端,效果不一样。

差异来源:

  1. 系统提示词不同(客户端会注入自己的)
  2. 工具定义不同
  3. 历史处理方式不同(有的会压缩,有的全带)

第 1 条最容易被忽略。客户端注入的系统提示词会影响模型行为,包括语气、冗长度、是否主动提问。

排查方式:看客户端能不能导出完整请求。能导出的客户端排查起来方便得多。

选型时这条值得看:请求内容不透明的,出问题只能猜。

主楼