实测下来,差距最小的:

  • 文本分类、情感判断
  • 格式转换、字段抽取
  • 简单翻译
  • 短文本摘要

差距最大的:

  • 多步推理
  • 长文档理解
  • 代码生成(尤其跨文件)
  • 需要严格遵循复杂格式

实用策略:能用开源解决的先用开源,剩下的走闭源。分层之后成本能降一半以上。

注意:开源模型对提示词更敏感,需要更多调优。同一个提示词,闭源直接能用,开源可能要改三轮。这部分成本要算进去。

主楼