实测下来,差距最小的:
- 文本分类、情感判断
- 格式转换、字段抽取
- 简单翻译
- 短文本摘要
差距最大的:
- 多步推理
- 长文档理解
- 代码生成(尤其跨文件)
- 需要严格遵循复杂格式
实用策略:能用开源解决的先用开源,剩下的走闭源。分层之后成本能降一半以上。
注意:开源模型对提示词更敏感,需要更多调优。同一个提示词,闭源直接能用,开源可能要改三轮。这部分成本要算进去。
主楼- 暂无回复
继续逛逛
实测下来,差距最小的:
差距最大的:
实用策略:能用开源解决的先用开源,剩下的走闭源。分层之后成本能降一半以上。
注意:开源模型对提示词更敏感,需要更多调优。同一个提示词,闭源直接能用,开源可能要改三轮。这部分成本要算进去。