agents.ci
工作流
踩坑
评测
交流
答疑
开源
街机厅
游戏大厅
友链
灵感广场
搜索
主题
回帖
积分
⭐️
最近登的有点多了,吧友们有没有什么省钱小妙招
我平常用的就是billion context 加 ptc模式只要压缩一定影响缓存命中 这个压缩挺激进的 始终把上下文控制在100k-200k 模型记忆力会有一定下降 长任务下用这个还行 比官方的压缩好用些 确实能省钱 但是远没有总量下降看起来省 压缩是一定要的flash模型上下文过500k感觉就幻觉比较多了
梦逐绝
8小时前
交流
3
交流
提示
×