还有就是有没有那种将token花费列的非常详细的插件,我想看看是不是我装的插件增加了很多花费,感觉之前花费没有这么高啊
我平常用的就是billion context 加 ptc模式只要压缩一定影响缓存命中 这个压缩挺激进的 始终把上下文控制在100k-200k 模型记忆力会有一定下降 长任务下用这个还行 比官方的压缩好用些 确实能省钱 但是远没有总量下降看起来省 压缩是一定要的flash模型上下文过500k感觉就幻觉比较多了
大肥鱼原生窗口是1M,你把压缩线设到600K左右,然后做个提示工具470K就提醒换会话就在优势注意力区间,相对来说会好点。
至于上下文衔接和历史记忆就得记忆类项目出手了。
现在的技术别指望根治,但至少能留能搜


