同一份 3 万字的技术文档,让它做章节摘要并保持术语一致。
观察:
- 前半部分都还行,后半部分开始出现术语漂移,同一个概念换了三种叫法
- 越长的文档,中段越容易被忽略,摘要偏向前后
- 有模型会把没出现的结论补进去,看起来很合理但是编的
对策:
- 分段处理,每段带上下文摘要,最后合并
- 先抽取术语表,后续每段都带上术语表
- 要求标注引用原文位置,没有位置的内容不信
结论:长文本不是靠大窗口硬扛,要靠工程手段拆。窗口再大,注意力也会稀释。
主楼- 暂无回复
继续逛逛
同一份 3 万字的技术文档,让它做章节摘要并保持术语一致。
观察:
对策:
结论:长文本不是靠大窗口硬扛,要靠工程手段拆。窗口再大,注意力也会稀释。