同一份 3 万字的技术文档,让它做章节摘要并保持术语一致。

观察:

  • 前半部分都还行,后半部分开始出现术语漂移,同一个概念换了三种叫法
  • 越长的文档,中段越容易被忽略,摘要偏向前后
  • 有模型会把没出现的结论补进去,看起来很合理但是编的

对策:

  1. 分段处理,每段带上下文摘要,最后合并
  2. 先抽取术语表,后续每段都带上术语表
  3. 要求标注引用原文位置,没有位置的内容不信

结论:长文本不是靠大窗口硬扛,要靠工程手段拆。窗口再大,注意力也会稀释。

主楼