大模型的上下文窗口从4K涨到1M，听起来可以一口气读完整个项目文档。但实际用起来发现：塞进去的文本越长，模型对中间内容的理解越差。

一、中间遗忘问题

大模型有个已知现象叫中间遗忘：放在上下文开头和结尾的内容它记得清楚，但放在中间的内容它会忽略。这意味着你把200页文档塞进去，模型可能只认真读了前10页和最后10页。

二、长文本的正确用法

与其把整个文档塞进去，不如用RAG做精准检索：用户问什么，就把相关段落调出来。这样模型处理的上下文短而精，理解质量更高。

三、未来方向

随着注意力机制优化，长文本理解质量在提升。但在可预见的未来，长窗口仍然不是万能的。好的系统设计应该结合长窗口和RAG。