上下文窗口（Context Window）是大语言模型一次能处理的 token 数量上限，用于界定单次输入与生成的文本长度。该机制直接决定了模型一次能读入多长的文档、对话或代码，也影响显存占用与推理成本。窗口从早期的几千 token 扩展到今天的十几万甚至百万级，但它本质上是“容量”而非“能力”——能装下不等于能用好。

这一术语随 Transformer 语言模型普及：2020 年 GPT-3 的论文把 2048 个 token 的输入上限作为固定设定，此后“context window”成为描述模型规格的通用说法；各家的窗口大小一度成为模型对比表里的关键一行。

然而，对比表里的这行数字更像是一个容量上限，未必反映真实的可用水平，“能装下”与“能用好”是两回事。2023 年，Liu 等人在论文《Lost in the Middle: How Language Models Use Long Contexts》中做了经典检验：在多文档问答和键值检索任务里，当关键信息位于开头或结尾时模型表现最好，位于长文本中段时性能显著下降，整体呈“U 形”曲线——即使专门的长上下文模型也未能幸免。机制上，标准注意力的计算量随序列长度呈二次增长，KV 缓存也随窗口线性膨胀，因此“开大窗口”意味着更高的显存与延迟成本；研究者用位置编码外推、检索压缩等手段缓解，常见的工程解法则是检索增强：先把长文档切块、按需检索，再把最相关的片段放进窗口。工程启示很直接：关键信息应放在开头或结尾，长文档要先检索再喂给模型。