Anthropic 终于解决了 100 万 token 上下文窗口的问题

하이라이트

• Claude Code 性能在上下文窗口利用率达到 30% 到 40% 时即开始下降，远低于 100 万 token 的上限。

• 自动压缩功能通常是有损的，会忽略 Claude 认为不重要的细节，导致模型处理任务时出现目标漂移和内存损坏。

• 将重要任务、约束和已发现的问题以 JSON 结构保存到文件中，是实现会话清理且不丢失关键上下文的有效手段。

• 使用子 Agent 处理研究、重构或文档生成任务，可将所有中间推理和工具调用限制在独立窗口中，防止主 Agent 上下文污染。

• 遇到错误时，执行回溯（Rewind）并删除错误部分，比单纯在原会话中提示纠正更能确保 Agent 从准确的状态开始工作。

타임라인

1. 00:00 - 02:14

   上下文窗口的局限性与腐败

   尽管更大的上下文窗口理论上支持更长的任务，但模型面临的关注压力随之增大。这种拥挤导致模型更易产生幻觉、忘记指令或偏离目标。这种现象与窗口的绝对大小无关，无论容量如何，都需要采取主动管理措施。

   • 100 万 token 窗口实际上会导致上下文腐败，因为冗余信息增加了模型的推理干扰。
   • 性能下降通常在上下文窗口填满 30% 到 40%（约 30 万到 40 万 token）时就开始出现。
2. 02:15 - 03:56

   Agent 故障的四种核心模式

   Agent 在长时间运行中会积累噪音，导致无法维持最初设定的目标。这些问题不仅限于简单的遗忘，还涉及在执行复杂决策时表现出不一致的行为模式，使得错误的原因难以追踪。

   • 不当的上下文管理会导致上下文污染、目标漂移、内存损坏和决策不准确四种失败模式。
   • 在长期运行的任务中，Agent 极易因为过时的内部状态或过多的干扰信息而导致执行逻辑混乱。
3. 03:57 - 09:13

   压缩与清除的策略选择

   直接由模型触发的自动压缩极其不可靠，因为它往往剥离系统提示词等核心要素。通过将任务状态、约束和发现的问题按照严格的 JSON 模式保存，用户可以在开启新会话时让 Claude 通过读取该文件恢复精确的执行状态。

   • 压缩是有损操作，应由用户手动控制而非依赖模型自动触发，以避免删除重要的支持性约束。
   • 使用 clear 命令可以完全重置上下文，适合在处理不相关的全新任务时使用。
   • 将关键上下文以结构化 JSON 格式保存到文件，结合 clear 命令可以实现无损的会话清理。
4. 09:14 - 12:54

   子 Agent 与主动回溯

   子 Agent 拥有独立的上下文空间，是减少上下文腐败的利器。同时，回溯机制确保了会话能够回归到已知正确的最后状态，防止错误的方案被错误地继承到后续的执行过程中。

   • 通过子 Agent 将研究、重构等复杂任务隔离，可防止中间推理过程污染主会话上下文。
   • 定期要求 Agent 重述任务进度有助于强化原始目标并减少决策偏差。
   • 遇到错误时应使用回溯功能（Rewind）而非单纯向前提示纠正，从而移除导致问题的错误记录。