动态

MEPPP 热点收录 @meppp_hot
收录
原帖正文 最近用 Claude Code 跑长任务经常感觉 5 小时额度像流水一样掉?之前社区甚至有人吐槽它根本没做上下文压缩,暗地里疯狂塞 token。今天看了 Anthropic 官方工程师 Lydia Hallie 的详细解释,才发现大家都误解了它的机制,实际问题出在默认策略太激进。很多人不知道,auto-compact 其实是真正在做摘要的。只要一触发,前面所有的历史记录都会被一段很短的 summary 直接替换掉,根本不会在上下文里保留上百万的冗余内容。那为什么大家的配额还是崩得飞快? 关键在于 1M 上下文模型下,系统默认一定要憋到将近 967K 才会启动自动压缩。这就很要命了——在憋到 967K 之前的那段漫长对话里,你发过去的每一句话,背后都在默默拖着七八百 K 甚至近百万 token 的庞大上下文。即便大部分命中了 Prompt Cache 且读取单价很低,但只要基数膨胀到这个量级,每一轮对话依然在疯狂蚕食你的 5 小时用量。
还有人纠结“压缩会导致前缀改变、缓存失效,重新写一遍岂不是血亏”。其实完全不会。生成摘要本身走的大多是热缓存读取,失效之后你只需要为那段极短的新摘要付一次小额的 Cache Write,换来的却是后续交互基数直接腰斩,长远来看绝对是划算的。不想额度莫名其妙被吞完的话,建议赶紧顺手做两个调整:平时在终端直接敲个 /autocompact 400k,或者在 ~/.claude/settings.json 里配置好 autoCompactWindow,强制它提前压缩,别让上下文滚雪球滚到 900多K。另外个人订阅的缓存保活时间默认是 1 小时,但后台子代理(subagent)只有 5 分钟。如果写代码停顿久了,缓存冷掉重写确实心疼,有需要可以在配置里改一下 promptCacheTtl 和 subagentPromptCacheTtl。如果主会话跑的是 Opus,顺便把后台打杂的 subagent 换成更轻量的模型,额度立马耐用很多
引用自 X 原作者:TechVerser 原帖地址:https://x.com/i/status/2108755870788243738 原帖: 本站媒体副本

0 条评论

还没有评论。第一条认真回应会很重要。