AI 对话上下文管理从全文总结转向精准遗忘
传统 Compaction 虽能腾出 Token 空间，却会破坏 KV Cache 并导致响应变慢、成本上升，还易丢失编程意图。社区开始转向 Pruning 剔除低价值工具日志、/shake 转轻量引用、Snapc...
TechFoco
KV Cache 专题
共 2 篇文章，按时间倒序展示。
Gemma 4：模型进阶与工程挑战
Google DeepMind 发布的 Gemma 4 模型权重已公开，但其底层推理引擎的适配工作滞后，导致在 llama.cpp 等工具链上出现推理不稳定、崩溃等问题，凸显了模型发布与开源生态集成之间的脱节。
TechFoco
