Kimi K3 近 3T 参数强化学习训练复盘
Applied Compute 发布工程复盘，介绍 AC2 平台支持 Kimi K3 全参数微调与强化学习。在近 3T 参数规模下，内存占用直接转化为 GPU 数量与成本，团队同时改造训练内存、rollout 精度...
TechFoco
内存优化 专题
共 2 篇文章，按时间倒序展示。
Google TurboQuant：将 KV Cache 压缩至 3 比特
Google Research 发布 TurboQuant 压缩算法，通过 PolarQuant 和 QJL 两步，将大语言模型推理时的 KV cache 内存占用压缩至 3 比特，内存减少 6 倍以上，计算速度显...
TechFoco
