SGLang 发布 Kimi K3 Day0 适配与架构解读
SGLang 团队发布 Kimi K3 Day0 适配文章,围绕可原地修改的 KDA 循环状态重新设计前缀缓存,并以统一内存池让 KDA 状态与 MLA KV 缓存共享显存。接入 DSpark 投机解码后单请求生成...
TechFoco

共 2 篇文章,按时间倒序展示。
SGLang 团队发布 Kimi K3 Day0 适配文章,围绕可原地修改的 KDA 循环状态重新设计前缀缓存,并以统一内存池让 KDA 状态与 MLA KV 缓存共享显存。接入 DSpark 投机解码后单请求生成...

月之暗面发布全球首个开源 2.8 万亿参数模型 Kimi K3,基于 Delta Attention 与 Attention Residuals 架构,具备原生视觉能力和 100 万 token 上下文窗口。在 F...
