电子书：怎么编写推理引擎：Muser 实战指南——Apple Metal 上的 Muse Gli
电子书：怎么编写推理引擎：Muser 实战指南——Apple Metal 上的 Muse Glimmer、kvpack 与解耦式预填充。
TechFoco
KV缓存 专题
共 3 篇文章，按时间倒序展示。
用四元数重新发明量化：10-19倍加速的数学魔法 | 帖子 一位开发者用Clifford代数中的
用四元数重新发明量化：10-19倍加速的数学魔法 | 帖子 一位开发者用Clifford代数中的“旋子”替换了TurboQuant里的随机正交矩阵，在RTX PRO 4000上实现10-19倍加速，Apple M4上高达31倍，参数量减少44倍，而精度几乎没有损失。
TechFoco
Google发布TurboQuant压缩算法，或改变AI成本结构 | blog 大模型越做越大
Google发布TurboQuant压缩算法，或改变AI成本结构 | blog 大模型越做越大，但真正卡脖子的不是参数量，是内存。
TechFoco
