Qwen 3.5 397B：本地编程模型的新标杆？
Reddit 社区讨论显示，Qwen 3.5 397B 模型在代码生成质量上表现突出，配合 IQ2_XS 量化技术可大幅降低内存需求。但其生成速度较慢，硬件门槛较高，引发了关于本地部署价值与成本效益的讨论。
TechFoco
模型量化 专题
共 2 篇文章，按时间倒序展示。
LLM 优化技术：内存、计算与推理
本文系统梳理了大型语言模型在训练与推理阶段的优化技术，涵盖显存、计算和推理三大方向，包括 Flash Attention、量化、并行策略等前沿方法，旨在应对模型规模增长带来的挑战。
TechFoco
