MNN-Pocket-0.3B 发布端侧文本模型权重
TechFoco 精选
MNN-Pocket-0.3B 发布端侧文本模型权重 MNN 团队发布面向设备端推理的 MNN-Pocket-0.3B,模型卡提供 Apache 2.0 许可下的权重和 Transformers 调用示例。
MNN-Pocket-0.3B 发布端侧文本模型权重 MNN 团队发布面向设备端推理的 MNN-Pocket-0.3B,模型卡提供 Apache 2.0 许可下的权重和 Transformers 调用示例。
项目也提供面向 MNN 的低比特部署路径,便于在移动设备上实测内存与延迟。