在手机上微调并本地部署大型语言模型
Unsloth AI 与 PyTorch 合作推出新方案,支持在 iOS 和 Android 手机上微调并 100% 本地运行 LLM,实现移动端高效推理与隐私安全。
TechFoco

共 2 篇文章,按时间倒序展示。
Unsloth AI 与 PyTorch 合作推出新方案,支持在 iOS 和 Android 手机上微调并 100% 本地运行 LLM,实现移动端高效推理与隐私安全。

OpenPhone 是一个开源的 3 亿参数移动端视觉-语言基础模型,完全在手机本地运行,无需云调用,旨在解决 AI 手机应用的隐私、延迟和成本问题。