Shimmy:一个 Rust 单二进制搞定本地大模型推理
Shimmy 是一个约 5MB 的 Rust 单二进制本地推理服务器,完全兼容 OpenAI API,支持 GGUF 和 SafeTensors 格式,自动发现 Hugging Face 和 Ollama 模型,支...
TechFoco

共 5 篇文章,按时间倒序展示。
Shimmy 是一个约 5MB 的 Rust 单二进制本地推理服务器,完全兼容 OpenAI API,支持 GGUF 和 SafeTensors 格式,自动发现 Hugging Face 和 Ollama 模型,支...

Datawhale 社区的开源教程《从零开始构建智能体》系统性地介绍了 AI 原生智能体的核心原理与构建方法,旨在帮助开发者从理论理解过渡到实战开发,实现从使用者到构建者的转变。

chatpdf-yt 是一个全栈 PDF 问答机器人应用,它利用 OpenAI API 的能力,根据用户与 PDF 文档的聊天上下文来生成相关回答。

Upsy 是一款开源的 Slack 机器人,能够记住对话历史,为用户提供快速准确的答案。其特色包括统一内存、隐私保护和回溯工作,技术栈基于 Node.js、OpenAI API、Upstash Vector/Red...
