PromptCache 语义缓存代理:削减 LLM 调用成本
PromptCache 是 Go 语言编写的开源语义缓存代理,托管于 GitHub。它用 Embedding 识别相似 Prompt,并通过小模型校验确保意图一致,支持主流接口与流式输出。项目方称理想环境可抵消 8...
TechFoco

共 2 篇文章,按时间倒序展示。
PromptCache 是 Go 语言编写的开源语义缓存代理,托管于 GitHub。它用 Embedding 识别相似 Prompt,并通过小模型校验确保意图一致,支持主流接口与流式输出。项目方称理想环境可抵消 8...

WailBrew 是一款基于 Go、Wails 和 React 开发的 macOS 图形界面工具,旨在为 Homebrew 包管理提供清晰直观的操作界面,集成包管理、搜索、更新及诊断功能。
