Windows ML 实验性接入 GGUF 与原生推理 API
Windows ML 实验性接入 GGUF 与原生推理 API Windows ML 新增实验性 llama.cpp 集成,可通过文本生成 API 使用 GGUF 或 ONNX 模型,并提供 OpenAI 兼容的本地端点。
Windows ML 实验性接入 GGUF 与原生推理 API Windows ML 新增实验性 llama.cpp 集成,可通过文本生成 API 使用 GGUF 或 ONNX 模型,并提供 OpenAI 兼容的本地端点。
新的 Runtime API 预览支持显式设备放置与多模型流水线,原 ONNX Runtime 接口继续支持;上线前应核查实验版支持场景和设备限制。




