Windows 公布 USB4 RDMA 方案,分布式推理示例已开源
Windows 公布 USB4 RDMA 方案,分布式推理示例已开源 新方案通过 NetworkDirect 在 USB4 直连的多台 Windows PC 间传输数据,配套提供适配的 llama.cpp 测试代码,让模型利用多机内存与 GPU 运行。
Windows 公布 USB4 RDMA 方案,分布式推理示例已开源 新方案通过 NetworkDirect 在 USB4 直连的多台 Windows PC 间传输数据,配套提供适配的 llama.cpp 测试代码,让模型利用多机内存与 GPU 运行。
所需 Experimental Channel 预览系统尚待推出;当前可先研究 Provider 与示例,不能将其理解为稳定版 Windows 已支持。