微软升级 Win11 的 AI 框架,实验性支持 GGUF 与 ONNX 原生本地推理
科技媒体 NeoWin 昨日(10 月 8 日)发布博文,报道称微软正与 llama.cpp 和 GGUF 开源社区合作,在 Windows 11 系统上升级 Windows ML,实验性原生支持 GGUF 与 ONNX 格式模型推理,并推出 Windows ML Runtime API。
回到原文
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 IT之家 原文科技媒体 NeoWin 昨日(10 月 8 日)发布博文,报道称微软正与 llama.cpp 和 GGUF 开源社区合作,在 Windows 11 系统上升级 Windows ML,实验性原生支持 GGUF 与 ONNX 格式模型推理,并推出 Windows ML Runtime API。
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 IT之家 原文