AI资讯微软Windows ML开始支持llama.cpp,GGUF模型使用更便捷
Windows ML实验性支持llama.cpp 微软在其开发者博客中宣布,Windows ML开始实验性支持llama.cpp,用户将能够运行GGUF格式的模型。 Windows ML是微软为Windows系统打造的本地AI推理框架,是在Windows上运行本地AI的基础平台。此前Windows ML主要支持ONNX格式的AI模型,而此次更新后,除了ONNX模型,GGUF模型也将被支持。 GG
按标签聚合查看文章内容。
AI资讯Windows ML实验性支持llama.cpp 微软在其开发者博客中宣布,Windows ML开始实验性支持llama.cpp,用户将能够运行GGUF格式的模型。 Windows ML是微软为Windows系统打造的本地AI推理框架,是在Windows上运行本地AI的基础平台。此前Windows ML主要支持ONNX格式的AI模型,而此次更新后,除了ONNX模型,GGUF模型也将被支持。 GG