#AI工程化

按标签聚合查看文章内容。

用 vLLM 本地部署 DeepSeek:从入门验证到高性能服务AI教程

用 vLLM 本地部署 DeepSeek:从入门验证到高性能服务

想在自己机器或服务器上跑 DeepSeek,而不是依赖云端 API?本文用实战视角讲清:什么时候该用 vLLM,如何选 DeepSeek 模型,如何安装与启动服务,如何处理推理输出、工具调用、性能与安全,以及常见坑位排查。适合有一定开发基础、希望自建 OpenAI 风格接口的技术同学。