AI教程DeepSeek 在 Kubernetes 上的生产级部署全指南
DeepSeek 不是普通的 Web 服务镜像放大版，而是一整套从小型蒸馏模型到 671B 参数 MoE 大模型的家族。本文给出在 Kubernetes 上部署 DeepSeek 的三条路径：Ollama 快速演示、vLLM 生产推理、Ray Serve + vLLM 分布式大模型服务，并覆盖 GPU 规划、命名空间与 Secret、PVC、暴露方式、安全与监控等关键细节。
#云原生实践
按标签聚合查看文章内容。
AI教程
AI教程DeepSeek 在 Kubernetes 上的生产级部署全指南
DeepSeek 不是普通的 Web 服务镜像放大版，而是一整套从小型蒸馏模型到 671B 参数 MoE 大模型的家族。本文给出在 Kubernetes 上部署 DeepSeek 的三条路径：Ollama 快速演示、vLLM 生产推理、Ray Serve + vLLM 分布式大模型服务，并覆盖 GPU 规划、命名空间与 Secret、YAML 示例、监控、安全与扩缩容策略。