#MoE推理

MoE推理工程全拆解：从一个 token 的旅程说起

沿着一个 token 的完整服务路径，拆开 MoE 在路由、批处理、专家并行、权重放置和负载均衡上的全部工程细节。