#端侧推理

按标签聚合查看文章内容。

Nexa SDK:在任意设备上快速部署任意 AI 模型AI商业

Nexa SDK:在任意设备上快速部署任意 AI 模型

Nexa SDK 是一款面向移动端、PC、车载与物联网设备的 AI 部署工具包,可在 NPU、GPU、CPU 上高效运行 LLM、多模态、语音识别与语音合成模型,实现本地快速、私密、可量产的 AI 推理。