不久前，我们在姊妹刊物PC Watch上发表了一篇文章，介绍了如何利用迷你PC和网络摄像头搭建AI监控摄像系统。该系统通过本地AI检测人员等目标，并在检测到异常时向手机发送通知。
本文将基于之前的迷你PC方案，尝试将系统迁移到配备128GB内存的日本DGX Spark平台，探讨其性能变化、优缺点等。
迷你PC也能实现实用的AI监控摄像系统，但存在限制
回顾之前的PC Watch文章，系统由迷你PC和市售网络摄像头组成，通过AI编程实现监控功能。
摄像头视频由本地AI持续监控，检测到人或车辆等移动时，立即推送通知到手机，帮助及时发现异常行为，提升安全防范。
全程本地AI处理，视频不上传互联网，保护隐私，同时可根据家庭环境定制功能。系统配置如下：
- 迷你PC（GMKtec NucBox K15，Intel Core Ultra 5 125U，32GB内存）
- 网络摄像头（日本TP-Link Tapo C325WB V2.0）
- 外接GPU（NVIDIA GeForce RTX 4070 Ti）
- 智能手机
- 家庭局域网环境
软件环境：
- Windows 11 Home
- Claude或ChatGPT（Codex）用于编码
- Docker Desktop作为服务器虚拟环境
- Frigate控制网络摄像头
- Mosquitto实现系统联动
- Home Assistant实现自动化及手机应用
- Ollama作为AI处理平台
由于迷你PC内存仅32GB，使用本地AI时存在一定限制，尤其无法运行容量较大的高级AI模型。
实际应用中，视频内容转文字采用了轻量级模型“Qwen 3-VL 4B Instruct”（3.33GB），通过内置GPU调优流程，达到了实用的处理速度。
虽然外接GPU能进一步加速，但对监控系统而言显得过于庞大且耗电，难以长期使用。
综合来看，内置GPU在速度和功耗之间取得了较好平衡，是较理想的选择。
目前市面上不少网络摄像头支持独立AI监控，但多数依赖云端服务，带来持续费用和隐私顾虑。
自建AI监控系统虽然需承担PC硬件成本，但无需依赖云服务，隐私保护更好，且可自由定制功能，提升使用便利性。
使用DGX Spark的优势？速度提升？功耗如何？
基于迷你PC的经验，我们将系统迁移到配备128GB内存的日本DGX Spark，期待构建更丰富的系统。
首先尝试切换到更高性能的模型。迷你PC使用的“Qwen 3-VL 4B Instruct”模型轻量但识别和文本生成能力有限，因此切换为更大规模的“Qwen 3-VL 30B A3B”模型。
两者对比发现，手机通知中显示的短文本（限制160个token）差异不大。
但放宽文本长度限制，要求详细描述视频内容时，4B模型会出现重复文本等不稳定现象，30B模型则表现更稳定，避免了此类问题。
关于处理速度和功耗，监控系统需24小时不间断运行，低功耗尤为重要。
我们测量了从检测到手机通知的时间及功耗，结果如下图所示：
迷你PC经过优化后，检测通知延迟约2秒，内置GPU生成说明文本约10秒，外接GPU约5秒。
DGX Spark调整了流程，取消了多次推送，仅发送带说明文本和图片的单次通知，整体通知时间缩短至3-4秒，速度优于迷你PC+外接GPU组合，运行流畅无压力。
但功耗方面，DGX Spark待机功耗为45-50W，是迷你PC内置GPU的2-3倍，检测时峰值约100W。
峰值功耗短暂可忽略，但较高的待机功耗令人关注。DGX Spark性能强大，但作为AI监控核心显得过于奢侈。
充裕性能支持实时解说功能
尽管功耗较高，DGX Spark的图像解析速度极快。我们尝试利用这一优势，开发了“实时解说”功能。
当摄像头前有动作时，手机收到推送通知，点击后进入Home Assistant界面，系统几乎实时读取视频内容，连续2分钟每隔几秒生成一句描述。
这项功能依赖DGX Spark的高速和高精度文本生成能力，未来还可扩展为“夜间检测到异常行为时闪烁智能灯泡”等智能联动。
此外，系统还能定期生成昼夜检测总结，并通过人脸识别避免对作者本人发出通知。
这些个性化功能的灵活添加，正是得益于DGX Spark的强大性能。
不过，如果DGX Spark已被用于其他夜间任务，想同时运行AI监控系统会较为困难。存储空间有限，持续录像需外接硬盘等辅助设备。
总结来看，DGX Spark用于AI监控系统显得过于奢华。若需长期稳定运行，选择具备一定AI处理能力的NAS设备可能更合适，同时兼顾数据备份。
结合Home Assistant实现家庭智能设备集中管理，能提升性价比。DGX Spark则适合用于开发此类系统的基础平台。
