当提到“用于AI的计算机”时，许多人会想到庞大的数据中心服务器群。像ChatGPT这样的服务，用户通过智能手机或电脑连接互联网，访问云端，获取计算结果。
然而，AI并不一定非得在远端的数据中心运行。工厂、汽车、无人机、机器人等数据产生的“现场”附近进行AI处理，这就是所谓的“边缘AI（Edge AI）”。
在之前的基础知识中，我们介绍过适合在智能手机等设备上运行的【第14回】“SLM”，以及在现实世界中运作的【第17回】“物理AI”。边缘AI是让这些AI技术能够在现场发挥作用的重要技术。
什么是“边缘AI”——现场即时决策的AI
“边缘（edge）”意指“边缘、端点”。在IT领域，相对于云端等中央处理位置，靠近用户或数据产生地点的一侧被称为“边缘”。
云端AI通常将摄像头或传感器采集的数据通过网络传输到数据中心处理，再将结果返回现场。
而边缘AI则是在智能手机、车载设备、机器人本体或其附近的计算机上直接运行AI，无需每次都向远端云端请求指令，能够现场即时做出判断。
为什么要在现场运行AI
边缘AI有三大优势：
-
低延迟：例如汽车碰撞预警或工厂生产线异常检测，等待云端响应的哪怕是微秒级延迟都可能带来风险。现场处理能减少通信延迟，实现快速反应。
-
无需依赖网络通信：在隧道、山区或灾害现场等网络不稳定的环境中，边缘AI仍能持续执行必要的AI任务。
-
减少数据外传：例如监控摄像头不必将视频全部上传云端，只需现场统计人数并上传结果，有助于保护隐私，同时降低通信流量和云端处理成本。
边缘AI面临的挑战
当然，边缘AI也存在局限。
最大的问题是无法像云端那样拥有丰富的计算资源。机器人、无人机、智能手机等设备在处理器尺寸、内存、功耗和散热方面都有严格限制。
因此，边缘AI通常采用小型化的AI模型，或利用专门针对AI处理设计的NPU等专用处理器。
这正是【第14回】介绍的SLM技术的优势所在。小巧且智能的AI模型结合低功耗高速的边缘专用半导体，使得现场和手持设备上的AI处理能力迅速提升。
云端与边缘的优势互补
未来并非所有AI处理都会迁移到边缘。
例如，汽车或机器人需要“立即停车”或“避开障碍物”的反射性操作由边缘AI完成，而大量数据分析和AI模型训练则交由云端处理。这样的分工更为现实。
如果说【第17回】的物理AI是让AI在现实世界“行动”的技术，那么边缘AI则是让AI的大脑在现场附近高效运作的关键技术。
【第17回】“物理AI”——让“思考的AI”通过机器人在现实世界中行动
AI不再仅仅存在于数据中心，而是走进了汽车、工厂、机器人，甚至我们的手中。边缘AI正是让AI走向“现场最前线”的技术。
