#云端计算

按标签聚合查看文章内容。

第26期:什么是“本地推理”——无需依赖云端,在本地设备上运行AI的技术AI资讯

第26期:什么是“本地推理”——无需依赖云端,在本地设备上运行AI的技术

当我们使用ChatGPT或Gemini等生成型AI时,通常是通过互联网与远端的数据中心通信。我们发送问题,数据中心内的AI生成回答后再返回给我们。 然而,在处理公司机密或个人信息时,往往不希望将数据传输到外部。此时,“本地推理”技术便成为关注焦点。 即使没有网络连接,AI也能在本地设备运行 “推理”指的是将新数据输入已训练好的AI模型,进行计算以得出回答或预测的过程。 云端AI服务通常在服务提供