#分布式推理

按标签聚合查看文章内容。

NVIDIA「PAIR」:整合家庭多台PC的LLM资源,实测体验报告AI资讯

NVIDIA「PAIR」:整合家庭多台PC的LLM资源,实测体验报告

NVIDIA在IFA 2026展会期间发布了一款名为「PAIR」的有趣软件。它通过代理LLM的端点(Endpoint),实现任务的分散与并行处理。本文将带来首次试用的详细报告。 什么是NVIDIA PAIR? 2026年9月3日(美国时间),NVIDIA发布了家庭内多台PC自动分配AI推理请求的软件「NVIDIA PAIR」的测试版,并以Apache 2.0开源许可公开。该软件全称为“Perso