#本地部署

按标签聚合查看文章内容。

DeepSeek 量化全指南:本地部署如何选择 GGUF、AWQ 和 GPTQAI教程

DeepSeek 量化全指南:本地部署如何选择 GGUF、AWQ 和 GPTQ

DeepSeek 系列是开放权重大模型,支持本地部署,但原始模型参数规模巨大,直接以全精度运行对大多数个人或小型服务器来说几乎不可能。本文系统对比 GGUF、AWQ、GPTQ 三种主流量化格式在 DeepSeek 本地部署中的适用场景、优缺点与选型思路,帮助你根据硬件与应用需求做出合适选择。

生成AI基础平台“Private AI Platform on PRIMERGY”支持“tsuzumi 2”应用AI资讯

生成AI基础平台“Private AI Platform on PRIMERGY”支持“tsuzumi 2”应用

日本国家エフサステクノロジーズ与日本国家NTT西日本于8月26日宣布,已完成基于エフサステクノロジーズ的本地生成AI基础平台“Private AI Platform on PRIMERGY”上稳定运行日本国家NTT集团开发的纯国产大型语言模型(LLM)“tsuzumi 2”的验证测试。该解决方案将由日本国家NTT西日本从9月起作为可在国内管理和运营AI模型及基础设施的服务开始提供。 双方结合各自

戴尔推出可构建本地AI代理的“Dell Deskside Agentic AI”AI资讯

戴尔推出可构建本地AI代理的“Dell Deskside Agentic AI”

日本戴尔科技公司于5月18日宣布,与NVIDIA合作推出的AI解决方案“Dell AI Factory with NVIDIA”迎来了新功能和产品,旨在支持AI代理的运营并强化AI基础设施。 “Dell AI Factory with NVIDIA”整合了戴尔的存储、网络、工作站等硬件产品与NVIDIA的GPU及软件,提供面向企业的AI解决方案。该方案覆盖从桌面到云端的端到端服务,采用模块化架构

美国AI界热议的OpenClaw:推动AI PC本地运行的未来AI资讯

美国AI界热议的OpenClaw:推动AI PC本地运行的未来

近年来,美国AI领域掀起了一股关注热潮,焦点正是名为“OpenClaw”的开源代理型AI软件。由彼得·斯坦伯格开发的OpenClaw,是一种能够自主执行多种复杂任务,代替人类操作的智能代理软件,受到众多AI开发者的青睐。 在2026年5月18日至20日于美国内华达州拉斯维加斯举办的“Dell Technologies World 2026”(简称DTW 26)年会上,戴尔科技发布了“Dell D