#大规模语言模型

按标签聚合查看文章内容。

【第四回】什么是LLM（大规模语言模型）——驱动生成式AI的“核心大脑”AI资讯

【第四回】什么是LLM（大规模语言模型）——驱动生成式AI的“核心大脑”

生成式AI的核心技术“LLM” LLM是“Large Language Model（大规模语言模型）”的缩写，是驱动ChatGPT、Gemini、Claude等生成式AI服务的核心技术。 这些服务并非仅由LLM构成，还结合了界面、语音输入、搜索、外部工具及安全措施等多种机制。而LLM则作为理解和生成文本的“引擎”，相当于生成式AI的“头脑”。 LLM的特点在于利用海量文本数据和强大计算资源进行训

SK海力士开始量产带宽提升一倍的192GB SOCAMM2 AI服务器内存AI资讯

SK海力士开始量产带宽提升一倍的192GB SOCAMM2 AI服务器内存

韩国SK海力士于4月20日宣布，正式开始量产面向下一代AI服务器的内存模块——192GB SOCAMM2。 该192GB SOCAMM2内存模块基于1cnm工艺（第六代10纳米级技术）的LPDDR5X DRAM，采用了原本用于移动设备的低功耗内存技术，经过优化后适用于服务器环境。与传统的RDIMM内存相比，SOCAMM2的带宽提升超过两倍，电力效率提升超过75%。 此外，该内存模块专为日本国家N

本地运行大规模语言模型工具“Ollama”存在安全漏洞，尚无补丁发布AI资讯

本地运行大规模语言模型工具“Ollama”存在安全漏洞，尚无补丁发布

日本国家漏洞门户网站JVN于5月11日发布了编号为JVNVU#90880682的漏洞报告，指出开源本地运行大规模语言模型（LLM）工具“Ollama”存在边界外读取和写入漏洞（CVE-2026-5757）。 报告显示，“Ollama”的模型量化引擎在验证GGUF文件时存在缺陷，导致可读取或写入超出指定范围的堆内存。通过“Ollama”的注册表API，写入模型层的堆内存数据可能被泄露。 最严重的情

AI inside启动国内数据中心AI推理网络“Sovereign Grid”计划AI资讯

AI inside启动国内数据中心AI推理网络“Sovereign Grid”计划

AI inside株式会社于13日宣布启动“Sovereign Grid”计划，该计划将在日本国内数据中心运营商的设施中部署专用的AI推理硬件和AI集成基础平台，并将其连接成AI推理网络。 “Sovereign Grid”通过在数据中心设施中安装硬件设备“AI inside Cube”，并在其上构建AI集成基础平台“Leapnet”。Leapnet负责将各个节点通过网络连接，构成“Sovereig

以极低价格实现与DGX Spark相当的AI性能？搭载独立处理器可运行1000亿参数大模型的迷你PCAI资讯

以极低价格实现与DGX Spark相当的AI性能？搭载独立处理器可运行1000亿参数大模型的迷你PC

总部位于新加坡的新兴企业Acrab于7月22日（当地时间）发布了一款名为“Acrab Agent Box”的迷你PC，能够在本地运行拥有1000亿参数（100B）的超大规模语言模型（LLM）。 Acrab Agent Box通过本地执行LLM，实现了高响应速度和高效能，同时大幅降低了每个token的计算成本。该产品搭载了专为个人AI连续日常运行设计的独立处理器“G≡LIX 1”（发音为“Geil

GMO互联网等四家公司完成利用IOWN APN实现东京至福冈远程分布式AI基础设施的技术验证AI资讯

GMO互联网等四家公司完成利用IOWN APN实现东京至福冈远程分布式AI基础设施的技术验证

日本GMO互联网株式会社、日本NTT东日本株式会社、日本NTT西日本株式会社及日本株式会社QTnet于3月30日宣布，已完成利用IOWN APN（全光网络）技术，在东京至福冈之间构建远程分布式AI基础设施的技术验证。 随着生成式AI和大型语言模型（LLM）的普及，AI开发基础设施的需求迅速增长。传统上，GPU与大容量存储设备必须物理邻近部署，但由于数据中心空间限制或企业希望在自有场所管理数据，亟