AI资讯谷歌发布TurboQuant：大语言模型键值缓存压缩6倍，速度提升8倍，无精度损失，无需训练！
谷歌推出TurboQuant算法，结合PolarQuant和QJL技术，将大语言模型推理中的键值缓存内存需求至少压缩6倍，H100 GPU上注意力计算速度提升至8倍，同时保持零精度损失。这一突破有望降低AI部署成本，加速长上下文应用的发展。
#大语言模型
按标签聚合查看文章内容。
AI资讯
AI资讯内存焦虑终结者：谷歌发布TurboQuant技术，实现大模型压缩六倍
谷歌推出TurboQuant技术，通过压缩KV缓存，有效解决大语言模型推理中的内存瓶颈问题，显著降低内存使用且不损失准确率，提升处理长文本和复杂任务的效率。
AI聊天助手DeepSeek｜深度求索通用大模型与开发平台
DeepSeek（深度求索）是一家专注通用人工智能底层模型与技术的公司，基于自研训练框架和自建智算集群，开源了多款百亿级参数大模型，包括通用大语言模型 DeepSeek-LLM、代码大模型 DeepSeek-Coder 以及国内首个开源 MoE 大模型 DeepSeek-MoE，并提供便捷的对话体验与 API 接入能力。
AI教程在 Web 应用与 SaaS 中集成 DeepSeek 的完整指南
本文系统介绍如何在 Web 应用和 SaaS 产品中集成大语言模型 DeepSeek，从云端 API 接入到自建推理服务的部署方案，并结合前后端示例、典型业务场景、UX 设计、安全与成本优化策略，为团队提供一条可落地的集成路线。
AI编程Anthropic 人工智能安全与研究平台
Anthropic 是一家以安全为核心的人工智能公司，致力于构建可靠、可解释、可调控的 AI 系统，为企业与机构提供高水平对话式 AI、代码助手、智能代理与安全工具，帮助用户在降低风险的前提下释放 AI 生产力。
AI聊天助手Stable Chat 智能对话助手
Stable Chat 是 Stability AI 推出的在线智能对话与创作助手，基于最新大模型能力，支持多轮对话、内容创作、代码辅助与知识问答，适合个人用户、开发者和团队高效获取信息与完成创意工作。
AI资讯AMD收购Taalas，推升推理技术新高度
推理技术正迎来快速发展，AMD收购Taalas引发行业关注。本文回顾了近期AI领域的多项重要进展，包括Meta的Muse Spark 1.2突破、OpenAI的ChatGPT模型整合及免费策略、以及开源模型和多智能体系统的最新动态。
AI写作DeepSeek | 深度求索：开源大模型与对话/API 接入平台
深度求索（DeepSeek）成立于2023年，专注通用人工智能底层模型与技术研发，已发布并开源多款百亿级大模型（如 DeepSeek-LLM、DeepSeek-Coder、DeepSeek-MoE），支持与 DeepSeek AI 对话并提供 API 便捷接入。
AI资讯你听过这些AI术语却只点头？来，这里帮你理清楚
人工智能正在改变世界，同时也创造了一套全新的语言来描述它的工作原理。只需花五分钟阅读AI相关内容，你就会遇到LLM、RAG、RLHF等一系列术语，即使是技术领域的资深人士也可能感到困惑。本文词汇表旨在帮助你理解这些术语，并会随着领域的发展不断更新，堪称一份“活文档”，就像它所描述的AI系统一样。 AGI 人工通用智能（AGI）是一个模糊的概念，通常指的是在多数任务上能力超过普通人的AI。OpenA
AI资讯第11回：什么是“开放权重模型”——人人可用的AI模型有何不同？
本文介绍了开放权重模型的定义、特点及其与开源AI的区别，解析了用户如何利用开放权重模型在本地环境中运行和定制AI。
AI资讯阿里巴巴发布开放权重大模型「Qwen3.6-35B-A3B」，具备与Claude Sonnet 4.5相当的视觉语言能力
阿里巴巴推出了基于混合专家机制的开放权重大语言模型Qwen3.6-35B-A3B，支持多平台调用，具备强大的编码和视觉语言处理能力。
AI资讯谷歌发布最高4倍速的多模态大语言模型“DiffusionGemma”，免费开放
2024年6月10日，日本谷歌公司宣布推出一款名为“DiffusionGemma”的多模态大语言模型（LLM），该模型采用被称为“文本扩散”（text diffusion）的方法，能够将文本生成速度提升至最高4倍。目前该项目仍处于实验阶段，模型以Apache 2.0许可证在Hugging Face平台免费公开，用户可免费下载模型权重并使用。 DiffusionGemma拥有260亿个参数，其中4