AI教程5种大型语言模型量化技术:把140GB模型塞进一张卡
一文拆解RTN、GPTQ、AWQ、LLM.int8()和QAT这5种主流LLM量化方案,解释它们如何在显存、速度和精度之间做权衡。
按标签聚合查看文章内容。
AI教程一文拆解RTN、GPTQ、AWQ、LLM.int8()和QAT这5种主流LLM量化方案,解释它们如何在显存、速度和精度之间做权衡。
AI资讯阿里巴巴最新的 Qwen3.6Plus 预览版已在 OpenRouter 平台上线,现阶段免费开放,支持百万级长上下文处理能力,性能显著优于前代模型。
AI教程用Plano在应用前加一层“模型路由大脑”,自动选模型、保留会话上下文、按价格动态切换,在不改业务代码的前提下,把LLM成本压低50%-60%。
腾讯推出“腾讯AI问股”小程序限量内测,利用AI技术提供投资咨询,助力完善其金融生态体系。
阿里巴巴成立ATH业务集团,由CEO亲自领导,整合统一实验室、MaaS、千问、AI创新及悟空事业部,聚焦从模型竞争转向应用开发,推动AI产业变革。
AI教程KV 缓存、前缀缓存、提示缓存、语义缓存到底差在哪?哪种能省钱,哪种可能悄悄帮你制造 bug?一文拆开底层机制和生产坑点。
AI资讯OpenClaw AI代理框架引发“养虾”热潮,推动AI代理走向大众视野,为大模型商业化开辟新路径。百度、字节跳动、腾讯等巨头竞相布局,加快行业发展步伐。
中国AI公司Moonshot正评估在香港上市,已与中金和高盛等投行进行初步接触。凭借其Kimi大模型的热度,Moonshot加入了争相上市的“大模型独角兽”行列,进一步推动AI投资热潮。
AI资讯东风汽车自主研发的“东风太极大模型”已通过国家备案,标志着其在企业级人工智能基础设施合规及商业应用方面的领先地位。该模型基于自主可控技术,助力传统车企加速智能化转型。
Mistral AI推出了全新多功能模型Mistral Small4,集顶级推理、多模态理解和编程能力于一身,开发者无需在专业模型间取舍,一次拥有全部功能。
2026年,绿联与MiniMax合作推出“OpenClaw”,成为首个内置大模型的NAS品牌,旨在打破AI付费墙,简化交互,推动AI普及家庭用户。
AI教程这不是 DeepSeek 官方路线图,而是一份基于公开资料与权威报道的「事实核查版进度追踪」。截至 2026 年 5 月 7 日,理解 DeepSeek 路线图最稳妥的方式,不是去找一张承诺未来日期的甘特图,而是顺着发布公告、API 文档、定价页和模型卡,一步步把「已经发生的事」拼起来。