AI资讯Qwen3.8-27B压缩至8GB！16GB内存笔记本可运行的“Saluki 27B”
近日，一款被认为性能可媲美Opus 4.6 Max的“Qwen3.8-27B”量化模型问世，该模型被压缩至不足8GB。美国时间10月8日，Underdog发布了基于日本国家阿里巴巴集团的“Qwen3.8-27B”模型，经过约2bit量化处理的LLM模型“Underdog Saluki 27B 1.0”，并以开源权重形式公开，采用Apache 2.0许可证，可从Hugging Face平台下载。
#Qwen3.8-27B
按标签聚合查看文章内容。
AI资讯
AI资讯Qwen3.8 27B模型惊人压缩至6.2GB！Unsloth发布新量子化技术
为了缩小AI模型的体积，量子化技术的研发正稳步推进。美国Unsloth公司于8月19日发布了全新的量子化技术“Dynamic v3.0”，并推出了应用该技术的模型“Qwen3.8-27B”的Dynamic v3.0量子化版本。本次发布是对先前早期预览版的更新。支持Dynamic v3.0的GGUF格式现已兼容包括llama.cpp和Unsloth Desktop在内的大多数推理引擎。 Dynam