近日,西方新兴实验室Poolside AI发布了Laguna S 2.1模型,这是一款1180亿参数的混合专家模型(Mixture-of-Experts),每个token仅激活80亿参数,支持高达100万token的上下文窗口,并且权重已开源,方便本地推理。该模型在多个基准测试中表现优异,尤其在本地推理环境下展现出极高的效率和性价比,甚至被社区称为“比Deepseek v4 Flash更便宜,性能优于V4 Pro”。

Laguna S 2.1的技术亮点

  • 参数效率高:1180亿总参数中仅激活80亿,极大降低了推理资源需求。
  • 大上下文窗口:支持高达100万token的上下文,适合复杂任务。
  • 开源权重:模型权重已上传至Hugging Face,支持自定义修改和本地部署。
  • 优异的基准表现:在Terminal-Bench 2.1、SWE-bench多语言、多任务等测试中均取得领先成绩。

社区反馈与实测

Reddit用户对Laguna S 2.1表现出浓厚兴趣,部分用户已开始下载测试。实测显示该模型在RTX Pro 6000(96GB显存)上推理速度达到109 tokens/s,超过同类Qwen3.5-122B的103 tokens/s,且在工具调用和多步推理链条方面表现更佳。但也有用户指出模型在事实准确性方面存在一定不足,尤其在压力测试下偶尔出现虚构信息,需通过调整采样参数和tokenizer进行优化。

此外,Laguna S 2.1因其较小的激活参数规模,被认为更适合高内存的消费级或专业级硬件,而非传统数据中心设备,这为本地推理带来了新的可能性。

相关讨论热点

  • 安全与开源模型:Hugging Face CEO强调开源模型对安全防御的重要性,指出封禁开源AI可能让防御者处于劣势。
  • 模型蒸馏争议:美国白宫指控Moonshot AI非法蒸馏Anthropic模型,引发关于知识产权和模型开放性的激烈讨论。
  • 新型架构与工具:Nanbeige4.2-3B采用循环Transformer层,号称性能超越4倍体量模型;微软发布基于Qwen3.5的多模态浏览器代理模型Fara1.5-27B。
  • 评测与基础设施:LangChain推出Eval Engineering Skill,推动评测自动化;Cursor发布低成本智能模型路由器,提升推理效率。

总结

Laguna S 2.1以其高效的参数激活策略和强大的本地推理能力,成为当前1200亿参数级别开源模型中的佼佼者。它不仅在性能和成本上具备竞争力,也推动了本地AI推理生态的发展。随着更多用户和开发者的参与,未来该模型及其衍生版本有望在实际应用中展现更大潜力。