#多标记预测

按标签聚合查看文章内容。

本地LLM加速!美国Element Labs最新LM Studio测试版支持MTPAI资讯

本地LLM加速!美国Element Labs最新LM Studio测试版支持MTP

美国Element Labs于5月20日发布了本地大型语言模型(LLM)软件“LM Studio”的最新测试版——LM Studio 0.4.14 (Build 2)。此次更新引入了MTP(多标记预测,Multi-Token Prediction)技术,实现了投机性解码,显著提升了支持该功能模型的运行速度。 新版本支持包括Qwen 3.6和Gemma 4等最新模型,特别是在并行处理时,速度提升可