PLaMo 3 Translate模型架构

日本Preferred Networks株式会社(PFN)于11月5日公开了其翻译专用的大规模语言模型(LLM)“PLaMo 3 Translate”,以开源权重形式在“Hugging Face”平台发布。该模型于今年10月首次亮相,并已应用于该公司的AI翻译服务“PLaMo翻译”,支持包括日语和英语在内的53种语言互译。

PLaMo 3 Translate多种模型尺寸

PLaMo 3 Translate提供四种模型规模:0.8B(8亿参数)、2B、8B和31B,用户可根据所需的翻译质量、速度、处理能力及设备选择合适的版本。模型支持多种轻量化量化格式,包括BF16权重、FP8、W4A16、NVFP4等,还提供适配“llama.cpp”的GGUF格式以及适用于Apple silicon的MLX格式。

较小型号的模型能够在智能手机和笔记本电脑上高速运行,且无需联网即可完成翻译任务。这意味着用户可以在自有服务器或终端设备上运行模型,避免将机密信息传输至外部服务器,保障数据安全。

根据PFN的评测,即使是最小的0.8B模型,在日英翻译及日语与多语言之间的互译任务中,也能达到或超过现有体积大30倍的翻译专用LLM的性能。

PLaMo 3 Translate翻译选项界面

此外,模型支持多种翻译选项,例如可利用上下文信息提升翻译准确度,支持通过术语表指定专有名词、专业术语及产品名称的译法。在日语翻译中,还可选择敬体(です・ます体)或常体(だ・である体)风格。

该模型采用“PLaMo社区许可”,允许个人学习、兴趣及学术等非商业用途免费使用。对于商业用途,若用户或其关联公司的上一财政年度收入或销售额不超过10亿日元,可通过专用表单提前注册后免费使用。超过该收入门槛则需与PFN签订商业许可协议。