#多查询技术

富士通开发新技术，提升大规模语言模型处理效率最高达475倍

日本国家富士通公司于6月24日宣布，开发出一种名为“Parallel Hierarchical Operation for TOp-down Networks”（简称PHOTON）的架构，能够在大规模语言模型（LLM）中实现显著的成本削减。 目前主流的Transformer模型在处理较长输入或同时应对大量查询时，因需频繁访问记忆以保持历史信息，导致处理速度下降。而PHOTON通过不再将文本拆分为