#推理技术

按标签聚合查看文章内容。

AI推理初创公司Baseten在上轮巨额融资数月后,传出筹资15亿美元AI资讯

AI推理初创公司Baseten在上轮巨额融资数月后,传出筹资15亿美元

据《华尔街日报》报道,AI推理公司Baseten正接近完成一轮高达15亿美元的融资,估值达到130亿美元。仅仅五个月前,该初创公司刚宣布完成3亿美元的E轮融资,估值为50亿美元。而这轮融资又是在九个月前完成1.5亿美元D轮融资的基础上进行的。 如果这轮融资最终达成,Baseten的估值将在不到半年的时间内增长160%。不过,《华尔街日报》指出,这是一轮“分价融资”,即初创公司通过不同价格出售股份,

日本NTT突破大型语言模型间“词汇壁垒”,实现异种LLM协同AI资讯

日本NTT突破大型语言模型间“词汇壁垒”,实现异种LLM协同

日本NTT公司成功开发出全球首创的推理技术,能够在不降低精度的情况下缩减大型语言模型(LLM)中的输入输出单位“Token”的词汇量,实现不同LLM之间Token词汇的统一。 大型语言模型通过“Token”这一单位处理文本,推理时会基于概率预测下一个Token。然而,不同LLM使用的Token词汇通常各不相同,这导致模型之间无法直接比较或共享推理过程中的预测结果,形成了所谓的“词汇壁垒”。因此,