由加州理工学院研究人员创立、加州大学伯克利分校Ion Stoica指导的AI实验室PrismML,开发出适用于搭载高通骁龙芯片智能眼镜的微型语言模型版本。

在周三举行的高通骁龙峰会上,这家芯片制造商展示了PrismML的1-bit Bonsai大语言模型,该模型可在基于骁龙AR1第一代平台的AI智能眼镜上本地运行。

正如TechCrunch此前报道,PrismML的核心优势在于其大幅缩小模型体积(本次缩小了4倍),同时在标准基准测试中几乎保持了全部性能。智能眼镜版本采用了一个拥有20亿参数、针对视觉和语言进行调优的模型,使佩戴者能够实时询问眼前所见的内容。

PrismML的更大目标是开发可在设备端运行的开源权重AI,更高效地利用现有计算资源。该初创公司将此视为一种替代方案,避免依赖专有AI实验室的隐私承诺及其对计算资源的巨大需求。

为高通芯片发布模型是实现这一愿景的重要一步,但目前尚未有搭载PrismML模型的智能眼镜正式发布。