全球的AI公司都在竞相开发更大更强的模型,但这些模型通常需要巨大的计算资源。与此相对,一些研究人员和初创公司则致力于打造能够在边缘设备(如手机或电脑)上运行的小型模型。

其中一家初创公司Underdog发布了一个基于其新语音模型Woof的游戏,该模型仅有32MB大小。

游戏场景是一个复古科技主题的房间,内有打字机和CRT显示器。桌上的台灯开关点击时会发出声音。游戏开头提醒用户注意“侵入式”的云服务提供商,显然是在暗指基于云的模型。

玩家可以与打字机和音乐调谐器互动。

你可以用键盘在打字机上输入任何内容,游戏会用语音读出来。还可以旋转调谐器生成不同类型的音乐。

这一切都在浏览器中通过Underdog的语音生成模型实现,公司表示该模型可以在大多数设备上离线运行。该模型拥有3100万个参数,且对所有人开放下载。

虽然如此小的模型可能无法取代大型模型,但它足以支持本地助手体验或制作个性化播客。

此次演示发布几周前,Underdog推出了另一个167MB的语音转文本模型Bark,同样设计用于边缘设备的转录和听写。

Underdog创始人Sigil Wen告诉TechCrunch,他开发这款应用是因为不想使用像Granola这样的笔记工具,而是希望构建一个能在用户设备上运行、让用户拥有数据所有权的AI系统。

“我认为几个月内,我们就能让大多数当前强大的模型在你已有的设备上运行。我们只想训练最好的美国制造、开源且强大的模型,让人们拥有私密的AI,”他提到了自己的宣言。

除了上述两个语音模型,Underdog还发布了一个270亿参数的模型,可以在笔记本电脑上运行,并推出了一个等待名单应用,定位为Muse和Instinct的本地托管替代方案。