#本地运行

按标签聚合查看文章内容。

智能手机上运行AI代理的新纪元:超越9B参数的「LFM2.5-2.6B」模型发布AI资讯

智能手机上运行AI代理的新纪元:超越9B参数的「LFM2.5-2.6B」模型发布

随着AI模型的不断进步,自主型AI代理逐渐成为现实。然而,要使用AI代理,通常需要强大的大规模模型支持,这使得在硬件资源有限的个人电脑或智能手机上本地运行变得不切实际。日本Liquid AI公司于美国时间8月4日发布的「LFM2.5-2.6B」模型,有望彻底改变这一局面。目前,该模型已可通过Hugging Face等平台免费下载安装。 LFM2.5-2.6B是一款专为完全在设备端运行的AI代理设

本地运行大型语言模型工具“Ollama”支持“Hermes Desktop”AI资讯

本地运行大型语言模型工具“Ollama”支持“Hermes Desktop”

开源工具“Ollama”近日发布了v0.30.7版本更新,该工具支持在本地环境运行大型语言模型(LLM),兼容Windows、macOS和Linux系统,用户可从官方网站免费下载使用。 “Ollama”允许用户通过简单的命令下载并本地运行如“Gemma”、“Qwen”、“Llama”等开源大型语言模型,支持聊天和API调用,且基于MIT许可证开源开发,方便用户管理和使用本地模型。 此次更新的亮点

本地运行大型语言模型工具“Ollama”支持“Codex”应用AI资讯

本地运行大型语言模型工具“Ollama”支持“Codex”应用

日本国家开源本地大型语言模型(LLM)运行工具“Ollama”最新版本v0.24.0于5月14日发布。该版本支持Windows、macOS和Linux系统,用户可从官方网站免费下载使用。 “Ollama”是一款通过简单命令即可下载并本地运行管理“Gemma”、“Qwen”、“Llama”等开源大型语言模型的工具。它支持聊天和API调用,且基于MIT许可证开源开发。 此次v0.24.0版本的最大亮