Ollama界面

开源工具“Ollama”近日发布了v0.30.7版本更新,该工具支持在本地环境运行大型语言模型(LLM),兼容Windows、macOS和Linux系统,用户可从官方网站免费下载使用。

“Ollama”允许用户通过简单的命令下载并本地运行如“Gemma”、“Qwen”、“Llama”等开源大型语言模型,支持聊天和API调用,且基于MIT许可证开源开发,方便用户管理和使用本地模型。

此次更新的亮点是新增对美国Nous Research开发的本地AI代理应用“Hermes Desktop”的支持。用户只需在终端执行以下命令,即可启动已配置好模型的“Hermes Desktop”,若未安装则会引导完成安装流程:

ollama launch hermes-desktop

此外,用户也可以指定具体模型启动,后续切换模型同样使用该命令:

ollama launch hermes-desktop --model 

“Hermes Desktop”是Nous Research推出的本地AI代理应用,支持通过桌面聊天界面操作和管理其自我改进型AI代理“Hermes Agent”。

通过“Ollama”对“Hermes Desktop”的支持,用户能够一键完成安装、配置和启动,且无需在“Hermes Desktop”端进行复杂设置。这样,用户可以直接利用“Ollama”管理的本地模型资源,在“Hermes Agent”中无缝使用,极大简化了本地AI工作流程的构建和管理。