Ollama界面

日本国家开源本地大型语言模型(LLM)运行工具“Ollama”最新版本v0.24.0于5月14日发布。该版本支持Windows、macOS和Linux系统,用户可从官方网站免费下载使用。

“Ollama”是一款通过简单命令即可下载并本地运行管理“Gemma”、“Qwen”、“Llama”等开源大型语言模型的工具。它支持聊天和API调用,且基于MIT许可证开源开发。

此次v0.24.0版本的最大亮点是支持桌面版“Codex”应用。用户只需在终端执行以下命令,即可启动带有“Ollama”模型的图形界面“Codex”应用(非命令行版Codex CLI):

ollama launch codex-app

熟悉的“Codex”应用允许用户利用本地LLM进行代码编写。它内置浏览器可加载本地服务器或网站,用户可以指示修改选中部分代码,或在应用内对代码修改部分添加评论进行审查。

Codex应用界面

对于复杂编码或委托给智能代理处理,推荐使用以下模型:

  • “Kimi K2.6”(带视觉支持)
  • “GLM-5.1”

若希望无订阅地本地使用“Ollama Cloud”,则适合选择:

  • “Nemotron 3 Super”
  • “gemma-4-31b”
  • “Qwen3.6”

此外,针对Apple Silicon设备,MLX采样器也进行了改进,提升了生成质量。