2023年10月4日，面向消费者PC的本地大型语言模型（LLM）推理环境「Strata」发布了最新版本v0.1.39。该开源工具支持轻松运行本地LLM「Qwen3.8-Flash-Next」，并已在GitHub免费提供。现有用户只需运行UPDATE.bat（Linux用户运行update.sh）即可完成更新。
Strata由日本开发者Niko1221打造，支持一键安装，在Windows和Linux系统上快速搭建本地LLM服务器。它兼容OpenAI和Anthropic的API接口，并可选支持图像输入功能。
本次v0.1.39版本主要聚焦性能优化。通过解码流程的改进，实测在搭载GeForce RTX 5070的设备上，速度提升约6%（Q2_0测试）。此外，长文本提示的处理速度和极长上下文的性能也得到了增强，同时多GPU配置的运行效率进一步提升。
功能方面，Strata现支持多请求并行处理。虽然单个请求的响应速度略有下降，但整体等待时间缩短。在4块GPU的配置下，8个并发请求的总处理速度达到360 tok/s，远超单请求时的120 tok/s。
值得一提的是，新增了对旧款GPU和Intel GPU以及老旧CPU的实验性支持。针对不支持CUDA 13的GPU（如Pascal/Volta架构的GeForce GTX 10系列、P40、V100等），提供了基于CUDA 12.9的引擎；Linux系统下还支持Intel Arc GPU的SYCL版本；同时兼容不支持AVX2指令集的老旧CPU。
此外，Strata实现了OpenAI Responses API（/v1/responses），使其能够被OpenAI的编程助手「Codex CLI」调用。更新还修复了内存使用限制导致提示处理变慢的问题及多项其他缺陷。
此次更新为使用旧硬件的用户带来了新的活力，也进一步提升了本地LLM的实用性和性能表现。
