近年来，一种无需生成任何文本token，仅通过高速返回分类或路由等判断结果的“决策模型”开始受到关注。由Typesafe AI推出的“Jev”引领了这一领域，随后出现了多款兼容模型和相关实现。
决策模型的工作原理是：输入带类型的问题和上下文，模型通过一次推理返回各选项的概率分布。虽然不像大型语言模型（LLM）那样自由生成文本，但其速度极快，且输出无需复杂解析，因此非常适合用于智能代理的分支决策、行为守护、工单分配等场景。
Cloudflare发布“Clef”，性能超越Jev
2026年10月1日，美国Cloudflare公司发布了决策模型“Clef”及其轻量版“Clef-flash”。这两个模型的权重以Apache 2.0开源许可发布在Hugging Face平台，同时Cloudflare还提供基于其无服务器AI平台“Workers AI”的托管版本。
Clef基于“Qwen3.8-27B”模型进行后训练，支持图像输入，拥有64k的上下文窗口；而Clef-flash则基于“Qwen3.5-9B”。
在性能测试方面，Cloudflare使用自家设计的决策模型基准套件“Decision Index”进行评测。Clef在BANKING77和CLINC150+OOS等任务中表现优于Jev，但在GPQA Diamond和MMLU-Pro等任务中略逊一筹。延迟方面，Clef中位延迟为209.3毫秒，Clef-flash仅38.8毫秒，均显著快于Jev的524.1毫秒。
vLLM新增“Jev风”模式，支持DiffusionGemma
文本扩散语言模型“DiffusionGemma”也被集成到vLLM中，新增了类似Jev的决策模型结构化生成模式。
该模式由Matt Mastracci开发，通过在画布上预设结构化输出模板，模型返回对应位置的token及其概率，从而获得最高可能答案及其置信度。测试显示，在单台DGX Spark服务器上，32线程并行时每秒可处理54个请求（约162次判断）。
Liquid AI推出API版决策模型“d1”
Liquid AI公司提供了名为“d1”的决策模型API，支持三种查询类型：返回是/否概率的“noul”，返回选项概率分布的“choice”，以及返回加权概率位置的“score”。用户可通过该公司控制台获取API密钥，免费试用“d1:free”模型。
相关产品推荐：
