正如下面的AINews X回顾部分所示,全球几乎所有人都在复制Jev API,但只有TypeSafe能够真正定义这一新兴类别。TypeSafe宣布推出“Series AI”,红杉资本也“泄露”了他们在首周就突破1亿美元年经常性收入的消息。

尽管存在一些怀疑和造势指控,但我们希望大家能看到我们的Jev播客内容完全真实可信。

AI新闻(2026年10月8日至9日)回顾。我们检查了12个子版块、544个Twitter账号及多个Discord频道。您可以通过AINews官网搜索所有过往期刊。提醒一下,AINews现为Latent Space的一个板块,您可以选择订阅或取消订阅邮件频率!

AI Twitter回顾

决策模型成为产品新类别

  • 趋势:多家厂商在同一天发布了“决策”模型,这类模型通过单次前向推理返回类型化答案(概率、列表选择、评分),而非自由文本。Jev成为所有人对标的参考点,@scaling01评论该格式传播速度惊人。

    • OpenAI Decisions API:支持三种请求类型:条件概率、列表选择、分级评分。支持文本和图像输入,基于GPT-6 Luna,输入令牌费用0.10美元/千,无输出费用,OpenAI称速度提升最高达10倍(来源)。
    • Microsoft-Decision-1:定位为大型语言模型裁判和科学假设筛选。早期评测者指出决策模型在一致性和复杂决策方面仍有挑战(来源)。
    • Perplexity pplx-decider-v1.1-27b:宣称在1,071个案例中决策基准准确率达94.5%,成本为0.017美元/千次决策(来源)。
    • Cloudflare clef:新版本clef-omni支持音频、视频、图像和文本输入。clef-flash价格低于Jev,整体速度约快2倍(来源),权重托管于Hugging Face。
    • Liquid d1:现已接入Vercel AI Gateway,支持视觉分类、路由和评分任务(来源)。
  • 服务与路由:vLLM语义路由器Decision 2.0可在一次推理中回答多个问题,并给出每个选项的概率(来源)。LangSmith使用Jev作为裁判,为每个轨迹返回难度和正确性的独立类型化答案(来源)。

  • 自训练模型:Unsloth发布免费笔记本,能在8GB显存上将Qwen3.5-4B转为决策模型(来源)。另一篇关于Qwen3.5-0.8B的教程显示,经过60步训练,准确率从37%提升至65%,耗时约10分钟,显存4GB(来源)。

  • 为何代理框架需要决策模型:许多代理步骤是简单的是/否判断而非生成。LangChain表示,将每个任务路由到最经济的合适模型,能将中位数Open SWE任务成本降低64%(来源)。

  • 相关研究:苹果与卡内基梅隆大学合作的基于选择的结构化推理(SSR)在代理内部应用了类似思路(来源)。

    • 方法:六种自然语言策略通过长度归一化的对数似然在一次批量推理中评分,共享KV缓存。
    • 结果:每轮推理延迟降低90%以上,但单问题端到端延迟仅降低28-54%。在Qwen3-VL-4B上,平均成功率61.37%,略高于TAPO+GSPO基线的61.25%。

多代理编排与编码工具

  • Claude托管代理动态工作流(公测):主代理制定分阶段计划,最多可扩展至1,000个代理并行执行,最终合并结果。需启用multiagent_20261001(来源)。

    • 成本提示:Anthropic建议从限定任务开始,避免令牌消耗过高(来源)。
    • Claude代码项目:所有排队的Pro和Max用户均已获准入。项目任务以并行线程运行(来源),会话现支持本地运行(来源)。
    • Opus 5.5快速模式已推出,但计费基于使用额度,非订阅包含(来源)。
  • 代理团队效益:Vals AI在Vibe Code Bench测试GPT-6 Sol和Opus 5.5单独及团队表现(来源)。

    • 结果:团队成本高1.8至5.1倍,仅Sol中等努力时显著提升7.3分。
    • 行为:Sol按架构线并行委派,Opus顺序执行,最大时约6.8个子代理和1140次子代理工具调用,未见显著提升(详情)。
  • Prime Agent用Rust重写:两周内逾2,000代理使用10,000+沙箱和2000亿+GLM-5.3令牌,输入速度提升约13倍,启动内存减少83%(来源)。相关论文指出上下文限制必然导致代理群出现(论文)。

  • Codex更新:

    • Windows沙箱基于微软执行容器(MXC),启动更快,支持网络和文件细粒度控制(来源)。
    • Composer预测功能现处于Pro用户测试阶段,部分用户对仅限Pro表示不满(来源)。
    • 曾出现长时间宕机投诉(来源)。
    • DHH表示GPT-6.1 Sol已成为他主要编码工具,超越Claude(来源)。
  • Devin与Grok Bot:

    • Devin支持生成管理树,墙时跟踪最慢分支而非总和(来源)。
    • Devin支持个人ChatGPT计划管理GPT使用(来源)。
    • Grok Bot新增专属邮箱用于注册和日程安排(来源)。

模型发布与独立评测

  • Qwen-Image-2.1-Turbo(开源权重):7B Qwen-Image-2.1的加速版本,支持8步2K生成和自然语言编辑,通过Diffusers加载,支持Pro和Turbo API(来源)。

  • StepFun Step 5预览:总参数600B,活跃参数27B,支持1M上下文和视觉输入(来源)。

    • 评测:Hermes指数33.89,匹配GPT-6 Luna,Nous Portal免费体验一周(来源)。
    • 热度:OpenRouter使用量排名第一,权重开放预计10月15日发布(来源)。
  • Upstage Solar Mini 4:35B MoE,活跃3B,524K上下文,208令牌/秒,AAII评分24,为3B活跃参数模型中最佳,接近Nemotron 3 Ultra,Cline免费提供(来源)。

  • Gemini 4 Argon:DeepSWE v1.1得分77.9%,优于Opus 5.5的74.2%,首批向650+ Fairwind计划用户发放,价格2美元/百万令牌或10美元/百万令牌(来源)。

    • 信号:Antigravity中出现推理努力选择器,Logan Kilpatrick称“Argon即将到来”(来源)。
    • 未确认消息:Business Insider报道内部“Carbon”检查点在编码能力上接近Opus 5.5。
  • 语音模型:HeyGen Voice在人工分析控制语音TTS领域排名第一,Elo分1201,价格30美元/百万字符,速度40字符/秒(来源)。Whistle为16.9MB的设备端语音识别模型,性能可媲美Whisper基础版(来源)。

  • 多轮图像编辑:Artificial Analysis实现连续30次编辑(来源)。

    • 结果:Ideogram 4.5和FLUX 3本地编辑,95%以上图像保持不变。GPT Image 2.5 Sunburst每轮重绘大部分画面,仅保留约20%,导致图像漂移。Nano Banana 2.1逐渐变暗。
  • OCR基准测试:Roboflow新基准涵盖48个模型,GPT-6 Astra在文本定位上领先(来源)。Datalab的OmniParseBench包含90种语言的16K测试,其自有模型未排名第一(来源)。

  • 竞技场综述:Claude Haiku 5.5在WebDev排名第30,价格0.10/0.50美元,得分比GPT-6 Luna高6分。Mistral Large 4在Agent Arena排名第43(来源)。ARC-AGI-3新高分59.17%(来源)。

研究、训练与推理系统

  • vLLM与SGLang在Vera Rubin上的表现:vLLM在MiniMax M3上实现7.8倍GB200吞吐量,交互性匹配AgentX,结果初步(来源)。

    • 技术:局部感知MoE利用CUDA 13.4局部域,每个SM仅读取本地HBM,提升MoE解码速度最高1.2倍(详情)。
    • SGLang:128K上下文下FP8 MLA速度提升20%,MoE尾部融合减少276次解码启动,端到端性能提升5.9%(来源)。
    • SemiAnalysis声称:InferenceX预览版本每千瓦盈利提升3.2倍,性能/成本比GB300提升10倍(来源)。
  • TRL v1.15:默认启用融合语言模型头,避免完整logits张量物化(来源)。

    • 结果:Gemma 3 1B模型GRPO序列长度从28K增至114K,DPO从10K增至59K,8K峰值内存下降52-82%,训练速度提升约11%。
  • 数据与后训练服务:

    • Datology Curation Studio声称对39个公开数据集实现6倍计算加速,适用于30B MoE(来源)。其Thomson-1模型以45万美元训练,性能超越GPT-5.6 Sol(来源)。
    • Tinker大幅降价最高70%,长上下文价格与短上下文相同,新增GLM-5.3-Flash和DeepSeek-v4.1-Flash(来源)。
  • DeepSeek周期性弱点:字节跳动Seed发现检索性能依赖令牌相对于压缩步幅的位置(来源)。

    • 证据:该模式在无RoPE或学习门控情况下依然存在,且与步幅长度相关。
    • 解释:V4.1步幅为2,虽减弱但未消除该效应。
  • 代理研究:

    • Meta的代理可塑性研究衡量每美元学习收益,表现最佳者并非最高效学习者(来源)。
    • MIMESIS:9B用户模拟器,在行为逼真度上领先Opus 5达13.4分(来源)。
    • NVIDIA基模型选择:通过是否能复现“决定性编辑”信号对检查点排序,该信号跟踪后训练SWE基准验证分数(来源)。