#推理优化

按标签聚合查看文章内容。

2026/03/19

本文回顾了Anthropic发布百万上下文窗口模型的最新进展，探讨了上下文容量增长缓慢的原因及未来趋势，并总结了近期AI领域在代理架构、推理性能和训练技术等方面的热点动态。

2026/04/19

用可视化和类比操作系统分页内存的方式，讲清楚分页注意力如何把LLM推理的显存利用率从20%拉高到接近满载。

2026/03/19

MiniMax在上市不到两个月后，推出了高效且性能卓越的MiniMax 2.7模型，成为中国开源模型领域的亮点。