#模型切换

构建Claude Code的经验：提示缓存至关重要

工程领域常说“缓存主宰一切”，这一原则同样适用于智能代理。 像Claude Code这样需要长时间运行的智能代理产品，得益于提示缓存（prompt caching），它让我们能够重复利用之前交互的计算结果，大幅降低延迟和成本。 在Claude Code中，我们的整个系统架构都围绕提示缓存设计。高缓存命中率不仅降低成本，还能让我们为订阅用户提供更宽松的调用限制，因此我们会监控缓存命中率，若过低则触发