AI教程生产环境里把大模型成本打到骨折：72种优化技术全景拆解
在同一块H100上，Llama 70B预填充阶段GPU利用率能到92%，解码却只剩28%。硬件没变，钱却在悄悄流失。本文从9个层面拆解72种优化技术，帮你把「研究用大模型」变成「能赚钱的大模型」。
#生产部署
按标签聚合查看文章内容。
AI教程
AI资讯高效商务代理的架构指南
过去一年里，我们与零售商、市场平台、旅游、娱乐及电信等多个商务行业团队合作，基于Claude构建了商务代理。这些代理已投入生产，企业客户使用后发现购物车金额增加，卖家运营效率提升。它们共享一个简单的架构：Claude作为核心，运行在代理循环中，配备一套技能、工具和完善的评估体系。 本文面向构建此类（或其他面向消费者）代理的工程师及技术领导。第一部分介绍架构设计（一次性决策），第二部分讲述延迟与成本
AI资讯智能代理平台的演进：使用Claude托管代理构建生产级应用
将一个智能代理投入生产环境，远不止拥有一个好的提示词那么简单。代理需要有运行其生成代码的环境，访问数据的凭证，可观察的会话，以及能够随使用量扩展的基础设施。在Anthropic的应用AI团队，我们处于产品、研究和客户构建Claude应用的交汇点，反复观察到一个规律：基础设施是区分原型和生产代理的关键。许多团队常常在安全、状态管理、权限控制和代理框架调优上消耗大量开发周期。 Claude托管代理是一