随着AI代理能力的不断提升，企业在将其应用于各种应用程序、工作流程和产品时，面临着一个新的挑战：如何确保代理在不同环境中执行预期的任务。微软针对这一问题，推出了一项名为“Agent Control Specification（ACS）”的开源标准，旨在为开发者提供一种更一致且细粒度的方式来控制AI代理的行为。
该规范允许开发者、合规和安全团队定义代理必须遵守的政策。这些规则可以明确代理允许执行的操作、禁止的行为、何时需要人工审批，以及需要记录哪些证据以供后续审查。代理在执行任务的多个“拦截点”会检查这些策略文件，确保其行为始终在设定的安全范围内。
目前，开发者通常通过系统提示、应用代码中的自定义检查或分类器来控制AI的输入输出，防止工具被误用或产生连锁故障。虽然这些方法有效，但往往导致控制手段分散，难以审计，也难以在不同框架、接口和系统间复用。
ACS的目标是将这些控制措施整合到一个统一的治理层中。微软表示，该规范可以在代理工作流程的多个关键节点进行检查——包括接收输入前、调用工具前、工具返回结果后以及向用户发送最终响应前。策略可以允许某个操作、阻止它、对敏感信息进行编辑，甚至要求人工审批。
开发者还可以为输入输出添加分类器，用于信息分类、结果预测或决定代理的响应方式；利用带有提示的语言模型充当政策的“裁判”；以及实现工具调用、工具选择、输入准确性、输出使用和响应的逻辑检查。
由于这些策略可以写成单个文件，便于与代理一同打包，使安全策略能够跨不同框架和环境随代理迁移。
目前，ACS已作为SDK发布，并提供了针对LangChain、OpenAI Agents SDK、Anthropic Agents SDK、AutoGen、CrewAI、Semantic Kernel、Microsoft.Extensions.AI、MCP工具等的插件支持。
