日本日立制作所开发了一项名为“AI质量维护循环”的技术，旨在安全地将AI代理应用于关键业务中。该技术特别适用于社会基础设施和工业领域等对停机或误判极为敏感的业务场景，帮助判断“哪些业务、在何种条件下、可以交由AI处理到何种程度”。
“AI质量维护循环”技术基于实际业务流程和运营条件设计AI的适用范围。在AI代理与业务系统协同处理之前，系统会验证执行内容是否偏离既定流程，并根据实际情况调整处理内容、向用户确认或暂停操作，确保业务安全运行。
近年来，随着对利用AI代理支持现场业务执行和决策的期待不断提升，单纯依靠AI模型性能评估来决定是否应用AI变得越来越困难。必须结合业务流程、运营条件以及人机角色分工，明确AI的适用范围。该技术从业务运营视角出发，定义AI可承担的条件，集成执行内容的合理性验证与运营结果的评估改进，帮助用户更清晰地判断AI在关键业务中的应用边界。
日立计划通过设备维护和IT运维等实际应用案例，进一步验证该技术，明确各业务所需的AI质量指标、必要的证据记录及运营条件。
“AI质量维护循环”技术与解决方案特点
业务视角下定义AI适用条件的质量评估
不仅评估AI代理的输出精度，还基于业务流程、证据记录、运营日志、后续业务影响及责任分配等多维度，定义AI可承担的业务范围和使用条件。此举有助于综合考虑业务影响和运营风险，评估AI应用的合理性，并提供可解释的判断依据。
支持业务约束遵守的执行时控制
在AI代理调用系统或外部工具时，预先验证其操作是否符合业务流程。根据风险等级，分阶段执行用户确认、内容调整或操作暂停，兼顾流程遵守与业务连续性。
基于OT与IT知识融合的AI质量维护与运营
结合日立在OT现场业务流程、设备维护方面的丰富经验与IT平台上的AI代理运营管理技术，实现从AI质量设计、执行时控制、运营知识积累到评估改进的全流程支持。通过持续利用实际运营中获得的经验，动态调整和优化AI的适用范围。
