随着生成式AI在业务中的广泛应用，正如第1回介绍的“AI代理人”和第23回提到的“代理工作流程”，AI自动完成工作的机制正逐渐成为现实。
然而，对于“给客户发送邮件”、“确认合同内容”、“支付和订单处理”等不允许出错的关键业务，是否可以完全交由AI处理呢？
AI存在第2回中提到的“幻觉”问题，即AI可能产生错误信息。即使设置了第19回介绍的“安全护栏”，也无法百分之百避免所有错误和意外行为。
“人类在环”（Human-in-the-Loop，简称HITL）是一种在利用AI自动化优势的同时，关键环节由人类参与判断的机制。
将“人类”融入AI处理流程
人类在环的核心思想是在AI处理流程中加入人类的确认、评估和批准等环节。
在企业工作中，可以将其比作“优秀的下属与上司”的关系。
AI擅长总结数百页的资料，或生成标准化的邮件回复草稿，就像一个信息收集快速的下属帮忙起草。
但在邮件真正发送给外部之前，需要上司（人类）确认内容是否准确无误，是否存在不礼貌的表达，确认无误后才批准发送。
而一旦出现问题，最终承担责任的仍是人类。
并非所有环节都需要人类介入。对于自动分类咨询等错误影响较小的处理，可以实现自动化；但对于资金支付、对外发送、重要数据删除等难以回退的操作，则必须设计人类审批环节。
不仅仅是防止AI错误
人类在环不仅作为安全保障，还能用于提升AI系统性能。例如，人类对AI生成的文本进行修正，或从多个答案中挑选更优者，这些反馈可用于AI的评估和改进。
AI开发中常用的“基于人类反馈的强化学习（RLHF）”就是利用人类评价来优化AI的典型案例。
不过，人类的修正并不会让AI模型立即变得更智能，必须将修正和评价记录下来，供后续学习和系统优化使用。
不是“完全自动化”，而是人机分工
随着生成式AI的发展，很多人担心未来人类工作会被完全自动化。但实际上，完全自动化并非最终目标。
应将大量信息处理和草稿生成交给AI，而重要决策和不可逆操作前由人类确认。明确AI与人类责任的分界线，并在业务流程中预先设计，是人类在环的关键。
人类在环不是让AI全权处理，也不是人类全部审核，而是结合AI的速度与人类的判断力，形成高效且安全的工作机制。
