第一部分中，我们探讨了概念验证（PoC）阶段停滞的根本原因并非模型性能不足，而是缺乏“将AI融入业务的设计”。那么，这种设计具体包含哪些内容呢？本文将结合领先企业的实际案例，逐一解析支撑现场可运行AI基础设施的五大设计要素。
1. 产生组织成果的五大设计要素
将业务交给AI的设计由“数据管理”、“治理”、“人机角色分工”、“维护与运营”、“变更管理”五个要素构成。其中，数据管理是其他四个要素的基础。无论人和流程设计多么细致，如果AI参考的数据不完善，输出的可靠性无法保证。基于此，应根据组织成熟度逐步加强安全（如防范提示注入攻击）和知识产权（生成内容的权属）等方面的管理。以下将结合关键议题和先行企业案例，详细说明各要素。
（1）数据管理（赋能AI的基础）
许多组织在“让AI承担业务”之前，面临的根本问题是内部数据未得到有效整备。所有成功利用生成式AI的企业，均在模型选择前完成了长期的数据基础设施投资，而失败者往往跳过此环节，急于引入工具。
必须重点关注四个方面：
- AI是否积累了足够且高质量的数据？若内部文档、会议记录、规章、FAQ、合同等分散在个人电脑或旧文件服务器，检索增强生成（RAG）功能难以发挥。
- 数据是否以AI可用的格式存在？尽管生成式AI不断进步，但扫描的图片PDF或未OCR的手写资料难以有效检索。通过添加文档类型、创建日期、部门、机密等级、有效期限等元数据标签，可显著提升RAG的准确性。由于大型语言模型（LLM）容易忽略长文档中间的信息，精准筛选并传递必要信息是提升准确率的关键。
- 文件夹结构、命名及存储规则是否便于RAG访问（版本管理是否规范）？如“最新版_最新_真正最新.xlsx”等混乱命名及版本混用，会导致错误回答。权限设计不严谨（如SharePoint）可能使AI在回答时泄露机密信息。
- 数据的新鲜度、一致性及重复性是否持续管理？规章修订后旧版残留、同一客户多重登记等问题会严重影响AI输出的可信度。
这些议题并非新鲜事物。国际数据管理组织DAMA-DMBOK2早在20多年前就定义了“数据质量六维度”，国际标准ISO/IEC 25012也以15个特性定义数据质量。生成式AI时代的新变化在于，这些传统数据管理的成败直接影响业务成果。Zhamak Dehghani提出的“部门主导的分散式数据管理”（Data Mesh）和Andrew Jones倡导的“数据提供者与使用者间严格质量保障”（Data Contracts）等理念，均是构建高可靠生成式AI（RAG）基础的关键前提。
领先企业的案例多建立在扎实的数据整备基础上。例如，美国JP摩根大通（JPMorgan Chase）2025年5月向20万员工推广的LLM套件，推测基于AWS上的联邦数据湖和统一元数据管理。日本摩根士丹利（Morgan Stanley）的AI助手，通过为原本只能回答700个FAQ的聊天机器人策划10万份内部知识文档，实现了任意问题应答的扩展。日本松下连接（Panasonic Connect）通过ConnectAI实现每年节省18.6万工时，背后同样是数据结构化的细致工作。
（2）治理（规范非正式使用的控制基础）
在数据管理基础上，治理成为下一步重点。组织导入AI的首要任务是明确规则：处理哪些数据、采用哪些官方AI工具、谁承担最终责任，设计“无论人员如何变动，质量不变、使用方式一致、无规则违规”的运营流程。为防止事后审计问题和信息泄露，需提供安全的全公司统一AI平台（网关），并通过系统保存输入输出的“审计轨迹”实现可追溯性。
JP摩根大通的LLM套件即为安全的内部平台，涵盖外部LLM功能，确保安全合规。日本松下连接的ConnectAI为全员提供统一AI使用环境，推动与业务数据的结合。
这些案例共同点在于，个人AI使用均在受控的统一平台上展开。对内部数据的访问权限应继承现有系统权限，构建真正的全公司治理。若数据权限设计不完善，仅靠网关无法防止信息泄露。
治理并非否定现场自由开发。个人范围内的业务（如邮件摘要）可积极提升效率。统一平台的目的是提供一个无风险的“官方游乐场”，避免影子IT风险，保障自由且安全的开发环境。
（3）人机角色分工（责任归属与替代运维）
最佳实践是基于“人机协同”（Human-in-the-Loop，HITL）重新定义业务流程。AI作为初步执行者（Maker），最终判断和审批（Checker）必须由人完成。需警惕“自动化偏见”，即盲目相信AI输出导致思考停滞，破坏内部控制。
典型失败案例是芬兰金融科技公司Klarna。2023至2024年间，该公司用AI替代约700名客户支持人员，一度被视为“AI优先管理”的典范。但2025年中，CEO承认过度依赖AI导致客户体验下降，转向重新雇佣人工。过度削减人类监督会增加业务风险。
防范措施是根据业务风险设计不同程度的HITL。内部简易摘要可完全交由AI，但涉及对外披露的数字生成，需设计可追溯判断依据的用户界面，并引入多人复核的职责分工。
欧盟AI法规（EU AI Act）第14条也要求高风险AI系统必须有人类有效监督。替代运维中，应预设“AI置信度低时转人工处理”、“AI平台故障时切换手动操作”等应急方案，并定期演练。
（4）维护与运营（维护体系及对数据和规则变更的响应）
需明确维护责任划分：现场可自由调整提示词的范围与IT部门负责基础设施维护更新的职责界限（SLA/OLA）。否则运营难以持续。对法规变更和规则遵守的响应也属于此范畴，如新会计准则实施或内部规章变更时，必须及时更新参考数据库，防止AI基于旧标准误答。
关键是与数据管理中的版本控制和有效期标签联动。规章修订时不物理删除旧版，而用有效期标签失效，既保留审计证据，又避免AI引用旧数据。需建立严格的变更管理流程和回归测试，留存操作痕迹。
质量下降检测方面，除系统运行监控外，持续评估模型退化（模型漂移）和回答准确性的LLMOps视角不可或缺。LLM供应商的静默更新可能导致性能波动。美国斯坦福大学与加州大学伯克利分校2023年研究指出，GPT-4在持续使用相同提示词的情况下，数月内推理过程被简化，特定任务准确率骤降。提示词突然失效风险存在，故无持续评估和回归检测机制，业务质量难以保障。
此外，AI回答质量受威胁的不仅是外部模型变化，内部参考数据的陈旧和劣化同样严重。无论系统和提示词多坚固，数据鲜度和一致性一旦崩坏，幻觉现象难以避免。AI时代的维护运营不仅是IT基础设施和模型监控，更需持续维护和更新数据质量。
（5）变更管理（推广定着与人员变动应对）
无论前四项基础多坚实，若现场不持续使用，均无意义。应成立跨部门推进组织（卓越中心CoE），通过内部表彰优秀提示词设计者，将AI节省的时间投入新价值创造纳入绩效指标（KPI），与人事评价体系联动。
日本摩根士丹利2023年推出的AI助手，设计充分反映现场反馈，金融顾问团队使用率超过98%。日本日立制作所2023年12月设立首席AI转型官，以生成式AI中心为核心推动集团AI应用，均体现“与现场紧密结合的推进体制”是关键。
针对“人员变动与持续性”问题，最佳方案是不依赖个人意愿，而是将AI使用纳入业务流程的“标准规则”。即使负责人调动或离职，继任者也能迅速接手。需完善现场培训计划和知识共享平台，重新定义组织技能要求。日本三菱商事计划自2027年度起，将AI资格作为包括高管在内全员晋升条件，正是此思路的体现。
这五大要素相互关联，尤其数据管理是基础，若未完善，其他效果将大打折扣。
2. 从哪里开始，如何推广
若试图一开始就将这五大设计要素完美应用于全公司所有业务，项目必然失败。关键是“从效果显著且易于管控的业务小范围起步”。
① 业务筛选：理想的首选业务应具备高频率、较标准化、少例外处理、误输出影响小、输入输出数据整理良好、易于效果测量等特点。但不必全部满足。即使数据未完全整备，也可借助AI导入契机同步推进数据整理和流程优化。重要的是先从风险较低的业务试点，积累运营经验，再逐步推广。积累小成功是摆脱MIT NANDA指出的“95%失败率”困境的现实路径。
② 模式化与效果测量：KPI应涵盖三个层面——使用层（采纳率、HITL介入率）、质量层（任务成功率、幻觉率）、业务成果层（处理时间、自动化率、投资回报率）。日本摩根士丹利98%以上采纳率、松下连接每年节省18.6万小时均对应此三层。质量测量必须包含参考数据质量监控，能区分幻觉率恶化是模型问题还是数据劣化，方能采取正确措施。
③ 速度与谨慎的平衡：过快推进易导致非正式使用和质量问题，过度等待完美治理则现场停滞、学习受阻。高盛2024年报告指出，生成式AI难以支撑1万亿美元投资，MIT教授保守估计10年内GDP提升约1%。
基于此，更需理性采取“避免过度投资、以组织模式小规模扎根”的策略。关键不在于推进或谨慎的二元对立，而是能否兼顾成果与治理稳步前行。
结语
前沿个人已开始将AI融入自制工具，实现显著效率提升。企业当前面临的挑战，不是放任个人热情带来风险，也非因惧怕风险而一刀切禁止，而是建立适当的数据整备、治理和责任划分“模式”，将个人创新转化为整体竞争力。
尤其需强调，生成式AI成败的最大变量非模型选择或提示词技巧，而是内部数据整备成熟度。JP摩根、摩根士丹利、松下连接、日立等先行企业均在模型选择前完成长期数据基础投资。兰德研究所报告80%以上、MIT NANDA报告95%的失败率，根本原因在于“供AI使用的数据未完善”。
对于财务等需高度准确和严格内部控制的领域，无需一开始追求满分。采用“从易于治理的业务小范围起步，边整备数据边推进，持续测量效果并改进”的风险管理方法，是最稳妥路径。
明日即可启动的第一步，不是引入复杂AI工具，而是“梳理本部门重要数据的存放位置和状态”、“确定一个易于效果验证且风险可控的业务”，这些基础整理将极大提升未来AI应用的准确性和安全性。
跳出“感觉方便”的热潮和PoC陷阱，将生成式AI真正定着为“支撑业务的基础设施”，希望本文视角能助力各组织设计与实践。
