AI微调示意图

微调(Fine-tuning)是指在已经用大量数据训练好的AI模型基础上,针对特定任务或用途进行额外学习,以调整模型的输出倾向和行为的技术。

从零开始训练AI需要庞大的数据和计算资源,但基于已有模型进行微调,则可以用较少的数据和计算成本,打造适合特定用途的AI。

例如,微调常用于分类客户咨询邮件、统一公司内部文件的表达方式、调整客服回答的语气、适应专业领域的表达等场景。

简而言之,微调就是调整AI“回答方式”或“判断习惯”的技术。

微调更侧重于让AI掌握“工作模式”而非单纯“知识”

很多人认为微调是让AI学习新知识。确实,通过特定领域的数据训练,模型可以更擅长该领域内容。

但如果目的是让AI掌握频繁更新的信息,比如最新的公司规章或产品规格,使用【第8回】介绍的RAG(检索增强生成)技术通常更合适。RAG通过实时检索外部资料来回答问题,更新资料即可轻松更新信息。

而微调擅长的是改变AI的“行为”或“工作模式”。

比如,将咨询邮件自动分类、让客服回答符合公司方针、统一内部文件的表达规范等,都是让AI学习“在本公司如何回答”、“在本业务如何判断”的模式,微调非常适合这类需求。

可以把RAG比作“查阅资料后回答”,而微调则是“学习工作礼仪”,它不是死记硬背知识,而是调整回答方式和判断习惯的技术。

微调调整示意

通过调整权重改变模型的“习惯”

正如【第11回】介绍的“开放权重模型”,AI模型包含大量参数,也就是“权重”。

微调就是调整这些权重,或者新增权重,从而在保留基础模型能力的同时,更好地适应特定用途。

例如,学习某行业的专业术语后,模型的表达会更贴合该领域;学习过往咨询及正确回答后,模型能更准确地按照公司方针回复类似问题。

此外,还可以调整输出倾向,比如避免不当表达、统一回答格式、简洁回答或详细说明等。

虽然微调也需要计算资源,但相比从零训练AI,效率高得多。它的优势在于以已有智能为基础,仅针对需要的部分进行定制。

微调与RAG的区别

那么,微调和【第8回】介绍的RAG有什么不同?

RAG是通过参考公司手册、数据库等“外部词典”来回答问题,适合处理最新或频繁更新的信息。

而微调是调整AI模型本身的行为,包括回答形式、判断习惯、文体风格以及专业领域适应性等。

换句话说,RAG是“让AI读资料”,微调是“让AI学工作礼仪”。

在实际应用中,二者往往结合使用:用RAG检索公司资料,用微调调整回答风格和业务判断模式。

微调并非简单地向AI灌输知识,而是让AI适应企业或特定业务“做事方式”的技术。