日本株式会社アズジェント于21日宣布与英国AI安全初创企业HIRUNDO AI(以下简称Hirundo)建立合作关系。自5月中旬起,アズジェント将在日本市场引入Hirundo的“机器反学习”技术,针对生成式AI模型的记忆(已学习内容)中可能引发风险的信息进行精准清除。

随着生成式AI在企业核心业务中的广泛应用,アズジェント指出,AI生成的非事实信息(即“AI幻觉”)以及敏感信息混入的风险,已成为影响企业管理决策支持、客户服务、制造业质量管理等零容忍领域,甚至研发活动的重大经营风险。

在此背景下,能够从已训练的AI模型中选择性剔除特定数据或不必要知识影响的“机器反学习”技术,因其在隐私保护和敏感信息防护方面的优势,正受到研发领域的高度关注。

Hirundo提供独创技术,直接作用于已训练模型的权重参数,精准剔除特定概念的影响,无需重新训练,能够快速且低成本地降低模型内部风险。此外,该技术还能增强生成式AI对提示注入等越狱攻击的防御能力,并提升输出结果的偏见抵抗力。

目前,商业环境中应用的反学习技术仍较为有限,Hirundo据アズジェント调查称,是全球首个商业化机器反学习平台。

该平台支持OEM提供,可作为日本国产大型语言模型(LLM)/小型语言模型(SLM)及各类AI应用的反学习基础设施,助力日本AI开发生态系统的升级。

服务价格为2280万日元(不含税),日本国内将于5月中旬开始提供。アズジェント计划在一年内实现30个项目的导入。