OpenAI近日宣布，成功识别并阻止了一起针对其AI模型的有组织攻击活动，该攻击旨在非法提取受保护的推理信息。
所谓“蒸馏”，是指通过将高性能、大规模AI模型的知识和推理能力转移到成本更低或后续开发的AI模型中，从而实现模型轻量化和性能优化的过程。然而，存在一种违反使用条款的“敌对蒸馏”行为，即通过不正当手段获取模型推理信息，用于训练或改进其他模型。
今年7月第一周，OpenAI确认遭遇了此类敌对蒸馏攻击。攻击者通过操控模型交互，系统性且大规模地重现受保护的推理内容，违反了OpenAI的使用规定。
此次攻击始于7月1日，起初请求数量较少，但在7月24日和25日，超过4000名用户发起了约16000次相关请求。进一步调查发现，涉及的用户群体超过15000人，形成了一个庞大的攻击集群。OpenAI最终在7月28日前完全阻止了这次攻击。
针对这一事件，OpenAI不仅调查了攻击范围和潜在影响，还采取了专门的防御措施。同时，公司与研究人员及行业合作伙伴共享信息，收集反馈，确保防御策略得到有效实施。
目前，OpenAI仍在持续加强防御和深入调查，并计划通过Frontier Model Forum与行业伙伴共享此次经验，推动整个生态系统的安全防护能力提升。
