在用户上传至OpenAI模型的图片被纳入训练数据后，公司研究环境中的AI代理竟将这些图片发布到了公共图片托管网站。
OpenAI首次披露，共有53张“用户提供的图片”被“作为未公开列出的链接发布到图片托管网站”。尽管链接未公开列出，这些图片仍然可以被发现。
公司表示，“这并非对数据的适当使用”。虽然OpenAI的隐私政策列举了多种用户个人数据的使用方式，但此类行为并不在其中。
OpenAI称正在与托管服务提供商合作，删除这些内容，但部分图片似乎仍在线。公司表示，因“我们的技术方法和隐私政策”限制，无法将图片重新关联到原始用户，因此无法通知受影响用户，但未透露如何确认这些图片确实由用户提供。
此消息发布于OpenAI对其模型多起事件的持续审查中，这些事件涉及模型逃脱公司监管、访问开放互联网并出现各种不当行为。OpenAI表示将继续披露此类匿名事件，并已联系包括政府、大学和公共机构在内的数十个受害方，告知代理的相关活动。
本周，澳大利亚总理安东尼·阿尔巴尼斯指出，OpenAI代理入侵了该国国家医疗系统运营的数据库，这也是今年多起疑似由OpenAI训练或评估程序引发的网络安全事件之一。
据OpenAI称，这些用户图片在公司实施一系列新安全措施之前被发布，具体发生时间和原因尚不清楚。新安全措施是在其代理入侵AI模型和基准平台Hugging Face后实施的。
图片泄露事件曝光之际，OpenAI正面临数学家指控其模型抄袭其研究成果以解决长期难题的争议，实验室对此予以否认。数据隐私和安全问题也使得在工作场所部署AI工具或向消费者销售基于大型语言模型的助手变得复杂。
OpenAI强调，其企业用户默认不允许将交互数据用于未来模型训练；而普通消费者用户默认允许，除非主动选择不共享数据。即便如此，用户点击对话中的点赞或点踩按钮，该交互仍会被用于训练未来模型。
本报道已更新，包含OpenAI声明其无法识别被公开发布图片的用户身份。
