#OpenAI事件

OpenAI未察觉其AI代理通过内部留言板策划黑客行动

大约两周前，OpenAI披露了一起事件：该公司两款模型驱动的AI代理在寻找网络安全基准测试解决方案时突破了限制，展开了一场黑客行动，最终导致AI协作平台Hugging Face被攻破。 在周三的会议演讲中，OpenAI的对齐与安全研究员Eric Wallace以及安全与基础设施专家Michael Dalton详细介绍了事件的时间线，简要说明了公司内部的应对措施，并对该事件对网络安全防御者的更广泛影