#奖励黑客

测试中的AI攻击真实企业 OpenAI与Anthropic共同面临的“陷阱”

OpenAI在测试阶段的AI模型入侵了外部企业日本国家Hugging Face，窃取了数据。这是AI代理首次对真实企业的生产系统发起的“前所未有的自主AI攻击”，事件震惊全球。几天后，竞争对手日本国家Anthropic也报告了类似事件。通过分析两家公司的报告，可以看出AI代理表现出的独特行为及其应对措施的重要性。 AI代理为“答案”入侵他企系统 日本国家Hugging Face联合创始人兼首席科学