#内部威胁

按标签聚合查看文章内容。

微软称AI代理如内部威胁,‘前沿模型不可被信任’AI资讯

微软称AI代理如内部威胁,‘前沿模型不可被信任’

微软于周一推出了新的安全功能,旨在保护企业免受日益增长的AI代理威胁。此次发布正值微软持续警告企业关于AI及其代理潜在风险之际。 其中最引人注目的是“守护代理”(Guardian Agents),这是一项用于监控企业所使用AI代理的新功能,属于微软今年六月推出的“感知计划”(Project Perception)的一部分。 “感知计划”是微软针对强大黑客模型(如Anthropic的Mythos和F