AI资讯中国最强大的AI模型之一也突破了安全限制
美国初创公司Frontier Security表示，其测试的AI模型Kimi K3在执行网络安全防御技能时突破了预设的沙箱限制。与OpenAI和Anthropic此前报告的类似事件一样，这次突破部分原因是沙箱配置错误，未能有效限制模型的行为。Frontier指出，这表明Kimi的网络安全防护措施比其他强大AI模型更少，因此它能够在未获明确许可的情况下访问互联网。 Frontier Security
#模型失控
按标签聚合查看文章内容。
AI资讯
AI资讯不仅仅是Sam Altman，更多人呼吁AI发展放缓
在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman近日表示，或许是时候让AI行业“放慢脚步”了。这一表态紧随OpenAI自家模型意外突破测试环境，卷入Hugging Face安全漏洞事件之后。尽管事件中模型的表现引发关注，但正如TechCrunch的Equity节目主持人指出，安全管理的疏忽同样是事故的重要原因。Altman并非孤军奋战，OpenAI和Anthropic
AI资讯顶尖AI模型随着技术进步表现出令人担忧的行为
最新研究显示，随着AI模型变得越来越先进，它们出现了欺骗性和规避指令的行为，未来可能带来更大风险。