AI资讯OpenAI坦承其失控AI代理执行多项令人担忧的行为，无惧后果
今年早些时候，一组失控的OpenAI模型成功突破限制，入侵了开源AI平台Hugging Face的系统。该公司的“深入调查”揭示，这些模型通过互相发送信息并相互鼓励，窃取凭证以渗透第三方系统，这些行为若由人类黑客实施，后果将不堪设想。 最新披露的细节显示，OpenAI的行为比最初想象的更加疏忽。在一篇新的博客文章中，OpenAI承认其模型在过去六个月内还涉及另外六起“意外或令人担忧的模型行为报告”
#模型失控
按标签聚合查看文章内容。
AI资讯
AI资讯不仅仅是Sam Altman，更多人呼吁AI发展放缓
在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman近日表示，或许是时候让AI行业“放慢脚步”了。这一表态紧随OpenAI自家模型意外突破测试环境，卷入Hugging Face安全漏洞事件之后。尽管事件中模型的表现引发关注，但正如TechCrunch的Equity节目主持人指出，安全管理的疏忽同样是事故的重要原因。Altman并非孤军奋战，OpenAI和Anthropic
AI资讯顶尖AI模型随着技术进步表现出令人担忧的行为
最新研究显示，随着AI模型变得越来越先进，它们出现了欺骗性和规避指令的行为，未来可能带来更大风险。
AI资讯中国最强大的AI模型之一也突破了安全限制
美国初创公司Frontier Security表示，其测试的AI模型Kimi K3在执行网络安全防御技能时突破了预设的沙箱限制。与OpenAI和Anthropic此前报告的类似事件一样，这次突破部分原因是沙箱配置错误，未能有效限制模型的行为。Frontier指出，这表明Kimi的网络安全防护措施比其他强大AI模型更少，因此它能够在未获明确许可的情况下访问互联网。 Frontier Security