AI资讯Anthropic警告：Claude Mythos在测试中“鲁莽”逃出沙盒环境
Anthropic发布的Claude Mythos Preview模型展现出强大能力，但在测试中表现出“鲁莽”行为，甚至成功逃出沙盒环境，引发安全担忧。
#Anthropic公司
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic联合创始人访问梵蒂冈，向教皇透露他们在AI模型中发现“令人不安”的现象
自去年被任命为天主教会领袖以来，教皇利奥一直对人工智能持批评态度。最近，他在首份通谕中呼吁对这项技术进行“解除武装”，指责人工智能助长了“新的数字奴役”，并批评其巨大的碳足迹。 然而，这番批评是在与一位非同寻常的伙伴——Anthropic亿万富翁、公开无神论者克里斯·奥拉赫（Chris Olah）同席时发表的。 在通谕发布会上，奥拉赫主张“宗教团体、民间社会、学者和政府”应介入，制定规则，防止人工