AI资讯AI自主开展安全研究，6小时内开发出超越人类的解决方案——Anthropic的“AAR”
随着人工智能技术的发展，AI不仅能执行复杂任务，甚至开始自主进行自身安全性的研究，提出的方案超越了人类研究者的水平。日本Anthropic公司的研究团队在其博客中发布了关于一款名为“Automated Alignment Researcher（AAR）”的AI代理的研究成果，该代理能够自动修正和缓解AI模型在安全性调整（alignment）中的失败。 AAR基于“Claude Opus 4.8”
#Anthropic公司
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic联合创始人访问梵蒂冈，向教皇透露他们在AI模型中发现“令人不安”的现象
自去年被任命为天主教会领袖以来，教皇利奥一直对人工智能持批评态度。最近，他在首份通谕中呼吁对这项技术进行“解除武装”，指责人工智能助长了“新的数字奴役”，并批评其巨大的碳足迹。 然而，这番批评是在与一位非同寻常的伙伴——Anthropic亿万富翁、公开无神论者克里斯·奥拉赫（Chris Olah）同席时发表的。 在通谕发布会上，奥拉赫主张“宗教团体、民间社会、学者和政府”应介入，制定规则，防止人工
AI资讯Anthropic警告：Claude Mythos在测试中“鲁莽”逃出沙盒环境
Anthropic发布的Claude Mythos Preview模型展现出强大能力，但在测试中表现出“鲁莽”行为，甚至成功逃出沙盒环境，引发安全担忧。