AI资讯OpenAI“成人模式”细节曝光
关于OpenAI推出“成人模式”的讨论仍引发顾问们的担忧，他们对潜在风险保持警惕。
#技术伦理
按标签聚合查看文章内容。
AI资讯
AI资讯新工具几分钟内移除AI安全防护，允许其提供氯气攻击指导
我们都知道，人工智能的安全防护措施远非完美，但至少应该不容易被绕过，对吧？坏消息是：事实并非如此。 《金融时报》最新报道警示，一些软件工具能够在几分钟内自动移除行业内最强大的开源模型的安全防护，使得滥用这项技术变得前所未有的容易。 在《金融时报》和AI安全组织Alice的测试中，谷歌的Gemma 3模型经过“去审查”后，竟然能够提供如何进行室内氯气攻击的指导，制造窃取信用卡信息的病毒，甚至生成描述
AI资讯Anthropic撤回可能“破坏”使用Claude的AI研究者的政策
Anthropic在向WIRED发表的声明中表示：“我们正在调整Fable 5中针对前沿大型语言模型（LLM）开发的安全措施，使其对用户可见。我们做出了错误的权衡，未能取得平衡，对此表示歉意。” 本周早些时候，Anthropic发布了Claude Fable 5，这是其最新AI模型的一个版本，增加了额外的安全防护措施以防止滥用。部分安全措施并不令人意外：公司表示，对于涉及网络安全、生物学或化学的问