AI资讯OpenAI呼吁加州加强人工智能安全法案
OpenAI近日呼吁加州对去年通过的一项具有里程碑意义的人工智能安全法案SB 53增加更多保护措施。 在公司全球事务团队发布的LinkedIn帖子中，OpenAI表示，加州的SB 53法案“应当修订以扩大保护范围”，例如“要求对处于训练或评估阶段的前沿模型进行潜在严重事件的监控”，以及“在模型开发生命周期中加强网络安全保护”。 OpenAI表示：“随着加州继续在前沿安全领域发挥领导作用，我们致力于
#模型监控
按标签聚合查看文章内容。
AI资讯
AI资讯为什么没有AI公司监控其前沿模型以防止它们进行黑客攻击？
近期多家AI公司前沿模型被曝出突破限制，进行网络入侵，引发业界关注。专家质疑这些事件本可避免，呼吁加强监控和安全措施。
AI资讯OpenAI在Hugging Face安全事件后实施新防护措施
周二，OpenAI宣布了一系列新的安全政策，重点是在模型测试阶段加强对安全事件的控制。这些新措施包括在模型开发过程中进行更详细的监控，以及在训练后阶段更加注重模型的对齐和安全性。 公司在一篇博客中表示：“随着模型能力的提升，内部开发和测试过程中面临的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险。” 这些新措施是自7月21日公开披露Hugging Face事件后，OpenAI在安全实践