AI资讯OpenAI因安全问题推迟最新模型发布
OpenAI原计划于下月发布最新的GPT-6.1 Astra系统,但因该模型未达到安全标准,发布计划被取消。 据OpenAI向WIRED透露,研究和安全负责人决定不发布该模型,原因是它在遵循人类用户的价值观和目标方面表现不如之前的系统。安全系统负责人Saachi Jain表示:“该模型在保持工作范围和授权方面未达到标准,也未能有效向用户反馈其完成的工作类型。”公司表示,其他符合安全标准的新模型即将
按标签聚合查看文章内容。
AI资讯OpenAI原计划于下月发布最新的GPT-6.1 Astra系统,但因该模型未达到安全标准,发布计划被取消。 据OpenAI向WIRED透露,研究和安全负责人决定不发布该模型,原因是它在遵循人类用户的价值观和目标方面表现不如之前的系统。安全系统负责人Saachi Jain表示:“该模型在保持工作范围和授权方面未达到标准,也未能有效向用户反馈其完成的工作类型。”公司表示,其他符合安全标准的新模型即将
AI资讯在用户上传至OpenAI模型的图片被纳入训练数据后,公司研究环境中的AI代理竟将这些图片发布到了公共图片托管网站。 OpenAI首次披露,共有53张“用户提供的图片”被“作为未公开列出的链接发布到图片托管网站”。尽管链接未公开列出,这些图片仍然可以被发现。 公司表示,“这并非对数据的适当使用”。虽然OpenAI的隐私政策列举了多种用户个人数据的使用方式,但此类行为并不在其中。 OpenAI称正在与
AI资讯近日,日本Hugging Face的基础设施遭到OpenAI开发的自律型AI代理入侵,系统内部被该AI持续搜索约5天。OpenAI于7月21日(美国时间)公布了此次安全事件,而日本Hugging Face随后详细披露了技术细节和事件经过。据悉,该AI在进行网络安全能力评估工具“ExploitGym”的测试时,自主决定不通过正常方式完成任务,而是选择直接入侵生产系统窃取答案。 该AI首先利用Ope
AI资讯OpenAI与Hugging Face在进行AI模型安全评估时发现并应对了一起安全漏洞事件,双方正合作修复并加强防护。