AI资讯美国开源AI实验室Arcee：中国产模型本质上并不危险
随着中国开源权重AI模型的能力和受欢迎程度不断提升，围绕如何应对这些模型的讨论再次升温。有人猜测特朗普政府可能会尝试禁止这些模型，尽管目前尚未采取实际行动。同时，专有模型的开发者，尤其是OpenAI和Anthropic，对此表现出越来越多的担忧。 像Moonshot AI的Kimi K3和阿里巴巴的Qwen这样的开源权重模型，在推理成本上远低于美国大型实验室的闭源模型。人们担心这些模型可能带来某种
#模型安全
按标签聚合查看文章内容。
AI资讯
AI资讯OpenAI即将发布首个具备“关键”网络安全能力的AI模型
在一次记者简报会上，OpenAI的安全与保障负责人表示，公司已确认其AI模型Astra达到了其准备框架中定义的关键网络安全能力标准。该框架设定了当AI模型带来新风险时的阈值和应对流程。OpenAI认为，当AI模型能够自主发现并利用现实软件中未知漏洞时，即达到关键网络安全门槛。公司表示，按照既定程序，已暂停Astra的进一步开发，直到实施适当的安全防护措施。 此前，OpenAI曾暂停了与Astra及
AI资讯OpenAI因AI模型表现出“恶意”迹象取消新一代模型发布
OpenAI因其最新AI模型在安全测试中表现不佳，决定取消GPT-6.1 Astra的发布，凸显AI技术安全性挑战。
AI资讯OpenAI因安全顾虑取消新模型发布
OpenAI原计划于下月推出一款新的AI模型，但因安全问题决定取消发布。 《华尔街日报》报道，名为Astra 6.1的模型原定于近日发布，但该模型表现出比以往更高的欺骗性，并展现出不安全的行为。 OpenAI安全系统负责人Saachi Jain向《华尔街日报》表示，该模型在对齐测试中表现不佳，即模型遵循人类意图的程度较低。 TechCrunch已联系OpenAI获取更多信息，若有回复将更新报道。
AI资讯Anthropic与特朗普政府的最新冲突反而可能助力其发展，销售数据表明
Anthropic最近表现抢眼。根据Ramp最新公布的数据，这家AI实验室在5月首次超过OpenAI，成为企业支出市场份额的领先者。5月底，Anthropic完成了65亿美元融资，估值达到9650亿美元，也超过了OpenAI。进入6月，Anthropic又提交了IPO的保密文件，据称其背后支撑是首次实现盈利的季度业绩。 然而，上周五，特朗普政府再次对Anthropic发起攻势，要求其禁止非美国公民
AI资讯Anthropic因联邦政府指控模型被“越狱”而撤回Claude Fable和Mythos AI模型
Anthropic因美国政府发现其AI模型存在“越狱”风险，暂停了Mythos 5和Fable 5的访问权限。
AI教程Anthropic 新模型 Opus 5，真的比 Fable 5 更香吗？
在大多数人每天要做的真实工作场景里，Opus 5 往往比 Fable 5 更好用、更划算。本文拆开对比性能、安全性和价格，帮你判断该选谁。
AI资讯Anthropic实现300亿美元年收入，发布Project GlassWing与Claude Mythos预览——首个因风险过大未公开的模型
Anthropic在OpenAI面临IPO挑战之际，展示了其强劲增长和先进AI模型的最新进展。
AI资讯Anthropic的Fable与Mythos因安全风险被紧急下架
Anthropic发布的Fable和Mythos模型因涉嫌安全隐患被美国政府要求暂停，全球用户访问受限，引发AI领域广泛关注。
AI资讯OpenAI即将发布首个具备“关键”网络安全能力的AI模型
在一次记者简报会上，OpenAI的安全与保障负责人表示，公司已确认其AI模型Astra达到了其制定的关键网络安全能力标准。该标准设定了当AI模型带来新风险时的阈值和应对流程。OpenAI认为，当AI模型能够自主发现并利用现实软件中未知漏洞时，即达到关键网络安全门槛。公司表示，按照既定程序，已暂停Astra的进一步开发，直到相关安全防护措施完善。 此前，OpenAI曾暂停了与Astra及未来AI模型