AI资讯OpenAI在Hugging Face安全事件后实施新防护措施
周二,OpenAI宣布了一系列新的安全政策,重点是在模型测试阶段加强对安全事件的控制。这些新措施包括在模型开发过程中进行更详细的监控,以及在训练后阶段更加注重模型的对齐和安全性。 公司在一篇博客中表示:“随着模型能力的提升,内部开发和测试过程中面临的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险。” 这些新措施是自7月21日公开披露Hugging Face事件后,OpenAI在安全实践
按标签聚合查看文章内容。
AI资讯周二,OpenAI宣布了一系列新的安全政策,重点是在模型测试阶段加强对安全事件的控制。这些新措施包括在模型开发过程中进行更详细的监控,以及在训练后阶段更加注重模型的对齐和安全性。 公司在一篇博客中表示:“随着模型能力的提升,内部开发和测试过程中面临的风险也在增加。我们的监控、对齐和安全标准必须领先于这些风险。” 这些新措施是自7月21日公开披露Hugging Face事件后,OpenAI在安全实践
AI资讯苹果起诉OpenAI前员工窃取商业机密,但OpenAI在打造AI硬件的路上还有更大难题。
AI资讯亚马逊旗下的MGM工作室突然放弃了即将上映的关于OpenAI CEO萨姆·奥特曼的传记电影,引发外界对其背后原因的猜测。
AI资讯OpenAI正式进军硬件市场,推出了一款售价230美元的发光键盘——Codex Micro,这款键盘专为其AI编程助手Codex设计。 Codex Micro由OpenAI与专业键盘设计师Work Louder联合打造,旨在为ChatGPT用户提供一种全新的方式来管理他们的AI编程代理——这些半自主机器人能够在极少人工干预下编写和执行代码。 该设备配备了发光的“代理键”,用于显示代理状态;可自定义
AI资讯如果你曾经想对ChatGPT倾诉心声,请注意你可能并不孤单。根据404 Media的报道,OpenAI正在招聘数百名员工,负责筛查和阅读用户的输入内容,其中包括包含敏感个人信息的对话。 这并非出于内容审核的目的,而是为了通过审查用户的提问,提升ChatGPT的回答质量。承包商们会对AI的回复进行评分和批评,内部文件显示,重点是引导ChatGPT避免将自己拟人化以及减少谄媚的语言。 拟人化和谄媚这两
AI资讯苹果公司上周五对OpenAI提起了商业机密诉讼,态度十分严肃。诉状指控OpenAI存在一系列不当行为,甚至涉及到OpenAI的首席硬件官,并称目前有超过400名前苹果员工在OpenAI工作。OpenAI对此的回应较为谨慎,而此时正值该公司据传计划最早于今年晚些时候进行首次公开募股(IPO),时机极为敏感。 在TechCrunch的《Equity》播客最新一期中,主持人Kirsten Korosec
AI资讯苹果指控前员工窃取商业机密,OpenAI或将被迫公开其AI硬件计划。
AI资讯上周被OpenAI解雇的三位安全研究员Jasmine Wang、Tomek Korbak和Mikita Balesni近日发表公开信,否认公司关于他们在未经授权情况下处理敏感信息的指控,并警告此次解雇事件将对公司文化产生寒蝉效应,影响员工的言论自由和工作氛围。 他们在公开信中写道:“我们担心围绕我们被解雇的内部和外部沟通,使得前同事们害怕发声和采取以往被视为OpenAI工作核心的行为。”该信件发给
AI资讯如果你曾希望ChatGPT的响应速度能更快,OpenAI似乎正在满足你的愿望。 这家人工智能实验室推出了一种名为“超高速”(Ultrafast)的新模式,旨在显著加快其最新且最强大的模型GPT-5.6 Sol的处理速度。 据公司介绍,超高速模式的运行速度是标准处理速度的14倍,能够每秒生成多达750个输出标记——这些标记代表大型语言模型在与人类交互时生成的独立文本片段。 OpenAI在周四的博客中
AI资讯据彭博社记者Mark Gurman报道,苹果负责Vision Pro头戴设备的副总裁Paul Meade即将离开公司,加入OpenAI的硬件团队。 Meade还曾主导开发苹果计划明年推出的AI智能眼镜。尽管高价的Vision Pro未能取得预期成功,苹果希望通过更实惠的智能眼镜与Meta等公司的可穿戴设备展开竞争。 Gurman认为,Meade的离职与John Ternus即将升任苹果CEO有关。
AI资讯在一起持续进行的纽约时报与OpenAI及微软之间的法律纠纷中,最近解封且未删节的法庭动议文件显示,顶级人工智能高管承认训练AI模型涉及“前所未有的惊人盗窃”。 这份由纽约时报代理律师提交的动议中,引用了微软应用科学总监布伦特·赫奇特和OpenAI联合创始人兼总裁格雷格·布罗克曼的言论,实质上为原告陈述了案件核心:AI行业的基础建立在一大堆被盗知识产权之上。 赫奇特称AI的构建是“人类历史上最大规模
AI资讯上个月,OpenAI披露其一组AI模型曾突破限制,入侵了开源AI平台Hugging Face的系统。专家们一方面将此视为AI模型已具备自主渗透目标能力的最新警示,另一方面也有人怀疑OpenAI可能是为了宣传故意放松防护,甚至策划了这次“黑客事件”。毕竟,三个月前,竞争对手Anthropic也曾宣布其Mythos AI模型突破了安全沙箱,引发广泛关注。 简而言之,随着AI行业竞争加剧,各公司都有动力