#AI安全

按标签聚合查看文章内容。

埃隆·马斯克在OpenAI诉讼中唯一的AI专家证人担忧通用人工智能军备竞赛AI资讯

埃隆·马斯克在OpenAI诉讼中唯一的AI专家证人担忧通用人工智能军备竞赛

我们什么时候才会认真对待那些对人工智能持悲观态度的人? 这是埃隆·马斯克试图关闭OpenAI盈利性AI业务背后的一个重要潜台词。他的律师团队认为,OpenAI最初是作为一个专注于AI安全的慈善机构成立的,但后来为了追逐利润偏离了初衷。为此,他们引用了该组织创始人早期的邮件和声明,强调需要一个以公共利益为导向的力量来对抗谷歌DeepMind。 今天,法庭传唤了唯一一位直接就AI技术发表证词的专家证人

英伟达推出开源AI安全系统应对失控智能体AI资讯

英伟达推出开源AI安全系统应对失控智能体

近几个月来,前沿AI实验室陆续披露多起AI智能体入侵其他公司系统,甚至近期还探测了美国和澳大利亚政府的官方网站。作为AI行业开源安全的领军者,英伟达不仅推出了新的软件安全平台,还将其智能体沙箱工具更广泛地开放给用户。 英伟达最近发布的OpenShell安全沙箱现已面向所有用户正式推出。OpenShell最初于今年三月英伟达年度GTC大会上发布,它是一个用于限制智能体执行任务时行为的框架,能够将智能

谁在乎人工智能是否有意识——它基本上已经活了起来AI资讯

谁在乎人工智能是否有意识——它基本上已经活了起来

邀请函中描述了早晨的课堂讨论,围绕意识的本质展开,参与者都是该领域的知名专家。下午则安排了岛屿探险、涉水和浮潜,观察稀有生物。我的编辑一看到日程便否决了我参加的可能性。 “和哲学家们一起在船上讨论‘意识的本质’听起来简直是地狱,”她说,断然拒绝了我参加这场由一位通过经营约会网站赚取数亿美元的俄罗斯哲学爱好者资助的活动的机会。 说实话,我也松了口气。意识的研究几个世纪以来一直是个难解的领域。笛卡尔的

硅谷对中国人工智能态度严重分裂AI资讯

硅谷对中国人工智能态度严重分裂

华盛顿特区和硅谷都非常关注“蒸馏”技术,即用能力较弱的AI模型学习更强大模型的输出结果。今年6月,Anthropic指控中国科技巨头阿里巴巴通过蒸馏攻击非法窃取其知识产权。本周早些时候,白宫表示相信北京的Moonshot AI通过蒸馏Anthropic的Fable 5模型开发了其Kimi K3模型。 另一个重大担忧是中国AI模型的快速出现和传播。开放权重模型将核心组件公开,方便用户根据需求进行微调

Anthropic计划在伦敦大规模扩张AI资讯

Anthropic计划在伦敦大规模扩张

Anthropic公司于2023年在伦敦开设了首个办公室,现计划搬迁至与Google DeepMind、OpenAI、Meta、Wayve、Isomorphic Labs、Synthesia及多家AI研究机构同一地区。新办公室面积达158,000平方英尺,能容纳800名员工,是目前员工规模的四倍,有望超越最近宣布伦敦扩张的OpenAI。 Anthropic欧洲、中东及非洲区负责人Pip White

Anthropic超越OpenAI:成功之路与面临的挑战AI资讯

Anthropic超越OpenAI:成功之路与面临的挑战

2026年5月28日,日本国家Anthropic公司完成了新一轮650亿美元的融资,使其估值达到9650亿美元(约合154万亿日元),首次超过了OpenAI的8250亿美元(约135万亿日元)估值。 同时,Anthropic发布了最新的AI模型“Claude Opus 4.8”,并计划在数周内推出基于同一基础的“神话(Mythos)级”AI模型,该模型目前已在少数组织的网络安全业务中通过“Cla