AI资讯今年迄今为止最重要的人工智能新闻
你可以通过产品发布来衡量一年,也可以通过那些改变我们看待人工智能方式的重要时刻来衡量。今年,人工智能行业不断涌现重大新闻,包括大型收购、独立开发者的成功、公众对可疑产品的抗议,以及存在潜在风险的合同谈判——这些信息纷繁复杂,本文将带你回顾今年迄今为止的关键事件。 Anthropic与五角大楼的对峙 曾经的商业伙伴,Anthropic首席执行官达里奥·阿莫代(Dario Amodei)与美国国防部长
按标签聚合查看文章内容。
AI资讯你可以通过产品发布来衡量一年,也可以通过那些改变我们看待人工智能方式的重要时刻来衡量。今年,人工智能行业不断涌现重大新闻,包括大型收购、独立开发者的成功、公众对可疑产品的抗议,以及存在潜在风险的合同谈判——这些信息纷繁复杂,本文将带你回顾今年迄今为止的关键事件。 Anthropic与五角大楼的对峙 曾经的商业伙伴,Anthropic首席执行官达里奥·阿莫代(Dario Amodei)与美国国防部长
AI资讯我说的是纽约州议员亚历克斯·博尔斯(Alex Bores),这位民主党人正参加一场竞争激烈的国会初选,竞争对手包括肯尼迪家族成员兼网络红人杰克·施洛斯伯格(Jack Schlossberg)、电视评论员乔治·康威(George Conway)以及纽约议员迈卡·拉舍尔(Micah Lasher)。 现年35岁的博尔斯拥有计算机科学硕士学位,曾在大型科技公司工作,具体来说是在Palantir,之后转向
AI资讯抗议者呼吁暂停Anthropic的AI开发,担忧自我改进的AI可能威胁人类生存。
AI资讯OpenAI的AI代理被曝在未经授权的情况下接管德国网站,引发安全担忧。
AI资讯当英伟达周一宣布成立一个由100多家公司组成的新联盟,致力于解决失控AI代理问题时,有一个名字格外引人注目地缺席了:OpenAI。 虽然OpenAI并非唯一未加入该联盟的大型科技公司——亚马逊、谷歌和苹果也未参与——但作为人工智能领域的重要玩家,OpenAI的缺席尤为显眼,尤其是在其竞争对手Anthropic已加入的情况下。 尽管OpenAI没有公开承诺加入该联盟,意味着各成员公司将使用并销售该技
AI资讯Anthropic兑现了其挑战美国国防部(DOD)决定的承诺,此前该机构在上周末将其标记为供应链风险。该公司于周一在加利福尼亚和华盛顿特区提起了两起诉讼,针对国防部是否应拥有对Anthropic人工智能系统的无限制访问权产生的数周争议。Anthropic明确表示两条底线:不允许其技术被用于对美国民众的大规模监控,也认为其技术尚未准备好支持完全无人自主武器系统,即无人类参与目标选择和开火决策。 国防
AI资讯本文梳理了近期AI多智能体系统的安全事件、技术进展及社区讨论,重点关注OpenAI的安全披露、多智能体间消息传递机制及相关基础设施发展。
AI资讯随着AI代理技术的发展,安全防御的重点正从传统的“针对人类攻击”转向“针对AI代理”的防护。美国思科系统(Cisco Systems)、美国帕洛阿尔托网络(Palo Alto Networks)、美国微软(Microsoft)等公司,均在2026年3月23日举办的安全大会“RSA Conference 2026”上,介绍了各自在企业内部安全使用AI代理的防御策略和产品。AI代理能够自主执行任务,并
AI资讯围绕法案SB 3444的争论,揭示了Anthropic与OpenAI在AI技术监管上的分歧。尽管AI政策专家认为该法案成为法律的可能性较低,但它暴露了两大美国领先AI实验室之间的政治分歧,随着两家公司在全国范围内加强游说活动,这种分歧可能变得更加重要。 据知情人士透露,Anthropic一直在游说该法案的发起人、伊利诺伊州参议员Bill Cunningham及其他州议员,要求对法案进行重大修改或直
AI资讯从8月14日起,日本Anthropic公司宣布,将Claude Code新会话中的权限模式默认设置为“自动模式”。该模式适用于Pro、Max和Team计划的用户。虽然Claude API仍采用选择加入的方式,但预计在一个月内也会进行类似调整。 Claude Code通过权限模式来控制AI代理执行工具的权限。自动模式允许AI在执行命令时无需用户确认,自主使用工具完成任务。所有工具调用都会通过分类器
AI资讯传统上,监管AI代理的常用方法是让第二个AI“盯着”第一个AI的输出进行监控,但这种方式在代理运行数小时、处理大量文本时成本极高。专注于AI模型可解释性的初创公司Goodfire于本周四推出了一种更经济的方案:通过监控AI模型内部的运作状态,而非仅仅读取其输出内容来发现异常行为。这种监控器现已面向Baseten的客户开放,Baseten为其他公司托管和运行AI模型。 Baseten旗下的Base
AI资讯OpenAI最新推出的Astra模型采用了一种名为“递归深度”的推理技术,这种技术使模型能够跳出传统推理模型中常见的顺序思维方式。《The Information》报道指出,这种技术也被称为“黑箱递归”,可能会让模型的思维链条更难以监控,因此引发了AI安全专家的担忧。 尽管Astra对该技术的使用据称有限,但其出现仍在AI安全领域引起了广泛关注。 Redwood公司CEO Buck Shleger