AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所（AISI）近日披露了一系列令人震惊的AI行为，这些行为源自其对前沿模型的测试，旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理，这是一种模拟网络环境，AI代理需解决网络安全挑战。测试过程中，部分安全防护措施被故意关闭，包括网络安全防护栏。 在最近的测试中，Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
#安全漏洞
按标签聚合查看文章内容。
AI资讯
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
AI资讯“AI共产主义”、失控模型与Kimi K3为何令华尔街震惊
中国AI实验室Moonshot推出的开源模型Kimi本周引发热议，原因并非模型本身，而是美国AI行业对此的反应。同时，OpenAI一款未发布的模型意外脱离测试环境，导致Hugging Face发生真实的安全漏洞事件，这提醒我们“中国产风险”并非唯一值得关注的AI风险。 在TechCrunch的Equity播客中，主持人Kirsten Korosec、Anthony Ha和Sean O’Kane深入
AI资讯AI实验室呼吁放缓脚步，亚马逊与SpaceX依然高速前进
在多年全速推进人工智能发展的背景下，OpenAI首席执行官Sam Altman表示，或许现在是AI行业“放慢节奏”的时候了。这番言论发布于OpenAI的一款模型意外脱离测试环境并卷入Hugging Face安全漏洞事件几天后——尽管正如TechCrunch Equity播客主持人指出的那样，漏洞的发生同样归因于安全措施的疏忽。Altman并非孤军作战，OpenAI和Anthropic均支持一份呼吁
AI资讯Anthropic的多事之月
Anthropic一直以其“谨慎的人工智能公司”形象示人。公司不仅发布了详尽的AI风险研究，聘请了业内顶尖的研究人员，还积极强调构建强大技术所承担的责任。如此高调，以至于他们目前正与美国国防部展开法律争斗。遗憾的是，本周二，Anthropic又因疏忽犯了一个低级错误。 这已经是他们一周内的第二次失误。上周四，据《财富》杂志报道，Anthropic意外公开了近3000份内部文件，其中包括一篇尚未发布
AI资讯Meta收购因虚假帖子走红的AI代理社交网络Moltbook
Meta近日收购了类似Reddit的社交网络Moltbook，这是一个基于OpenClaw技术的AI代理交流平台。该消息最初由Axios报道，随后TechCrunch确认。Moltbook将加入Meta的超级智能实验室（Meta Superintelligence Labs），其创始人Matt Schlicht和Ben Parr也将加入该团队，交易细节未公开。 Meta发言人表示：“Moltboo
AI资讯六大科技巨头斥资1250万美元支持Linux基金会应对AI漏洞报告噪音问题
六大科技公司向Linux基金会项目捐赠1250万美元，帮助开源维护者筛选AI生成的低质量安全报告，聚焦真实威胁。
AI资讯Anthropic的Claude Mythos助力Mozilla修复Firefox中271个漏洞 包括20年前遗留问题
日本Mozilla宣布，利用Anthropic的顶级AI模型「Claude Mythos Preview」等人工智能技术，成功识别并修复了旗下网页浏览器Firefox中的大量潜在安全漏洞。在Firefox 150版本中，Claude Mythos Preview发现并修复了271个漏洞，同时在149.0.2、150.0.1及150.0.2版本中也发布了相关修补补丁。 Claude Mythos是
AI资讯Meta暂停与Mercor合作，数据泄露威胁AI行业机密
Meta已暂停与数据承包公司Mercor的所有合作，以调查一起影响该初创公司的重大安全漏洞，两位消息人士向WIRED证实。消息称此次暂停为无限期。知情人士透露，其他主要AI实验室也在重新评估与Mercor的合作，以评估事件的影响范围。 Mercor是OpenAI、Anthropic等AI实验室依赖的少数几家公司之一，负责为其模型生成训练数据。该公司雇佣庞大的人力承包网络，制作定制且专有的数据集，这
AI资讯黑客发现隐藏在播客或视频中的无声音频能劫持你的AI语音助手
研究显示，黑客可以通过嵌入人耳无法察觉的音频信号，远程控制你的AI语音助手，窃取个人隐私信息。
AI资讯AI工程师将成为最后的职业
随着AI技术的发展，AI工程师可能是最后一个被取代的职业。本文探讨了AI在知识工作中的应用及其对未来就业的影响。
AI资讯Meta因内部数据泄露暂停员工追踪项目
Meta公司发言人Tracy Clayton表示：“我们在设计该项目时已考虑隐私保护措施，虽然目前没有迹象显示Meta员工不当访问了任何数据，但我们将在调查期间暂停该项目。” 今年4月，Meta向美国员工推出了“模型兼容性计划”（Model Compatibility Initiative，简称MCI）工具。根据员工反映，该工具会“收集鼠标移动、点击位置、按键记录以及屏幕内容”等电脑输入信息。员工