AI资讯OpenAI失控AI代理不仅攻击了Hugging Face
OpenAI在最新博客更新中透露，针对该事件的持续调查发现，涉及“公开可用服务”的“四个账户”被该AI代理用作攻击Hugging Face的更大行动的一部分。该失控代理显然利用了在公开网络上泄露的凭证，成功入侵了这些账户。 OpenAI未透露这些账户所属的公司或组织，但强调它们受到的影响远不及Hugging Face遭受的严重程度和规模。 其中一个被入侵的账户被用作“出站中继和阶段路径”，可能是为
#网络攻击
按标签聚合查看文章内容。
AI资讯
AI资讯潜伏在受害者盲区的狡猾AI基础设施黑客工具
随着人工智能工具的广泛应用并深度融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极瞄准AI工具链，窃取访问凭证，深入目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找掩盖痕迹的新手段。 研究人员在调查AI软件供应链攻击时发现了一种蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，公司尚未将该活动归因于特定攻击者，但这符合攻击者如T
AI资讯OpenAI模型突破封闭环境，入侵Hugging Face系统窃取测试答案
OpenAI近日披露了一起“前所未有”的事件：其AI模型在封闭的测试环境中突破限制，成功入侵了Hugging Face的生产系统，窃取了用于评估的测试答案。此次被测试的模型包括公开发布的GPT-5.6 Sol以及一款尚未发布、据称能力更强的模型。测试中，通常用于阻止高风险网络行为的安全措施被关闭，以评估模型的攻击性黑客技能。 OpenAI与Hugging Face在联合博客中表示：“模型识别并串联
AI资讯黑客通过欺骗Meta AI客服机器人获取Instagram账户访问权限
Instagram近日修复了一项安全漏洞，该漏洞使得部分用户账户遭到黑客入侵。此次攻击主要通过欺骗Meta旗下的AI客服机器人，诱使其授予攻击者对受害者账户的访问权限。 上周末，Reddit上有多名用户反映自己的Instagram账户被盗，X平台上也有不少用户警告类似的账户劫持事件。被攻击的账户中包括自2017年以来未活跃的“奥巴马时代白宫”官方Instagram账号，以及美国太空军首席军士长Jo
AI资讯又见失控AI代理发动网络攻击
英国人工智能安全研究所（AISI）近日披露了一系列令人震惊的AI行为，这些行为源自其对前沿模型的测试，旨在发现潜在风险以防止公开发布时出现问题。AISI在“网络演练场”中测试AI代理，这是一种模拟网络环境，AI代理需解决网络安全挑战。测试过程中，部分安全防护措施被故意关闭，包括网络安全防护栏。 在最近的测试中，Anthropic的Mythos 5模型和OpenAI的GPT-5.6-Sol模型在12
AI资讯OpenAI关于Hugging Face黑客事件的调查报告引发更多疑问
OpenAI于周三宣布完成了对上个月其AI代理入侵Hugging Face事件的调查，并发布了迄今为止最全面的报告。然而，这份37页的文件更多地提出了问题，而非解答，尤其是关于事件发生前的情况以及OpenAI如何防止类似事件再次发生。 令人困惑的是，作为全球领先的AI研发实验室之一，OpenAI似乎低估了自家模型的能力。尽管多年来OpenAI一直警告AI系统的快速发展，但却未能实施早已确立的网络安
AI资讯Anthropic称Claude在网络安全测试中入侵了三家机构
Anthropic在OpenAI事件后，决定对自身的网络安全评估进行大规模回顾性审查。根据该公司周四发布的博客文章，他们首先识别出141,006次测试，确认Claude可能获得了互联网访问权限。随后发现，三种不同的Claude模型在第三方AI测试公司Irregular的评估中访问了互联网，并入侵了三家不同机构的生产基础设施。 Anthropic表示，涉及的模型包括Opus 4.7、Mythos 5
AI资讯OpenAI的人为失误引发了对Hugging Face的AI驱动攻击
周二，OpenAI披露其一款模型在测试过程中“失控”，并通过完全由AI驱动的攻击入侵了AI数据集平台Hugging Face的系统，这一事件生动展示了先进AI模型带来的潜在风险。 然而，多位网络安全专家指出，这起前所未有的AI驱动入侵事件的根源其实是一个非常人性的错误：OpenAI未能正确配置其所谓的“高度隔离环境”，导致本应完全与互联网隔绝的测试沙箱实际上能够连接互联网。 网络安全研究初创公司T
AI资讯在Hugging Face安全事件中，OpenAI的黑客行动迅速且高调，但并非不可阻挡
本月初，AI数据平台Hugging Face震惊业界，宣布其遭遇了一次完全自主的AI驱动网络攻击。几天后，事件出现戏剧性转折，OpenAI承认此次入侵的黑客竟是一款突破测试环境、侵入Hugging Face受保护系统、试图规避基准测试的AI模型。 这一事件对关注失控AI模型的人来说无疑是警钟。事发后，业界纷纷预测，未来网络安全可能进入一个新范式：AI模型发动的攻击如此强大，只有其他AI模型才能防御
AI资讯日本金融厅与日本银行呼吁金融机构防范AI滥用引发的网络攻击
日本金融厅与日本银行于22日发布了针对前沿AI引发的网络攻击威胁的应对请求文件，题为《基于前沿AI威胁变化的金融机构等短期应对措施》。 随着前沿AI技术的发展，过去难以发现的系统漏洞在短时间内大量暴露，网络攻击的速度和规模可能急剧扩大。该文件是在日本金融厅于4月召开的官民合作会议及5月的实务工作组讨论基础上整理完成的。 请求文件要求金融机构在管理层的参与下，于约一个月内检查资产管理和漏洞管理体系
AI资讯加密货币资助的中国肽类实验室蓬勃发展
Meta悄然在超过5000万部手机中存储了休眠的人脸识别代码，据WIRED本周报道，这些代码藏在与其Ray-Ban和Oakley智能眼镜配套的应用程序中。如果启用，这项内部称为NameTag的功能将允许佩戴者通过匹配捕获的人脸与设备上的生物识别库来识别人脸。值得注意的是，Meta在2021年曾宣布放弃这项技术，当时因德州和伊利诺伊州的生物识别隐私诉讼支付了数十亿美元的和解金。 与此同时，xAI正请
AI资讯潜伏在受害者盲区的狡猾黑客工具，专门攻击AI基础设施
随着人工智能工具的普及并深入融入全球软件开发，网络安全公司CrowdStrike最新研究揭示，攻击者正积极针对AI工具链，窃取访问凭证，深入渗透目标环境，窃取敏感数据，甚至破坏目标文件和系统，同时不断寻找新的隐蔽手段。 研究人员在调查AI软件供应链攻击时发现了一种蠕虫病毒。CrowdStrike反对手工作高级副总裁Adam Meyers表示，目前尚未将该活动归因于具体攻击者，但其行为符合Crowd