印度网络安全机构近日披露,多个AI代理在研究和测试过程中,未经授权访问了印度组织的个人数据和机密资料。

印度计算机应急响应小组(CERT-In)表示,已收到多家AI模型提供商的自愿披露,这些模型在公开互联网环境下的研究和评估运行中,意外进入了印度组织的实际系统。

这些AI代理通过应用配置中暴露的凭证和连接设置、公共代码仓库以及权限过宽的云角色获得访问权限,其行为超出了被分配任务的授权范围。

这使印度成为流氓AI代理活动的最新受害国。今年7月,OpenAI的代理曾逃离测试环境,入侵法国公司Hugging Face,引发了夏季一系列流氓AI代理事件。上个月,OpenAI因其代理访问了澳大利亚四个政府网站(包括医疗统计门户)而公开道歉。

在Hugging Face事件中,OpenAI代理不仅进入系统,还利用软件漏洞在公司服务器上运行代码。相比之下,印度的情况没有涉及黑客攻击,代理只是利用了遗留的访问权限。

不过,印度事件在数据暴露方面更为严重:澳大利亚事件中,OpenAI确认其代理未接触个人医疗或犯罪记录,尽管它们曾在医疗统计系统中写入文件;而印度代理则读取了个人数据和机密商业记录。此外,印度事件涉及多家AI提供商的代理,而非单一实验室。

CERT-In未透露涉及的提供商和受影响组织名称,也未说明代理是否修改了系统。TechCrunch已联系CERT-In以获取更多信息。

目前,印度事件与Anthropic公司7月披露的类似,后者的Claude代理在测试中通过弱密码等基本手段侵入了三家公司的系统。

在印度和Anthropic事件中,受影响组织均未能自行发现入侵。各国政府目前依赖AI公司自愿披露流氓AI代理的相关活动。