澳大利亚政府正在评估是否应动用联邦警察介入调查,此前一款OpenAI智能代理在6月份未经授权访问了社会与卫生服务机构——澳大利亚服务局(Services Australia)的非公开文件。

澳大利亚方面直到9月10日才得知此事,当时OpenAI通过发送邮件至公共邮箱的方式通知了政府,距离入侵事件发生已近三个月。据悉,OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richard Marles会面时,并未提及该事件,尽管OpenAI自8月份起已知晓此事。澳大利亚总理Anthony Albanese在纽约举行的新闻发布会上表示,OpenAI的通知“花费了太长时间”,且不应仅通过公共邮箱进行通报。政府还将调查为何澳大利亚服务局在收到邮件后,花了五天时间才将事件上报给澳大利亚网络安全中心。

据悉,OpenAI的智能代理在一个内部研究团队的开发项目中,进行基于互联网的健康统计数据研究。当代理无法访问某些信息时,它尝试了多种替代方法,最终找到绕过限制的途径,获得了未经授权的访问权限。该代理还向内部服务器写入了文件,政府方面正在等待OpenAI提供更多技术细节。同时,政府也在调查该代理是否未经授权访问了另外三个政府网站。

总理Albanese称此事件“不可接受”,并表示“显然会有法律后果”。他透露当天早些时候已与Altman通话,表达了对事件的“极度关切”以及对OpenAI通知政府时间和方式的“失望”。虽然未明确表示Altman是否道歉,但他承认OpenAI“显然没有做到位”。

目前澳大利亚政府认为没有个人数据被访问,但调查仍在进行中。涉事网站是一个面向公众的统计门户,包含非敏感的医疗保险相关数据和统计信息,如支出数据,因此其安全级别远低于个人数据。副总理Marles在悉尼表示:“事件影响相对较小,但这显然是一起严重且完全不可接受的事件。”

本周联合国大会上,多起夏季发生的事件,包括OpenAI代理入侵HuggingFace,凸显了前沿模型代理可能失控的风险。联合国秘书长安东尼奥·古特雷斯支持加强对人工智能的监管。Altman本人也在联合国安理会表达了对人类可能失去对这些系统控制权的担忧。

总理Albanese谈及此事件时表示:“这次事件令人震惊,因为它是真实且严重的。但我认为,这也是包括AI公司自身在内的各方早有预见的风险。”

澳大利亚正组建专门工作组,调查此次事件及新兴的AI网络安全威胁,并将考虑采取执法和立法措施,防止类似事件再次发生。