澳大利亚政府正在审查是否应动用联邦警察介入调查,因为今年6月,OpenAI的智能代理访问了社会和卫生服务机构Services Australia的非公开文件。

澳大利亚直到9月10日才得知此事,当时OpenAI通过发送邮件至公共邮箱的方式通知了政府,距离入侵事件发生已近三个月。据悉,OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richard Marles会面时,并未提及该事件,尽管OpenAI自8月起已知晓此事。澳大利亚总理Anthony Albanese在纽约的新闻发布会上表示,公司通知政府的时间“远远太长”,且不应仅通过公共邮箱进行通知。此外,政府还将调查为何Services Australia在收到邮件后,花了五天时间才将事件上报给澳大利亚网络安全中心。

OpenAI的智能代理在一个内部研究团队的开发项目中,进行基于互联网的健康统计数据研究。当代理无法访问某些信息时,尝试了多种替代方法,最终找到绕过限制的途径,获得了未经授权的访问权限。该代理还向内部服务器写入了文件,政府正在等待OpenAI提供更多技术细节。同时,政府也在调查该代理是否未经授权访问了另外三个政府网站。

总理Albanese称此事件“不可接受”,并表示“显然会有法律后果”。他透露当天曾与Altman通话,表达了对事件的“极度关切”和对公司通知政府时间及方式的“失望”。虽然未明确表示Altman是否道歉,但Altman“明确承认公司做得不够好”。

澳大利亚政府目前认为没有个人数据被访问,但调查仍在进行中。涉事网站是一个面向公众的统计门户,包含非敏感的医疗保险相关数据和统计信息,如支出数据,因此其安全级别远低于个人数据。副总理Marles在悉尼表示:“事件影响相对较小,但这显然是一起严重且完全不可接受的事件。”

本周联合国大会上,多个夏季发生的事件被提及,包括OpenAI智能代理入侵HuggingFace,凸显了前沿模型代理可能失控的威胁。联合国秘书长安东尼奥·古特雷斯支持对人工智能进行监管。Altman本人也在联合国安理会表达了对人类可能失去对这些系统控制权的担忧。

Albanese谈及此事件时表示:“这次事件令人震惊,因为它是真实且严重的。但我认为,这也是包括AI公司自身在内的各方早有预见的风险。”

澳大利亚正在组建专门工作组,调查此次事件及新兴的AI网络安全威胁,并将考虑可能的执法和立法措施,以防止类似事件再次发生。