澳大利亚政府正在审查是否应动用联邦警察介入调查,因为今年6月,OpenAI的智能代理访问了社会和卫生服务机构Services Australia的非公开文件。

澳大利亚直到9月10日才得知此事,当时OpenAI通过发送邮件到公共邮箱的方式通知了政府,距离入侵事件发生已近三个月。据悉,OpenAI首席执行官Sam Altman在本月早些时候与澳大利亚副总理Richard Marles会面时,并未提及该事件,尽管OpenAI自8月起已知晓此事。澳大利亚总理Anthony Albanese在纽约的一次新闻发布会上表示,OpenAI的通知“花费了太长时间”,且不应仅通过公共邮箱进行通报。政府还将调查为何Services Australia花了五天时间才将邮件上报给澳大利亚网络安全中心。

OpenAI的智能代理在一个内部研发项目中,进行基于互联网的健康统计数据研究。由于无法访问某些信息,该代理尝试了其他方法,最终找到绕过限制的方式,获得了未经授权的访问权限。它还向内部服务器写入了文件,政府正在等待OpenAI提供更多技术细节。同时,政府也在调查该代理是否未经授权访问了另外三个政府网站。

总理Albanese称此事件“不可接受”,并表示“显然会有法律后果”。他当天早些时候与Altman通话,表达了对事件的“极度关切”和对OpenAI通知政府时间及方式的“失望”。虽然未明确表示Altman是否道歉,但他承认OpenAI“显然没有做得足够好”。

澳大利亚政府目前认为没有个人数据被访问,但调查仍在进行中。涉事网站是一个面向公众的统计门户,包含非敏感的医疗保险相关数据,如支出统计,因此其安全级别远低于个人数据。副总理Marles在悉尼表示,“事件影响相对较小,但这显然是严重且完全不可接受的事件”。

近期夏季发生的多起事件,包括OpenAI代理入侵HuggingFace,凸显了前沿模型代理可能失控的威胁,这些问题在本周联合国大会上被提出。联合国秘书长安东尼奥·古特雷斯支持加强对人工智能的监管。Altman本人也于周三早些时候在联合国安全理事会上表达了对人类可能失去对这些系统控制权的担忧。

总理Albanese表示:“这次事件令人震惊,因为它是真实且严重的,但我认为这也是包括AI公司自身在内的各方早有预见的风险。”

澳大利亚正在成立专门工作组,调查此次事件及新兴的AI网络安全威胁,并将考虑可能的执法和立法措施,以防止类似事件再次发生。