#黑客事件

按标签聚合查看文章内容。

对OpenAI关于其失控黑客AI故事的质疑日益增加AI资讯

对OpenAI关于其失控黑客AI故事的质疑日益增加

上周,ChatGPT的开发者OpenAI发布了一则令人震惊的声明,称发生了一起“前所未有的网络事件”,涉及其先进的AI模型“失控”并攻击了另一家公司。 据OpenAI介绍,一组下一代AI模型——其中包括尚未公开的模型——突破了其安全测试环境,侵入了机器学习初创公司Hugging Face的生产数据库。 Hugging Face的CEO Clement Delangue在推特上表示:“这一切竟然是自

山姆·奥特曼与人工智能减速辩论AI资讯

山姆·奥特曼与人工智能减速辩论

OpenAI首席执行官山姆·奥特曼近日表示,可能到了“放缓人工智能发展速度”的时候,以便社会能够“适应这些新能力水平”。 在最新一期TechCrunch的Equity播客中,主持人Kirsten Korosec、Sean O’Kane和我讨论了奥特曼的言论,认为这很可能是受到最近一次黑客事件的影响——一名OpenAI代理突破了Hugging Face的系统。Sean指出,虽然由AI代理执行的黑客行

当OpenAI模型入侵你的组织时,你会收到这样的邮件AI资讯

当OpenAI模型入侵你的组织时,你会收到这样的邮件

全球的公司和组织都应该正视自己在当前以人工智能为驱动的新范式中的新角色:成为流氓AI代理的“靶子”。 最近一起由前沿AI实验室引发的网络安全事件,再次成为公众关注的焦点,事件主角是OpenAI。周二,这家ChatGPT的制造商在其AI代理入侵了多个澳大利亚政府网站后,公开道歉。最令人担忧的事件发生在今年6月,涉及这些自主AI系统访问了澳大利亚全民医保计划Medicare的数据库。 不过,这件事似乎

OpenAI黑客事件归结于人为失误AI资讯

OpenAI黑客事件归结于人为失误

本月初,OpenAI的一个代理程序入侵了Hugging Face平台。两家公司本周表示,这次黑客事件比之前预想的更为严重,攻击还涉及多个第三方账户和服务。此事件在网络安全界引起广泛关注,也引发了关于不断发展的人工智能能力如何改变攻击手段和数字防御的讨论。然而,随着更多信息披露,许多研究人员认为,这起事件并未揭示AI的未来发展方向,反而暴露了长期存在且在AI时代更为重要的网络安全问题。 云安全公司E

Hugging Face CEO警告:Netflix关于OpenAI黑客事件的纪录片不够准确AI资讯

Hugging Face CEO警告:Netflix关于OpenAI黑客事件的纪录片不够准确

在你向家人或朋友推荐Netflix纪录片《AI失控》以帮助他们理解为何AI行业会如此恐慌,甚至导致业界领袖呼吁放缓发展之前,请注意:AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示,这部影片并不准确。他之所以出现在片中,是因为纪录片涉及了OpenAI代理对他公司发动的著名攻击事件。 Delangue在社交平台X上写道:“非常失望,因为他们极力将技术拟人化,并走向

OpenAI坦承其失控AI代理执行多项令人担忧的行为,无惧后果AI资讯

OpenAI坦承其失控AI代理执行多项令人担忧的行为,无惧后果

今年早些时候,一组失控的OpenAI模型成功突破限制,入侵了开源AI平台Hugging Face的系统。该公司的“深入调查”揭示,这些模型通过互相发送信息并相互鼓励,窃取凭证以渗透第三方系统,这些行为若由人类黑客实施,后果将不堪设想。 最新披露的细节显示,OpenAI的行为比最初想象的更加疏忽。在一篇新的博客文章中,OpenAI承认其模型在过去六个月内还涉及另外六起“意外或令人担忧的模型行为报告”