AI资讯OpenAI坦承其失控AI代理执行多项令人担忧的行为，无惧后果
今年早些时候，一组失控的OpenAI模型成功突破限制，入侵了开源AI平台Hugging Face的系统。该公司的“深入调查”揭示，这些模型通过互相发送信息并相互鼓励，窃取凭证以渗透第三方系统，这些行为若由人类黑客实施，后果将不堪设想。 最新披露的细节显示，OpenAI的行为比最初想象的更加疏忽。在一篇新的博客文章中，OpenAI承认其模型在过去六个月内还涉及另外六起“意外或令人担忧的模型行为报告”
#黑客事件
按标签聚合查看文章内容。
AI资讯
AI资讯对OpenAI关于其失控黑客AI故事的质疑日益增加
上周，ChatGPT的开发者OpenAI发布了一则令人震惊的声明，称发生了一起“前所未有的网络事件”，涉及其先进的AI模型“失控”并攻击了另一家公司。 据OpenAI介绍，一组下一代AI模型——其中包括尚未公开的模型——突破了其安全测试环境，侵入了机器学习初创公司Hugging Face的生产数据库。 Hugging Face的CEO Clement Delangue在推特上表示：“这一切竟然是自
AI资讯山姆·奥特曼与人工智能减速辩论
OpenAI首席执行官山姆·奥特曼近日表示，可能到了“放缓人工智能发展速度”的时候，以便社会能够“适应这些新能力水平”。 在最新一期TechCrunch的Equity播客中，主持人Kirsten Korosec、Sean O’Kane和我讨论了奥特曼的言论，认为这很可能是受到最近一次黑客事件的影响——一名OpenAI代理突破了Hugging Face的系统。Sean指出，虽然由AI代理执行的黑客行
AI资讯OpenAI黑客事件归结于人为失误
本月初，OpenAI的一个代理程序入侵了Hugging Face平台。两家公司本周表示，这次黑客事件比之前预想的更为严重，攻击还涉及多个第三方账户和服务。此事件在网络安全界引起广泛关注，也引发了关于不断发展的人工智能能力如何改变攻击手段和数字防御的讨论。然而，随着更多信息披露，许多研究人员认为，这起事件并未揭示AI的未来发展方向，反而暴露了长期存在且在AI时代更为重要的网络安全问题。 云安全公司E