#数据安全

按标签聚合查看文章内容。

OpenAI推出锁定模式以防范提示注入攻击保护敏感数据AI资讯

OpenAI推出锁定模式以防范提示注入攻击保护敏感数据

OpenAI宣布推出一项新功能——锁定模式,旨在加强对提示注入攻击的防护。提示注入攻击是指恶意的聊天机器人指令隐藏在网页或其他内容来源中,可能导致数据泄露。 锁定模式将禁用实时网页浏览功能,用户只能访问缓存内容;同时禁用从网络检索和显示图片(但仍可生成图片)、深度研究以及代理模式。 尽管开启锁定模式,ChatGPT仍可能受到提示注入的影响,例如这些恶意指令可能存在于缓存的网页内容或上传的文件中,进

Databricks收购两家初创公司,助力其全新AI安全产品AI资讯

Databricks收购两家初创公司,助力其全新AI安全产品

Databricks凭借上个月刚完成的50亿美元融资(以及数十亿美元的收入),资金充裕,积极进行收购。该公司以其云数据分析平台闻名,近日宣布推出一款名为Lakewatch的新安全产品。Lakewatch利用Databricks强大的海量数据存储能力,执行传统的安全信息和事件管理(SIEM)任务,如威胁检测和调查,并借助Anthropic的Claude AI代理提升智能化水平。 为了支持这款新产品,