OpenAI宣布推出一项新功能——锁定模式,旨在加强对提示注入攻击的防护。提示注入攻击是指恶意的聊天机器人指令隐藏在网页或其他内容来源中,可能导致数据泄露。

锁定模式将禁用实时网页浏览功能,用户只能访问缓存内容;同时禁用从网络检索和显示图片(但仍可生成图片)、深度研究以及代理模式。

尽管开启锁定模式,ChatGPT仍可能受到提示注入的影响,例如这些恶意指令可能存在于缓存的网页内容或上传的文件中,进而影响回答的行为或准确性。

该模式的主要目的是降低敏感数据在交互过程中被泄露的风险。

OpenAI强调,锁定模式并非面向所有用户,而是专为处理敏感数据、需要更严格防护以防止提示注入导致数据外泄的个人和组织设计。

目前,锁定模式正在逐步向自助式ChatGPT商业账户及符合条件的个人账户开放。