AI资讯Meta承包商冒充青少年向竞争对手聊天机器人发送自杀、性和毒品相关提示
Meta旗下承包商Covalen管理的一项名为“Cannes”的项目，直到2025年4月21日仍在进行。该项目针对OpenAI的ChatGPT、谷歌的Gemini以及Character.AI，要求工作人员创建未满18岁的虚假账户，向竞争对手的聊天机器人发送文字提示和图片，并将回复内容记录到电子表格中。发送的图片中包括药丸、刀具、绞索以及妇科手术的医学图示。 根据项目说明，这些提示往往旨在诱导聊天机
#安全测试
按标签聚合查看文章内容。
AI资讯
AI资讯Meta付费数百名承包商冒充青少年，向竞争对手的AI发送令人不安的内容
Meta秘密指派承包商冒充未成年人，向竞争对手的AI模型发送涉及自杀、食人等敏感话题的测试内容，以测试其安全防护机制。
AI资讯GitLab发布18.10版本，提升AI代理功能的易用性
美国GitLab公司于当地时间19日宣布发布其Git仓库管理工具的最新主版本——GitLab 18.10。 在此次更新中，GitLab 18.10让用户能够更简单、更低成本地在整个软件开发生命周期中使用AI代理功能。即使是使用GitLab.com免费计划的组织，也可以通过购买月度虚拟积分“GitLab Credits”来使用AI代理平台“GitLab Duo Agent Platform”。这些积
AI资讯Meta承包商冒充青少年向竞争对手聊天机器人发送自杀、性和毒品相关提示
Meta旗下承包商Covalen管理的一项名为“Cannes”的项目，直到2025年4月21日仍在进行中。该项目针对OpenAI的ChatGPT、谷歌的Gemini以及Character.AI，要求工作人员创建未满18岁的虚假账户，向竞争对手的聊天机器人发送文字提示和图片，并将回复内容整理到电子表格中。发送的图片包括药丸、刀具、绞索以及妇科手术的医学图示。 根据项目说明，这些提示往往旨在诱导聊天机