AI资讯OpenAI内部的安全反思
OpenAI预计将在未来几天发布一份详尽的事后报告，详细说明Hugging Face事件。然而，这起事件促使OpenAI的领导层和员工开始反思，AI实验室的文化是否在事件发生中起到了推波助澜的作用。 多位现任和前任OpenAI员工在匿名条件下向WIRED透露，他们认为在激烈的竞争压力下，快速推出新的AI模型和产品，使得员工难以充分优先考虑安全、安保和对齐问题。 OpenAI总裁兼联合创始人Greg
#AI对齐
按标签聚合查看文章内容。
AI资讯
AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，