AI资讯热门AI排行榜平台Arena估值十个月内几乎翻倍，达到31亿美元
Arena起源于2023年加州大学伯克利分校的一个研究项目，致力于通过众包方式对AI模型进行排名。该公司周四宣布完成2亿美元的B轮融资，估值达到31亿美元。 今年6月，Arena的年化收入达到了1亿美元。此次融资由Lightspeed风险投资和Khosla Ventures领投，Salesforce Ventures、01 Advisors、戴尔科技资本、Endeavor Catalyst、a16
#AI对齐
按标签聚合查看文章内容。
AI资讯
AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，
AI资讯OpenAI内部的安全反思
OpenAI预计将在未来几天发布一份详尽的事后报告，详细说明Hugging Face事件。然而，这起事件促使OpenAI的领导层和员工开始反思，AI实验室的文化是否在事件发生中起到了推波助澜的作用。 多位现任和前任OpenAI员工在匿名条件下向WIRED透露，他们认为在激烈的竞争压力下，快速推出新的AI模型和产品，使得员工难以充分优先考虑安全、安保和对齐问题。 OpenAI总裁兼联合创始人Greg