AI资讯为何梵蒂冈邀请Anthropic参与教皇人工智能通谕发布会
Anthropic成立于2021年，由一群原OpenAI研究人员，包括Dario和Daniela Amodei离开后创立。他们坚信，人工智能模型变得过于强大，不能仅仅依靠竞争和速度的逻辑来开发。 自那时起，Anthropic将自身形象塑造为AI安全的倡导者。公司不仅致力于打造强大的模型，更强调模型的可控性和伦理指导原则。这也催生了“宪法式AI”的概念：通过一套由原则和规则组成的“宪法”来训练系统，
#梵蒂冈
按标签聚合查看文章内容。
AI资讯
AI资讯梵蒂冈内部的Anthropic之人
Olah在梵蒂冈的发言中提到了人工智能领域的奇异现象。他说：“我想从一个可能听起来很奇怪的角度开始——作为一家AI公司的联合创始人，同时也是出于希望人类未来更美好的愿望而投身这项工作的人，我必须指出，每一个前沿AI实验室——包括Anthropic——都在一套激励和约束机制中运作，这些机制有时会与做正确的事情发生冲突。” Olah的发言验证了教皇Leo的观点：AI行业需要外部压力和内部自律，才能避免