Anthropic公司在其官方网站发布声明，认为减缓或暂时停止最先进的人工智能开发对全球具有积极意义。
根据Anthropic的说法，最先进的AI开发正持续加速，目前大部分AI开发工作已由AI系统自身承担。未来，AI系统将能够完全自主设计和开发后续系统。数据显示，与2021年至2025年期间相比，当前每季度发布的代码量平均增加了8倍。
目前，Anthropic的大部分代码已由其AI系统Claude编写，截至今年5月，Claude编写的代码占比超过80%。工程师的角色已从直接编写代码转变为提供指令和进行代码审查。随着人类在开发中的作用逐渐缩小，当人类与AI编写的代码质量相当时，人类将主要专注于代码审查。然而，由于AI生成的代码数量庞大，人工审查可能跟不上进度，人类可能成为开发的瓶颈。
具备自我构建能力的AI代表了技术史上的重大进步，可能为科学、医疗等多个领域带来巨大益处，但同时也增加了人类无法控制AI系统的风险。
Anthropic认为，有必要有效减缓技术开发速度，以争取时间应对其深远影响。然而，如果其他不够谨慎的企业在技术上赶超，这一努力将失去意义。此外，企业和政府在竞争和地缘政治压力下，将面临安全方面的艰难抉择。
该公司强调，减缓或暂停最先进AI开发的选择对全球有益，因为这能使社会结构和协作研究赶上技术进步的步伐。
未来几个月，政策制定者、研究人员、公民社会及其他AI企业将就这些问题展开对话。Anthropic呼吁AI企业之外的各界人士积极参与这一重要讨论，共同探索相关疑问。
