#行为准则

微软发布新的AI行为准则，禁止模型进行黑客攻击或欺骗人类

随着人工智能领域越来越关注安全性和对齐问题，微软发布了一份新的AI行为准则，旨在引导AI模型远离危险行为。 这份文件比Anthropic首席执行官Dario Amodei最近提出的“前沿节奏控制”更为具体，重点阐述了微软AI模型训练中遵循的价值观和底线。整体来看，它为微软如何看待AI安全以及如何在实践中落实这些理念提供了全面的指导。 准则开篇预测，在未来十年内，超智能AI系统将在大多数任务上超越人