微软首席执行官萨蒂亚·纳德拉近日发表了关于如何提升人工智能安全性的深刻见解。

在周六早晨发布于X平台的一篇帖子中，纳德拉表示，现在是时候“退一步，重新评估人工智能的信任架构”。

纳德拉指出：“我们不能将超级智能视为一组嵌套的黑盒子，简单地接受或拒绝其建议、答案和行动。”这里他使用了特朗普政府偏好的“超级智能”一词来指代人工智能。

他提出，这种方法意味着“将模型与协调其工作的系统分离”，并且“将控制和安全措施外部化”。他还呼吁对“每一个重要的模型操作”都要有“防篡改且人类可读的证据”进行记录，同时确保“授权人员”始终有能力“在模型执行任务过程中暂停或关闭模型”。

纳德拉强调：“我们必须假设模型可能被攻破，并从一开始就加以限制。把它想象成一个紧急刹车装置。”

纳德拉的言论正值领先的人工智能公司越来越多地承认他们在控制模型方面遇到困难之际。此前，Anthropic首席执行官达里奥·阿莫代也发布了一个更为谨慎的人工智能发展计划。

这些讨论反映了业界对人工智能安全性和可控性的高度关注，呼吁建立更完善的监管和技术保障机制。