在人工智能技术迅速发展的今天，如何安全地利用AI成为了重要议题。Anthropic与日本AE Studio联合开发了一种名为“GRAM”（Gradient-Routed Auxiliary Modules，梯度路由辅助模块）的新技术，旨在为AI知识设置“关闭开关”，有效防止其被恶意利用。
例如，关于病毒的知识一方面有助于疫苗研发，另一方面也可能被不法分子用来设计致命病原体。科学技术的双重性使得如何管理这些敏感信息成为长期难题。
Anthropic认为，AI安全需在以下三方面取得平衡：
- 尽可能精细地限制对敏感科学技术知识的访问；
- 允许可信用户基于合理目的访问这些知识；
- 在不影响AI模型其他任务性能的前提下实现上述目标。
为防止恶意使用，Anthropic采取了控制AI“知道什么”的策略。此前，他们已从预训练数据中剔除化学武器、生物武器、放射性武器和核武器相关信息，并将这些知识限制在模型权重中可拆卸的部分。
然而，这种做法需要为不同访问权限训练多个模型版本，导致成本大幅增加。为此，GRAM应运而生。它通过为每类知识设置专门的可拆卸模块，在学习双用途数据时仅更新对应模块，从而只需训练一个模型即可满足不同需求。
目前，GRAM尚未应用于Anthropic的生产模型，未来是否推广仍未确定。该技术的推出为AI安全管理提供了新的思路，有望在保障技术进步与防范风险之间找到更好的平衡。
