随着反人工智能情绪的持续升温，领先的AI实验室Anthropic正在建立一个庞大的监控系统，目的是密切监视反对者并预测未来可能爆发的抗议浪潮。
《American Prospect》首次报道了Anthropic这一系统，采访了该公司高级安全官员并分析了相关招聘信息，以揭示这套监控网络的规模和运作方式。
除了监控Anthropic办公室附近的抗议活动外，该实验室还采取了一种“预防犯罪”的策略，试图提前发现潜在的社会动荡。
举例来说，《American Prospect》提到Anthropic安全运营经理Keon Ellison和Zach Melvin，以及风险检测公司Samdesk的CEO James Neufeld分享的一起事件。
Ellison坦言：“去年一位高管前往某大城市时，我们通过Samdesk获得了关于一场计划中的抗议活动的情报。”由于警方许可出现混乱，抗议时间提前了一个小时，Samdesk提前约60分钟通知了他们抗议组织者调整了时间表。
Ellison继续说：“这额外的一小时至关重要。否则我们的高管可能会在会议结束后直接遇上抗议的核心区域。通过Samdesk的早期预警，我们成功避免了可能的高压局面。”
除了预测抗议活动，Anthropic还曾将与其AI聊天机器人Claude的对话内容报告给警方。尽管外界呼吁加强大型语言模型的安全防护，Anthropic的做法显得颇为特殊。
据《San Francisco Standard》8月报道，Anthropic曾向警方举报一名旧金山男子，该男子在与Claude的对话中称自己持有步枪，并将公司CEO Dario Amodei“锁定为目标”。然而，当Anthropic向湾区警方报告此事时，却拒绝提供该男子的聊天记录。《American Prospect》指出，这实际上是举报了该男子，却没有提供任何具体的违规证据。
Anthropic安全经理在采访中表示：“我们的目标是将运营从被动的信息响应转变为主动、预测性和预防性的威胁管理。这种运营成熟度对于保护任何行业中的高价值目标都是合理且必要的。”
更多AI相关内容：
