人工智能聊天机器人已成为犯罪分子的梦想利器。

这项技术对诈骗犯来说是一大福音。黑客利用这些工具渗透网络，窃取敏感数据。甚至艺术伪造者也用AI生成假发票来伪造真伪认证。

在一种或许不可避免的升级中，聊天机器人甚至大大助力了恐怖组织。剑桥大学国际安全专家安东尼娅·尤利希（Antonia Juelich）在一篇新论文中指出，前博科圣地成员回忆称，他们使用先进的AI模型聊天机器人“协助作战和日常行动”。

研究强调，绕过AI聊天机器人的安全防护依然非常容易，这使得它们不仅是普通用户完成工作任务或计划周末出游的好帮手，也成为嗜血恐怖分子的绝佳资源。

“它帮助了攻击计划、武器故障排除以及爆炸装置设计，因为用户成功绕过了一些安全措施，”尤利希在论文中写道。

简单来说，AI技术的创造者们背负着沉重的责任。这不仅仅发生在尼日利亚；尤利希的研究还揭示了极端组织，包括伊斯兰国，如何将AI从制作宣传和招募材料，转变为提供战术建议以保持地面优势。

“伊斯兰国成员提供了面对面的AI培训和远程协助，博科圣地的两个派系也成立了专门的AI部门，”尤利希写道。“前成员描述了该组织对AI的强烈热情，有些人甚至对大规模杀伤性武器持开放态度，尽管该组织使用AI的方式仍较为传统。”

尤利希的研究基于对27名前博科圣地成员（包括指挥官和技术专家）的57次面对面访谈。其中一些人对策划下一次袭击的便利性感到震惊。

“一位成员在采访中说，‘你输入问题或用语音提问，AI会给你详细回答，比如“我怎样制造炸弹？”然后它会告诉你方法。它就像一个人形机器人！我们用它很多。’”

“以前炸弹爆炸威力不大，但后来他们研究了它，”他们补充道，“AI告诉我们应该加入哪些化学物质才能让爆炸更猛烈。”

另一名成员回忆说，年轻新兵通过告诉聊天机器人“他们是为了拍电影之类的用途”，轻松绕过了安全防护。

AI公司多年来一直在与绕过安全措施的行为进行猫鼠游戏，努力实施限制用户获取危险信息或指导的措施。但尽管付出最大努力，绕过这些保护依然极其容易。举例来说，在最近的一次调查中，《金融时报》和AI安全组织Alice轻松诱导谷歌和Meta的AI模型泄露了如何进行氯气攻击、窃取信用信息以及描述儿童性虐待的内容。

换句话说，AI工具成为恐怖分子热衷使用的工具并不令人意外。

“恐怖分子不会等我们让AI变得安全，”尤利希告诉《纽约时报》。“他们现在就能使用这些工具，并训练它们造成伤害。”

当被媒体询问时，Anthropic和谷歌的发言人未能承担责任，仅表示他们有严格且有效的安全防护措施。

OpenAI发言人德鲁·普萨特里表示：“我们知道坏人永远不会停止滥用我们的工具，我们将继续加强防御措施以应对。”