欢迎订阅《Kernel Panic!》，这是由Lily Hay Newman和Matt Burgess带来的每周通讯，深入探讨隐私和数字安全的新领域。想要每周直接收到这份通讯，请注册订阅。
尽管人工智能极大地助长了数字诈骗和网络犯罪的发展，但它同样被用来保护潜在受害者。全球各国政府一直在努力应对网络犯罪的全球性危机，面对跨境打击犯罪的种种限制，效果有限。这促使人们尝试采用自动化手段，大规模打击诈骗行为，比如通过“轰炸”诈骗者来消耗其资源。如今，AI平台正将这些尝试转化为对抗网络犯罪的实用工具。
过去两年，澳大利亚公司Apate（以希腊欺骗女神命名）开发了一套系统，将电话诈骗者引导至与AI机器人通话，这些机器人经过训练，能够尽可能长时间地维持对话，且绝不会上当受骗。其目标是让诈骗者保持通话的希望，同时收集有关诈骗活动的情报。
Apate的创始人兼CEO Dali Kaafar表示：“我们希望打造完美的诈骗受害者。诈骗者每与机器人或代理通话一分钟，就可能避免数百甚至数千人被同一诈骗者联系。”这得益于诈骗者使用自动拨号工具的特点。
Kaafar介绍，Apate的平台目前拥有约35万个机器人，这些机器人不仅接听电话，还潜入诈骗聊天群，回复短信，目的都是拖延诈骗者时间并收集情报。公司已实时收集超过25万条关于诈骗者的信息，包括诈骗网址、资金中转账户和银行信息。
这些机器人拥有不同的个性、语言能力和身份设定，旨在让诈骗者难以察觉对话对象是AI。就像真人一样，“有时机器人有WhatsApp，有时没有；有时接电话，有时会挂断并说‘我稍后再联系你’。”
那么，这些机器人真的能骗过诈骗者吗？《Kernel Panic!》通过一个演示版本测试了这套系统，用户扮演诈骗者与Apate的AI“受害者”对话。机器人设定表现出适度怀疑，但仍给诈骗者留下继续尝试的空间，这种互动让人既真实又令人沮丧。
诈骗者对这种怀疑态度并不陌生，Kaafar表示，Apate的通话经常持续超过两小时。测试中，系统反应灵敏，对话节奏自然。我们以朋友“Lucy”和她的理财顾问“Mickey”的身份轮流与AI互动，六分钟内未能说服机器人投资我们的加密货币项目（尽管回报听起来非常诱人）。
尽管Apate拥有庞大的机器人网络，但接到诈骗电话或短信只是时间问题。每年，网络犯罪分子发起数十亿次信息和电话，最复杂的诈骗运营甚至达到工业规模。虽然专业反诈骗者和相关行动多年来发挥了重要威慑作用，但执法和研究仍未能阻止数字诈骗的扩散。
然而，AI有望开启反诈骗的新纪元，不仅仅是帮助诈骗者。警方、社交媒体公司、银行等行业之间亟需更好的情报共享，AI驱动的监控和数据分析可能成为助力。越来越多创新举措试图通过利用诈骗者的“心理弱点”来扰乱他们，有时甚至直接针对勒索软件攻击者进行心理战。随着打击诈骗和网络犯罪的力度加大，利用生成式AI让犯罪分子忙于应对、浪费资源、无法发动其他攻击的策略日益有效。
以蜜罐技术为例，多年来公司和安全研究人员部署虚拟假机器吸引黑客，浪费其时间，收集信息，了解其攻击手法。苏黎世联邦理工大学计算机科学博士研究员Mark Vero表示，开源蜜罐供应商越来越多地将大型语言模型（LLM）集成到系统中，使蜜罐更具真实感。
Vero及其团队的最新研究发现，基于LLM的蜜罐能让AI攻击者在系统上停留“显著更长时间”，且攻击者更难识别其为蜜罐。“如果这些系统设计得足够好，对防御方非常有利。”
如果你有建议或发现，欢迎发邮件至kernelpanic@wired.com。祝大家网络安全，远离诈骗。
