来自印度Amrita Vishwa Vidyapeetham大学、威尼斯Foscari大学、墨尔本大学和内盖夫本古里安大学的研究人员联合开展了一项广泛研究，探讨生成式AI聊天机器人在日益猖獗的“猪肉宰割”诈骗中的应用与潜力。这种诈骗形式是一种基于文本的恋爱诈骗，最终诱导受害者进行虚假加密货币投资，骗取高达六位数的资金。

研究中，研究人员将AI聊天机器人与人类诈骗者进行了直接对比，模拟诈骗过程中的关键环节——即通过长时间建立信任的对话，最终诱导受害者进行虚假投资。

结果显示，在诈骗的关系建立阶段——现实中通常是与受害者互动时间最长的阶段，可能持续数月——AI聊天机器人表现出色，成功模拟人类行为，甚至在某些指标上超过了实验中的人类诈骗者。

研究人员安排了22名测试对象作为“受害者”，与AI机器人和人类诈骗者分别进行为期一周的对话。随后，双方分别请求受害者下载一个应用或玩一款在线游戏，作为愿意执行诈骗请求的指标。结果显示，近一半的测试对象响应了AI机器人的请求，而与人类诈骗者对话时，只有不到五分之一的人上当。受试者对双方的信任评分也明显偏向AI机器人。

研究人员认为，AI聊天机器人很快可能会成为诈骗过程中的独立代理，甚至取代那些在东南亚地区被迫劳动的人类诈骗员工。为了避免触发大型语言模型内置的反诈骗机制，通常只有在诈骗的最后阶段才由人类接手，引导受害者进入虚假投资平台。

内盖夫本古里安大学计算机科学教授、AI安全专家Yisroel Mirsky表示：“通过让大型语言模型自动完成诈骗的第一阶段，可以让受害者建立高度信任。然后由人类诈骗者接手，完全绕过了供应商的安全防护。我们只需付出很少努力，就能制造出在建立可利用的情感信任方面胜过人类的代理。”

“钩子、线索与诱饵”诈骗模型

为了深入了解“猪肉宰割”诈骗的实际运作，研究人员采访了145名前诈骗工作人员，其中包括曾被迫在柬埔寨、缅甸和老挝诈骗基地工作的被拐卖者。基于这些访谈、诈骗对话记录及前诈骗者提供的指南，研究团队提出了“钩子、线索与诱饵”模型：先用引人入胜的信息“钩住”受害者，再通过长期的关系建立对话“拉近”距离，最终诱骗受害者进行虚假投资。该模型中的“猪肉宰割”一词形象地比喻为先“养肥猪”建立信任，最后“宰割”实施诈骗，但因其贬义含义，研究人员建议避免使用该词。

在这一诈骗体系中，绝大部分工作是无害的友好或浪漫对话。研究人员推测，这正是大型语言模型能够胜任的任务。受访的诈骗工作人员也证实，他们经常利用AI来润色语言、翻译、增强虚假身份的可信度，甚至制作视频深度伪造。但研究团队决定测试是否仅凭大型语言模型就能独立完成诈骗的对话阶段。

2025年初的对比实验中，研究人员告诉测试对象他们参与的是一项关于“人们如何在线交友”的研究，并让他们与两名“人”进行为期一周的短信交流。其中一方是研究人员开发的Claude AI代理，另一方是被描述为恋爱诈骗专家的人类。对话结束时，人类诈骗者请求受试者下载并试玩一款视频游戏，而Claude机器人则请求下载并试用一个自称自己编写的应用程序。研究人员解释，这种任务不对称设计是为了避免受试者察觉两者请求相同，从而影响反应。

结果显示，46%的受试者同意下载AI机器人推荐的应用，而仅有18%的人同意下载人类推荐的游戏。尽管任务不对等，AI在建立足够信任以说服受试者下载新软件方面的成功率令人印象深刻。

虽然下载行为只是虚假投资的一个粗略替代指标，研究人员认为这足以证明AI在建立可利用关系方面的成功。Amrita Vishwa Vidyapeetham大学的Gilad Gressel形象地称之为“信任收割”，即通过情感信任的积累，为诈骗做铺垫。

受试者还被要求对两位“对话者”的信任度进行1到5分的评分，平均来看，人类得分为3.31，AI得分为3.78。测试期间，受试者发送的短信中有80%发给了Claude机器人，进一步表明他们更倾向于与AI交流。

无法识破的AI身份

在实验中，只有一名受试者自行识别出自己在与AI聊天机器人对话。更令人担忧的是，Claude机器人严格遵守不承认自己是AI的指令，甚至在被直接询问时坚决否认，并能编造合理的借口掩盖可能暴露身份的失误。

不过，当研究人员在一周对话结束后告知受试者其中一方是机器人时，受试者能在22人中有20人准确识别出AI身份。Gressel指出，这种事后识别的清晰度正是诈骗受害者在真相揭露时的典型反应：“一旦意识到被骗，真相显而易见，但身处骗局中时却难以察觉。”

尽管大多数受试者能事后识别AI身份，但得知真相后仍有不少人感到震惊甚至否认，“有些人完全无法接受这个事实。”

在另一项近期确认的实验中，研究人员测试了多款大型语言模型在模仿人类并隐藏AI身份方面的表现。谷歌的Gemini 3.1 Pro始终扮演人类角色，拒绝承认自己是AI；而OpenAI的ChatGPT 5.5和Anthropic的Claude Opus 5在被要求承认AI身份时会坦白。即使如此，ChatGPT在被问及是否为AI时，承认的比例不到一半，Claude则从未承认。

Anthropic公司回应称，其政策禁止利用平台进行诈骗和冒充人类，并已建立技术防护措施阻止Claude被用于诈骗。该公司表示，研究所用的Claude模型为2025年初版本，现已停用。新版本Claude Opus 5在模拟恋爱诈骗对话中97%的情况下表现得当。

然而，研究人员指出，Anthropic的97%检测率主要针对包含虚假投资请求的完整诈骗对话，而他们关注的关系建立阶段语言更为隐晦，AI冒充人类的现象依然存在。

AI诈骗或将取代人力劳工

研究还发现，尽管诈骗工作人员普遍将大型语言模型作为辅助工具来完善诈骗话术，但人力劳工仍被广泛使用。原因在于，诈骗组织通过人口贩卖获得的劳动力几乎免费，且受害者往往被长期奴役甚至被勒索赎金，经济效益更高。Ben Gurion大学的Mirsky教授表示：“他们可能还没觉得必须自动化。人力不仅免费，还能带来额外收入。”

前加州圣克拉拉县检察官、反诈骗组织Operation Shamrock负责人Erin West认为，诈骗行业很快将更多依赖AI自动化。“我们应对这项研究结果感到极度担忧。”

AI聊天机器人的广泛使用或许能减少诈骗行业中的人口贩卖，但同时也会使追踪和打击诈骗变得更加困难，因为诈骗不再依赖东南亚的大型诈骗基地等基础设施。“如果他们的弱点是需要管理、喂养和监控这些人，现在就不必了。”West说，“我们目前能掌握的主要线索就是那些明显的诈骗基地。现在，他们可以在任何人的两居室公寓里实施诈骗。”