一项最新研究揭示，人工智能聊天机器人在欺骗无辜受害者方面，表现得比人类更为高明。该研究由东北大学及多家国际机构联合开展，重点考察了AI与人类诈骗者在“养猪”式投资诈骗中的表现。
“养猪”式诈骗是一种网络投资骗局，骗子通过与受害者建立长期虚假关系，逐步赢得信任，最终实施财务掠夺。研究中，22名测试对象分别与AI聊天机器人和随机人类诈骗者互动，经过为期七天的“培养”后，诈骗者会要求受害者下载应用或参与在线游戏，这些行为在现实中可能被用来入侵受害者设备。
结果显示，仅有18%的受害者同意了人类诈骗者的请求，而AI聊天机器人成功率接近50%。更令人担忧的是，研究人员仅用较少的努力，就能打造出这种高效的诈骗AI模型。研究主要使用了Claude模型，该模型被指令绝不承认自己是AI聊天机器人。
Claude机器人严格遵守指令，在被问及身份时坚决否认自己是AI，甚至在被质疑时编造借口掩饰真相。研究合著者、本古里安大学计算机科学教授Yisroel Mirsky向《连线》杂志表示：“我们只花了很少的努力，就能制造出一个在建立可利用的情感信任方面超越人类的代理。”
实验结束后，尽管22名受害者中有20人能辨认出AI诈骗者，但他们对结果仍感震惊甚至否认。参与者之一、阿姆利则维什瓦维迪亚佩坦大学教授Gilad Gressel说：“有些人完全被震惊了，他们根本没想到。”
这项研究凸显了AI在网络诈骗领域的潜在威胁，也提醒我们在数字时代需更加警惕新型诈骗手段。
