随着人工智能技术使填写表格和提交投诉变得更加便捷,全球各地的公共服务机构正面临申请和请求数量的激增。
在英国,自ChatGPT推出以来,住房监察专员收到的投诉数量翻了一番多,从2022年的2600件增加到去年的7000多件。美国消费者金融保护局(CFPB)同期投诉数量增长了5倍。巴西司法请愿和德国议会请愿也出现了类似的激增。
研究员Chris Schmitz将这种现象称为“智能代理泛滥”,并正在追踪这一趋势。在即将于下个月举行的人工智能伦理与社会会议上,他将展示一篇论文,分析了11个司法管辖区内84个潜在泛滥案例,广泛证实了人工智能工具正在改变人们与公共服务的互动方式。
更难回答的问题是如何应对这一变化。虽然部分新申请明显带有对抗性质,但也有不少是合法申请者利用人工智能提交的原本可能被放弃的申请。有人可能将这些新申请视为人工智能生成的垃圾信息,但Schmitz认为这是一个难得的机会,可以借此重新设计适应人工智能时代的社会服务体系。
Schmitz研究的服务范围涵盖福利申请到官方司法上诉,这些服务均提供了可被人工智能助手访问的在线渠道。(完整数据集可参考其网站。)出于方法论考虑,Schmitz的论文并未断言人工智能直接导致了申请激增,但大多数案例显示,2022年前申请数量基本持平,随后随着人工智能技术的普及,申请数量迅速增长。更重要的是,这种增长趋势尚未放缓,预计未来几年仍将持续上升。
Schmitz指出,人工智能技能和可用性的提升自然推动了使用量的增加。
“人们发现这是一件可以做的事情,而且变得越来越容易……过去可能需要大量整理背景信息并精确提示ChatGPT 3.5,现在可能只需将信件粘贴或拍照上传到Claude应用,就能一次性获得相当不错的回复。”

申请量的激增类似于去年许多漏洞赏金服务经历的情况,当时公司邮箱被大量由大型语言模型生成的低质量报告淹没。这些报告很少包含重要安全问题,但公司仍需逐一审核,极大消耗了资源。公共服务机构也可能面临类似挑战——在预算不变的情况下,申请人数却增加了5倍。
不过,与漏洞赏金项目中充斥无价值提交不同,Schmitz表示大多数公共服务的新申请来自真正有合理诉求的人。
“我们发现绝大多数案例都是有权利提出申请的人在申请他们应得的权益。”他告诉TechCrunch。
如果这些人之前没有申请福利,可能是因为申请过程过于繁琐——政策领域称之为“行政负担”。如今人工智能能够减轻这一负担,这为以更适合人工智能的方式重塑许多公共服务提供了契机。
这是一项重大任务,目前尚未得到充分应对,但Schmitz对此持乐观态度。
“让人工智能发挥良好作用的关键之一,是明确描绘理想状态的样子。任何用ChatGPT做过报税的人都知道,这里有一个理想版本,就是你得到了帮助。”Schmitz说,“这可能是重新思考整个流程的时刻。”


