独立边境与移民监察官(ICIBI)负责监督内政部对边境、移民和海关的管理。该机构已请求数字权利非营利组织开放权利集团(ORG)提供更多关于内政部所使用AI工具的信息,以便制定明年的检查计划。ORG经过六个月的调查,向内政部提出了11个议会质询、两封部长信函和10份公开记录请求,但内政部对这些工具的细节一直保持保密。
ICIBI向WIRED表示,尚不能确认具体的检查主题,但已注意到公众对AI工具使用的担忧。去年调查发现,这些工具的“有效性和可靠性存在差异”。
内政部发言人通过电子邮件向WIRED说明:“庇护决定由受过培训的工作人员作出,AI工具仅用于辅助浏览面试记录和政策信息,不能单独使用,也不做出最终决定。我们定期监控这些工具的表现,并已承诺发布其推广的最新评估报告。”
根据ORG获得的文件,内政部使用基于OpenAI 2023年GPT-4大型语言模型和微软Foundry构建的庇护案件摘要(ACS)和庇护政策搜索(APS)工具,来总结庇护申请者面试记录及其原籍国信息。该部门于2024年底开始试点这些工具,旨在解决约10万个积压庇护案件,同时应对每年数万份新申请。尽管内政部在减少等待初审人数方面取得显著进展,数量减半,但对决定的上诉数量却大幅增加。
研究人员对AI工具的准确性表示担忧,尤其是在决定是否遣返可能面临迫害的申请者时。ORG发现,ACS生成的摘要中不适用的比例远高于试点评估中公布的9%错误率,主要因包含事实错误或误导性陈述。APS生成的摘要则缺乏质量控制。
庇护决策者使用这些工具节省审查时间。政府估计,结合使用这两款工具每个案件可节省约一小时。工作人员利用ACS加快审查申请者讲述迫害经历的面试记录,使用APS搜索并总结国家政策信息,以判断申请者是否面临真实风险。7月,一名英国法官指责内政部引用“AI幻觉”文件拒绝一名摩洛哥妇女及其子女的庇护申请,理由是其原籍国对她安全。
工党后座议员贝尔·里贝罗-阿迪对WIRED表示:“我们处理的是人的生命,面对的是极端困境的人,我们应基于事实和对伤害的理解作出决定,我认为让机器来做决定是不合适的。”

内政部发言人回应称:“人工智能只是我们保护边境的众多工具之一,不能替代或自动化人类决策者的角色。”
里贝罗-阿迪、阿尔谢里夫及公共法律项目(Public Law Project)担心,GPT模型中已知的“文化偏见”可能导致语言障碍和文化细节丢失,进而引发歧视性决策。OpenAI发言人向WIRED强调公司持续改进模型准确性的工作,并指出GPT-4将于明年1月退役。
在缺乏监管的情况下,英国的“AI操作手册”要求政府部门必须公开其在决策中使用的算法工具,并将其列入公共仓库。然而,内政部的案件摘要和政策搜索工具并未列入该名单。
庇护申请者也未被告知其案件中使用了AI工具。ORG移民数字正义项目负责人阿尔谢里夫表示:“移民组织和法律从业者对这些工具的实际使用知之甚少,我们需要让他们了解工具的工作原理,以便提出质疑。”英国律师事务所Cloisters在ORG委托的独立法律意见中指出,无法对错误的AI摘要进行申诉可能违反英国数据权利法。内政部隐私声明中承认部分决策过程可能涉及自动化。
两家机构已将调查结果提交给英国信息专员办公室(ICO),该机构正在调查内政部拒绝透露员工如何使用及接受培训使用这两款AI工具的情况。
公共法律项目高级研究员卡罗琳·塞尔曼指出,ACS和APS只是政府内部发现的11款高风险AI系统中的两款,且均未列入公共仓库。她担心政府可能部署了更多此类工具,甚至研究人员和受影响者都不知情。
塞尔曼表示:“还有其他工具在使用,但完全没有公开,如果不知道它们的存在,就无法提出任何质疑。”


