全球各地的执法机构纷纷将人工智能技术引入调查工作，承诺能够加快逮捕速度并提高案件结案率。然而，因AI面部识别系统导致的错误逮捕案例日益增多，揭示了速度与准确性之间的巨大差异。
更令人担忧的是，除了误认嫌疑人之外，部分执法人员还被曝利用人工智能技术伪造证据。英国德比郡警方近日调查一名涉嫌使用生成式AI“制造多起案件证据材料”的警员。
这名尚未公开姓名的警员目前未被逮捕，但已被停职，调查由德比郡警方和皇家检察署共同进行。德比郡警方发言人向《金融时报》表示：“针对该警员涉嫌利用AI系统篡改司法程序的指控，刑事调查已经启动。”
这是英国首例此类案件，正值国家新成立的PoliceAI中心发布指导，建议警员停止使用生成式AI准备法庭陈述，因该技术容易产生虚假信息。PoliceAI中心负责人亚历克斯·默里在接受采访时表示：“我们已告知部分警队，‘你们不能这么做，因为我们还没有完成所有的审核和监管流程。’我们需要放慢脚步。”
虽然AI产生虚假内容的现象时有发生，比如犹他州警方报告中出现警员“变成青蛙”的荒诞描述，但德比郡的案件调查显示，这次事件的性质更为严重。类似于去年缅因州警方被发现发布明显经过生成式AI篡改的“毒品缉获”照片。
更多关于人工智能的报道：
