近日，密西西比州北区联邦地区法官Sharion Aycock发现，在一起涉及未支付律师费的案件中，双方律师均使用了人工智能工具进行法律研究和文件撰写，且提交的法律文件中包含了虚假的引用案例，这种“AI幻觉”行为激怒了法官，最终她取消了整个审判。
案件中共有四名律师参与，原告律师Tom Withers及其代表律师Kathryn Williams，以及代表密西西比州阿伯丁市的两名律师，其中一位是Kathleen Wilson。法官在1月20日的听证会上指出，Williams承认使用AI工具进行法律研究，而Wilson则承认利用生成式AI起草答辩文件，但两人均未核实AI输出的法律依据。
法官在制裁令中严厉批评了双方律师的行为，称这是“法院再次被迫处理AI幻觉带来的法律文件问题”。她对Wilson辩称不知AI会产生虚假案例的说法表示怀疑，认为其解释“既不足也难以置信”。Williams则试图以其使用的内部AI工具不应产生幻觉为由辩解，但同样未被接受。
最终，Williams和Wilson分别被罚款1000至3500美元，并被禁止在未来两年内在该地区法院出庭。所有四名律师均被取消继续参与此案的资格。此事件凸显了律师在法律实践中频繁依赖AI工具却未能有效核实信息，导致法律程序混乱和信任危机。
根据2025年的一份报告，AI生成的幻觉内容在法律文件中依然普遍存在，这些本可避免的错误正在拖慢司法进程并侵蚀公众对法律体系的信任。
