法律团队越来越多地依赖人工智能工具来协助完成部分法律工作，但这种做法存在风险。在密西西比州联邦法院最近的一起案件中，双方律师因使用AI软件生成的法律文件中出现虚构案例或引用不属于州法律的案例而受到纪律处分。

该案件名为Withers诉阿伯丁市，涉及律师Tom Withers III与密西西比州阿伯丁市之间关于太阳能项目费用的争议。虽然Withers本人未被处罚，但他的法律团队以及代表该市的律师均被处罚。法官认定双方各有两名律师在提交的文件中使用了未经人工核实的AI生成内容。

此事引起了《纽约时报》等媒体的关注，也成为法律界的警示案例。最早由市场与商业律师Rob Freund在社交平台X上发现并发布，称其为“AI错误的闹剧”。

AI错误的闹剧：案件双方律师误用AI，引用了虚构的案例。

在听证会上，“每位律师都表示尴尬并向法庭道歉。”

“他们在提交文件前均未核实AI生成的法律依据。”

404 Media网站报道了Freund的帖子，进一步引发全国关注。

美国地区法官Sharion Aycock对四名律师处以罚款，并因AI错误取消了该案的审理，同时实施了其他法律制裁。

“法庭发现，根据他们自己的承认，四名律师均未核实各自提交文件中引用的法律依据，违反了联邦民事诉讼规则第11条。”法官表示。

联邦民事诉讼规则第11条规定，律师必须签署提交的法律文件，向法官保证所提交内容的真实性。

“Aycock法官写道：‘所有律师均持有执照，且应具备良好的法律培训。他们盲目依赖技术，导致提交文件中出现了虚假的引用。’”

AI“幻觉”指的是大型语言模型在生成内容时，可能会产生错误或虚假的信息，尽管表述听起来合理。

AI在法律领域的风险

密西西比州的案件并非律师因AI失误而陷入困境的唯一例子。近期的法律问题促使纽约州出台了关于生成式AI的新规——例如，自6月1日起，使用ChatGPT等工具生成的结果不受律师-客户保密特权保护。

美国最大的律师协会——美国律师协会（ABA）在接受CNET采访时表示，律师在使用AI时面临新的复杂挑战。

ABA主席Michelle A Behnke表示：“律师们明白生成式AI的输出需要严格审查和监督。ABA将支持会员应对新法律、新技术和新实践工具的挑战。”

该协会设立了AI工作组，并于去年12月发布了一份涵盖律师AI应用、最佳实践及政策的报告，还发布了针对律师使用AI的伦理指导。

其中建议律师应了解所用技术的“利弊和风险”，以更好地为客户提供法律服务。