近日，华尔街著名律师事务所Sullivan & Cromwell因在法庭文件中使用AI生成的虚假引用而遭到公开羞辱。该事务所的重组部门联合负责人Andrew Dietderich在联邦法官Martin Glenn面前为此事正式道歉。
这起事件发生在曼哈顿联邦破产法院，Sullivan & Cromwell提交的一份重要诉讼文件中充斥着AI捏造的错误引用。对方律师事务所Boies Schiller Flexner发现，文件中不仅错误引用了美国破产法典，还错误总结或误认了其他案件判决，甚至有引用的所谓案例根本不存在。
Dietderich在道歉信中表示：“我们对此深感遗憾。”他强调事务所在AI使用方面有严格的培训和规范，但此次文件准备过程中未能遵守相关政策。为此，事务所已采取紧急补救措施，并对AI错误产生的原因展开调查，随后向法院提交了修正后的文件。
虽然具体使用了哪种AI模型未被披露，但据《金融时报》消息，事务所拥有OpenAI ChatGPT的企业授权。
这起失误是律师行业因依赖AI工具而出现的最新典型案例。AI生成的内容可能错误引用法律条文或虚构案例，律师们往往未能及时发现这些严重错误。此前，包括Morgan & Morgan在内的多家大型律所也曾因AI失误而陷入尴尬。
法官们对律师提交含有AI错误引用的文件态度严厉，常常给予警告、处罚，甚至威胁将其移交州律师协会处理。有的法官还会设计特别的惩罚措施，例如当Cozen O’Connor律所两名律师因AI错误材料被抓包时，法官允许他们选择接受处罚或写信向法学院院长说明错误原因。
这起事件再次提醒法律界，尽管AI工具带来便利，但其生成内容的准确性和可靠性必须严格把关，避免在法庭上造成不良影响。
