美国律所因AI幻觉致法庭文件错误致歉
美国华尔街顶级律所Sullivan & Cromwell因在法院提交的紧急动议文件中出现约40处由AI生成的错误引用及其他失误，向纽约南区破产法院首席法官Martin Glenn致歉。
该律所全球重组团队联席主管Andrew Dietderich于周五在致法官的信中表示：“我们深感遗憾此事发生。”他强调，律所及本人深知依据《本地破产规则9011-1(d)》确保所有提交材料准确性的责任，并对此次失误承担直接责任。
Dietderich指出，尽管律所已制定AI使用政策，包括对引用文献进行人工审查，但此次未执行该流程。“遗憾的是，该审查流程未能识别出AI生成的不准确引用，也未能发现其他部分由人工错误导致的问题。”
此次事件凸显了AI工具在高风险专业环境中缺乏监督的风险。法律技术专家Damien Charlotin管理的数据库记录显示，全球已发生1,334起AI幻觉导致的法庭文件错误，其中美国超900起。大部分错误涉及虚构的法律引用，偶尔也出现AI生成的法律论点。
Sullivan & Cromwell是美国收入最高的律所之一，在AmLaw Global 200中排名第30位，曾代表加密货币交易所FTX处理其破产案。目前，该律所已启动内部调查，并采取立即补救措施，包括全面审查导致错误的流程，同时评估是否需加强内部培训与审查机制。
Dietderich还表示，错误由对手律所Boies Schiller Flexner LLP发现。“我于周五致电Boies Schiller Flexner LLP，感谢他们指出此事，并向他们直接道歉。”
该事件引发对AI在法律行业中应用规范的广泛讨论，特别是在高风险司法程序中的可靠性与责任归属问题。
编辑点评
此次Sullivan & Cromwell因AI幻觉导致法庭文件错误事件，凸显了AI技术在专业服务领域应用的双重性：一方面提升效率，另一方面在缺乏严谨审查机制时可能引发严重后果。该事件不仅是法律行业的警示，更是全球监管机构需关注的系统性风险。AI生成内容的‘幻觉’——即虚构事实或引用——在司法、金融、医疗等高敏感领域可能造成不可逆的法律和经济影响。目前全球已记录超1300起类似事件，表明该问题并非个案，而是规模化趋势。未来，各国可能加速制定AI在专业服务中的使用标准，包括强制人工审核、责任追溯机制及技术审计要求。此次事件也表明，企业内部的AI治理框架必须同步进化，否则将面临声誉损失、法律追责及客户信任危机。从长远看，这或将推动AI技术本身向更透明、可解释的架构演进。