西班牙律师被指用AI编造24条虚假判例，高等法院启动调查

华新报-欧浪新闻6月5日讯 西班牙加利西亚高等法院近日决定对一名加利西亚律师启动单独调查程序，原因是其提交的一份上诉文件中出现多达24条疑似由人工智能（AI）生成的虚假司法判例。法院认为，该行为可能构成“程序恶意”（mala fe procesal），并将进一步追究相关责任。


根据法院5月26日作出的判决书，这起事件发生在一起劳动争议案件中。一名工人试图通过司法途径将其肺癌认定为职业病，但加利西亚高等法院最终驳回了其上诉请求。

在审查上诉材料时，法官发现律师提交的法律论证存在大量异常内容。其中包括根本不存在的司法判例、与案件毫无关联的裁决，以及明显凭空编造的法律引用。

法院在判决书中指出，该份上诉文件的写作结构和表达方式具有明显特征，极有可能是借助生成式人工智能工具完成，并且使用者未对生成内容进行必要核实。

法官特别提到，文件中出现的大量错误与当前免费生成式人工智能常见的“幻觉现象”（Hallucination）高度吻合，即AI会编造看似真实但实际不存在的信息。

法院认为，作为专业法律人士，律师在提交法律文件前有义务核实引用内容的真实性，而本案中出现的错误数量和严重程度已超出一般疏忽范围。

判决指出，如果不认定是AI生成并未经核实，那么唯一的解释就是律师本人故意编造所有虚假判例并试图误导法院。但法庭表示，目前不愿轻易作出如此严重的推断。

因此，法院认为这些问题绝非“单纯失误”或“轻微错误”，决定另行启动专门程序，以调查律师是否存在违反职业规范或滥用诉讼程序的行为。

事实上，这已不是西班牙司法系统首次因人工智能生成错误信息而引发争议。

几个月前，一名律师曾向西班牙司法总委员会（CGPJ）投诉Ceuta一名法官，指其在司法裁决中引用了由人工智能生成、实际上并不存在的司法判例。

最终，司法总委员会纪律委员会认定该法官存在失职行为，对其启动纪律处分程序，并处以1000欧元罚款。

随着人工智能工具越来越广泛地应用于法律行业，本案再次引发西班牙司法界对于AI辅助法律工作的讨论。法律专家指出，人工智能虽然能够提高文件处理效率，但所有法律引用和事实依据仍必须经过专业人士严格核实，否则可能对司法公正造成严重影响。（世界报）