魁北克法院4月22日撤销了一项仲裁裁决,原因是仲裁员撰写裁决理由时不当使用了生成式人工智能,导致仲裁裁决引用了大量不存在的或由AI虚构的法律依据。
魁北克法院4月22日撤销了一项仲裁裁决,原因是仲裁员撰写裁决理由时不当使用了生成式人工智能,导致仲裁裁决引用了大量不存在的或由AI虚构的法律依据。在编号为2026 QCCS 1360 (CanLII)一案的判决中,法院指出,当当事人选择仲裁员审理争议时,他们有权期待由仲裁员本人作出裁决。这源于"裁决者必须亲听"(he who decides must hear)这一原则,该原则是"听取双方陈词"(audi alteram partem)规则的必然结果,因为只有当听取当事人陈述的人就是将要对其案件作出裁决的人时,该当事人才算真正被‘听取’。" 然而,根据魁北克法院的观点,当大型语言模型(LLMs)不仅仅被用作工具,而是被用来实质上决定案件并撰写理由时,就违反了这一原则。
案涉纠纷发生在奥斯曼医疗中心与南中心岛蒙特利尔大学综合健康与社会服务中心之间,争议焦点是奥斯曼医疗中心声称对方拖欠其120万加元款项。魁北克卫生局拒绝支付该账单,并在代表奥斯曼医疗中心的协会提出争议时辩称,诊所已超过就未支付款项提出异议的截止日期。魁北克卫生局认为诊所须遵守90天的争议提交期限,而诊所则认为省级法规优先于该期限,允许有三年的追诉期。仲裁员支持了魁北克卫生局的立场,并援引了据称支持较短期限的法院判例,但这些判例实际上并不存在。
裁决书中援引的学者弗雷德里克·巴尚的观点:“法院必须注意不要混淆诉讼时效和权利失效。前者关乎公共政策,后者则基于契约自由"所依据的文章(Frédéric Bachand,"Prescription and forfeiture: shifting boundaries and practical issues", Recent Developments in Contract Law, Barreau du Québec, 2016)无法找到。仲裁员所援引的若干法院判例和仲裁裁决不存在,且有几个援引的判例的索引号指向其它裁决,明显引用错误。而这些引用是仲裁员推理的核心,它们构成了裁决中用作法律支持的全部权威学说或判例引用。法院因此得出结论:仲裁员的权力被委托给了人工智能,且他放弃了审查输出结果的义务。在本案中,人工智能的错误使用影响是重大的,它可能影响当事人对结果乃至整个仲裁制度的信心,法院必须撤销此仲裁裁决。
法院肯定了技术进步对于法律行业的积极意义,称越来越多的法律专业人士正在使用大型语言模型(LLMs)来帮助他们总结文件、从海量数据中识别相关文件、识别趋势、转录音频文件、更正或润色现有文本的草稿、交叉核对判例或进行法律研究。"任何能够促进公民诉诸司法的技术措施都应受到欢迎和规范,而不是被禁止和污名化。" 但也指出了法律行业中使用人工智能涉及的挑战和风险:
第一,人工智能制造虚假引用或产生幻觉,这些幻觉可能极具欺骗性且难以察觉,因为它们通常表现出真实引用的所有特征,只有在仔细检查后才能被识别为虚假。这种类型的幻觉迫使其他当事人和法院投入宝贵时间,不仅试图寻找不存在的东西,还要审查依赖这些不存在来源的论点。
第二,人工智能缺乏自由裁量权和人类价值观,司法系统作出的某些决定涉及一定程度的自由裁量权。计算机程序按照预设逻辑运行以达到预定结果。这种僵化性与自由裁量的决策不相容。司法裁决有时必须考虑社区价值观、当事人的主观特征以及其他可能相关的背景情况。人工智能算法通常无法考虑人类价值观,而这些价值观的应用可能因情况而异。人类价值观的不断变化以及可能出现的前所未有的情况,使得难以确定这些价值观应在何时以及如何被整合。
第三,人工智能可能引入偏见:人工智能基于统计学原理运行。它吸收文本、图像和对话,并根据上下文元素重现最可能出现的内容。因此,人工智能系统可能会无意中被编程而表现出偏见(由于程序员的偏见),或者根据其训练的数据学习到偏见。这些风险因创造算法的公司持有相关的商业秘密且不愿披露源代码甚至讨论算法工作原理而加剧(这种不透明性有时被称为"黑箱"现象)。
第四,缺乏保密性:传输给人工智能工具的信息会被整合到系统的数据库中,并可能在系统响应其他用户的请求时被披露。因此,将敏感的机密信息输入人工智能工具违反了律师对其客户信息的保密义务。若由决策者启动此过程,则可能违反审议保密义务。
第五,动摇公众对司法系统的信任:司法系统只有在人们信任它时才能运作。在可能随后用于判决的程序中使用人工智能,可能导致对法律职业和司法系统的讥讽。正义要求裁决被认为是公正、人道且经过推理的。 如果公众认为是无实体或不可捉摸的机器而非人类作出了决定,对司法系统的信任可能会动摇。
法院的判词指出,由于上述风险,法院毫不犹豫地对当事人或其律师使用人工智能起草法律程序文件或案情摘要和依据的行为进行制裁,并将这种做法认定为严重违反规定,损害了司法程序的完整性。歪曲法律、提交虚假判例、或完全曲解所引判例要旨的律师,违反了其对法庭的义务;而基于虚假法律作出的法院判决,对当事人将是骇人听闻的司法不公,并对法院和民事司法系统造成极其恶劣的影响。
法院同时敦促诉讼人和当事人保持最大程度的谨慎,警惕不当使用人工智能的风险:对于向法院提交的陈述中引用的任何判例、立法或评论,当事人必须完全依赖法院网站、常用商业出版商或成熟的公共服务的来源。为确保最高标准的准确性和真实性,由人工智能生成的法律意见必须经过严格的人工审查,这种核查可以通过与可靠的法律数据库进行交叉比对方以实现,以确认引用及其内容经得起仔细推敲。
虽然使用可靠的人工智能工具本身并无不当,但现行规则对律师和当事人施加了监督义务,以确保其法律程序的准确性。未能进行这些核查的律师是在逃避其责任。
而对于裁决者来说,不当使用人工智能的风险甚至更大,司法意见通常被认为传递了完全的权威或合法性,仅因为(或如果)其作者提供了充分的论证。同样,撰写司法意见的法官通常被认为履行了其职责——体现了其职业特质——仅当他们提出了充分的论证。加拿大司法委员会明确禁止将司法裁决权委托给人工智能:法官对其作出的司法裁决全权负责。必须明确理解,任何法官都无权将其裁决权委托给他人,无论是委托给司法助理、行政助理还是计算机程序,无论它们的能力如何。
法院判决还强调,这并不意味着每一份引用错误依据或使用人工智能作为起草工具的判决都应遭受同样后果。在人工智能使用极少或涉及次要问题时,法院需权衡违规行为性质与已启动的仲裁程序、确定对程序完整性的损害程度,以及评估违规行为对裁决的具体影响。
来源:中国仲裁(CNARB)、一裁律师事务所(YP)
作者:一裁
编辑:一裁