司法应用中人工智能的“幻觉”现象及治理路径

司法实践中，人工智能“幻觉”现象正迫使技术治理的加速，其引发的纠纷争议也日益增多。例如，人工智能生成起诉状时错误归纳诉讼请求，基于片面事实或主观假设进行论证进而导致文书失实，加剧当事人对错误结果的“算法迷信”和对司法机关的不信任感。2025年4月，厦门海事法院在某确认仲裁协议效力案件中，裁定要求代理人全程披露人工智能使用情况，系人工智能技术披露原则首次进入我国司法领域。杭州互联网法院审结全国首例因人工智能幻觉引发的侵权纠纷案，直面幻觉生成内容的性质、服务提供者的责任等前沿问题。当前，针对司法领域人工智能幻觉的理论研究尚不充分，法答网虽已出现相关实务问题，但尚未形成系统化的裁判共识。因此，如何有效治理幻觉风险已然成为数字法院建设中的重要命题。

一、司法应用中人工智能“幻觉”的表现形式

1.虚构法律渊源。未经法律领域预训练的人工智能可能生成虚假的规范性文件并提供格式文号、发布单位等配套信息，进而强化算法信任并抬高辨识门槛。例如，在检索刑民交叉案件责任划分和处理规则时，人工智能可能虚构名为“最高人民法院关于审理经济合同纠纷案件中涉及经济犯罪嫌疑若干问题的规定”的司法解释及错误文号，并归纳不匹配的法律观点。当法律数据库更新滞后或覆盖不全时，人工智能可能通过文本拼接、删减和概括等手段生成看似合理实则失实的“高仿”条文，或者错位解读以及引用“过期”条文以增加错误内容的可信度。

2.伪造司法案例。案例检索层面，通用大语言模型以网络公开信息为训练基础，当缺少专业法律数据库时其处理复杂指令及混杂信息的能力有限，易因用户模糊指令而生成形式规范但完全虚构的案号与案例。法律垂直领域大模型则受司法文书格式化特征影响，不仅会虚构案号等基础信息，还易错误生成裁判原文细节，以形式真实掩盖内容失真。

3.生成错误文书。通用大语言模型由于未经司法文书专项训练，在“事实与理由”部分可能不当采用条目式表述并片面界定争议焦点，从认知层面干扰法官的判断。其基于概率生成的演算机制难以应对法律语言的逻辑性与复杂性，导致无法准确理解但书、例外等专业表述，进而错误替换或调整法律术语，形成概率性语言幻觉。

二、司法应用中人工智能“幻觉”的治理困境

第一，算法迷信对司法权威的消解。人工智能的算法认知本身即存在固有偏见与刻板印象，而算法迷信会放大并异化上述风险。随着人工智能在司法领域的应用，一些人对其认知能力与客观性的高估更是使得算法信任被显著强化。相较于明确标注为人工分析预测的内容，有些人更倾向于将人工智能生成的信息误认为具有更高可靠性的准事实或准法律意见。特别是在司法场景下，有些人基于对算法的信任而倾向于采信其输出的所有信息，结果则是稀释传统法律知识和司法裁判说理的专业性、稳定性和权威性。

第二，幻觉多样与规则统一的冲突。人工智能预训练语料多通过自动化方式从开放网络获取，其中混杂着大量非权威、虚构、过时或带有偏见的法律信息，进而导致幻觉形式的多样化。对此，部分法院通过裁定的方式要求当事人披露人工智能使用情况，并提交验证生成内容准确性的证明，但零散化、碎片化的应对措施正逐步影响司法程序的统一性和可预期性。目前，实践中亦有使用生成式人工智能大模型和自主翻译、图文识别等类人工智能技术的情况，但前述裁定并未明确应披露的人工智能技术范围，导致当事人对诉讼程序的稳定性和自身的披露义务缺乏预期。

第三，幻觉隐蔽与司法责任的平衡。在司法责任制的运行背景下，幻觉隐蔽性不仅会加剧各个责任认定环节的识别困境，也会影响“让审理者裁判、由裁判者负责”的司法责任制原则。例如，在因果关系证明上，幻觉的隐蔽性会导致归因偏差，即有些人倾向于将不利诉讼结果归因于法官个人因素，而非诉讼风险、证据灭失、代理水平或法律条文局限等复杂因素。此外，还存在结果锚定风险，当预见幻觉可能引发追责风险后，法官易采取相对保守策略，若因过度论证反而为公众质疑提供材料，其会形成回避价值判断、偏好调解的倾向，最终损害司法说理的功能价值。

第四，幻觉规制与司法成本的矛盾。通过个案裁定来应对幻觉的方式虽体现了司法系统对技术风险的预防，却因其碎片化、分散化、非协同性特质而难以有效应对不同场景的所有幻觉风险。实践中，法官发布司法裁定的速度和自主性远超系统性协调的步伐，导致各地法院的裁定在披露范围、证明标准、惩戒措施等具体要求上存在差异，当事人和不同地区的法官被迫耗费额外成本去了解并适应不断更新且可能相互冲突的裁定，反而会制造新的不确定性和额外的司法负担。

三、司法应用中人工智能“幻觉”的治理路径

一是建立人工智能司法应用披露机制。首先，统一人工智能司法披露规则。对于人工智能应用频繁、风险突出的领域，可制定普遍适用的披露规则，明确生成式人工智能的适用边界与程序要求，回应定义模糊与范围争议等问题。其次，强化个案中人工智能使用责任的风险提示。在统一的人工智能司法应用披露框架下，在可能存在风险的个案中针对人工智能的使用情况要求当事人及诉讼代理人履行说明义务，并告知其可能存在的虚假陈述风险及其法律后果。此外，关注对诉讼当事人和代理人的规范引导。可通过官方网站、诉讼指引手册等渠道进行普法宣传，重点阐明当事人和代理人在提交司法文书时应披露的工具类型、内容范围等信息，并提醒其履行对事实陈述、法律主张及引证内容准确性的核实义务。

二是明晰全主体共担的幻觉责任链条。将人工智能的技术提供方、模型设计方及技术使用方等共同纳入责任体系，构建涵盖全主体的责任框架，以此突破传统司法问责单一性的局限。首先，上述框架并非强加技术公司于司法问责的“结果责任”地位，而是强化其算法责任、技术伦理、幻觉抑制等维度的义务，将其协同纳入司法责任规制的整体架构之中。其次，应依据幻觉产生情形厘清法官的责任边界，在婚姻家庭、劳动争议等价值复杂案件中，法官应履行审查说明义务，在审理报告或内部文件中对采纳、修正或拒绝人工智能建议的理由予以阐释，防止幻觉渗透裁判说理。同时，法官在审查过程中如发现人工智能存在知识缺陷或技术问题，负有向设计方、维护者反馈的义务，以促进系统优化与风险防控。此外，诉讼当事人负有如实陈述与确保举证真实性的法定责任，代理律师应履行专业审查义务，确保人工智能辅助下提交材料的准确性，若其存在故意诱导或隐瞒人工智能错误信息的情况，则需要承担民事诉讼法框架下有关虚假诉讼、扰乱法庭秩序以及诉讼代理人职业伦理惩戒等责任。

三是构建多样化的幻觉识别方案。司法领域的幻觉现象集中在大模型缺乏相关法律知识、记忆错误司法信息、无法准确估计自身知识边界等应用场景，具备相应的知识素养是识别并避免幻觉的关键。首先，建构幻觉知识体系，法院系统应梳理司法实践中高频、高危的幻觉类型及其表现形态与诱发场景，并建立经典偏差案例库，通过真实或模拟案例展示幻觉如何导致裁判偏离或论证错误。其次，在“一张网”平台中添加人工智能生成信息的校验工具，明确对事实认定、证据评价、法律适用等不同诉讼环节的“幻觉清单”进行强制关键节点自检，在文书生成和校对阶段自动推送高度相似但结果差异明显的类案，强化内容真实性检验。此外，可制定人工智能司法应用指南，明确司法场景中人工智能的应用范围、责任主体、法律后果等内容，提升司法工作人员的技术素养，强化应用能力和风险意识。

综上，在数字技术赋能审判工作现代化的今天，对幻觉现象的治理已超越了单纯的技术性考量，更关系到数字社会中司法效率、司法信任乃至司法权威的维护。司法应用中，对人工智能幻觉的识别、矫正乃至共存必将是动态、交互式的“螺旋上升”，这也将推进法律科技与司法应用的深度融合，助力中国式人工智能司法审判体系的构建与完善。