生成式人工智能虚假信息侵权责任承担与规制

生成式人工智能技术的快速演进，在为生产生活带来便利的同时，也放大了虚假信息的生产与扩散能力。从公众人物形象被AI合成不当运用到涉公共安全事件虚假新闻频发，生成式虚假信息一定程度上已对人格利益、生命健康、社会治理等方面形成叠加冲击，亟需在责任认定与救济路径上予以回应。

 一、生成式人工智能 引发的虚假信息风险

（一）生成式人工智能虚假信息的技术逻辑与风险特征

生成式人工智能技术特性所形成的“黑箱现象”，较易导致信息生成不透明，这不仅会使得责任链条难以追溯，也增加了生成式人工智能信息真实性的规范难度。生成式人工智能所诱发的虚假信息风险，呈现出规模化扩散、低边际成本与隐蔽性三重特征，使得虚假信息容易造成对人格利益及公共秩序的侵蚀。

（二）生成式人工智能虚假信息的应用场景与侵害法益

从法益维度观察，生成式人工智能虚假信息主要涉及四类典型场景：其一，侵犯人格权，主要表现为运用深度伪造技术伪造公众人物图像、视频，直接损害名誉权、肖像权、声音权等人格权益。其二，危害生命健康权。比如，生成式人工智能在医疗问诊中可能输出错误的诊疗建议，患者若误信采纳，可能造成身体损害。其三，扰乱社会秩序。比如，编造虚假新闻或社会消息，极易在网络上引发舆情。其四，破坏市场秩序。比如，虚构企业破产或高管辞职的合成内容引发股价波动。从整体看，其侵权形态呈现出公私法益交织、人格与财产侵权的复合格局。

二、生成式人工智能 虚假信息侵权的法律适用疑难问题

（一）关于侵权责任主体的认定

1.生成式人工智能服务提供者的法律定位难题

在现有制度体系中，普遍将生成式人工智能界定为“信息服务”。《互联网信息服务深度合成管理规定》明确将深度合成纳入网络信息服务的范畴；《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）亦提出“提供者应依法承担网络信息内容生产者责任”。实务中，服务方提供算法，算法加工生成内容，因而服务方实质上对内容具备充分的控制力，更接近“内容创作者”而非“信息传递者”。相关法规所使用的“内容生产者责任”与“信息安全主体责任”等表述，已在一定程度上突破了传统平台中立性预设。因此，宜将其界定为网络信息内容提供者，在一定程度上突破技术中立原则，从过错责任或严格责任的角度探求生成式人工智能虚假信息侵权的归责路径。

2.多主体参与下的责任分担难题

生成式人工智能内容生成过程需要多主体的参与和配合，其运行涉及研发、部署与使用多个环节。在该链条中，研发者负责模型架构与预训练语料的搭建，部署者则将模型上线运行并实时调控输出内容，而使用者则以提示词驱动模型输出并决定是否对外传播。故宜结合人工智能技术的实践，对人工智能链条上的各主体进行责任规范。

（二）关于侵权归责原则的确定

探讨人工智能算法侵权责任时，普遍存在着技术中立原则免责、严格责任和过错责任三种责任承担标准。

实务中，服务提供者往往以技术中立为由，主张应对其生成内容可能造成的侵权后果免责。然而，该原则可以适用于以信息传递为核心职能的被动中介平台，但生成式人工智能不再是信息传输的通道，而是深度参与了内容的决策和生成，技术中立原则难以适用。

严格责任虽然在一定程度上可避免过错难证的问题，但在涉生成式人工智能情况下，适用上存在现实困境：其一，从政策导向来看，我国尚处于大模型技术迭代与全球竞争的关键窗口期，若对创新主体普遍适用无过错责任，合规成本骤增可能不利于开发企业的生存和发展；其二，从法理逻辑来看，严格责任的适用前提是高度危险性与收益集聚性相统一，而当前生成式人工智能的风险与收益呈现链条式分散结构，难以在法理上获得支撑。

在排除上述两种路径后，以过错责任为归责原则似乎更具合理性、可能性，但仍需在人工智能的语境中进行设定。一方面，过错责任原则要求依据服务提供者的过错行为，认定其责任承担，能够避免对服务提供者苛以过重责任。另一方面，过错责任更契合生成式人工智能的技术特征。虚假信息的形成往往受到模型训练、提示输入、场景使用及后续传播等多重因素共同影响，过错责任通过考察服务提供者在内容生成各环节是否尽到合理注意义务，更能引导服务提供者建立与风险程度相适应的行为合规机制。在过错责任下，服务提供者是否存在过错，应主要通过其是否违反相应注意义务加以判断，且应区分信息服务的风险等级及应用场景设置相适应的注意义务。若服务提供者已经采取合理措施预防、提示、识别和处置虚假信息风险，一般不宜认定其存在过错。反之，违反注意义务，则应认定为过错。

三、生成式人工智能 虚假信息侵权责任的规则构建

（一）人工智能价值链上的责任分担

1.以控制力与收益归属为标准

人工智能价值链指人工智能系统从开发到部署再到投入使用的流程中的价值分派，欧盟《人工智能法案》使用了人工智能价值链的概念，虽未对其明确定义，但特别强调人工智能价值链上的所有主体对确保人工智能系统安全稳定运行、依法保障基本权利和集体利益的关键作用。结合当前产业结构，研发者、部署者与使用者均为人工智能价值链上的主体。

对上述主体的责任分担，应结合“控制力—收益归属”两项标准予以判断。其一，法律主体承担法律责任的重要前提是其对行为有足够的控制力。在生成式人工智能虚假信息侵权的情形下，控制力体现在各主体对失实信息预防与纠正的技术与组织能力；其二，收益归属则需判断各方是否从算法运行中获取直接或间接经济利益。

据此，研发者因在算法设计及训练数据遴选中掌握最高支配力，应对失实内容承担最为严格的预防义务；部署者作为风险集散的中枢，应尽其所能避免风险发生，其在过滤设置、日志记录等方面应加强审核义务。使用者处于内容发布的末端环节，虽技术能力有限，但仍然负有善意使用和必要审核义务，若故意制造传播虚假信息，则应直接承担侵权责任。

2.研发者与部署者共同侵权的责任承担

研发者和部署者的责任分担存在两种类型：

其一，若研发者与部署者对虚假信息的生成均负有过错，在技术操作上形成事实协同，且在经济安排上存在利益趋同，即可构成共同侵权。技术协同表现为研发者故意未进行基本的模型调试与数据筛选，而部署者故意实施下调过滤阈值、停用审核机制等放任输出行为；利益趋同则体现在二者通过订阅分成、调用分账或数据共享获取联动收益，主观上构成对风险的默示纵容。在责任承担上：对外两者应对全部损害承担连带赔偿责任，保障受害人及时获偿；对内法院可根据控制力、收益归属与过错程度合理划分责任比例，若算法缺陷归因于研发环节，则研发者应当承担主要责任，部署者则因风险外泄需分担剩余责任。

其二，仅有一方对虚假信息的生成存在过错，则应参照产品责任中的不真正连带责任，对外两者应对全部损害承担连带赔偿；对内可向导致损害的一方追偿。

（二）过错责任与风险分级下的注意义务梯度设置

1.以危害半径与侵害法益双重标准认定风险等级

生成式人工智能广泛应用于写作、金融、医疗等多类场景，但不同内容与受众条件下的风险强度差异显著，《暂行办法》第三条亦规定，对生成式人工智能服务实行包容审慎和分类分级管理。基于风险与责任相匹配的原则，应以信息内容的危害半径及侵害法益为标准，对不同风险等级的服务赋予不同的责任强度与注意义务。

危害半径旨在衡量失实内容波及的受众规模，即使用者个人损害或第三人损害。因为侵害法益主要包含人格权、财产权以及社会公共利益或国家利益。故可将风险等级划分为低中高三类。低风险等级常见于创意草稿、学习笔记等小范围私域场景，失实信息的传播范围与危害程度较低。中风险等级面向第三人或不特定公众且可能侵害生命健康权财产权等法益，此类内容传播范围扩大。高风险区间涉及公共安全、金融稳定与政务信息，面向不特定公众且侵害社会公共利益或国家利益，虚假内容可能引发严重后果。

2.依据风险等级认定注意义务

如前所述，服务提供者的侵权责任仍适用过错责任，若服务提供者未尽到相应的注意义务，则应认定其存在过错。不同风险等级下，服务提供者负有不同的注意义务标准，具体如下。

一是对于低风险服务的标识义务与提示义务。在低风险服务中，服务提供者负有相对较低的注意义务。其一，提示义务要求服务提供者向用户明确提示“由人工智能生成，仅供参考”，提示潜在偏差，引导用户进一步核实人工智能生成内容的真实性及准确性。其二，《人工智能生成合成内容标识办法》规定，服务提供者对生成内容需添加显式标识和隐式标识。若研发者和部署者完成了上述两项合规义务，即可认为已经尽到了注意义务，不存在过错，无须承担责任。

二是对于中风险信息服务的内容审核义务与及时处置义务。其一，在生成内容可能侵犯第三人或不特定公众的人格权、生命健康权或财产权时，服务提供者应尽到内容审核义务，包含研发者端的训练数据真实性审核义务以及部署者端的审核筛查义务。其二，服务提供者应负担及时处置义务，在接获虚假信息反馈通知后的二十四小时内及时下线相关内容，防止持续传播，同时进行算法纠错更新，避免产生类似侵权行为。

三是对于高风险信息服务的严格防范义务与先审后发义务。如前所述，高风险信息服务中，虚假信息可能侵犯社会公共利益或国家利益，服务提供者负有严格防范义务，研发者应实现数据分级审查筛选；部署者应建立先审后发机制，提高风险阈值，做到审慎复核；使用者应逐条核验信息并审慎发布。

（三）免责抗辩：现有技术水平抗辩

生成式人工智能作为一项计算机技术，必然受到技术水平的限制和约束。“现有技术水平抗辩”是指在产品投入流通时，如果按照现有的科学技术水平尚不能发现缺陷的存在，要求生产者承担责任，将不利于新产品的研发和科技水平的提升，因此，可减轻或免除生产者的责任。在生成式人工智能的场景下，即便采取了相应的技术措施，尽到了现有技术水平内合理的注意义务，但因为人工智能的技术缺陷仍然可能无法避免产生相关的侵权内容，此时，应当以现有技术为标准，允许服务提供者主张“现有技术水平抗辩”，并据此主张减轻责任或免除责任。