论生成式人工智能侵害名誉权的侵权责任

01 问题的提出

生成式人工智能是一类能够根据输入数据自动生成新内容的人工智能系统，核心功能在于创作与生成。因此，在其输出的文本、视频或图像等内容存在虚假错误时，可能产生侵害名誉权（及其他人格权）侵权责任。具体而言，可以分为两类情形：一是，生成式人工智能输出的内容是虚假错误的而直接侵害他人的名誉权，由此产生人工智能公司承担侵权责任的问题；二是，用户利用人工智能生成具有诽谤性或侮辱性的内容而侵害他人名誉权，此时，涉及用户与人工智能公司应否及如何承担侵权责任的问题。

目前，理论界对生成式人工智能侵权责任的归责原则、损害、过错、因果关系等问题已展开了一定的研究，但尚未见到对生成式人工智能侵害名誉权的专门讨论。有鉴于此，本文拟对生成式人工智能侵害名誉权的侵权责任加以分析研究，主要研究以下问题：首先，生成式人工智能的内容输出能否被认定为生成式人工智能服务提供者的行为，抑或提供者作为网络技术服务提供者而只是单纯的传输他人生产或形成的内容或信息；其次，在确认生成式人工智能的内容输出是提供者的行为之后，进一步分析如何认定输出的内容构成侵害名誉权的加害行为与产生了名誉权被侵害的后果；最后，分析在生成式人工智能侵害名誉权的案件中怎样判断提供者有无过错的问题。

02 内容输出是否是生成式人工智能服务提供者的行为

生成式人工智能的内容输出是否属于提供者实施的行为这一问题，可以细分为两个层次的小问题：首先，该内容之输出究竟是归属于生成式人工智能系统本身还是提供者；其次，如果归属于提供者，该内容的输出只是单纯的传输这一技术服务行为，还是应当被认定为提供者自身的言论发布行为。前一问题涉及行为主体的确定，后一问题则是对行为性质的认定。

理论界曾有将人工智能本身作为一个法律主体看待并赋予法律人格的观点。然而，无论是赋予人工智能以伦理性人格还是技术性人格，目前都是不可行的。一方面，如果将自我意识作为“自主性”不可或缺的要素，则目前的通用型人工智能虽然具有相当的自主性，但距离自然人那样的可以广泛地理解、学习和执行各种任务的认识思维能力水平还有很远的距离，遑论具有人类心灵的能力。另一方面，人工智能没有自己独立的财产，无法承担法律责任，更没有自然人那样的意思表示机制，因此，法律上无法赋予人工智能以法人那样的拟制人格（即技术人格），最终还是需要明确究竟谁是行为人与责任人。总之，只要人工智能不具有完全的自主性，仍是由人类来创建人工智能或至少是决定使用人工智能，只要人工智能自身还不拥有独立的财产，无法独立承担责任，则行为与责任总是要归属于现行法律所承认的自然人、法人或非法人组织等民事主体。生成式人工智能也不例外。因此，对于上述第一个问题的回答是：生成式人工智能输出内容应当归属于提供者，是提供者的行为。

上述第二个问题，即输出内容的行为究竟是单纯的传输这一技术性服务还是提供者自身发表言论的行为，对于提供者如何承担侵害名誉权的侵权责任至关重要。如果输出的内容就是提供者发表的言论，则其应当按照过错责任承担侵权责任。倘若只是单纯的传输行为，那么，提供者可以援引网络侵权责任中的通知规则与知道规则而免责，只在未及时采取必要措施的情况下才需要承担责任。对于该问题，目前国内外法学界存在很大的争议。下面先介绍比较法和我国法上的争论，然后阐述本文的观点。

（一）比较法上的争议

1996年的美国《通信规范法》第230条（c）款为“交互式计算机服务的提供者或使用者”提供了豁免权。司法实践中，美国法院逐渐明确了《通信规范法》第230条的适用须满足以下三个条件：第一，被告必须是交互式计算机服务的提供者或使用者；第二，索赔必须基于另一信息内容提供者提供的信息；第三，索赔必须将被告视为发布者。基于对这三个限制条件的理解，美国法学界就生成式人工智能服务的提供者（也称运营者）能否适用《通信规范法》第230条的问题存在肯定说、否定说与区分适用说等三种不同观点。

2000年欧盟颁布的《电子商务指令》（Directive 2000/31/EC）的第四节对“中间服务提供者的责任”作出了规定。2022年欧盟又颁布了《数字服务法》（Digital Services Act，DSA）。该法继续保留了2000年《电子商务指令》有关中间服务提供者责任有条件豁免的法律框架，并进一步丰富完善了相关规则以适应数字经济的发展。与美国一样，欧盟学者对于生成式人工智能服务提供者能否适用《数字服务法》关于中间服务提供者责任豁免的规定也存在争议，有肯定说、部分肯定说与否定说等不同观点。

（二）我国学界的不同观点

在生成式人工智能侵害名誉权的侵权纠纷中，生成式人工智能服务的提供者属于网络服务提供者。问题是，其究竟是网络技术服务提供者（内容的输出不能被看作是提供者的行为），还是网络内容服务提供者（该内容就是提供者的行为）。对此，我国学界存在不同的观点。

有的学者认为，生成式人工智能的提供者固然存在不同于传统的网络内容提供者之处，但是，就ChatGPT等大语言模型的提供者而言，大语言模型自动生成的信息内容并非是其用户创作或发布的信息，而应当看作是人工智能系统提供者本身创作、发布的信息。有的学者认为，因为生成式人工智能服务提供者对输出内容的控制力弱于网络内容服务的提供者，并且，在我国立法中鲜有关于网络内容服务提供者侵权责任的规则，所以，在实质意义上不宜将生成式人工智能服务提供者认定为网络内容服务的提供者，否则将对现有法律体系带来不必要的冲击。还有的学者在分析生成式人工智能搜索服务提供者能否认定为网络技术服务提供者而适用避风港规则予以免责时指出，生成式人工智能搜索与传统搜索的最大区别在于其直接向用户提供搜索的回答，该回答中源自来源网站的部分也是经由人工智能模型生成的，即其对内容进行了编辑加工，而非单纯的提供网页链接。故此，不能将此种人工智能服务提供者认定为网络技术服务提供者。

（三）内容输出是生成式人工智能服务提供者所实施的行为

虽然生成式人工智能需要依据用户的指令而输出内容，但其本身也是基于数据、算法和模型等复杂的技术而生成文本、图片、音频、视频、代码等新的信息或内容。在这个过程中，生成式人工智能服务提供者并非处于纯粹消极的、中立的第三方地位，而是实质地参与了内容或信息的生成，由此在法律上负有相应的义务以避免产生侵害他人合法权益的内容以及违法、有害内容。因此，本文认为，生成式人工智能服务的内容输出是提供者实施的行为，理由阐述如下：

1、生成式人工智能服务提供者对于输出内容的真实性、准确性与合法性具有实质上的控制力。一方面，生成式人工智能离不开海量的数据，数据决定了它能够生成何种内容（文本、图片、视频、代码等），也决定了生成内容的上限。从数据标注的环节，人工智能开发者或提供者实际上就已经在实质性地影响输出的内容。

另一方面，在生成式人工智能中,算法和模型本身就直接参与了内容的创造。输出内容本质上是开发者通过算法预设的“世界观”与用户即时提示共同作用的结果，其贡献是深嵌于模型本质之中的。因此，生成式人工智能的研发者需要通过设计和选择不同的算法架构与训练目标，约束模型参数的学习方向，以确保输出内容的真实性、准确性与安全性。

2、正是因为生成式人工智能是研发者所创造的，研发者从数据、算法和模型三个维度上对输出内容都具有实质性的、技术上的控制力，所以，法律上才从人工智能的研发、部署、运营、管理等各个环节给研发者施加了相应的义务，要求其通过技术手段实现生成式人工智能的安全、可靠与可控，防止输出诽谤性、歧视性以及其他违法有害内容。

综上所述，生成式人工智能服务提供者对于输出的内容具有实质上的技术控制力，并且在法律上也负有防止输出虚假、有害内容的义务。这些都意味着在法律上应当将内容的输出作为生成式人工智能服务提供者自身实施的行为，其并非单纯地转载或传输第三人的信息或内容的网络技术服务提供者。当然，将输出内容作为提供者的行为并不意味着提供者就要对由此产生的侵权后果全部的、单独的负责，毕竟用户的行为、第三人的行为、现有技术水平的欠缺等因素也会对侵权后果的发生具有原因力与过错，这些问题需要交由过错的认定、多数人侵权、免责事由等加以解决。

在认定人工智能的输出内容是否构成侵害名誉权的行为时，需要依次研究以下两个问题：一是，生成式人工智能的内容输出是否构成公布行为；二是，怎样认定输出的内容导致了名誉权被侵害的后果。

（一）生成式人工智能的内容输出是否构成公布行为

生成式人工智能输出内容为人所知的情形分为两种：一是，用户使用生成式人工智能查询有关其他人的内容，该输出的涉及他人的内容存在虚假错误。二是，用户使用生成式人工智能而该智能系统所输出的错误虚假的内容就是涉及该用户的内容。在前一种情形中，生成式人工智能输出的虚假内容已为第三人所知悉，该行为当然构成公布。后一种情形下，生成式人工智能只是一对一地向被涉及的用户输出了不实的内容，未被第三人所知悉，此时是否也构成公布行为呢？笔者认为，生成式人工智能针对用户输出内容的行为原则上不应被看作是公布行为。除非有证据表明，该虚假内容已经为他人所知悉或者具有相当的可能性为他人所获得，如原告是备受关注的公众人物等。至于原告自行将生成式人工智能输出的虚假错误内容传播给他人，则属于受害人对于损害的发生具有故意，生成式人工智能服务提供者无须承担侵害名誉权的侵权责任。

（二）如何认定输出的内容构成诽谤性或侮辱性言论

生成式人工智能无论生成的是文本，还是视频或音频，只有造成他人名誉贬损才是侵害名誉权加害行为。作为社会性评价的名誉贬损，除了要求输出内容的行为构成发布行为之外，还要求该内容必须是虚假错误的，会贬损他人的名誉。生成式人工智能根据用户输入指令生成相关的文本、图片、视频等内容，用户可能询问相关事实的问题，也可能询问对某些事件或人物的评价的问题。因此，输出的内容既包括事实陈述，也包括意见表达，还可能是兼具二者。

在生成式人工智能输出的内容属于事实陈述时，如果基本内容失实（如捏造或虚构根本不存在的事实），则该事实陈述就是虚假或错误的。然而，在侵权法上，并非只要事实陈述是虚假的或错误的，就会构成侵害名誉权的行为。一方面，有些事实陈述虽然是错误的或虚假的，但并未贬损名誉并导致社会评价的降低。另一方面，基于生成式人工智能的人机互动性与自主性的特点，生成式人工智能服务也越来越具有个性化服务的特点，即其能够通过与特定用户的持续互动实现基于上下文和历史交互的记忆，了解特定用户的习惯、偏好和反馈，不断调整其响应策略，使服务变得越来越贴合用户的个性化需求。因此，判断输出内容是否虚假错误，并不是很容易，要考虑用户输入的指令、与特定用户之间互动的场景等因素。

04 生成式人工智能提供者过错的判断

名誉权属于人格权，性质上属于绝对权。因此，在适用人格权请求权如停止侵害、排除妨碍或消除危险时，不需要行为人主观上具有过错，也无需造成损害（《民法典》第995条）。这一点同样适用于生成式人工智能侵害名誉权的情形。但是，如果被侵权人要针对生成式人工智能服务提供者行使损害赔偿请求权，那么依据《民法典》第1165条第1款，其就必须证明提供者主观上具有故意或者过失。

（一）生成式人工智能服务提供者故意的判断

生成式人工智能服务提供者主观上具有故意的情形主要分为以下三类：其一，对名誉权的侵害性已内在于生成式人工智能的算法或模型当中。例如，A公司开发的生成式人工智能就是以生成侮辱、诽谤他人的文字、图片或者视频为主要用途的。其二，提供者已经知道或者应当知道因为训练数据、模型和算法的设计等原因会导致输出虚假的事实陈述或者诽谤他人的言论，却未采取任何措施加以阻止或更正。其三，提供者已经知道或者应当知道用户正在利用其提供的生成式人工智能服务生成侮辱、诽谤他人的文本、视频、音频等内容，不采取措施加以制止。在第一、二种情形下，提供者往往构成故意的直接侵害名誉权的行为（或者在用户利用人工智能服务时构成帮助行为）；在第三种情形下，提供者构成帮助行为，即其为用户的侵权行为提供了工具或手段的帮助，二者应当向被侵权人承担连带赔偿责任（《民法典》第1169条第1款）。

（二）生成式人工智能服务提供者过失的判断

生成式人工智能输出内容应当被作为提供者的行为，但是与自然人通过自主意思进行决策进而直接控制并实施行为所不同的是，提供者并不能完全控制输出的内容。因此，为了促进人工智能技术的创新发展，对于提供者过失的判断应当采取客观化的判断标准：首先，应当以立法者经过价值权衡后所确定的提供者的法定义务之违反作为认定提供者有无过失的客观标准；其次，在符合法定义务或者法律未作要求的情形下，应当运用《民法典》第998条确立的动态系统论的要求，按照“现有技术水平”来认定提供者有无过失。

1、违反法定义务视为过失。在法律上已经明确规定了提供者的义务，且该义务旨在实现输出内容的真实、准确，防止输出虚假等有害、非法内容的情况下，如果提供者违反该义务，就可以采取“违法视为过失”的规则直接认定提供者具有过失。

2、如果法律上没有相关义务的要求或者提供者满足了法定义务的要求，则需要根据案件的具体情形，结合生成式人工智能服务的类型、当时的技术水平等因素认定提供者是否能够采取相应的措施防止输出虚假错误内容，如果能够，则应当认定其存在过失，否则就没有过失。

需要注意的是，生成式人工智能输出的内容具有联网搜索的功能选项。开启联网搜索功能后，人工智能系统将按照输入信息和指令先检索互联网上的公开信息，并根据检索的公开信息生成相关内容，因此输出内容的真实准确的程度更高，可以比较有效地解决模型幻觉的问题。如果用户没有选择联网搜索的选项，由于生成式人工智能系统的模型只能完全根据其自身的参数进行推理计算并得出生成内容，出现模型幻觉的可能性就很大。因此，在用户没有开启联网搜索选项的情况下，法院在认定提供者的过错时应当考虑现有技术水平消除模型幻觉的难度。而在开启联网搜索后，提供者是利用人工智能技术通过大语言模型来增强和改造传统的搜索引擎，整合多个来源的信息而生成一个直接的答案，故此，在认定提供者的过失时，由于信息来源于互联网上公开的信息，提供者在一定程度上处于转载者的地位，其应当负有的是合理核实义务。此时，法院适用《民法典》第1026条的规定，在认定提供者是否尽到合理核实义务时，需要考虑“内容来源的可信度”“核实能力和核实成本”等因素。

05 结语

生成式人工智能技术的发展日新月异，应用的场景越来越丰富广泛，在人类的生产生活学习中所起到的作用也在不断加强。因此，为了既能够确保人工智能的安全、可靠与可控，充分维护名誉权等人身财产权益、公共利益与国家安全，又能促进生成式人工智能技术的创新发展，司法实践应当在明确内容输出属于生成式人工智能服务提供者自身实施的行为的大前提下，严格依据《民法典》等现行法律规范，谨慎细致地认定内容输出是否属于公布行为、是否为侵害名誉权的加害行为，提供者有无过错等名誉权侵权责任的构成要件。惟其如此，方能科学合理地协调权益保护与行为自由之间的紧张关系。