生成式人工智能侵害人格权问题探析

近年来，利用生成式人工智能技术制造虚假信息、实施“人工智能换脸”“语音合成”等行为数量日益增多，新型案件持续涌现，司法实践面临新挑战。在此类案件中，如何合理认定生成式人工智能服务提供者的过错及其所应承担的损害赔偿责任成为亟待解决的重要问题。本文以生成式人工智能侵害人格权的纠纷类型视角切入，结合司法审判实践，探讨侵害人格权责任认定的优化路径，以期为司法实践提供有益参考。

01. 侵害人格权的纠纷类型

随着生成式人工智能技术的快速发展，各类新型矛盾纠纷相伴而生，给人格权保护带来新的挑战。

第一种纠纷类型是侵害名誉权。主要包含两种情形：一是生成式人工智能语料库中可能包含虚假内容，生成式人工智能平台无法辨别生成内容的真伪，从而输出虚假信息；二是生成式人工智能平台可能因人工智能“幻觉”而编造虚假信息并输出，也可能因用户的诱导指令而生成涉及他人名誉的虚假信息。如果用户公开传播上述虚假信息，并在客观上造成他人社会评价降低，则构成名誉权侵权。

第二种纠纷类型是侵害肖像权。如果生成式人工智能服务提供者未经权利人许可，使用其肖像进行数据训练，而且生成内容包含其肖像特征，能够识别出具体权利人，便构成肖像权侵权。如果用户故意使用“人工智能换脸”等方式丑化他人肖像，则同时构成肖像权侵权和名誉权侵权。

第三种纠纷类型是侵害生命权、健康权。生成式人工智能平台在与用户进行信息交互的过程中，可能施加不良精神影响，引诱用户实施自我伤害或伤害他人生命权、健康权的行为。

第四种纠纷类型是侵害个人信息权益及隐私权。生成式人工智能平台需要海量信息作为训练语料，部分平台可能违规收集用户个人信息，或者非法爬取个人信息，并将该项信息用于数据训练，在回答其他用户相关问题时，可能不当输出个人信息与隐私，导致个人信息及隐私泄露。

第五种纠纷类型是侵害其他的人格权益。主要包含两种情形：一是生成式人工智能平台未经许可使用自然人姓名、肖像图片创设其虚拟形象并进行商业化利用，不仅侵害自然人的姓名权和肖像权，还涉嫌侵害自然人的一般人格权益。二是生成式人工智能平台未经自然人许可使用经人工智能技术处理的声音，公众根据音色、语调和发音风格，能够识别出特定自然人的，构成对自然人声音权益的侵权。

02. 侵害人格权责任的认定难点

生成式人工智能平台输出侵权内容的行为，责任主体多元、归责链条长，侵权行为样态更加丰富，对案件的事实认定及法律适用的论证提出了更高要求。

一是责任主体追溯难。生成式人工智能平台的算法较为复杂，受人工智能“幻觉”、数据污染等因素影响，可能产生不特定损害后果。生成式人工智能平台生成内容随用户指令而变化，部分生成内容无法复现，增加了生成内容溯源的难度及被侵权人的举证难度。

二是因果关系解释难。生成式人工智能平台的侵权行为可能受算法模型、实际运行和人机交互等因素影响，如何确定生成式人工智能服务提供者的控制程度存在分歧，致使因果关系的认定及其论证存在一定困难。

三是损害后果认定难。部分损害后果体现为机会丧失或是潜在侵权风险，难以被认定为损害后果。此外，在司法实践中，关于人格要素商业化利用的损害赔偿裁判规则还有待进一步完善。

四是主体过错认定难。由于生成式人工智能平台无法对输出内容及输出过程进行完全的控制与干预，给过错的认定带来挑战，生成式人工智能服务提供者的预见能力、注意义务边界等判断标准仍需进一步完善。

03 侵害人格权责任认定的优化路径

在司法实践中，在为生成式人工智能服务划清法律“红线”的同时，也应为技术发展预留充足空间，关键在于通过完善过错、因果关系、损害后果三方面的认定标准，以此合理确定各方的侵权责任。

（一）侵害人格权的过错认定

一般的侵害人格权行为适用过错责任原则，但个人信息处理者处理个人信息侵害个人信息权益造成损害采用过错推定原则。在司法实践中，主要依据生成式人工智能服务提供者是否违反注意义务来判断其是否存在过错。

1. 生成式人工智能服务提供者的注意义务内容

一是生成式人工智能服务提供者的审查义务。《生成式人工智能服务管理暂行办法》（以下简称《办法》）第七条第一项明确规定，使用具有合法来源的数据和基础模型；训练数据的质量和生成内容的可靠性密切相关，生成式人工智能服务提供者应当对其数据来源尽到一定程度的审查义务，以保障生成内容的可靠性。《办法》第十四条第一款明确规定：“提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。”可见，生成式人工智能服务提供者应在内容生成的过程中设置必要的过滤机制，避免生成法律禁止的“有毒”、有害、违法信息。笔者认为，一般应依据该行业领域的现行技术水平，来合理确定生成式人工智能服务提供者所应承担的防止侵权内容生成的义务。

二是生成式人工智能服务提供者采取必要措施的义务。如果被侵权人向生成式人工智能服务提供者发送了适格侵权通知，服务提供者应及时采取必要措施防止损害的扩大，服务提供者采取的必要措施应充分考虑技术可能性因素。《办法》第十四条第二款明确规定：“提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。”笔者认为，生成式人工智能服务提供者应当采取的必要措施主要有三种：第一种，及时删除、屏蔽侵权内容等避免损害扩大的措施；第二种，向用户提示生成内容可能不实、对人工智能生成内容作出标识等警示性措施；第三种，暂停或者终止向其提供服务等防范用户重复利用生成式人工智能服务实施侵权行为的措施。

2. 生成式人工智能服务提供者违反注意义务的认定

笔者认为，生成式人工智能服务提供者违反注意义务的认定应综合考量生成式人工智能服务的性质、损害后果发生概率、平台营利模式和防范措施成本等因素。生成式人工智能服务提供者应在现有技术水平下采取合理技术措施来防止侵权内容生成，主要应当依据服务提供者采取防范措施的成本来确定其注意义务程度。

（二）侵害人格权的因果关系认定

用户通过输入指令诱导生成式人工智能平台生成侵权内容，用户应承担侵权责任，对于生成式人工智能服务提供者是否应承担侵权责任，则需判断侵权内容输出前服务提供者是否已经履行了必要的预防措施防止侵权内容生成，预防措施可能来源于法定义务，也可能来源于服务协议中所约定的义务。

用户并未输入不当的诱导指令，但生成式人工智能平台因人工智能“幻觉”生成侵害他人人格权益的虚假、错误信息，如果生成式人工智能服务提供者未尽到通过合理的技术措施保障生成内容合法性及接到适格侵权通知后及时采取必要措施的注意义务，应依其过错承担侵权责任。

如果生成式人工智能平台以侵害他人人格权益为主要目的，例如，存在非法爬取或提供个人隐私等与人格权益相关信息的行为，而用户利用该平台实施侵权行为，在数据训练阶段，应当由生成式人工智能服务提供者单独承担侵权责任；对于输出内容造成的损害后果，《中华人民共和国民法典》（以下简称《民法典》）第一千一百六十九条第一款明确规定：“教唆、帮助他人实施侵权行为的，应当与行为人承担连带责任。”因此，此情形下用户应当与生成式人工智能服务提供者承担连带责任。

（三）侵害人格权的损害后果认定

1. 损害后果是否存在的认定

一是侵害名誉权的认定。在生成式人工智能平台生成虚假信息后，若要达到降低他人社会评价的效果，还需社会公众相信此虚假信息，此情形下应综合考量生成式人工智能平台的运行逻辑、社会公众的一般认知、人机交互界面提示等因素。如果用户通过生成式人工智能技术将他人的肖像用于具有贬损性质的图片或视频中，并将该图片或视频加以传播，应认定为侵害他人名誉权。

二是侵害肖像权的认定。肖像权所保护的肖像应具有可识别性，即社会公众能够轻松地识别，将载体内容与特定权利人外部形象联系起来。笔者认为，对于利用除面部外的其他身体形象，应综合考虑该形象权利人的知名度、该形象是否保留权利人特征、利用该形象时是否辅以文字提示等，判断该形象的可识别性。如果未经同意擅自通过生成式人工智能技术处理他人的部分肖像特征，即使无法达到侵害肖像权的可识别性判断标准，也可能构成个人信息权益侵权。

三是侵害生命权和健康权的认定，如果生成式人工智能平台诱导他人实施了侵害生命权和健康权的行为，应认定存在损害后果。

四是侵害个人信息权益的认定。《中华人民共和国个人信息保护法》（以下简称《个人信息保护法》）第六条第一款明确规定：“处理个人信息应当具有明确、合理的目的，并应当与处理目的直接相关，采取对个人权益影响最小的方式。”可见，生成式人工智能服务提供者处理个人信息活动应具有目的正当性和关联性及信息收集的必要性。处理敏感个人信息时，应当取得个人的单独同意。如果生成内容包含个人未自行公开或未经其他合法途径公开的个人信息，此情形下生成式人工智能服务提供者违法公开了个人信息，侵害了他人的个人信息权益。《个人信息保护法》第二十七条明确规定：“个人信息处理者可以在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；个人明确拒绝的除外。个人信息处理者处理已公开的个人信息，对个人权益有重大影响的，应当依照本法规定取得个人同意。”可见，针对已经公开的个人信息，生成式人工智能服务提供者的处理活动应当具有正当性，对已公开个人信息的处理不应超出必要限度，处理活动不应对个人权益造成重大不利影响。

关于侵害隐私权的认定。通常是生成式人工智能平台生成含有他人隐私的信息，导致隐私被公开，如果生成该项信息，应认定为侵害了他人的隐私权。

五是侵害其他人格权益的认定。如果生成式人工智能平台未经许可提供特定权利人的肖像、声音等人格要素，以此构建其虚拟形象并进行商业化利用，在构成肖像权侵权、声音权益侵权的同时，亦可能侵害一般人格权益。如果特定权利人的肖像、声音等人格要素是用户自行上传的，但生成式人工智能平台利用规则设定、激励机制等，诱导、鼓励用户创设侵权虚拟形象，此时平台应与用户承担连带责任，虚拟形象是否构成侵权应综合考虑使用目的、市场替代效应及是否损害权利人人格尊严等因素。

2. 财产损害赔偿范围和精神损害赔偿范围的认定

在财产损害赔偿范围的认定层面，《民法典》第一千一百八十二条明确规定：“侵害他人人身权益造成财产损失的，按照被侵权人因此受到的损失或者侵权人因此获得的利益赔偿；被侵权人因此受到的损失以及侵权人因此获得的利益难以确定，被侵权人和侵权人就赔偿数额协商不一致，向人民法院提起诉讼的，由人民法院根据实际情况确定赔偿数额。”

第一，关于被侵权人的损失，主要体现为侵权人未经其同意而商业化利用其人格要素所造成的损失。对于侵害能够进行商业化利用的人格要素，如果权利人无商业化利用的意愿，证明财产损失数额的举证难度较大。对于权利人有意愿且能够进行商业化利用的人格要素，尽管存在许可使用费市场价的传统计算方法，但传统计算方法系适用于侵权人利用被侵权人的肖像、姓名等人格要素推广自己业务的场景，而生成式人工智能平台侵权是通过向用户提供内容生成服务而获利，两者计算损失的方法应有所区别，损失数额的计算方法还有待司法实践进一步探索。

第二，关于侵权人的获利，主要体现为侵权人利用被侵权人人格要素而增加的商业利益。无论是从计算增量的角度还是从计算“对价节省”的角度来看，生成式人工智能服务提供者通过人格要素商业化利用的获利金额均较难计算，此情形下服务提供者获利金额的计算方法，也有待司法实践进一步探索。

第三，关于根据实际情况确定的赔偿数额。笔者认为，在根据实际情况确定损害赔偿数额时，可以综合考量侵权人的过错程度、侵权行为的目的、方式、后果等因素进行判断。

在精神损害赔偿范围的认定层面，《民法典》第一千一百八十三条第一款明确规定：“侵害自然人人身权益造成严重精神损害的，被侵权人有权请求精神损害赔偿。”一是在认定精神损害赔偿范围时，笔者认为，应综合考量生成式人工智能服务提供者的过错程度、侵权信息的影响范围、是否造成严重精神损害等因素。二是被侵权人受到程度较轻的精神损害时，仍可主张侵权人承担消除影响、恢复名誉、赔礼道歉等民事责任。

综上所述，对于在司法实践中出现的新问题，应准确把握人工智能发展趋势和客观规律，通过构建体系化、可预期的司法裁判规则，厘清各方主体的权利、义务和责任，在民事权益保护与技术创新之间形成合理平衡，既有效保障民事主体合法权益，又促进人工智能产业健康发展。