又一例涉“AI幻觉”案宣判！法院明确AI不是内容失实的“免责金牌”

导读

生成式AI正逐渐渗透我们的内容创作与信息传播。但当前的技术条件不可避免出现“AI幻觉”，生成不准确的内容。基于此，我们该如何养成与之相适应的“AI素养”，在享受技术红利的同时，守住责任边界？

近日，杭州市滨江区人民法院依法审结浙江首例因传播AI幻觉内容引发的不正当竞争案。该案明确生成式人工智能的使用者必须扛起“内容审核”与“显著标识”的双重责任，为AI时代的内容创作与传播划定清晰的责任边界。

AI生成文章惹官司，发布者能否“甩锅”给机器？

一篇由AI自动生成的文章，将无关公司包装成知名企业的“重要子公司”，引发不正当竞争纠纷。博主大呼冤枉：内容是AI写的，凭什么要我负责？那么，AI生成内容错误引发纠纷，到底该谁来“买单”？近日，杭州市滨江区人民法院审结一起因传播AI幻觉内容引发的不正当竞争纠纷案。

原告是在电商领域具有极高知名度的公司。被告李某是百度百家号“地某”账号的运营者，该账号被认证为电商推广号，拥有数万粉丝，通过商业推广、带货等方式营利。

2023年12月30日，李某使用某AI平台生成一篇题为《某数字控股有限公司是真的吗》的文章，称“某数字控股（深圳）有限公司”是“原告公司的重要子公司”，是其在“数字化转型过程中的重要布局”。随后，李某自行添加带有原告公司标识的配图，并将文章发布在自己的百家号上。实际上，文中公司与原告公司没有任何关联。

原告公司认为文内含有严重失实信息，容易误导公众，损害其商业信誉与竞争利益，遂以不正当竞争为由，将李某诉至法院，要求其消除影响、赔偿损失。

法庭上，李某辩称，涉案文章完全由AI生成，自己未作修改，且在后台标注了“由某AI平台生成”，主观上没有侵权故意。

法院判决：AI不是“免责金牌”

法院认为，生成式人工智能作为内容生产工具，“AI幻觉”现象在现阶段难以避免，但这恰恰要求使用者必须承担起最终的“把关”责任。特别是像李某这样拥有数万粉丝、通过商业推广营利的自媒体运营者，更不能以内容为AI生成作为推卸责任的理由。

双重义务必须履行：既要“审核”，也要“标识”

审核义务（对事实负责）：对于AI生成的、涉及其他市场主体的事实性信息时，使用者应尽到与其注意能力相符的审核义务。涉案文章将案外公司错误表述为原告旗下企业，相关股权关系及战略布局等内容通过公开的工商登记信息即可初步核实，但被告未进行任何核实即行发布，导致虚假信息传播，存在明显过错。

显著标识义务（对公众负责）：法院认为，根据《人工智能生成合成内容标识办法》相关规定，人工智能生成内容在互联网传播时，应主动声明或添加显著标识，以提示公众注意该信息系由AI生成，存在不确定性，以避免虚假信息传播对他人合法权益或社会秩序造成损害。本案中，被告仅在后台标注生成来源，文章前端并无任何显著提示，不足以让公众知悉并警惕内容的可靠性，不足以保障公众知情权，且被告自行添加原告公司品牌标识配图的行为，进一步增加了文章的误导性。

法院最终认定，被告以增粉引流、获取商业利益为目的发布涉案文章，明知内容源于AI、可能存在失实，却未尽到与其能力相符的审核与显著标识义务，违背了诚信原则和商业道德，扰乱了公平的市场竞争秩序，损害了原告公司的商业信誉，构成反不正当竞争法第二条规定的不正当竞争行为。综合考虑原告知名度、被告过错、行为后果及维权成本等因素，判决被告在其账号内连续3日发布声明以消除影响，并赔偿3万元。

法官心语

工具可“智能”，使用需“理性”

倪晓花 杭州市滨江区人民法院白马湖人民法庭（数据知识产权法庭）庭长 

当人工智能成为我们手中的“笔”，能够轻松生成流畅的文章与回答时，一个新的问题也随之浮现：这些由AI产出的内容，如果包含了不实信息甚至损害了他人的权益，责任应当由谁来承担？

当前，生成式人工智能的“幻觉”现象难以避免——它可能流畅地输出看似合理却并不真实的信息。但技术的局限，不应成为使用者规避责任的“避风港”。法律所关注和规制的，始终是人的行为。

我们聚焦于生成式人工智能“使用者”这一角色，强调了使用人工智能生成内容的两项核心义务：一是审核义务。使用者利用和传播人工智能生成内容时，对生成内容享有最终控制权与传播决定权。这一控制地位决定了使用者应当负担的注意义务。但这一注意义务并非简单笼统地“一刀切”，而是动态、多层次的，需要综合考量主体身份、行为目的、使用途径、所用工具的特性与风险以及损害后果等因素。二是标识义务。在发布人工智能生成内容时，进行清晰、显著的标识，是对公众知情权的保障，也是防范误导传播的有效措施。这两项义务共同构筑了人机协作中的责任边界：工具可以“智能”，但使用必须“理性”。

面对快速演进的AI技术，法律需要保持审慎与开放的平衡。我们不应对技术本身施加过于严苛的无过错责任，以免抑制创新；但必须对使用该技术的行为确立清晰的规范，以守护他人合法权益、维护市场秩序。每一位内容创作者与传播者，在使用AI技术时，应常怀审慎之心，主动核实内容、明确标识来源。唯有使用者恪守边界、公众学会辨别，才能共同引导人工智能技术健康发展，使其真正服务于清朗网络空间与美好数字生活的建设。

专家点评

王艳芳

华东政法大学知识产权学院教授、博士生导师

本案是一起因生成式人工智能“幻觉”生成虚假内容而引发的不正当竞争纠纷，案件核心争议涉及自媒体内容生产者不正当竞争行为的认定、生成式人工智能使用者在传播和利用人工智能生成内容时的标识义务与审核义务。

第一，本案明确认定自媒体内容生产者可构成经营者，其违背商业道德发布错误及误导信息不当获取商业利益的，构成不正当竞争行为。第二，本案细化评价人工智能生成内容标识方式，指引用户按照《人工智能生成合成内容标识办法》的规定恰当履行标识义务。第三，本案深入探讨自媒体内容生产者的审核义务，强调其负有向公众传达真实、客观、准确信息的义务与责任。

本案判决是对生成式人工智能应用过程中引发的不正当竞争纠纷的积极回应与有益探索，在充分说理的基础上对案件核心争议作出了正确判决，体现了审理法院在应对人工智能技术迅猛发展所带来的法律挑战时的高度专业性，也为促进人工智能健康有序发展、规范人工智能生成内容标识与传播提供了明确的法律指引，具有重要的实务参考价值与理论研究价值。

张伟君

浙江大学光华法学院教授、博士生导师

本案是一起因人工智能生成内容存在引人误解的虚假信息，而生成式人工智能软件的用户未经审核将包含虚假信息的内容发布在其运营的自媒体账号(V账号)而引发的反不正当竞争纠纷。杭州市滨江区人民法院的（2024）浙0108民初10311号民事判决认定，“被诉侵权行为构成《反不正当竞争法》第二条所规制的不正当竞争行为”。这一判决对于人工智能生成内容的传播者因发布虚假信息而应承担的侵权责任做出了合理的评判。

其一，该判决依据《反不正当竞争法》第二条而非第八条，判定被告行为构成不正当竞争，适用法律准确。其二，该判决明确自媒体内容提供者负有向公众传达真实、客观、准确信息的义务与责任，其所发布的内容由人工智能生成不能成为免责理由。

总之，在当前难以完全避免“AI幻觉”现象的技术条件下，这一判决适时和恰当地确立了以《反不正当竞争法》规制因人工智能生成内容存在信息错误而导致的侵权损害的司法裁量标准，为自媒体内容提供者发布人工智能生成内容提供了清晰和准确的司法指引。

技术的每一次跃迁，都在考验司法的智慧。人工智能时代，我们不仅要善用技术工具，更要保持清醒、独立的判断。唯有使用者主动驾驭技术而非被动跟随，才能驶向清朗、可信的数字未来。