涉人工智能犯罪行为刑法适用边界探讨

目录

一、涉人工智能“对象型”犯罪的罪名辨析与法益认定

二、涉人工智能“工具型”犯罪中服务提供者的刑事责任边界

三、涉人工智能犯罪不同层级主体“治罪”难点与刑法解释路径

当前，全球人工智能技术快速发展，对经济社会发展和人类文明进步产生深远影响。习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议上指出“强化风险意识，确保安全可控”“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下。”《中华人民共和国国民经济和社会发展第十五个五年规划纲要》提出，“完善人工智能领域法律法规、政策制度、应用规范、伦理准则”。2026年全国检察长会议明确要求对涉人工智能、具身智能、数据知识产权等前沿法律问题加强研究。生成式人工智能的迭代普及，催生了以人工智能系统、数据、算法、算力为侵害客体的“对象型”犯罪，以及将生成式人工智能作为实施工具的“工具型”犯罪。人们对两类犯罪在罪名竞合、新型法益认定、因果关系推定、损失认定及平台责任认定等有不同观点，使得传统刑法罪名面临准确适用挑战。本期“75号咖啡·法律沙龙”，聚焦涉人工智能犯罪行为刑法适用边界，围绕涉人工智能犯罪行为的实务难题与刑事法理展开研讨，以期为涉人工智能的犯罪行为精准适用刑法罪名提供学理支撑。 

一、涉人工智能“对象型”犯罪的罪名辨析与法益认定
 
本期召集人 吕颢

上海市徐汇区人民检察院副检察长

当前司法实践中，利用技术手段突破大模型平台防护、非法占用商用大模型算力、盗用API接口并转售牟利的案件时有发生。这类案件同时呈现“工具型”与“对象型”双重特征，在罪名竞合与选择依据上争议较大。具体来说，第一，行为人到底非法获取了什么“数据”？第二，行为手段“侵入”的认定标准如何确定，传统相关犯罪的保护法益是否可以涵盖“API接口权限”“算力消耗”等数字时代的新型法益？请嘉宾们结合案例谈一谈刑法适用问题。

案例一

张某通过批量注册账号、逆向分析应用程序编程接口API签名规则，明知平台服务协议明确禁止非官方客户端调用，仍绕过平台频次限制，持续调用某大模型集成平台的API接口，接入自建网站并售卖会员积分牟利。嗣后，平台监测到异常后增强动态加密签名验证机制，张某继续通过对官方客户端逆向分析，提取加密算法和密钥，突破该验证措施，继续大规模调用以输入指令参数后获取大模型生成式内容直至案发。张某的行为未获取平台静态数据或模型参数，但占用图形处理器GPU算力、带宽及存储资源，造成平台直接成本增加，未导致系统功能瘫痪。平台按词元（Token）计费，案发后提供了完整调用日志及官方标准单价。

名词解释

应用程序编程接口（API,Application Programming Interface）

指软件系统之间实现互联互通和数据交换的标准化接口协议。本案中API接口是平台提供的可供用户或第三方开发者调用人工智能模型能力的付费服务通道。

图形处理器（GPU,Graphics Processing Unit）

指专门用于并行计算的高性能芯片，最初用于图像渲染，现已成为人工智能大模型训练和推理的核心算力硬件。“占用GPU算力”即指调用平台GPU执行人工智能生成任务，会产生电力、硬件损耗等成本。

词元（Token）

指大语言模型处理文本时的最小语义单元，可以是单词、词组或标点符号等。大模型平台通常以Token数量作为计费标准，按用户输入和模型输出的Token总量计算费用。

宋珊珊 徐汇区人民检察院检察官

从实务视角来看，此类案件侵害对象主要涉及三层数据：一是API密钥、Token等身份认证数据，属于服务器电磁记录；二是任务指令数据，属于算力消耗的直接载体；三是模型生成数据，属于转售牟利的直接对象。上述三层数据均可纳入数据安全法益。另外，GPU（Graphics Processing Unit，图形处理器）算力消耗还可能触及财产法益。从行为手段看，API接口未设访问控制措施不构成合法授权，安全边界不仅包括技术壁垒，也涵盖权利人通过产品设计、服务协议、权限配置划定的使用范围。外部人员抓包获取后台接口并自动化访问，绕开预设交互通道和频次限制，属于越权访问，与“侵入”具有同等法律效果，内部人员越权操作亦同。罪名选择上，非法获取计算机信息系统数据罪可完整评价侵入、获取的行为链条；非法控制计算机信息系统罪在两行为属牵连关系时从一重罪处断，各自独立时并列适用。但鉴于核心手段为侵入、首要侵害法益为网络安全秩序，在计算机犯罪已能充分评价时应持审慎态度。

皮勇 同济大学法学院教授、博士生导师

从行为本质来看，该类利用技术对抗手段突破平台安全防护、非法占用商用算力、盗用付费API服务的行为，属于非法侵入、控制计算机信息系统的行为范畴。行为人并未直接窃取服务器内存储的静态数据，而是无偿占用平台经营性数字服务资源，行为外观近似于传统盗窃电信网络服务的行为模式。但必须指出，依据现行刑法及司法解释，人工智能算力资源、大模型算法、数据使用权、商用API接口服务尚未被纳入盗窃罪的法定保护对象范畴。基于罪刑法定原则，目前以非法控制计算机信息系统罪或非法获取计算机信息系统数据罪定罪更为妥当。当然，从立法论角度，未来随着数据产权制度的完善，是否需要对数据使用权益增设新罪名或扩大解释“财物”范围，值得深入研究。

张勇 华东政法大学教授、博士生导师

此类行为在刑法评价上普遍存在想象竞合问题，单一行为可能同时触犯多个罪名，应当严格适用择一重罪处罚原则。从法益保护层面审视，现行刑法财产犯罪体系存在一定滞后性。我国数据产权制度已明确包含数据持有权、使用权、经营权三大权益，而当前刑法仅对静态数据、有形财物提供保护，对单纯的数据使用权、算力使用权、商用接口服务权益的侵害行为，暂无独立规制罪名，只能通过计算机信息系统犯罪实现间接保护。对于平台企业因此产生的经营性经济损失，可同步通过民事侵权追偿、行政监管处罚等方式实现多元救济。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

对于通过批量注册账号、伪造身份认证信息、逆向分析API签名规则等手段，突破平台授权边界，使服务器持续按照指令执行计算任务，从而占用GPU算力、存储、带宽等数字资源并将成本转嫁给平台的行为，其行为重心并非获取数据，而在于非法控制计算机信息系统。这种模式更符合刑法第285条第2款规定的非法控制计算机信息系统罪。根据司法解释，计算机信息系统是具备自动处理数据功能的系统，账号、密码等用于确认操作权限的信息属于身份认证信息；绕过或突破系统安全保护措施，未经授权或超越授权获取数据、控制系统的行为，属于该款评价对象。对于绕过权限、调用系统功能、占用数字资源、转嫁成本的行为结构，因流量、存储和算力等数字资源的价值及硬件损耗、电力成本等难以精确量化，更适宜以非法控制计算机信息系统罪定性。

本期召集人 吕颢

上海市徐汇区人民检察院副检察长

在处理非法调用大模型接口获取生成式数据行为时，我们注意到两种不同的行为模式：一种是行为人直接删除大量训练数据和自主研发模型，导致系统功能瘫痪，对此，司法实践中一般以破坏计算机信息系统罪定罪；另一种则是行为人“持续性非法调用”，并未修改或删除系统数据。由此引发的问题是：在人工智能训练数据、算法模型被侵害的案件中，对算力资源的“消耗性占用”，属于刑法理论中的“控制”还是“破坏”？

皮勇 同济大学法学院教授、博士生导师

关于两类罪名区分，我认为关键在于行为人是否实施了突破、损毁系统安全保密体系的对抗性违规行为。若行为人仅依托原有权限或轻微违规滥用权限、占用算力资源，未破坏平台底层安全防护机制、未损毁核心数据与程序，应当认定为非法控制类行为；若行为人通过技术对抗手段突破安全壁垒、篡改底层程序、删除核心训练数据与算法模型，直接破坏系统安全体系与数据完整性，则具备破坏计算机信息系统的行为特征。

张勇 华东政法大学教授、博士生导师

非法控制计算机信息系统罪与破坏计算机信息系统罪的关键区别在于行为性质和侵害后果。非法控制罪以“掌控权限”为本质特征，行为人通过植入木马、破解权限等方式取得对系统的全部或部分控制，主观上意在利用该控制权实施后续操作（如牟利），客观上不要求造成系统无法正常运行，未导致系统功能瘫痪，即可构成。破坏计算机信息系统罪则为结果犯，须达到“后果严重”标准，其行为模式分为三类：一是功能破坏型，即对系统功能进行删除、修改、增加、干扰，致使系统不能正常运行；二是数据破坏型，即对系统中存储、处理或传输的数据和应用程序进行删除、修改、增加，即便系统仍可运行，只要数据的真实性、完整性被破坏且后果严重；三是程序破坏型，即故意制作、传播计算机病毒等破坏性程序，影响大量系统正常运行。非法控制的核心是“获取权限”而不必然损害系统或数据；破坏的核心是“损毁系统功能或数据”，直接侵害系统运行安全或数据完整性。当行为同时符合两罪构成要件时，从一重罪处罚；若行为人控制系统后修改数据以牟利，但未造成系统停运的，优先以非法控制计算机信息系统罪定罪。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

区分非法控制计算机信息系统罪与破坏计算机信息系统罪，不应只看是否使用了木马、删除命令等技术手段或损害是否永久，而要考察行为对系统产生的实际影响。非法控制的核心在于谁在支配系统功能，即未经授权使系统按行为人意志运行；破坏的核心则在于系统能否按照原定目标正常运行，只有行为导致服务不可用、合法请求大量失败、任务中断等实质性功能障碍，并达到“后果严重”标准，才可能构成破坏。像算力消耗这类情况，若仅造成GPU利用率升高、成本增加或轻微延迟而系统仍能正常服务，通常只是非法控制，会造成一定的经济后果，不构成破坏；只有持续调用最终引发资源饱和、大面积服务不可用、系统宕机或核心功能无法运行等情形，才可能认定为干扰型破坏。此外，经济损失只能作为判断破坏后果是否达到入罪程度的参考，不能代替对行为已造成系统不能正常运行这一事实的证明。

 本期召集人 吕颢

上海市徐汇区人民检察院副检察长

在该类案件的处理中，被害单位的损失如何计算是一个亟待解决的难题。对于文字生成式与图片生成式大模型，损失的计算方式是否有所区别？比如，在具体金额上，是按行为人非法获取的词元（Token）市场价值，还是按被害单位实际增加的算力成本价值，或者按行为人转售牟利的违法所得数额？

张勇 华东政法大学教授、博士生导师

这类案件中被害单位的损失计算，需结合数据类案件的特殊属性，参照现行法律规则和司法实践标准分顺序认定。第一，优先计算实际损失‌。被害单位为大模型数据投入的研发成本、市场份额流失、商业机会减少等直接损失，都可纳入实际损失范畴。第二，实际损失难以确定时按侵权获利计算‌。若被害单位无法完整举证自身实际损失，可将侵权人通过非法获取数据牟利的全部违法所得作为损失认定依据。第三，在实际损失和侵权获利均难以完全查清时，可综合考量侵权行为持续时间、数据核心程度、市场影响范围等因素，酌定最终的赔偿或者说损失金额。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

Token通常不是可以直接计价的犯罪对象。Access Token、API Key等属于身份认证信息；模型计算中的Token只是推理和计费单位，不能据此认定行为人取得了相应价值的“Token数据”。平台积分、API余额和预付额度具有服务请求权或账户财产利益属性，如被直接扣减，或者导致平台向第三方实际付款，相应钱款可以认定为经济损失。损失计算应以平台因非法调用实际增加的成本为核心，包括GPU占用、电力、云服务、带宽存储、外部模型调用及恢复系统功能的必要费用。模型研发成本、设备全部购置价、固定费用、预期利润和品牌损失应予排除，根本原因在于，此类行为的本质是非法占用他人计算资源，侵害的是算力的使用权能，而非设备所有权或无形资产完整性。刑法评价应聚焦于算力被实际消耗的使用价值：研发成本属于历史沉没成本，固定费用不随用量变动，两者均不因盗用行为产生损失差额；设备购置全价代表所有权，若据以定罪将导致“占用”等同于“剥夺”，严重违背罪责刑相适应原则，亦与盗电按电量、盗接通信按通话费计价的同类解释规则相悖；预期利润不确定性强，缺乏刑事证据要求的可计算性；品牌损失因果链条过长，不符合相当因果关系的直接性要求，且难以精确量化，宜归入民事赔偿范畴。平台公开API售价通常不能直接等同于刑事损失，但平台按量购买第三方服务并实际扣费的，可以按结算金额认定。行为人转售会员、积分所得属于违法所得，应与平台损失分别核算。数额认定应依据完整日志、真实成本等客观依据计算，当存在合理误差时，应采用有利于被告人的最低可证数额。

宋珊珊 徐汇区人民检察院检察官

当前算力已从硬件资源中抽象出来，成为独立、标准化的服务商品。非法调用消耗的每一个Token词元，能转化为平台的服务成本与可预期的营收损失。这一认定路径与司法实践中将“盗用电力”认定为财产损失的逻辑一致。在具体计算上，文字生成式模型可按非法消耗的词元数量乘以平台官方标准单价计算，主流平台公开发布的“模型服务价格”可参考适用。如需进一步佐证其市场价值，可援引同类服务的公开定价作为参考。如果是图片生成式模型的，可按非法调用次数乘以单次调用价格计算。

二、涉人工智能“工具型”犯罪中服务提供者的刑事责任边界
 
本期召集人 吕颢

上海市徐汇区人民检察院副检察长

实践中还发现有的人工智能服务提供者通过修改系统设置、调整提示词、弱化或取消安全过滤机制，使原本合规的人工智能产品能被用于规模化生成违法内容并直接牟利。当人工智能服务提供者修改设置、放开安全限制，但未直接撰写违法内容，其行为能否被评价为刑法意义上的“制作”行为？人工智能产品被用户使用后，生成违法内容，人工智能服务提供者与实际用户之间，是否能用正犯与共犯的刑法理解进行解释？

案例二

席某系某生成式人工智能应用软件的技术开发者和实际运营者。该软件接入了某境外大语言模型，具备人机对话功能，且已配置基础安全过滤机制。为获取用户并牟利，席某故意修改该软件的系统提示词、调整软件模型参数，取消或显著弱化安全过滤机制，使软件运行环境成为可稳定产出违法信息的高风险系统。用户仅需输入特定提示词，即可通过该应用软件由境外大语言模型生成违法内容，并反馈给用户。席某采用付费会员、按次收费模式向用户提供服务并直接获利。后台数据显示，系统设置调整前后，违法内容的产出概率和数量发生了显著变化，且席某曾对违法信息生成效果进行了针对性优化。

名词解释

大语言模型（LLM, Large Language Model）

指基于海量文本数据训练的深度学习模型，能够理解和生成人类语言，具备对话、写作、翻译等多种语言任务处理能力。

提示词（Prompt）

指用户输入给大语言模型的指令性文本，用于引导模型生成特定内容。提示词的设计直接影响模型的输出方向和质量。

皮勇 同济大学法学院教授、博士生导师

从正犯与共犯区分的法理来看，服务提供者主动改造技术体系、创设违法场景、依托违法模式牟利，主动追求违法结果发生，用户行为仅起到辅助触发作用，不能切断服务提供者对整体犯罪流程的客观支配。本案的归责核心在于谁实质控制、设计并推动了违法内容的持续生成机制。开发者虽然没有直接参与制作违法内容，但主动构建、运营、放任违法内容稳定生成的技术系统，并以此获取利益或扩大传播，要承担法律责任。在传统的共同犯罪中，提供工具的一方通常只是帮助犯。但是互联网时代，例如，App提供方造成大规模用户生成淫秽等违法内容，技术能量的加持让传统的帮助犯已然成为主导者，一旦造成传播，就可能成为主犯。修改提示词并非中性技术行为，突破伦理限制、诱导色情输出，以获取利益，已不再是中性的“工具提供”，而是对内容生产机制的实质性改造与功能设计，属于刑法意义上的制作行为前置化、自动化，开发者对生成结果具有支配力。

张勇 华东政法大学教授、博士生导师

我们不妨做个假设。如果人工智能服务提供者通过修改系统设置、调整提示词、弱化或取消安全过滤机制，供人工智能软件可生成淫秽物品，根据刑法第363条，服务提供者可以认定为制作或传播淫秽物品牟利罪，在刑法理论上属于直接正犯。客观层面，服务提供者通过修改算法规则、弱化过滤机制，将通用人工智能改造为可稳定生成违法内容的工具，这种对算法运行规则的主动设定与控制，在规范评价上可解释为“制作”行为，如果同时向不特定公众提供该服务，具备“传播”的实质特征。作为算法规则的设定者和系统控制者，其对最终产出具有支配性作用，不能以“技术中立”或“用户触发”为由免责。我国司法实践以“快播案”等为典型，已明确认可网络服务提供者的保证人地位，其来源包括对自身运营平台这一危险发生领域的支配，以及《网络安全法》等法律法规明确的安全管理义务。修改算法规则、调整提示词、弱化过滤机制等属于典型的“作为”形式，而不是防止危害结果不发生的“不作为”。服务提供者通过主动改造系统、弱化过滤机制，使人工智能产品成为可稳定产出违法内容的工具并直接获利，其行为已超越单纯的技术提供或管理疏忽，应当以相关罪名的直接正犯追究刑事责任。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

服务提供者主动弱化安全限制、强化违法内容生成危险源，并在明知违法内容持续生成的情况下不予阻断，系以作为和不作为相结合的方式实施犯罪。生成式人工智能服务在安全机制被弱化时便产生了现实持续的危险，服务提供者作为该危险源的制造者和管理者，负有排除该危险的义务。在判断行为是否具有违法性时，应重点考察行为人是否明知系统持续生成淫秽内容、有无现实阻断能力、措施能否有效避免内容交付，以及是否为了谋利故意不作为，也即放任危险的发生。当行为人具备危险的阻断能力却为了牟利持续放任危险发生时，其不作为的行为才具有与主动传播相当的法益侵害程度。

本期召集人 吕颢

上海市徐汇区人民检察院副检察长

当前，《生成式人工智能服务管理暂行办法》第四条、第九条、第十二条等明确规定，生成式人工智能服务提供者负有内容安全管理和过滤义务，不得生成各类违法和不良信息，应当设置过滤违法和不良信息的技术措施。服务提供者主动弱化安全限制、取消过滤机制的行为，显然违反了上述行政义务。在此情形下，是否可以考虑以非法利用信息网络罪对人工智能服务提供者弱化安全限制、强化违法内容生成危险等违法行为予以处理？但该行政规章并不禁止用户使用被弱化安全限制、强化违法内容生成的软件。在用户使用行为不构罪时，能否单独追究服务提供者行为的刑事责任？

张勇 华东政法大学教授、博士生导师

非法利用信息网络罪在刑法理论中，一般将其理解为网络犯罪中轻罪行的刑法适用补充罪名。在具体适用方面，涵盖服务提供者搭建违法技术通道等行为。在刑法理论中，当用户行为不构罪时，服务提供者的行为仍可能因具备独立的社会危害性而单独构罪。在一些行政义务违法方面，要严格区分行政违法与刑事违法的边界，违反人工智能行业行政法规义务并不当然产生刑事追责后果。建议参照拒不履行信息网络安全管理义务罪的立法逻辑，增设行政责令整改前置程序，既为企业守法改进留出空间，又通过行政文书固定了企业的违法事实，为后续精准划定刑事追责红线做好前提准备。

皮勇 同济大学法学院教授、博士生导师

部门行政规章效力层级有限，不能直接作为刑事责任的认定依据，仅可作为辅助证据，用于佐证行为人对合规义务的认知程度、主观过错大小。行政合规义务的违反本身不构成刑事犯罪，仅当行为人经行政机关依法责令整改、拒不履行合规义务，且造成严重危害结果时，方可将违规事实作为判断犯罪故意、过失的参考依据，实现行政监管与刑事司法的有序衔接。平台的服务提供者创建了一种产品环境，放任大量违法内容产生，比如在现行法律框架下，聊黄这种私密行为通过一个缺乏管控、以营利为目的的平台被大规模、系统性地实现时，就不再仅是个人私事，它的社会危害性就应当被法律所认定，平台的服务提供者也要为此承担安全治理的责任和义务。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

关于行政违法升格为刑事责任的问题，我认为需要把握一个核心原则，违反《生成式人工智能服务管理暂行办法》等规范设定的停止生成、停止传输等行政义务，并不当然产生刑事责任。行政规范只能为确认保证人地位和行为违法性提供依据，不能直接创设犯罪或替代刑法构成要件。具体来说，行政违法升格为刑事责任至少需要同时满足三个条件：一是违反的义务必须具体、明确且具有现实履行可能性；二是行为人明知系统在持续生成、传播违法内容，却为了获取收益而故意放任；三是其行为必须独立符合相关罪名的全部构成要件，包括实行行为、主观目的和情节标准。至于是否需要以“经责令改正而拒不改正”作为前置程序，应当区分行为类型来处理：对于主动解除过滤措施、将违法内容作为核心功能并直接获利的行为，不需要这一前置条件，可以直接依法审查；但对于主要表现为管理疏忽和放任传播的不作为型案件，则应当将监管告知、投诉举报或责令改正，作为证明行为人存在具体明知并且拒绝履行义务的重要门槛。这样区分处理，既能避免行政违法自动入罪，也能防止刑法过早介入正常的技术研发活动。

本期召集人 吕颢

上海市徐汇区人民检察院副检察长

为证明服务提供者的主观故意，应重点审查哪些客观证据？在“算法黑箱”的背景下，如何通过技术证据推定主观明知？在证据审查和刑法评价上应把握哪些方面？

名词解释

算法黑箱

指人工智能算法（尤其是深度学习模型）的运算过程和决策逻辑难以被人类理解和解释的技术特性。算法黑箱给司法实践中因果关系的认定、主观明知的证明等带来重大挑战。

林喜芬 上海交通大学凯原法学院副院长、教授、博士生导师

证明主观方面，证据法上通常有两种路径。一是依靠言词证据，即行为人本人的供述或承认，但在复杂、疑难案件中往往难以获取。二是依据客观证据进行推知或间接证明，这种路径在实践中更为常见且关键。当行为人提出对违法内容的传播或生成“不明知”的抗辩时，应重点调取全过程中的客观行为记录，尤其是前后端内容输出是否在调整系统设置、修改关键参数等节点上发生了明显变化。通过分析这些客观变化与行为人具体操作之间的关联，再结合其持续实施相关行为的整体事实，便可以有力地推知其主观明知。这种以客观行为证明主观状态的证明模式，能够有效应对行为人逃避供述的情形，确保事实认定经得起检验。

宋珊珊 徐汇区人民检察院检察官

从办案实践看，嫌疑人到案后通常以“不清楚会生成违法内容”为由辩解，我们主要从三个维度审查主观明知：一是比对操作日志。调取后台记录，看行为人修改提示词、调整过滤参数的时间节点，与违法内容产出量变化的时间节点是否吻合。若修改后违法内容显著增长，即可作为推定明知的重要依据。二是审查产品定位。查阅产品介绍、推广文案、内部群聊记录，判断违法产出功能是否被作为卖点。若宣传中暗示“可突破限制”，或曾针对违法生成效果专门优化，则已超出管理疏忽范畴。三是核查合规投入。当行为人辩称技术能力有限时，审查其是否建立审查机制、是否处理用户投诉、是否采取可期待的改进措施。若均未落实而持续获利，辩解不能成立。因此，审查重点不在于行为人是否直接制作违法内容，而在于其是否明知系统持续产出违法内容，仍继续提供该生成服务并从中获利，从而通过客观证据固定，来认定主观明知。

 三、涉人工智能犯罪不同层级主体“治罪”难点与刑法解释路径
 
本期召集人 吕颢

上海市徐汇区人民检察院副检察长

从前面讨论可以看出，涉人工智能犯罪的完整链条往往涉及三层主体：一是直接利用人工智能生成违法内容或实施犯罪的使用者；二是开发运营人工智能应用、对算法规则和内容生成具有直接支配力的服务提供者；三是仅提供算力租赁、应用分发或模型托管等基础技术服务的平台提供者。三层主体对违法产出的支配距离不同，如何对三层主体恰如其分地归责并开展治理，请嘉宾们结合案例分析一下。

案例三

犯罪嫌疑人赵某利用某人工智能语音合成软件的“文本转语音”功能，批量生成模仿特定人员声音的音频，用于实施电信诈骗，非法获利数额较大。赵某系该软件的普通付费用户，所使用功能为软件公开提供的合法功能。经查，该人工智能语音合成软件由钱某创办的科技公司开发并运营。犯罪嫌疑人钱某在明知赵某等用户利用软件实施诈骗的情况下，为维持用户活跃度和订阅收入，未采取任何限制或处置措施，持续提供技术服务并按订阅周期收取费用。该软件部署于犯罪嫌疑人孙某经营的云计算平台。孙某仅提供基础算力租赁服务，对软件的具体功能及用户使用情况不知情。案发后，监管部门对钱某公司进行了约谈并责令整改，钱某仍未采取有效措施。

宋珊珊 徐汇区人民检察院检察官

三层主体责任认定的差异在于对违法产出的“支配距离”，即使用者最近、服务提供者次之、平台提供者最远，归责标准应随距离增大而趋于严格。本案中赵某、钱某、孙某恰好对应了这三个层次。关于使用者，把人工智能当工具实施诈骗、诽谤、侵犯商业秘密，按传统工具犯处理即可，真正的难点在于人工智能自主输出偏离初始意图时因果关系的认定，对此我们可以以“实质预见可能性”为核心标准进行判断。关于服务提供者，我们审查时要注意其是否主动修改安全设置、弱化过滤机制。本案钱某虽未主动改造系统，但明知用户违法仍持续提供服务而获利。对于他而言，认定犯罪难点在于区分服务提供者究竟是“明知违法内容生成而放任不管”，还是“因技术能力所限确实无法有效阻止”。对此，主要从提供者是否建立了合理的内容审查机制、对用户投诉和监管通知是否及时响应，是否在自身技术能力范围内采取了改进措施等方面进行判断。关于平台提供者，其离违法内容产出较远，刑事责任应严格限定在“明知具体违法活动而仍提供支持”的情形。本案孙某仅提供算力租赁，对下游用途不知情，宜设置“经责令改正而拒不改正”的行政前置程序，应限缩在平台与使用者形成稳定违法合作模式的情形下才考虑追诉，这样既符合刑法谦抑原则，也为平台经济发展保留必要的容错空间。

皮勇 同济大学法学院教授、博士生导师

应当依据各主体的行为属性、风险支配力、获益方式，分层划定刑事责任边界。第一，使用者层面，人工智能仅属于普通犯罪工具，使用者的行为是否构罪，完全取决于其后续的具体实行行为及法益侵害结果，严格遵循传统工具犯归责逻辑，不因工具具有智能属性而放松或加重归责标准。第二，服务提供者层面，划定责任边界时无需过度放大人工智能技术特性，应回归其面向不特定用户提供信息服务的本质，重点审查其是否主动创设违法风险、改造技术规则、依托违法模式牟利，以此判定刑事违法性。第三，平台提供者层面，纯算力租赁、基础技术分发平台属于中性技术通道，功能类似于电信网络基础设施，在尽到合理注意义务、不了解下游具体违法用途的情况下，应当适用避风港规则，依法免于追责，仅在有证据证明平台直接参与违法内容分发或明知具体违法行为而仍提供支持的，方可依法追责。

名词解释

避风港规则

指网络服务提供者在特定条件下免于承担侵权或违法责任的制度设计。该规则通常适用于仅提供技术通道、对具体违法内容不知情、在收到通知后及时采取必要措施的网络服务提供者，旨在平衡权利人保护与互联网产业发展的关系。

张勇 华东政法大学教授、博士生导师

实践中，要针对三个层面的行为主体归责难点精准施策。一是人工智能使用者，难点在于人工智能输出不确定性导致归责混淆。破解路径为坚守传统工具犯归责体系，将人工智能视为普通犯罪工具，由终端使用者承担全部刑事责任，不因工具智能化而放松主观过错的证明要求。二是服务提供者，核心难点在于“算法黑箱”导致因果关系证明困难。破解路径为确立研发风险与承担责任相匹配原则：对当前技术水平确实无法预见的研发固有风险不追究刑责，对可预见、可防控却放任发生的运营风险必须依法归责，同时将算法可解释性、数据与日志可留存性逐步纳入合规义务。三是平台提供者，核心难点在于中性业务行为易被不当入罪。对此，应当坚持主客观相统一原则，以“经监管部门责令改正而拒不改正”作为入罪前置条件，仅对主观明知违法、拒不整改、持续放任风险扩散的平台追责，这样既能有效防控平台环节的放任风险，也为产业创新提供稳定的法律预期。

 本期召集人 吕颢

上海市徐汇区人民检察院副检察长

本次研讨，与会嘉宾从涉及人工智能的“对象型”犯罪中非法盗用算力、破坏训练数据的罪名竞合与损失认定，到涉及人工智能的“工具型”犯罪中服务提供者的正犯性与行刑衔接，再到使用者、服务提供者、平台提供者三类主体责任边界的体系化梳理，围绕在法益保护与技术创新之间如何进行刑法适用，进行了深入探讨。本次沙龙研讨成果，将为我们进一步统一法律适用标准提供重要参考，谢谢大家。

文稿整理：徐汇区检察院  战策  陆倩慧

上海市检察院  樊华中

相关法条

《中华人民共和国刑法》

第二百八十五条 违反国家规定，侵入国家事务、国防建设、尖端科学技术领域的计算机信息系统的，处三年以下有期徒刑或者拘役。

违反国家规定，侵入前款规定以外的计算机信息系统或者采用其他技术手段，获取该计算机信息系统中存储、处理或者传输的数据，或者对该计算机信息系统实施非法控制，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。

提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具，情节严重的，依照前款的规定处罚。

单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照各该款的规定处罚。

第三百六十三条 以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。

为他人提供书号，出版淫秽书刊的，处三年以下有期徒刑、拘役或者管制，并处或者单处罚金；明知他人用于出版淫秽书刊而提供书号的，依照前款的规定处罚。