在上一篇《生成式人工智能数据合规研究系列（一）——法律与监管概述篇》中，我们主要进行了关于国内外生成式人工智能（“生成式AI”）数据合规法律和监管环境的梳理。承接第一篇内容，我们继续推出本系列研究的第二篇“网络安全篇”。在本篇中，我们将为您梳理和分析企业在开发和运营生成式AI的过程中，在网络安全方面可能遇到的法律风险，并提出具有操作性风险防范建议，供相关企业参考。

基于此前对我国生成式AI在数据合规方面的立法和监管环境梳理，不难发现我国正在稳步加强对人工智能的治理，针对生成式AI的监管方式也在有条不紊地探索之中，在此背景下，从本期开始我们将进一步分析生成式AI可能遇到的各类法律风险和防范。在网络安全方面，生成式AI服务提供者在开发、运营生成式AI的过程中，会具有网络运营者、网络产品/服务提供者的不同身份，我们将分别论述企业在不同身份下的风险和防范。

一、生成式AI服务提供者作为网络运营者的风险和防范

AI是通过普通计算机程序来呈现人类智能的技术，需要在网络环境中运行，企业在生成式AI提供服务的过程中，会面临诸多网络安全风险，譬如由病毒入侵、黑客非法闯入等因素引起的网络遭受攻击、干扰、破坏的风险；服务器故障、线路故障引起的网络硬件设施损坏风险；软件漏洞引发的网络安全风险；个人的不当操作引起的网络操作系统不安全风险等。

根据《中华人民共和国网络安全法》（“《网络安全法》”），网络是指由计算机或者其他信息终端及相关设备组成的按照一定的规则和程序对信息进行收集、存储、传输、交换、处理的系统[1]；网络运营者是指网络的所有者、管理者和网络服务提供者[2]，应当对网络安全风险的风控承担相应的合规义务。生成式AI属于计算机程序，必须依托网络环境运行，其开发和运营也需要通过计算机网络实现，因此提供生成式AI服务的企业是网络运营者，应当履行包括但不限于《网络安全法》及相关配套制度规定的以下一系列网络安全合规义务，以控制法律风险：

1. 落实网络安全等级保护的相关要求

《网络安全法》规定网络运营者应当建立网络安全等级保护制度，并按照网络安全等级保护制度的要求，履行安全保护义务。作为网络运营者的生成式AI服务提供者，应按照网络安全等级保护制度要求，满足实质性法定要求，包括制定内部安全管理制度和操作规程，确定网络安全负责人，落实网络安全保护责任；采取防范计算机病毒和网络攻击、网络侵入等危害网络安全行为的技术措施保障网络安全；采取监测、记录网络运行状态、网络安全事件的技术措施，并按照规定留存相关的网络日志不少于六个月；采取留存网络日志，采取数据分类、重要数据备份和加密等措施，以保障网络免受干扰、破坏或者未经授权的访问，防止网络数据泄露或者被窃取、篡改。[3] 同时，作为实施网络安全等级保护的程序性要求，AI服务提供者还应当完成对象系统的定级、安全建设与整改、测评、备案等相关法定程序。

2. 建立应急处置机制

《网络安全法》规定了网络运营者的应急处置义务，具体而言，网络运营者应当制定网络安全事件应急预案，及时处置系统漏洞、计算机病毒、网络攻击、网络侵入等安全风险；在发生危害网络安全的事件时，立即启动应急预案，采取相应的补救措施，并按照规定向有关主管部门报告。[4]

作为网络运营者的生成式AI服务提供者应在网络安全事件应急预案中，明确网络安全事件的分级分类、职责分工、组织指挥、监测预警、应急响应流程、处置方法和保障措施等内容。发生网络安全事件时，立即启动应急预案，采取各种技术措施及时控制事态发展，最大限度地防止事件蔓延、控制事态发展；尽快分析事件发生原因，根据网络运行和承载业务情况，初步判断事件的影响、危害和可能波及的范围，提出应对措施建议；同时，应尽量保留相关证据，采取手工记录、截屏、文件备份和影像设备记录等各种手段，对事件发生、发展、处置的过程、步骤、结果进行详细记录，尽可能保存原始证据，为事件处置、调查、处理提供客观证据。另一方面，生成式AI服务提供者在发生网络安全事件时要按照预案要求，及时向上级主管部门、属地网络安全监管部门报告事件信息，涉及用户个人信息的，除非已采取措施能够有效避免信息泄露、篡改、丢失造成危害的，建议及时通知个人。

3. 在特定情形下通过网络安全审查

《网络安全审查办法》第2条规定，“关键信息基础设[5]施运营者（以下称“CIIO”）采购网络产品和服务，网络平台运营者开展数据处理活动，影响或者可能影响国家安全的，应当按照本办法进行网络安全审查”。特别地，部分生成式AI服务提供者的经营活动还可能涉及境外上市，或掌握大量个人信息，或本身处于敏感行业，根据《网络安全审查办法》第7条，“掌握超过100万用户个人信息的网络平台运营者赴国外上市，必须向网络安全审查办公室申报网络安全审查。” 在我国，上述情况将导致企业适用网络安全审查机制。此外，如果相关监管部门认为生成式AI服务影响或者可能影响国家安全，还可能会由国家网信办下设的网络安全审查办公室依法对相关生成式AI服务及服务提供者发起网络安全审查。

因此，根据生成式AI服务提供者的角色不同，我们提出下述建议以控制相关风险：

①　生成式AI服务提供者自身作为网络安全审查对象的情况

生成式AI服务提供者如涉及上述《网络安全审查办法》第2条、第7条所述的可能触发网络安全审查的情形，则建议应当对自身的供应链进行管理，具体而言，包括完善采购协议、安全保密协议、数据处理协议等法律文件，对供应商的配合义务、保密义务、安全义务等作出安排；对于已经采购的网络产品和服务，如果未能通过网络安全审查，则建议及时停止使用并进行更换。同时，除供应链管理外，还建议按照《网络安全审查办法》的相关规定，根据以下维度，自查是否存在可能危害网络安全和数据安全的因素[6]：

i. 产品和服务使用后带来的关键信息基础设施被非法控制、遭受干扰或者破坏的风险；

ii. 产品和服务供应中断对关键信息基础设施业务连续性的危害；

iii. 产品和服务的安全性、开放性、透明性、来源的多样性，供应渠道的可靠性以及因为政治、外交、贸易等因素导致供应中断的风险；

iv. 产品和服务提供者遵守中国法律、行政法规、部门规章情况；

v. 核心数据[7]、重要数据[8]或者大量个人信息[9]被窃取、泄露、毁损以及非法利用、非法出境的风险；

vi. 赴境外上市的，上市存在关键信息基础设施、核心数据、重要数据或者大量个人信息被外国政府影响、控制、恶意利用的风险，以及网络信息安全风险。

② 生成式AI服务提供者作为网络安全审查对象（通常为CIIO）供应商的情况

除自身作为网络安全审查对象外，生成式AI服务提供者还有可能作为提供网络产品的供应商，向应当进行网络安全审查的CIIO提供网络产品。这种情况下，生成式AI服务提供者虽然不直接作为网络安全审查的对象，但也应当配合网络安全审查对象履行相应的合规义务，包括：配合网络安全审查；承诺不利用提供产品和服务的便利条件非法获取用户数据、非法控制和操纵用户设备；无正当理由不中断产品供应或者必要的技术支持服务 [10]；遵守中国法律、行政法规、部门规章 [11]；技术支持和安全保密义务等 [12]。

二、生成式AI服务提供者作为网络产品/服务提供者的风险和防范

1. 网络产品安全漏洞管理和维护

网络产品，是网络条件下物质产品、信息产品和网络服务等的总称，[13]包含硬件与软件等，生成式AI建构于网络环境之中，属于人工智能类网络产品。在网络环境下，网络产品一旦产生漏洞，其漏洞信息可通过网络平台快速传播，危害网络产品自身安全行及网络用户权益，因此有必要采取措施防止风险扩大或者避免损害发生，而网络产品提供者是自身网络产品的责任主体。根据我国《网络安全法》《网络产品安全漏洞管理规定》等相关规定，开发和运营生成式AI的企业作为网络产品提供者应当履行安全漏洞管理义务、安全漏洞报送义务、安全维护义务等合规义务。具体而言，网络产品提供者、网络运营者和网络产品安全漏洞收集平台应当建立健全网络产品安全漏洞信息接收渠道并保持畅通，留存网络产品安全漏洞信息接收日志不少于6个月[14]；网络产品提供者还应当确保其产品安全漏洞得到及时修补和合理发布，并指导支持产品用户采取防范措施；网络产品、服务的提供者应当为其产品、服务持续提供安全维护；在规定或者当事人约定的期限内，不得终止提供安全维护[15]；在修复漏洞前发布漏洞信息应当向有关主管部门（工业和信息化部、公安部）报告[16]。

2. 生成式AI服务的准入资格

生成式AI根据业务形态的不同，还涉及需要取得相应准入资格。例如，如果涉及允许用户间进行互动（如聊天室、即时通信等）的服务形态，则可能需要取得B25类（信息服务业务）增值电信业务经营许可证；[17] 如果AI生成作品构成网络出版物，那么根据《网络出版服务管理规定》，该生成式AI还需要取得网络出版服务许可证等。[18]

3. 特定情况下落实用户实名制的相关要求

如生成式AI的服务范围包括提供信息发布、即时通讯、深度合成等服务的，则建议生成式AI服务提供者按照《网络安全法》《中华人民共和国反电信网络诈骗法》[19]《移动互联网应用程序信息服务管理规定》[20]《互联网信息服务深度合成管理规定》[21]等法律法规，对用户进行真实身份信息认证。

4. 加强未成年人保护

《中华人民共和国未成年人保护法》第五章专门规定了未成年人的网络保护，明确要求各网络产品从网络内容筛查、身份认定、时间设置、功能设置等方面强化网络对未成年人身心健康保护。《网络安全法》第13条也规定，“国家支持研究开发有利于未成年人健康成长的网络产品和服务，依法惩治利用网络从事危害未成年人身心健康的活动，为未成年人提供安全、健康的网络环境。”《生成式人工智能服务管理暂行办法》中也明确要求要采取有效措施防范未成年人用户过度依赖或沉迷生成式AI。[22]

除网络安全风险外，生成式AI服务提供者在数据合规方面还将面临数据安全以及个人信息保护方面的合规要求和法律风险，我们将在下期为您继续呈现“数据安全篇”，尝试探讨提供生成式AI服务的企业作为数据处理者，在算法合规、生成内容合规、数据来源合规等方面的风险及应对策略，敬请期待。

[1] 《网络安全法》第76条。

[2] 《网络安全法》第76条。

[3] 《网络安全法》第21条。

[4] 《网络安全法》第25条。

[5] 《关键信息基础设施安全保护条例》第2条：“本条例所称关键信息基础设施，是指公共通信和信息服务、能源、交通、水利、金融、公共服务、电子政务、国防科技工业等重要行业和领域的，以及其他一旦遭到破坏、丧失功能或者数据泄露，可能严重危害国家安全、国计民生、公共利益的重要网络设施、信息系统等。”

[6] 《网络安全审查办法（2021）》第10条。

[7] 《数据安全法》第21条第2款：“关系国家安全、国民经济命脉、重要民生、重大公共利益等数据属于国家核心数据，实行更加严格的管理制度。”

[8] 是指特定领域、特定群体、特定区域或达到一定精度和规模的数据，一旦被泄露或篡改、损毁，可能直接危害国家安全、经济运行、社会稳定、公共健康和安全。

[9] 《个人信息保护法》第4条第1款：“个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息，不包括匿名化处理后的信息。”

[10] 《网络安全审查办法（2021）》第6条。

[11] 《网络安全审查办法（2021）》第10条第1款第4项。

[12] 《关键信息基础设施安全保护条例》第20条。

[13] 参见MBA智库·百科释义， https://wiki.mbalib.com/wiki/%E7%BD%91%E7%BB%9C%E4%BA%A7%E5%93%81，2023年6月25日最新访问。

[14] 《网络产品安全漏洞管理规定》第5条。

[15] 《网络安全法》第22条第2款。

[16] 《网络产品安全漏洞管理规定》第9条第（1）项。

[17] 根据《中华人民共和国电信条例》第7条和《互联网信息服务管理办法》第7条，经营电信业务，必须依照规定取得国务院信息产业主管部门或者省、自治区、直辖市电信管理机构颁发的电信业务经营许可证。未取得电信业务经营许可证，任何组织或个人不得从事电信业务经营活动。

《中华人民共和国电信条例》附录中规定，增值电信业务包括：(一)电子邮件；(二)语音信箱；(三)在线信息库存储和检索；(四)电子数据交换；(五)在线数据处理与交易处理；(六)增值传真；(七)互联网接入服务；(八)互联网信息服务；(九)可视电话会议服务。

[18] 《网络出版服务管理规定》第7条：从事网络出版服务，必须依法经过出版行政主管部门批准，取得《网络出版服务许可证》。

[19] 《中华人民共和国反电信网络诈骗法》第9条。

[20] 《移动互联网应用程序信息服务管理规定》第6条。

[21] 《互联网信息服务深度合成管理规定》第9条。

[22] 《生成式人工智能服务管理暂行办法》第10条。