近年来，随着人工智能的快速发展，AI技术在动漫、音乐等领域遍地开花，抖音平台热门特效“AI绘图”、“AI换脸”，B站上“AI周杰伦”、“AI孙燕姿”等“AI歌手”视频播放量高达上百万。可见，生成式人工智能技术在某种程度上降低了创作的门槛，丰富了互联网内容生态，为信息生产和传播带来了新的变革和机遇。但与此同时，人工智能生成内容存在识别难等特点，也产生了传播虚假信息、侵害个人信息权益等问题。

2023 年 4 月 11 日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称“征求意见稿”）公开征求意见，在充分吸收公众意见并修改后，2023 年 7 月10 日，国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局联合发布《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”），并于2023年8月15日正式施行。本文是笔者对《暂行办法》中条文的梳理和解读，供读者进行探讨。

《暂行办法》中第二条 利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务，适用本办法。

国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定。

首先，本办法所称的“生成式人工智能“是指利用生成式人工智能技术生成文本、图片、音频、视频等内容的服务，也就是业内简称的AIGC，没有覆盖人工智能的其他方面。笔者认为其内容同《互联网信息服务深度合成管理规定》中关于深度合成技术内容（“利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”）近似，但区别在于，本《暂行办法》中的生成式人工智能不仅仅指由算法生成，还包括了模型、规则生成的内容，可见，《暂行办法》适用监管的范围更广。

其次，《暂行办法》明确了人工智能提供服务对象为中华人民共和国境内公众，并且较此前“征求意见稿”，也明确提出若“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生成式人工智能服务的，不适用本办法的规定”，这对于特定组织机构自行应用但不对外提供服务的做了例外规定。

《暂行办法》第三条 国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

第四条 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

国家对于生成式人工智能服务采取的原则是在鼓励人工智能发展的同时对生成式人工智能服务实行包容审慎和分类分级监管。根据《暂行办法》第五条、第六条，国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源，生成积极健康、向上向善的优质内容。

但因为目前人工智能关键技术尚不成熟，特别是在透明度、可靠性、偏见和歧视方面，并且早在《互联网信息服务深度合成管理规定》和抖音关于《人工智能生成内容的平台规范暨行业倡议》中，也都有对生成式人工智能服务的监管要求的体现。故本《暂行办法》在保留延续了此前同类法律规定内容前提下，提出上述第四条规定。针对第四条规定，主要分为以下几点：首先内容上，人工智能生成的内容需要符合社会主义核心价值观，尊重社会公德、公序良俗；其次在使用人工智能创作时要尊重知识产权、商业秘密等；另外，个人信息权益在信息网络中一直是一个重点保护的对象，所以在使用人工智能创作时，要注重保护个人信息，当然这也符合《民法典》等我国现行法律法规的规范范畴。

第七条 生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

（一）使用具有合法来源的数据和基础模型；

（二）涉及知识产权的，不得侵害他人依法享有的知识产权；

（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

第九条 提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。

海量数据是人工智能的立身之本，如果处理不好信息安全，将会出现泄密与侵权等各种问题。就比如热门的“AI绘画”，其工作大体上分为三个阶段，数据收集、数据处理、生产图像。我们平常所听到的“喂图”就是其中第二步“深度学习”的核心，优秀的AI绘画模型，需要庞大的数据库支撑，因此许多服务提供者会选择使用“爬虫”获取大量数据，而这类行为就有可能产生侵害著作权的风险。故《暂行办法》将信息保护摆在重要位置，提供者在创作AI模型涉及个人信息数据时，应当征得用户同意，取得授权，对个人信息的收集、存储、使用、加工严格遵照相关规定。

此外，《暂行办法》也明确了责任承担—提供者履行主体责任。首先，《暂行办法》明确规定“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。”此前，抖音也已经开始参照规定，要求发布者对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景提供者作为网络信息内容生产者，并且提供技术支持。其次，提供者应承担网络信息安全义务，涉及个人信息时，提供者依法承担个人信息处理者责任，履行个人信息保护义务。同时，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改如果发现生成违法违规情况。

《暂行办法》第十九条至二十一条，主要包括部门管理、安全评估、使用者监督等各方面对生成式人工智能服务进行监督和管理。首先法规要求网信、发展改革、教育、科技、工业和信息化、公安、广播电视、新闻出版等部门，依据各自职责依法加强对生成式人工智能服务的管理。其次，对于生成式人工智能服务的，应当按照国家有关规定开展安全评估，并且按照规定进行算法备案等手续。第三，作为使用者，有权就发现生成式人工智能服务不合规的行为向有关主管部门投诉、举报。

另《暂行办法》第二十条：“对来源于中华人民共和国境外向境内提供生成式人工智能服务不符合法律、行政法规和本办法规定的，国家网信部门应当通知有关机构采取技术措施和其他必要措施予以处置”补充说明了本办法适用范围，也是首次对境外服务提供者作出原则性规定。

结语：生成式人工智能服务拥有广阔应用前景和巨大发展潜力，但同时也面临着诸多挑战和风险。《暂行办法》作为我国首份生成式人工智能监管文件，在立法理念、核心问题等方面充分体现了包容审慎、兼容谦抑的姿态。虽然《暂行办法》在现阶段无法做到面面俱到，但相信此后，各监管部门会与时俱进、陆续出台法律法规。

本期供稿