中同观点 || 《生成式人工智能服务管理暂行办法》的合规解读-北京市中同律师事务所-为您提供高效的法律服务

免费咨询

首页

中同观点 || 《生成式人工智能服务管理暂行办法》的合规解读

发布时间：

2023-07-27

作者：

来源：

张杰

中同观点

本公众号第559篇，2023年第85篇

前言

2023年7月10日由七部委（国家网信办、发改委、教育部、科技部、工信部、公安部、广播电视总局）联合发布的《生成式人工智能服务管理暂行办法》，将于2023年8月15日正式施行。该文件的出台是基于生成式人工智能的飞速发展，广泛的应用场景，以及带来的社会问题，及时地做出明确规范，在保障发展的前提下防范风险。

一、背景

生成式人工智能技术（Generative AI），是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。生成式人工智能技术在多个领域中得到了广泛的应用：

1、自然语言处理（NLP）：生成式人工智能可以用于自然语言生成、文本摘要、机器翻译等任务。例如，生成式对话系统可以与用户进行对话，并生成符合上下文的自然语言回复。

2、计算机视觉（Computer Vision）：生成式人工智能可以用于图像生成、图像修复、图像风格转换等任务。例如，生成式对抗网络（GANs）可以生成逼真的图像，或者将一种图像风格转换为另一种风格。

3、音频处理：生成式人工智能可以用于音频合成、语音转换、音乐生成等任务。例如，WaveNet模型可以生成高质量的语音，而音乐生成模型可以根据输入的音乐风格和特征生成新的音乐作品。

4、创意和设计：生成式人工智能可以用于创意生成、艺术创作等任务。例如，一些生成式模型可以生成独特的艺术作品、诗歌或故事。

5、游戏开发：生成式人工智能可以用于游戏中的关卡生成、角色生成等任务。通过生成式技术，可以创建出无限可能的游戏世界和内容，增加游戏的可玩性和变化性。

6、药物研发：生成式人工智能可以用于药物分子设计和发现新的化合物。通过对已知的化合物进行学习和生成，可以提供研究人员在药物研发过程中的指导和创新思路。

7、虚拟现实和增强现实：生成式人工智能可以用于虚拟现实和增强现实应用中的图像生成和场景重建。通过生成式技术，可以实现更加逼真和沉浸式的虚拟世界或增强现实体验。

以上只是生成式人工智能技术的一部分应用领域，随着技术的不断进步和创新，生成式人工智能将在更多领域中发挥重要作用。

但是，生成式人工智能提高高效和便利的同时，也出现滥用甚至违法犯罪。比如成为诈骗工具，制造转播虚假的新闻、信息等等。

二、典型案例

Generative AI被运用于诈骗、制造谣言等非法行为的速度大大超出人们的想象。下面的两个具体案例会给大家带来更直观的感受，使我们更能理解为什么法律必须克服其滞后性，对这一技术给予及时、必要规制。

“AI换脸” 10分钟骗取430万元

作为生成式人工智能的一种技术，近期，“AI换脸”的应用范围越来越广，但存在滥用之嫌，甚至有人利用AI换脸实施犯罪。

内蒙古包头警方发布一起利用AI实施电信诈骗的典型案例。来自福建的郭先生是一家科技公司的法人代表。今年4月，他的好友突然通过微信视频联系他，称自己的朋友在外地竞标，需要430万元保证金，想借用郭先生公司的账户走账。基于对好友的信任，加上已经视频聊天“确认”了身份，郭先生在10分钟内，先后分两笔把430万元转到了对方的银行账户上。事后，郭先生才得知，原来这是骗子通过AI换脸和拟声技术实施的骗局。

“人工智能造谣术”

自2022年12月以来，一款名为ChatGPT的人工智能应用掀起一股科技热潮，它能够通过学习和理解人类的语言来进行对话，根据用户需求撰写邮件、视频脚本、文案、代码等等，被视为具有可快速、批量生产讯息的生产力工具，然而却有人打起了借此非法牟利的歪心思。

近期，根据公安部网安局总体部署，江苏公安网安部门深入推进网络谣言打击整治专项行动，依法查处一名利用人工智能技术编造谣言的网民。

今年4月10日，盐城市公安局网安支队接到上级通报称，该市一网民发布“浙江温州一名女大学生在晚归途中遭持刀袭击并强奸”的虚假信息。盐城网安支队立即会同属地警方展开调查，查明造谣人员系盐城阜宁县网民朱某锋，并对其依法传唤。到案后，朱某锋对其造谣行为供认不讳。据其交代，他为了博取眼球、吸引流量，以获取平台给予的创作者奖金，就利用了时下流行的ChatGPT人工智能软件杜撰了该谣言。而编造发布此类谣言极易引发群众恐慌，造成不良社会影响。

三、合规解读

虽然出现了各种问题，但总体而言生成式人工智能仍处于发展的初期阶段，风险没有完全暴露，应用前景难以估量，应当采取包容审慎的态度，坚持发展和安全并重、促进创新和依法治理相结合，要采取有效措施鼓励生成式人工智能创新发展。所以本次出台的管理办法称为“暂行办法”，便是有这方面的考虑。文件针对已经出现的滥用、违法现象提出了管理措施，同时为生成式人工智能技术的未来发展留下了巨大的空间。

面对着发展和风险，数据合规是生成式人工智能的服务的风险防控的基本手段，是风险防控的重中之重。《生成式人工智能服务管理暂行办法》（以下简称“《暂行办法》”）是企业必须尽快执行落实的重要规范。

《暂行办法》共五章，包括：总则、技术发展与治理、服务规范、监督检查和法律责任、附则。其中的合规要求从原则、技术研发、提供服务三方面进行了规定。

（一）原则性规定

《暂行办法》总则中提出原则性的规定，可以从几个层面去把握：

国家层面：反分裂、反颠覆、不得危害国家安全和利益、不得损害国家形象，坚持社会主义制度；
社会层面：坚持社会主义核心价值观，不得宣传各种歧视（包括但不限于民族、种族、地域、就业等等），不得传播暴力、色情信息，不得传播虚假信息，维护公序良俗；
企业层面：保护知识产权、商业秘密，反垄断，反不正当竞争；

公民个人权益层面：保护肖像权、名誉权、荣誉权、隐私权和个人信息权益；

最终目的：提高产品的准确性和可靠性。

（二）技术研发合规

《暂行办法》第七条对技术合规做出了规定：生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：

（一）使用具有合法来源的数据和基础模型；

（二）涉及知识产权的，不得侵害他人依法享有的知识产权；

（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；

（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；

（五）《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。

上述内容一言以蔽之，就是合法发展技术。数据和基础模型来源合法、保护知识产权和个人信息。

（三）提供者的义务

《暂行办法》对企业的服务规范的规定为第三章全章，共六条。

第九条提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。涉及个人信息的，依法承担个人信息处理者责任，履行个人信息保护义务。

提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。

第十条提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。

第十一条提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。

提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。

第十二条提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十三条提供者应当在其服务过程中，提供安全、稳定、持续的服务，保障用户正常使用。

第十四条提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第十五条提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

以上内容大多是相关法律规定在生成式人工智能领域的细化。可以归纳为提供者需按依法（合法收集、合法使用、合法保存、合法处置数据）提供服务，保障网络安全、数据安全，生产产品易识别（进行标识），违法行为易处理。

四、结语

笔者用自己的语言对《暂行办法》的合规要点做了总结：

1、维护国家主权，坚持社会主义制度；

2、维护公序良俗，反对各种歧视；

3、公平竞争，保护知识产权和商业秘密；

4、保护公民个人权益，保护公民个人信息；

5、合法开发技术；

6、合法提供服务；

7、开发产品做标记；

8、违法行为及时纠正；

9、产品准确可靠。

综上所述，从合规原则、技术研发到提供服务，《暂行办法》中的要求基本上延续了《网络安全法》《数据保护法》《个人信息保护法》中保护措置，根据生成式人工智能服务的具体特点进行细化。《暂行办法》与《互联网信息服务深度合成管理规定》等规范一起完善了算法治理规范的框架，形成对生成式人工智能服务全方位、多维度的规制，为今后人工智能领域的制度合规与流程建设创立，积累了实践经验。企业应与时俱进，从这三方面尽快进行风险识别，防范法律风险。

文章：张杰

编辑：孔雨欣

校对：包婷

审核：梁洪亮、郑彤

END

更

多

资

讯

-关注中同-

声明｜

本公众号发布署名作者文章均为原创，一切权利属于作者所有。请尊重作者的署名权、修改权及其他合法权益。如需转载，请注明来源“中同律师”公众号及作者署名。本公众号文章仅供学习与交流，不代表任何的官方解读。需要白名单授权的请扫描底部二维码联系。

推荐阅读

●中同公益 ‖ “细胖说法"走进安贞西里社区

●中同资讯 ‖ 祥云满瑞气盛夏迎新人——中同刑辩团队为万大强律师举办迎新会

●中同荣誉 ‖ 中同律所获评“西城区诚信单位”

●中同文化 || 凝心聚力谋新局同心同德共奋进——记中同律师事务所登泰山党建暨团建活动

●中同荣誉 ‖ 热烈祝贺《刑辩实战》被国家图书馆永久收藏

●中同资讯 || 两高律师事务所党委书记、副主任张丽华律师一行莅临中同所参观交流

●当我们选择律所的时候，其实是在选择什么？

2002

2023

北京市中同律师事务所于2002年创建，拥有经验丰富的执业律师及律师辅助人员。中同律师熟知不同领域的法律法规，各自具有不同的业务专长，在多年实践与探索中，中同律师逐渐积累了丰富的办案经验，为了满足客户不同的法律需求，中同所提供的法律服务包括：刑事辩护、民事诉讼、商事诉讼与仲裁、知识产权、影视文化传媒、建筑与房地产、法律顾问、银行证券与保险、私募与投资并购、政府法律事务、环境与资源、涉外法律事务等十多个业务领域，由专业律师负责不同领域的法律事务，从而保证了律师在相关领域的专业化水平，并将专业分工与团体合作有机结合，充分运用资源为客户提供高效优质的法律服务。

中同律师系列栏目