近年来，深度合成作为一种人工智能内容合成技术，风头正劲。技术的发展与风险相伴而生，当深度合成技术在美颜、绘画、主播、元宇宙等领域为大众带来多样化的交互体验时，其技术滥用也引发了侵权、诈骗等一系列问题。2022年11月25日，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》）。其中提出，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。《规定》自2023年1月10日起施行。

对于深度合成技术的监管，此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及，而《规定》则对深度合成内容更有针对性地进行规制，标志着监管部门针对互联网信息内容监管版图进一步细化。

那么，究竟什么是深度合成技术？《规定》给出了答案：深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。具体包括篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；音乐生成、场景声编辑等生成或者编辑非语音内容的技术；人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

深度合成技术是人工智能发展到一定阶段的产物，其衍生出包括图像合成、视频合成、声音合成和文本生成等多种技术，广泛应用于新闻传媒、影视制作、娱乐、教育和电子商务等领域。不过，由于操作便捷，成本低廉，深度合成服务容易被不法人员利用，用于制作、复制、传播违法信息，甚至仿用他人身份实施诈骗。如今常见或大热的语音转换、图像修复、三维重建、虚拟人、AI换脸、AI绘画等技术类型都被涵盖其中，而这些深度合成技术的滥用风险是看得见的。

为防止深度合成技术被用于犯罪活动，《规定》对深度合成服务提供者、技术支持者等各方责任义务进行了系统性制度设计，包括算法机制机理审核、信息内容管理、安全评估、从业人员教育培训等。

《规定》明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，或从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

同时，《规定》要求，深度合成服务提供者建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度；制定和公开管理规则、平台公约，完善服务协议，落实真实身份信息认证制度；采取技术或者人工方式对输入数据和合成结果进行审核，建立健全用于识别违法和不良信息的特征库；建立健全辟谣机制等。

在《算法规定》明确“不得生成合成虚假新闻信息”的基础上，《规定》也对相关主体，在新闻舆论领域的深度合成技术运用进行了规范。

按照《规定》，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的，应当依法转载互联网新闻信息稿源单位发布的新闻信息。此外，具有舆论属性或者社会动员能力的深度合成服务提供者，应当按照《算法规定》履行备案和变更、注销备案手续；深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。

中国信息通信研究院副院长王志勤认为，《规定》有效衔接了相关法律法规。在网络安全法、数据安全法、个人信息保护法、《互联网信息服务管理办法》等上位法框架下，《规定》有效承接了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》等规章、规范性文件中关于网络信息内容管理、新技术新应用安全评估、显著标识、备案管理等制度规定，对深度合成服务管理机制、主体责任等作出了衔接性制度安排。

除深度合成服务提供者以外，《规定》也将深度合成服务技术支持者纳入监管，明确他们的数据和技术管理规范。

《规定》明确，深度合成服务提供者和技术支持者应当加强训练数据管理。采取必要措施保障训练数据安全之余，提供人脸、人声等生物识别信息显著编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。

深度合成服务提供者和技术支持者还应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。其中，对具有生成或者编辑人脸、人声等生物识别信息，可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的模型、模板等工具，应当依法自行或者委托专业机构开展安全评估。

此外，《算法规定》要求，发现未作显著标识的算法生成合成信息的，应当作出显著标识后，方可继续传输。《规定》在此基础上进一步细化，通过显著标识和隐式标识两种方式对深度合成信息进行规范。

按照《规定》，深度合成服务提供者对使用其服务生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识。提供智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、人脸操控、姿态操控、沉浸式拟真场景等具有生成或者显著改变信息内容功能的服务，可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

“《规定》是目前我国针对深度合成服务出台的第一部专门性部门规章，作出了一系列明确合规指引，对加强互联网信息服务深度合成管理、促进互联网信息服务健康发展、推进网络空间治理意义重大，影响深远。”中国科学院信息工程研究所所长孟丹表示。

“深度合成服务从相继被纳入到相关规定中监管，到出台专门的规章进行规制，显示出我国一方面引导深度合成技术良性发展，另一方面坚决打击利用深度合成服务制作传播违法不良信息、危害信息内容安全、社会公共利益和国家安全的行为。”在中国政法大学副校长时建中看来，深度合成技术展现了其强大的能量和可能性，加速应用已经成为现实趋势。在合规前提下，深度合成技术创新发展，不断开拓应用场景，将形成对人工智能产业整体的带动效应，促进技术向上向善。

本网站及其公众号为公益性网络平台，所发图文仅供传播信息、介绍知识、说明问题之用；相关版权归原作者所有，转载请务必注明出处和作者。

稿件一经选用，即视为作者同意本网免费将其使用于本网或与本网有合作关系的非赢利性各类出版物、互联网与手机端媒体及专业学术文库等。

由稿件引起的著作权问题及其法律责任由作者自行承担。

了解更多动态，请扫描二维码，关注我们的微信公众号：