AI换脸等深度合成技术利弊共存，看各国如何应对？
作为人工智能领域的新应用，深度合成技术以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像及音视频，因较强娱乐性在社交媒体平台广受关注。近日，中国第一部针对深度合成服务治理的专门性部门规章——《互联网信息服务深度合成管理规定》对外发布，以进一步加强互联网信息服务深度合成管理，保护公民、法人和其他组织的合法权益，维护国家安全和社会公共利益。《规定》于2023年1月10日起施行。
当前，世界各国对于“深度合成”技术的规定有何进展？让我们一探究竟。
(资料图片)
游客在上海外滩观光隧道的未来艺术馆的画作前体验人工智能的换脸技术
图源：人民网
技术走向“平民化”，应用场景日益多元
深度合成技术是指基于深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。通过对网络内容进行处理，使其实现从原初形态到目标形态的转变。在实际应用中，深度合成技术可以完成声音复刻、文本生成、微表情操纵等。最为人熟知的便是人脸合成，或称“AI换脸”。
图源：凤凰网
图像修饰和篡改技术早已有之，如PS技术。但深度合成技术可以做到高度真实的改头换面，甚至是人体姿态的全身合成。德国的科学家曾用1000段“换脸”视频进行鉴别实验。实验表明，普通人若无特殊的标记训练，根本无法辨别人脸真伪。
当前，深度合成技术的应用场景“多点开花”。只需要上传一张照片，就可以生成古风、民族风、现代风等风格的人脸特效视频。相比以往，AI换脸的制作门槛和成本都大为降低。越来越多的人可以体会到虚拟化身、数字分身的乐趣，并通过社交媒体享受超越现实的个性化体验，实现了技术的“平民化”。
然而，与其他技术一样，深度合成也会被人为误用和滥用。比如，制造虚假视频、虚假音频进行无限、诽谤、诈骗、勒索等违法行为。深度学习算法的成型，以及多数算法代码的开源，都使换脸软件的开发变得简易，可以近乎零成本地在世界范围内扩散。公众人物的图像、视频、音频资料极易通过网络获取，也成为了二度“创作”的首选，“阿汤哥表演硬币魔术”等深度合成视频都曾火爆“出圈”。深度伪造内容数量不断增多、危害性不断增强，甚至造成个人名誉、财产、精神损害，公司名誉、财产损失以及社会国家安全风险。
图源:中国教育报
机遇与挑战并存，各国开启探索之路
针对这些技术带来的颠覆性风险挑战，世界各国纷纷出台法律，不断探索深度合成的治理路径，方案侧重各有不同。
●美国从联邦和州两个层面进行专门立法。
当前，美国联邦层面虽然还没有生效的专门立法，但参众两院先后提出了侧重点各异的四部法案，即《深度伪造责任法案》《2018恶意深度伪造禁止法案》《2019年深度伪造法案》和《2020财年情报授权法案》。在地方层面，各州对于“深度伪造”技术的法律规制较为积极，目前已有正式生效的法律。
总体而言，美国的相关立法强调“深度合成”技术的虚假性。在提及虚假信息危害性的治理时，要求先由市场主体预防，社交平台和视频平台自我规制，而后采用联邦和地方立法强制性规制，形成自下而上的治理模式。
●欧盟将“深度合成”纳入《通用数据保护条例（GDPR）》等现有法律框架规制，致力于保护欧盟所有网络用户的数据隐私权利，明确提升了企业的数据保护责任，并显著完善了有关监管机制。
现阶段，欧盟对于“深度合成”技术尚未专门立法，但已有法律将该技术囊括其中。比如，《通用数据保护条例》为“深度合成”技术对个人生物识别信息的滥用创设了严格的法律限制；2019年欧盟执行委员会人工智能高级专家工作小组提出了《可信赖人工智能伦理指引》，包括人工智能领域的“数据管理”“算法开发”以及“商业运用”，对“深度合成”技术的使用提出了严格的程序和实体要求。
总体而言，欧盟将“深度合成”技术分解为个人生物识别信息和算法技术，以个人信息保护和人工智能伦理指引为出发点，采用个人数据治理和算法规制的模式。
●德国、新加坡、英国、韩国等国家，则选择将“深度合成”相关犯罪纳入刑法范畴，尚未出台国家层面的专门立法。
●中国颁布的《互联网信息服务深度合成管理规定》将中国语境下的深度合成服务做了全流程梳理，明确了深度合成服务的一般规定，数据和技术管理规范，监督检查与法律责任以及相关用语的含义。
提出内容包括：深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意；深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息等。
“元宇宙”概念的出现，为深度合成技术提供了更加广阔的应用场景，同时也促进了深度合成技术的加速发展。未来，2D图像合成向高质量3D合成的跨越以及多模态合成内容的协同制作等将成为技术突破的热点方向。法律将作为框架，继续为技术的发展设定边界，予以规制。
审核：张宁 策划：李政葳 撰文：穆子叶、雷渺鑫
