近年来，人工智能（AI）深度合成技术在音视频领域的应用引发了广泛关注，其中不乏侵权事件频发。从模仿企业家雷军的声音，到伪造张文宏医生的音视频进行商品推广，再到利用AI合成视频进行诈骗，这些行为不仅侵犯了个人权益，也扰乱了社会秩序。
此前，有网民利用AI技术合成的刘德华声音在网络上博取流量，这一事件引起了刘德华电影公司的高度关注，并迅速发布声明，提醒公众警惕伪造刘德华声音的AI语音合成技术骗局。这并非个例，随着AI技术的普及，类似事件层出不穷。
记者近期调查发现，AI深度合成音视频的制作门槛并不高。在一些购物平台上，AI深度合成技术已成为网店牟利的工具。消费者只需支付几十元，即可定制AI深度合成的名人音视频。这一现象引发了社会各界的担忧。
那么，这些高度逼真的AI深度合成音视频是如何制作出来的呢？记者发现，网络上存在大量可供下载的深度合成软件，甚至一些网络主播还在直播中教授如何使用这些软件。尽管部分换脸工具的效果并不逼真，但仍有网店能够制作出高度仿真的AI音视频。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前有众多开源软件和工具可实现换声换脸效果，网民可自由下载并在自己的电脑上安装使用。然而，这些软件具有一定的技术门槛，需要调整参数和多个步骤，因此并不被广大网民所熟知。
尽管如此，仍有众多短视频平台主播在教授网民使用相关软件。这些教学视频无疑加剧了AI深度合成音视频侵权的风险。
针对网络购物平台使用AI深度合成技术制作出售名人音视频的行为，专家表示这已触犯相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。网店接单制作名人视频的行为已构成侵权，并应承担相应的法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉指出，《中华人民共和国民法典》明确规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。北京航空航天大学法学院副教授赵精武也提到，国内已经审结了首例AI生成声音人格权侵权案，法院最终认定被告的行为构成侵权。
面对AI深度合成音视频侵权的严峻形势，专家建议从多个层面综合施策。从技术角度看，可以利用AI技术对抗和检测AI。当前已有一些典型的AI技术能够对图片或音视频进行检测，判断其是否经过后期加工和合成。
在法律层面，要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台方面则需强化相关政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，同时建立健全内容审核和侵权举报机制。
法律专家还提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何不合法不合理的使用都可能引发严重的法律后果。
赵精武副教授强调，法律并非禁止使用AI合成技术，而是禁止不合法不合理的使用。尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。这一观点为AI技术的合理使用提供了明确的指导。
