近年来，AI深度合成技术在音视频领域的应用引发了广泛关注，同时也带来了一系列侵权问题。从对企业家雷军的恶搞，到假冒张文宏医生音视频进行带货，再到利用该技术实施诈骗，这类事件频发，且愈演愈烈。
去年，刘德华的声音被不法分子利用AI技术合成，并用于谋取流量。对此，刘德华的电影公司迅速发布声明，提醒公众警惕伪造声音的AI语音合成技术。记者最近调查发现，AI深度合成音视频的制作门槛并不高，甚至在一些购物平台上，这种技术已成为网店盈利的工具。只需支付几十元，顾客就可以定制名人的AI深度合成音视频。
那么，这些高度逼真的AI合成声音和换脸是如何制作出来的呢？调查发现，相关深度合成软件在网络上并不难找到，而且一些网络主播还在直播中教授如何使用这些软件。尽管手机应用商城里的一些换脸换声工具逼真度不高，但网店提供的服务却能达到很高的逼真度。
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有很多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上安装使用。虽然这类软件多达数十种，但由于其技术门槛较高，需要调整不同的参数和步骤，因此并不为普通网民所熟知。然而，在短视频平台上，有不少主播在教授如何使用这些软件。
关于网络购物平台上使用AI深度合成技术制作并出售名人音视频是否违法的问题，专家指出，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。因此，网店接单制作名人视频的行为已构成侵权，并应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武表示，国内已经审结了首例AI生成声音人格权侵权案。在这起案件中，一位配音演员的声音未经授权被AI生成并出售，法院最终认定被告的行为构成侵权。因为民法典已将自然人的声音视为一种具有人身专属性的人格权益。
对于如何防范AI深度合成音视频侵权问题，专家建议从多个层面综合施策。从技术角度来看，可以利用AI技术对抗和检测AI。目前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。中国计算机学会计算机安全专业委员会委员吕延辉指出，法律层面需要完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台则需要强化政策法规的宣贯和执行，做好数据保护，应用技术手段规避AI克隆侵权问题的发生，并建立健全内容审核和侵权举报机制。
专家还提醒AI深度合成制作和信息发布者，不要心存侥幸。法律并没有灰色地带，任何不合法不合理的使用都可能面临法律制裁。赵精武副教授强调，法律并不禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
面对AI深度合成技术的广泛应用，公众也应提高防范意识。薛智慧专家表示，通过技术手段可以检测和分析图片或音视频是否经过后期加工和合成，从而降低被侵权的风险。
