近年来，AI深度合成技术引发的音视频侵权事件层出不穷，从对企业家雷军的恶搞，到利用AI制作张文宏医生的音视频进行带货，再到不法分子通过该技术实施诈骗，侵权现象愈演愈烈。
去年，有网友利用AI技术模仿刘德华的声音，企图吸引流量，这一行为引起了广泛关注。刘德华的电影公司迅速发布声明，提醒公众不要受骗于这种利用AI语音合成技术的伪造声音。记者最近的调查发现，制作AI深度合成的音视频其实并不困难，甚至在部分购物平台上，AI深度合成技术已成为网店盈利的工具，只需支付少量费用，就能定制名人的AI深度合成音视频。
那么，这些高度逼真的AI合成声音和换脸是如何制作的呢？记者发现，虽然网络上有许多换脸换声的工具可供下载，但这些工具大多设置了固定的场景，且效果不够逼真。相比之下，网店提供的AI深度合成音视频则显得更为真实。中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧指出，目前网络上有许多开源软件和工具可以实现换声换脸的效果，网民可以自由下载并在自己的电脑上使用。
据专家介绍，尽管这类软件种类繁多，但由于它们属于半专业软件，需要调整参数和多个步骤，因此并不被广大网民所熟知。然而，记者发现，在短视频平台上，有不少主播在教授网民如何使用这些软件。
对于在网络购物平台上使用AI深度合成技术制作并出售名人音视频的行为，专家表示这明显触犯了相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。因此，网店接单制作名人AI深度合成视频，已构成侵权行为，并应承担相应的法律责任。
中国计算机学会计算机安全专业委员会委员吕延辉提到，《中华人民共和国民法典》规定，自然人享有肖像、声音等权益，任何组织或个人利用信息技术伪造都是侵权行为。国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》也明确要求，不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息。而网信办发布的《人工智能生成合成内容标识办法（征求意见稿）》则提出，要对AI生成合成内容进行标识，以防止误导性信息的传播。
那么，网店使用AI深度合成技术制作名人视频应承担怎样的法律责任呢？北京航空航天大学法学院副教授赵精武表示，国内已经审结了首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音在未经授权的情况下被AI生成并出售，法院最终认定被告的行为构成侵权。
专家指出，不仅是名人，普通人甚至动画形象，如果未经本人或版权方同意，就使用AI合成制作其音视频，同样构成侵权行为，应承担法律责任。那么，面对AI深度合成音视频侵权的日益普及，我们又该如何防范呢？
薛智慧专家表示，从技术角度来看，可以利用AI技术来对抗和检测AI。目前已有一些典型的AI技术能够对图片或音视频进行检测，以判断其是否经过后期加工或合成。吕延辉委员则强调，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策，包括完善相关立法、细化法律条款、加强执法力度、强化平台政策法规的宣贯和执行、应用技术手段规避AI克隆侵权问题的发生，以及建立健全内容审核和侵权举报机制等。
法律专家也提醒AI深度合成制作和信息发布者，不要抱有侥幸心理，法律没有灰色地带，切勿因小失大。赵精武副教授表示，法律并不禁止使用AI合成技术，而是禁止不合法不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
