近年来，人工智能（AI）深度合成技术引发的音视频侵权事件层出不穷，从戏谑企业家雷军到假冒张文宏医生进行商品推销，乃至诈骗活动，这一技术被滥用的现象日益严重。
刘德华的声音也曾被不法分子利用AI技术模仿，以骗取流量。对此，刘德华的电影公司迅速发布声明，警告公众警惕伪造其声音的AI语音合成骗局。近期记者的调查显示，制作AI深度合成的音视频并非难事，甚至在电商平台上，这一技术已成为众多网店盈利的手段，消费者仅需支付几十元，即可定制名人AI深度合成的音视频。
更令人惊讶的是，一些网络主播甚至通过直播教授如何使用这些技术。记者在手机应用商店搜索关键词“换脸换声”，发现众多相关应用。然而，这些工具的逼真度普遍不高，且场景设定固定。那么，网店是如何制作出高逼真度的AI深度合成音视频的呢？
中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧指出，目前网络上存在许多开源软件和工具，可实现换声和换脸效果，网民可自由下载并在个人电脑上安装使用。这些软件虽有一定技术门槛，但已有众多主播在短视频平台上教授使用方法。
关于电商平台使用AI深度合成技术制作并出售名人音视频是否违法的问题，专家明确表示，相关法律法规已明确规定，未经授权，不得深度合成制作发布他人信息。因此，网店接订单制作名人AI深度合成视频已构成侵权行为，并需承担法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告行为构成侵权。这表明，自然人的声音被视为一种具有人身专属性的人格权益。
专家强调，不仅是名人，普通人乃至动画形象，若未经本人或版权方同意，使用AI合成制作其音视频，同样构成侵权行为，并需承担法律责任。那么，面对AI深度合成音视频侵权的普及，我们该如何防范呢？
薛智慧专家指出，从技术角度来看，可以利用AI技术对抗和检测AI。当前已有一些典型的AI技术，能够对图片或音视频进行检测，以判断其是否经过后期加工或合成。
中国计算机学会计算机安全专业委员会委员吕延辉建议，防范AI侵权问题需从法律、平台和公众等多个层面综合施策。法律层面需完善相关立法，细化AI克隆技术的法律条款，明确侵权行为定义和责任，并加强执法力度。平台层面则需强化政策法规的宣贯和执行，保护已有数据，应用技术手段规避AI克隆侵权，同时建立健全内容审核和侵权举报机制。
赵精武副教授提醒AI深度合成制作和信息发布者，法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是未经显著标识和提示的AI合成信息的发布和传播。他强调，法律没有灰色地带，切勿因小失大。
