近年来，AI深度合成技术在网络上引发的侵权事件层出不穷，从恶搞企业家雷军，到利用AI制作张文宏医生的音视频进行带货，再到不法分子借助该技术实施诈骗，这些现象日益猖獗，引起了广泛关注。
早先，有网友通过AI技术模仿刘德华的声音，以此吸引流量。对此，刘德华的电影公司迅速发表声明，警告网民警惕伪造刘德华声音的AI语音合成技术骗局。近期，记者调查发现，制作AI深度合成音视频并非难事，甚至在部分购物平台上，这项技术已成为网店牟利的工具，消费者仅需花费少量金钱，就能定制名人的AI深度合成音视频。
那么，这些高度逼真的AI换声和换脸视频是如何制作的呢？记者发现，相关深度合成软件在网络上并不难获取，甚至有些网络主播通过直播教授网友如何使用这些软件。尽管在应用商城中搜索到的换脸工具逼真度不高，且场景固定，但网店却能制作出高度逼真的AI合成音视频。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前网络上存在多种开源软件和工具，能够实现换声和换脸效果，网民可以自由下载并在个人电脑上安装使用。尽管这些软件有一定的技术门槛，属于半专业软件，但在短视频平台上，已有众多主播在教授网民如何使用。
针对网店使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已触犯相关法律。根据相关法律法规，未经授权，不得深度合成制作发布他人信息。因此，网店接单制作名人视频的行为属于侵权，应承担相应的法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案。在该案中，一名配音演员的声音未经授权被AI生成并出售，法院最终认定被告方构成侵权，并判决其书面赔礼道歉，赔偿原告各项损失25万元。这一案例为类似侵权行为提供了法律借鉴。
对于如何防范AI深度合成音视频侵权问题，专家提出了多项建议。从技术角度来看，可以利用AI技术对抗和检测AI。当前已有一些典型的AI技术能够检测图片或音视频是否经过后期加工和合成。同时，专家还认为，防范AI侵权需要法律、平台和公众等多方面的共同努力。法律层面应完善相关立法，细化AI克隆技术的法律条款，并加强执法力度。平台层面则需强化政策法规的宣贯和执行，应用技术手段规避AI克隆侵权问题的发生，并建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，切勿心存侥幸。法律没有灰色地带，任何违法行为都将受到严厉制裁。赵精武强调，法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。
