近年来，AI深度合成技术引发的音视频侵权事件层出不穷，从对企业家雷军的恶搞，到假冒张文宏医生进行带货直播，再到利用该技术实施诈骗，其滥用现象日益严重。
去年，有网友利用AI技术模仿刘德华的声音，企图吸引流量，这一行为迫使刘德华的电影公司发布紧急声明，警告公众防范AI语音合成技术的骗局。记者最近的调查显示，制作AI深度合成的音视频并非难事，甚至在部分电商平台，这项技术已成为网店盈利的手段，消费者只需支付数十元，即可定制名人的AI音视频。
那么，这些高度逼真的AI换声和换脸视频是如何制作的呢？记者发现，尽管在应用商店中可以找到一些换脸换声的工具，但这些工具的效果往往不够逼真，且场景固定。对于网店所制作的高质量AI音视频，其背后的制作技术显然更为复杂。
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，目前网络上存在多种开源软件和工具，可以实现换声和换脸效果，用户可自由下载并在个人电脑上安装使用。然而，这些软件属于半专业工具，需要调整多个参数，步骤繁琐，因此不为普通网民所熟知。尽管如此，短视频平台上仍有不少主播教授如何使用这些软件。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，法律专家指出，这已明确触犯相关法律。根据《中华人民共和国民法典》及相关规定，未经授权，不得深度合成制作发布他人信息。因此，网店接受订单制作名人AI音视频，已构成侵权行为，需承担法律责任。
北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案，法院认定被告在未授权情况下使用原告配音演员的声音进行AI生成并出售的行为构成侵权。这表明，我国法律对自然人声音的保护已十分明确。
面对AI深度合成音视频侵权的日益严重，专家建议公众提高防范意识。薛智慧指出，技术上可以利用AI对抗和检测AI，目前已有一些AI技术能够检测图片或音视频是否经过后期加工和合成。
中国计算机学会计算机安全专业委员会委员吕延辉强调，防范AI侵权需要从法律、平台和公众等多个层面综合施策。法律层面应完善立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台则需强化政策法规的宣贯和执行，利用技术手段规避AI克隆侵权，同时建立健全内容审核和侵权举报机制。
赵精武副教授提醒，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未进行显著标识和提示的AI合成信息的发布和传播。他呼吁AI深度合成制作和信息发布者不要心存侥幸，以免因小失大。
