近年来，AI深度合成技术在网络空间中引发了诸多争议，从恶搞企业家雷军到利用AI制作张文宏医生的音视频进行带货，甚至有不法分子借助这一技术实施诈骗，侵权现象层出不穷。
此前，有网友通过AI技术模仿刘德华的声音，企图吸引流量，这一行为迫使刘德华的电影公司紧急发布声明，警告网民警惕利用AI语音合成技术伪造刘德华声音的骗局。记者近期调查发现，AI深度合成音视频的制作并不复杂，甚至在一些电商平台，该技术已成为网店盈利的手段，仅需花费少量金钱，就能定制名人的AI深度合成音视频。
更令人惊讶的是，网络上不仅有大量可供下载的深度合成软件，还有一些网络主播通过直播教授如何使用这些软件。记者在手机应用商店搜索“换脸换声”，发现了众多相关工具，但这些工具的逼真度普遍不高。那么，网店是如何制作出高度逼真的AI合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会专家薛智慧介绍，当前有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上安装使用。尽管这些软件种类繁多，但由于操作复杂，需要调整不同场景下的参数，因此不为大众所熟知。然而，记者发现，短视频平台上已有不少主播在教授如何使用这些软件。
针对电商平台使用AI深度合成技术制作并出售名人音视频的行为，专家指出，这已触犯相关法律。未经授权，不得深度合成制作发布他人信息，网店接单制作名人视频属于侵权行为，应承担法律责任。北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案，法院认定被告方在未获得授权的情况下使用原告声音开发AI文本转语音产品构成侵权，并判决其书面赔礼道歉及赔偿损失。
面对AI深度合成技术的普及，如何防范其带来的侵权问题成为关键。薛智慧表示，从技术角度看，可以利用AI技术对抗和检测AI。目前已有一些AI技术能够检测图片或音视频是否被后期加工合成。吕延辉则认为，防范AI侵权需要法律、平台和公众等多方面的共同努力。法律层面应完善相关立法，细化法律条款，明确侵权行为定义和责任，并加强执法力度。平台层面则需强化政策法规的执行，保护已有数据，应用技术手段规避AI克隆侵权，同时建立健全内容审核和侵权举报机制。
法律专家提醒AI深度合成制作和信息发布者，切勿心存侥幸，法律不容许任何灰色地带，以免因小失大。赵精武强调，法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止未经显著标识和提示就发布和传播AI合成信息。
