近年来，AI深度合成技术在网络空间引发了诸多争议，从对企业家雷军的恶搞，到利用AI制作张文宏医生的音视频进行商品推广，甚至有不法分子借此进行诈骗活动，这一技术的滥用现象愈发严重。
早前，网络上就曾出现利用AI模仿刘德华声音博取流量的案例，刘德华的电影公司迅速发表声明，警告公众不要受伪造声音技术的欺骗。记者最近的调查发现，制作AI深度合成的音视频并非难事，在某些购物平台上，这项技术已成为网店盈利的手段，消费者只需支付少量费用，就能定制名人的AI音视频。
更令人惊讶的是，一些网络主播甚至在直播中教授如何使用这些技术。记者在手机应用商店搜索关键词，发现众多相关工具，尽管部分工具的逼真度不高，但网店制作的AI深度合成音视频却相当逼真。
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在个人电脑上使用。尽管这些软件有一定的技术门槛，但在短视频平台上，不少主播正在教授如何使用这些工具。
针对这一现象，法律专家指出，相关法律法规明确规定，未经授权，不得深度合成制作发布他人信息。网店利用AI深度合成技术制作并出售名人音视频，已构成侵权行为，应承担相应的法律责任。中国计算机学会计算机安全专业委员会委员吕延辉引用《中华人民共和国民法典》指出，自然人享有肖像、声音等权益，任何组织或个人未经授权利用信息技术进行伪造都是侵权行为。
北京航空航天大学法学院副教授赵精武补充道，司法实践中已有首例AI生成声音人格权侵权案，法院认定未经授权使用配音演员的声音进行AI生成并出售构成侵权。这一案例明确了自然人声音的人格权益属性。
面对AI深度合成技术的普及，公众应如何提高防范意识？薛智慧专家建议，从技术角度看，可以利用AI技术来检测和对抗AI。目前已有一些AI技术能够对图片或音视频进行检测，分析是否经过后期加工或合成。
吕延辉委员强调，防范AI侵权问题需要从法律、平台和公众等多个层面综合施策。法律层面应完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。平台层面则需强化政策法规的执行，保护已有数据，应用技术手段规避AI克隆侵权，同时建立健全内容审核和侵权举报机制。
赵精武副教授提醒AI深度合成制作和信息发布者，法律并非禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是未经显著标识和提示的传播。他强调，法律没有灰色地带，切勿因小失大。
