近年来，人工智能（AI）深度合成技术引发了广泛的关注与争议，从对企业家雷军的恶搞，到利用AI制作张文宏医生的音视频进行带货，甚至有不法分子借此进行诈骗活动，AI深度合成音视频的滥用现象愈发严重。
早前，有网友利用AI技术模仿刘德华的声音，以此吸引流量。对此，刘德华的电影公司迅速发表声明，警告公众不要上当受骗，强调这是利用AI语音合成技术的伪造声音。最近，记者通过调查发现，制作AI深度合成音视频并非难事，在一些购物平台上，这种技术已成为网店盈利的手段，仅需几十元，顾客便能定制名人的AI深度合成音视频。
值得注意的是，网络上出现了不少网络主播通过直播教授如何使用这些AI深度合成技术。记者在应用商城搜索“换脸换声”，发现了大量相关工具，但这些工具的逼真度普遍不高，且场景固定。那么，网店是如何制作出高逼真度的AI深度合成音视频的呢？
据中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧介绍，目前网络上有许多开源软件和工具可以实现换声和换脸效果，网民可以自由下载并在自己的电脑上安装使用。虽然这些软件多达数十种，但由于操作复杂，需要调整多种参数，因此并不为大众所熟知。
针对网络购物平台上利用AI深度合成技术制作并出售名人音视频的行为，专家指出，这违反了相关法律法规。未经授权，不得深度合成制作发布他人信息，这种行为已构成侵权，并应承担相应的法律责任。实际上，国内已经审结了首例AI生成声音人格权侵权案，法院最终认定被告的行为构成侵权。
面对AI深度合成音视频侵权的泛滥，专家建议从多个层面进行综合施策。从技术角度来看，可以利用AI技术对抗和检测AI。目前已有一些典型的AI技术能够对图片或音视频进行检测，判断其是否经过后期加工或合成。同时，法律层面也需要进一步完善相关立法，细化AI克隆技术的法律条款，明确侵权行为的定义和责任，并加强执法力度。
平台方面，应强化相关政策法规的宣贯和执行，做好数据的保护工作，应用技术手段规避AI克隆侵权问题的发生。还需要建立健全内容审核和侵权举报机制，及时发现和处理侵权问题。法律专家也提醒AI深度合成制作和信息发布者，不要心存侥幸，法律面前没有灰色地带。
北京航空航天大学法学院副教授赵精武强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，尤其是禁止不进行任何显著标识和提示的AI合成信息的发布和传播。他呼吁相关从业者遵守法律法规，共同维护一个健康、安全的网络环境。
专家还建议公众提高防范意识，学会识别AI合成的音视频，避免上当受骗。随着技术的不断发展，公众也应不断学习和适应新的网络环境，共同促进网络空间的健康发展。
