近年来，AI深度合成技术引发了诸多社会争议，从模仿企业家雷军的搞笑视频，到假冒张文宏医生进行商品推销，乃至利用该技术实施诈骗，此类侵权事件层出不穷。据调查，制作高度逼真的AI合成音视频已不再是技术难题，甚至在电商平台上，此类服务已成为部分网店盈利的手段，消费者仅需支付小额费用，便能定制名人的AI合成音视频。
记者深入探究发现，网络上存在大量开源软件及工具，能够轻松实现声音替换与面部替换效果。这些软件虽下载便捷，但操作相对复杂，需根据不同场景调整参数，具有一定的技术门槛。然而，在短视频平台上，不少网络主播正通过直播教授如何使用这些软件，使得技术门槛大大降低。
专家指出，尽管这些软件种类繁多，但未经授权便合成制作他人音视频，已明确违反相关法律法规。中国网络空间安全协会人工智能安全治理专业委员会的专家薛智慧强调，网络上众多开源软件均可实现声音与面部替换，网民可自由下载并在个人电脑上使用。
对于电商平台上利用AI深度合成技术制作并出售名人音视频的行为，法律专家表示，这已构成侵权。中国计算机学会计算机安全专业委员会委员吕延辉引用《中华人民共和国民法典》指出，自然人享有肖像、声音等权益，任何组织或个人未经授权利用信息技术进行伪造均属侵权行为。2023年国家网信办、工信部、公安部联合发布的《互联网信息服务深度合成管理规定》也明确要求，不得利用深度合成服务制作、复制、发布、传播法律禁止的信息。
北京航空航天大学法学院副教授赵精武提到，国内已审结首例AI生成声音人格权侵权案，法院认定被告行为构成侵权，强调自然人的声音具有人身专属性。专家建议，从技术层面，可利用AI技术对抗并检测AI，当前已有技术能够判断音视频是否经过后期加工合成。
为防范AI深度合成音视频侵权，专家建议从法律、平台及公众层面综合施策。法律层面需完善立法，细化AI克隆技术的法律条款，明确侵权定义与责任，并加强执法力度。平台层面则需强化政策执行，保护已有数据，应用技术手段规避侵权问题，同时建立健全内容审核与侵权举报机制。公众也应提高防范意识，避免落入AI合成的陷阱。
赵精武副教授进一步强调，法律并不禁止使用AI合成技术，而是禁止不合法、不合理的使用，特别是未经显著标识和提示便发布和传播AI合成信息。公众与法律执行者均需明确这一界限，共同维护网络空间的合法权益。
