近期，网络上出现了一系列引人注目的现象，涉及多位公众人物的音视频被AI技术深度合成并广泛传播。其中，小米公司CEO雷军的声音被用于一系列短视频中，这些视频针对堵车、假期安排、调休制度以及游戏等热门话题发表了尖锐评论，甚至包含不文明语言，迅速在网络上引起了轩然大波。
然而，经核实，这些视频中的声音并非雷军本人所出，而是由先进的AI技术生成的配音。这一发现让不少网友大跌眼镜，同时也引发了关于AI技术滥用和监管的讨论。
不仅如此，网络上还出现了“张文宏医生”推销蛋白棒的音视频，这些视频的口型和声音与张文宏本人高度相似，导致部分老年人误信并下单购买。面对这一情况，张文宏医生不得不向平台方提出投诉，并表示自己曾考虑过报警，但由于对方频繁更换账号且全部使用虚拟信息，如同幽灵般难以追踪，最终只能寄希望于相关部门加强监管力度。
AI深度合成音视频技术的滥用现象正在愈演愈烈。多位配音演员表示，他们的声音被AI技术“盗用”，甚至有人利用这些声音仿冒他人亲属进行诈骗活动。这一现象不仅损害了公众人物的声誉，也对普通人的隐私和安全构成了严重威胁。
央视新闻近日也报道了AI合成名人音视频乱象。据报道，去年3月，刘德华的电影公司发布声明，指出有网友利用AI技术合成的刘德华声音进行虚假宣传，散布关于演唱会的不实信息，并收取门票订金等。这一行为不仅侵犯了刘德华的肖像权和名誉权，也给消费者带来了经济损失。
调查发现，实现AI深度合成音视频的技术门槛并不高。在一些购物平台上，AI深度合成技术已成为众多网店牟利的工具。只需花费少量金钱，就可以定制AI深度合成的名人音视频。专家指出，目前有许多开源软件和工具可以实现换声换脸的效果，但这些软件通常属于半专业级别，需要调整参数和步骤较多，因此并不被普通网民所熟知。
然而，随着算法的不断迭代升级和高性能设备的支持，AI生成的音视频已经越来越难以分辨真伪。不少网友因此上当受骗。值得注意的是，相关法律法规明确规定，未经授权不得深度合成制作发布他人信息。网店接单进行AI深度合成制作名人视频的行为已经构成侵权，并应承担相应的法律责任。
不仅是名人，普通人甚至动画形象的音视频，如果未经本人或版权方同意就被AI合成制作并发布，同样可以视为侵权行为，并应承担法律责任。这一规定的出台旨在保护公众的隐私权和版权利益，防止AI技术的滥用给社会带来负面影响。
目前，已有不少主播在短视频平台上教授网民如何使用相关软件进行AI深度合成。虽然这些教程为网民提供了更多学习和探索的机会，但同时也加剧了AI技术滥用的风险。因此，相关部门应加强对AI技术的监管力度，确保其在合法、合规的范围内使用。
