中国社交平台上出现许多涉及AI克隆声音的视频，不少名人都成为仿冒、侵权的对象。其中，奥运女子跳水冠军全红婵的“声音”甚至被用来推销农产品。
据央视新闻报道，网名为“我是小助理吖”的博主账号共发布了17则利用AI仿冒全红婵声音带货土鸡蛋的视频。其中一个视频点赞量甚至高达1.1万。
评论区显示，大量粉丝误以为那就是全红婵本人，纷纷下单购买链接中的鸡蛋，相关商品链接显示已售出4.7万件。今年4月，全红婵家人曾向媒体证实，全红婵并未给相关农产品代言或授权。
除了全红婵，孙颖莎、王楚钦等奥运冠军，靳东等演员，以及武扬、浩洋等配音演员也都遭遇了同样的仿冒。AI仿冒名人的乱象不止带货，还被用来进行24小时语音直播，或用于企业宣传片等。
据网络安全专家潘季明介绍，通过仿冒名人进行直播，不仅可以诱骗粉丝打赏获利，还可将一个小白账号迅速打造成上万粉丝的账号，从而为后续牟利来铺路。
报道指出，在抖音、快手等网络平台上，以“声音克隆”为关键词进行搜索，能轻易找到大量相关教程视频和软件下载信息。部分博主不仅详细演示操作过程，还直接提供软件资源。
潘季明介绍，基于开源的语音大模型，只需一段清晰的语音样本，任何人的声音都可能在极短时间内被克隆，并能被操纵说出攻击者设定的任意内容。
潘季明说，除了侵犯声音权等合法权益，AI克隆声音目前最大的隐患是被诈骗分子利用，一旦与AI换脸等技术结合，生成高度逼真的“数字人”实施诈骗，危害将非常严重。
据法律专家介绍，中国民法典将人格权独立成编，首次以立法形式将保护自然人“声音”写入其中。北航法学院副教授赵精武指出，任何自然人声音均应受法律保护，录音制品授权不等同于对声音AI克隆授权，未经许可使用或授权他人使用权利人的声音均属侵权。
中国网信办等四部门今年3月联合发布的《人工智能生成合成内容标识办法》，将于9月1日起施行，其中明确了服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识等。中央网信办也在全国范围内部署开展专项行动，将强化AI技术源头治理，清理整治违规AI应用程序，推动网站平台提升检测鉴伪能力等。
