下午察:中国AI狂潮下的孙燕姿、换脸诈骗、虚构新闻

时间:2023-05-24 07:06内容来源:联合早报 版阅读:新闻归类:中国聚焦

下午察:中国AI狂潮下的孙燕姿、换脸诈骗、虚构新闻

许久没在荧光幕前亮相的华语流行乐坛天后孙燕姿,最近在人工智能(AI)加持下频频出现在公众视线里。

打开中国视频网站B站,可以发现“孙燕姿”翻唱各类歌曲的作品从4月起爆发式增长,当中不少都获得百万点击率,比如周杰伦《发如雪》、南拳妈妈《下雨天》,以及王菲《红豆》等等。有媒体不完全统计,这类翻唱作品至今已有超过1000首,数量远远超出孙燕姿出道20多年的作品总和。

但如果仔细留意,可以发现这些歌曲都不是孙燕姿本人亲自翻唱,而是“AI孙燕姿”。

所谓AI孙燕姿,简单来说,就是通过模型训练和后期处理,让AI用孙燕姿的声音翻唱其他歌手的歌曲。虽然AI翻唱技术在唱腔、技巧上离原唱者还有一定差距,但音色已经基本实现复刻,足以以假乱真。

有网民点评:“真以为是孙燕姿本人翻唱了……很有孙燕姿的音色特色,除了唱腔和技巧差一点,人声和背景音乐的融合度很高,完全就是一首高分新歌。”

也有网民开玩笑说:“真的太像燕姿本人唱的。燕姿,如果你还不出来开演唱会,发新专辑,你就要被AI取代了!”

随着AI孙燕姿不断在各大网络平台发行翻唱歌曲,加上网络舆论发酵,相关话题“AI出来后第一个失业的是孙燕姿”“专家称孙燕姿音色不受法律保护”前不久也登上了微博热搜榜。截至星期二(5月23日)下午1时,两个话题的阅读次数都分别超过1亿次。

在讨论度居高不下的背景下,天后孙燕姿本人星期一(5月22日)终于发文回应。她在个人音乐公司“Make Music”的部落格自嘲写道:“我的粉丝们都已跳槽,也同时接受我就是一名冷门歌手的事实,而我的AI角色也成为了目前所谓的顶流。毕竟该怎么跟一个每几分钟就能推出一张新专辑的‘人’比呢?”

尽管如此,孙燕姿在文章中没有对AI发展表现出悲观或消极的态度。相反的,她形容自己就像一个吃着爆米花、坐在电影院最好座位上的人。“在这无边无际的存在之海中,凡事皆有可能,凡事皆无所谓,我认为思想纯净、做自己,已然足够。”

孙燕姿5月22日在个人音乐公司“Make Music”的部落格发表文章《我的 AI》(Make Music官网截图)

AI孙燕姿违法侵权吗?

音乐版权律师赵智功接受《新京报》贝壳财经采访时说,AI孙燕姿作品是有版权问题的,具体需要根据不同的使用场景来追究;如果是目前B站视频上传者(简称UP主)“自娱自乐”不涉及商业化的情况,可能不涉及著作财产权,但还是涉及著作人身权,比如署名、表明表演者身份、表演形象不受歪曲等。

赵智功还指出,孙燕姿翻唱什么歌曲,本来就是应该由她本人以及其经纪公司或唱片公司,基于艺人设定和音乐市场的考量共同决定的。但现在AI孙燕姿可以翻唱任何歌曲,“AI翻唱Cover歌曲侵犯了孙燕姿本身的市场资源”。

曾就职于多家音乐流媒体平台版权部的李强也持相同看法。他并说:“在未获得歌手授权下,AI对歌手声音的模拟甚至公开展示,应属于对歌手表演者权的侵权行为。”

据观察,AI歌手在中国网络上并不罕见。在AI孙燕姿诞生之前,已经有“AI周杰伦”,“AI王菲”、“AI邓紫棋”的作品流传于B站。目前,包括孙燕姿在内,尚未有歌手或经纪公司发布官方声明禁止AI翻唱行为或对此追责。

中国出现AI换脸新骗局 10分钟被骗430万元人民币

除了孙燕姿,另一则有关AI的话题近来也刷遍中国网络,那就是AI诈骗。

内蒙古包头市公安局旗下微信公号上星期六(5月20日)发布通报称,当地警方本月初破获了一起使用AI技术进行电信诈骗的案件,受害者是福州市某科技公司法人代表郭先生。

根据通报,郭先生的好友有一天突然通过微信视频联系他说,自己的朋友在外地竞标,需要430万元(人民币,约82万新元)保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。

这位好友也向郭先生要了银行卡号,声称已经把钱打到郭先生的账户上,还把银行转账底单的截图通过微信发给了郭先生。

通报指出,由于是视频聊天,加上出于对朋友的信任,郭先生没有核实钱是否到账,先后分两笔把430万元给对方打了过去;钱款转账完成后,郭先生还给好友微信发了一条短讯,告诉他事情已经办妥。不料,“好友回过来的消息竟然是一个问号”。

通报说,郭先生随即拨打好友电话核实,结果对方坚称没有这回事,他这才意识到自己遇到了使用AI换脸技术的“高端”骗局,并立即报警。

事后回忆起当时的情形,郭先生说:“从头到尾都没有和我提借钱的事情,就说会先把钱给我打过来,再让我给他朋友账户转过去,而且当时是给我打了视频的,我在视频中也确认了面孔和声音,所以才放松了戒备。”

据《每日经济新闻》报道,AI诈骗目前有声音合成和AI换脸两种形式。声音合成诈骗,骗子会先通过骚扰电话录音等来提取某人声音,获取素材后进行声音合成,从而可以用伪造的声音骗过目标。

至于AI换脸,骗子会先分析公众在网上发布的信息筛选目标人群,之后通过AI技术换脸伪装,再通过视频进行信息确认,完成诈骗。

博通咨询首席分析师王蓬博向《北京商报》说:“我觉得科技的进步也让防范诈骗的难度在提升。发生的原因还在于信息爆炸导致的信息泄露过度。”

用AI虚构新闻赚流量

在互联网高速时代的背景下,AI带给人们的挑战还不止于此。

中国多家媒体在约两个星期前报道,一名男子因利用人工智能软件ChatGPT炮制虚假新闻,被警方采取刑事强制措施。彭博社称,这似乎是中国首起与滥用人工智能相关的刑事案件之一。

甘肃省平凉市公安局5月7日在其微信公号发布通报称,涉事的洪姓男子“利用现代技术手段编造虚假信息,并散布在互联网上,被大量传播浏览”。此前当地警方发现,一篇编造关于火车事故导致九人死亡的文章,发布在百度“百家号”的多个账号上。该文章在被删除前的点击量已达1万5000余次。

调查显示,该洪姓男子使用了ChatGPT来修改编辑近年的社会热点新闻。他在审讯中说,自己是通过微信好友获知了如何利用网络赚取流量变现的方法。

通报指出,该编造的虚假信息被大量传播浏览,意味着洪姓男子的行为涉嫌构成“寻衅滋事罪”。该罪名至少可判处五年监禁。

有网民就此评论说,案件暴露了AI技术在网络信息传播领域可能带来的风险和挑战。“在不法分子手中,AI也可能成为制造和传播虚假信息、误导舆论的利器”“AI将让媒体的新闻真假难辨。”

中国已出手 多国AI监管“山雨欲来”

美国OpenAI公司开发的ChatGPT去年11月横空出世后,在中国科技圈掀起巨大波澜,腾讯、百度等中国多家科技公司自今年3月纷纷推出对标该聊天机器人的服务。

为加强对这类技术的监管,中国国家网信办4月11日发布《生成式人工智能服务管理办法》草案。草案表明,中国支持人工智能算法、框架等基础技术的自主创新。不过,企业在向民众提供生成式人工智能服务前,必须向网信部门申报安全评估;生成内容应当体现社会主义核心价值观,不得含有颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一、宣扬恐怖极端主义、民族仇恨、可能扰乱经济及社会秩序等内容。

草案也规定企业也须确保内容真实准确,采取措施防止生成虚假信息;禁止非法获取、披露、利用个人信息和隐私和商业秘密。用户方则须依法提供真实身份信息等。

《华尔街日报》报道认为,在生成式AI(generative AI)构成的挑战引发担忧之际,中国此举走在了努力驯化这种新技术的世界各地政府的前列。生成式AI,一般泛指可以进行内容原创,通过算法来生成图像、文字、音乐,甚至代码和视频,而且不需要人工干预的AI。上述提到的ChatGPT、AI孙燕姿等等都有这种特点。

一名不具名的中国人工智能从业者则向英国广播公司(BBC)中文网分析说,中国之所以这么快采取监管行动主要有三个原因:生成式AI的伦理问题、破坏力,以及极快的进化速度。这位业内人士没有对此进一步阐述。

但BBC中文网报道,生成式AI进化速度极快,ChatGPT去年11月推出后,今年3月迭代出的GPT-4,不仅知识面更广、对答更流畅,开始能够读懂图片内容,在律师资格考试中拿下高分,而且具备自我反思的能力。

除了中国,在日本广岛开会的七国集团(G7)领导人上周也说,世界各国必须加紧对生成式AI的快速发展进行评估,因此决定今年内针对“负责任地“使用此技术展开讨论。G7领导人在声明中说:“我们认识到有必要立即评估生成人工智能的机遇和挑战,它在各个国家和领域都越来越重要。”

欧洲联盟领导人也出席会议。欧盟正在推进立法以监管人工智能技术,可能出台世界上第一部全面的人工智能监管法。有关法案下月将提呈给欧洲议会,通过后就可同个别成员国展开立法谈判。

正如特斯拉兴起,推高了全球电动车行业的热情;去年底推出的ChatGPT犹如一把大火,点燃了整个人工智能行业,仅仅几个月,全球科技巨头都争相进入这个领域。但“AI孙燕姿”、AI换脸骗局、AI虚构新闻等事件告诉了我们,该技术也带来了前所未有的新挑战。

究竟AI是利大于弊,还是弊大于利,现在还难以断定。唯一可以明确的是,AI的发展还在起步阶段,带给世界的震撼才刚刚开始。

赞一下
(2)
100%
赞一下
(0)
0%

相关栏目推荐
推荐内容