新闻背景:
“赵本山”用英文演小品、“郭德纲”用英文说相声、“范明”用英文演戏……近日,多个明星开口说英语的视频引发关注。仔细了解后才知道,原来是人工合成制作,不过这声音与演员口型、身体语言的契合程度之高,乍看真让人一时不知真假。
AI应用有多方便,就可能有多少风险
让相声演员飙英文、让外国明星唱二人转,AI技术是“懂幽默”的,可幽默背后,风险也不少。比如,从著作权、肖像权到声音权,“AI外语相声”和“AI换脸”一样,涉嫌多项侵权。再有,AI技术将音色、口型等模仿得如此逼真,改天拿来做广告、发布“重要信息”,如何防范?【详细】
再往深一步想,借用AI技术可以模拟明星,那自然可以模拟其他普通人。面对以假乱真的AI技术,大多数普通人缺乏辨别能力,很大程度上只能被动接受。如此,就会埋下更为严重的网络诈骗隐患。【详细】
守好“AI应用”底线,引导科技向善而行
技术本身没有对错,使用者的应用赋予技术以道德价值。AI技术用之为善可以造福社会,不当滥用则会引发社会风险。我们希望有合理的规范来指导技术应用,从而让AI技术带来更多惊喜。【详细】
事实上,近几年,国家网信办等部门先后出台了《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等政策文件,陆续开展了“互联网深度合成算法备案”“大语言模型算法备案”等有关工作,有效促进了生成式人工智能的健康发展和规范应用。同时,一些头部互联网平台也在通过算法检测、软件识别等来辨析人工智能生成产品,并向公众标注说明,以减少信息差,提升公众的防范意识。【详细】
坚持“包容审慎”,期待科技改变未来
对于新技术、新业态、新模式,我们常说要“包容审慎”。这是一种态度,也是一种行政监管方式。所谓“包容”,就是对那些未知大于已知的事物,采取包容的姿态;所谓“审慎”,其中一个要点就是别一上来就“管死”,而要给它一个“观察期”。
创新是需要被呵护的。艺人或艺术作品的AI化,或许能助力文化艺术的海外传播。外国人也能听相声,意味着传统文化艺术在未来或将拥有大批洋粉丝。再往大处说,这背后的技术突破,有益于进一步扫除语言障碍,进而在文化交流传播、文化产品制作等很多领域打开一片新天地。当然,包容绝不是纵容。AI作品标识清楚,真假泾渭分明,当成为行业共识、用户守则。【详细】
(以上综合工人日报、南方网、广州日报、钱江晚报)
V视角:
@东方猫2010:太可怕了,嘴型都对上了,以后看视频都不知道真假了。
@slowwalker-ssy:笑过之后是恐惧,AI对生活的渗透太快了。
@时间的仆人23:这种合成技术,集合了外貌和声音,若用在诈骗上,真是防不胜防。
@下午茶2599:眼见不为实,小心上当受骗。
中国经济网编后语:
“AI换脸”“AI变声”等新技术的应用,让人看到了科技改变生活的无限可能。但是,种种风险不可忽视,规范引导结合有效监管不可或缺。对新技术,我们不能一棒子“打死”,需要以“包容审慎”的态度待之,支持创新、鼓励试错,从而不断发现其不足,促使其越来越完善。同时,制定规范的步子要再快些,新技术安全、合规、可控,才能迎来更广阔的发展空间。
回顾:往期“经”点热评