针对滥用AI技术篡改和解构经典内容的乱象,微信平台近期公布了专项治理成果,已集中下架超过2.6万条AI魔改短视频。微信平台表示,将持续落实长效治理机制,进一步提升识别与处置能力,同时呼吁广大创作者强化行业自律,共同营造清朗的网络空间。
随着AI技术的飞速发展,内容创作的门槛大大降低,与此同时,也为网络恶搞敞开了方便之门。林黛玉倒拔垂杨柳,关羽手持现代枪械……有人把经典名著的人物形象,当成AI恶搞视频的免费素材库,原著人物性格被随意颠覆,剧情编得荒诞离奇,试图通过强烈反差来博流量、求关注。
时下,借助AI工具,几十秒就可以生成一段仿真视频,人物样貌、口型、配音模仿得惟妙惟肖,真假的边界因此被悄然模糊。在这样的背景下,不仅四大名著频频遭遇恶搞,不少历史名人、英模故事,或者是耳熟能详的动画形象,同样难逃被肆意篡改、无底线消费的命运。
成年人刷到此类恶搞内容,大多只当作博人一乐的段子,一笑置之。但是,对于心智尚未成熟的未成年人来说,情况就大不一样了。很多未成年人没有完整读过原著,也没有看过原版的影视剧,他们第一次认识林黛玉和关羽,就是来自那些AI魔改的片段。任由这些荒诞离奇的内容肆意传播,不仅会歪曲经典的文学形象,而且会混淆孩子对传统文化的基本认知——对一代人文化记忆的侵蚀,远比恶搞几个文学形象更值得反思。
值得一提的是,如今的AI魔改与过去的剪辑恶搞不可同日而语。早年的二次剪辑,拼接痕迹相对明显,观众一眼便知真伪。相比之下,深度合成技术生成的视频足以乱真,如果被流量思维裹挟,很容易成为歪曲事实、解构共识的利器。技术没有善恶,但使用技术的人要有底线。《生成式人工智能服务管理暂行办法》明确规定,使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。这既是对 AI 谣言的约束,同样也是对AI魔改经典划出的红线。四大名著流传数百年,沉淀的不只是人物形象和故事桥段,同时也形成了民族的精神内核和文化底色。对于文学经典,可以做现代化解读,可以做创意衍生,但不能为了博眼球、赚流量为所欲为。
平台下架2.6万条AI魔改短视频,是治理的成果,也折射出乱象的体量。避免AI技术被滥用,需要强化各方的主体责任。对于AI生成软件来说,应对内容和关键词进行审核,把好生成式内容的第一关,避免哗众取宠的内容混淆视听;对于内容平台来说,不仅应对AI生成内容进行显著标识,而且应健全内部管理机制,主动拦截那些篡改经典、歪曲历史的内容,不给欺世盗名者留下可乘之机。
AI时代,技术可以放开想象力,但不能突破法律的红线和公序良俗的底线。当科技改变生活成为可观可感的现实,必须防止技术跑偏和滥用。由此,保护的不仅仅是四大名著。