别让AI“数字人”模糊了真实边界

2025-06-16 09:24 来源:红网

记者近日随机采访了数十名路人,至少有七成受访者称曾刷到过“AI数字人”视频,并且“难以分清到底是真人还是‘数字人’”,而原因主要在于“找不到有效提示”。很多人担忧:真人“数字人”傻傻分不清楚,背后是肖像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。(6月14日 《法治日报》)

AI生成“数字人”的技术已足够成熟,但“如何让公众分清真假”的问题,却成了被遗忘的角落。

更令人担忧的,是“数字人”背后的安全隐患。山西忻州的王某某用AI合成“新闻视频”引流敲诈,江西65岁老人因“AI靳东”视频要贷款200万,张文宏、雷军的形象被用来带货恶搞……当“数字人”穿上“真实”的外衣,肖像权侵权、虚假宣传、诈骗等违法犯罪行为便有了温床。对老年人来说,一句“医生”的养生建议可能耽误健康;对年轻人来说,一个“虚拟恋人”的温柔陷阱可能掏空钱包;对公众人物来说,形象被滥用更可能损害名誉。

问题的根源,藏在“标识”二字里。尽管《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法规已明确要求“AI生成内容需显著标注”,但现实中,多数“数字人”账号要么不标、要么“藏标”——字体透明、位置隐蔽、颜色模糊,年轻人得“费眼睛”找,老年人根本看不见。更有甚者,有人花千元买“镜像参数”绕过平台检测,让“数字人”以假乱真。当“标识”成了走过场,“透明”就成了奢望。

如何破解?专家给出了答案:细化标准、加大惩处。重庆大学罗勇教授说,要让标识“一目了然”——规定文字最小高度、对比度、展示时长,让“AI生成”四个字像“危险提示”一样醒目;中国政法大学郑飞教授建议,对不按规定标注的行为“动真格”——行政罚款、暂停业务、纳入信用黑名单,用法律威慑让“躲猫猫”者无处遁形。

其实,公众要的不是“谈AI色变”,而是“看AI明白”。就像我们能一眼认出广告里的“特效”,能分清电影里的“替身”,只要“数字人”标得清、管得严,技术本身并无原罪。毕竟,AI的价值在于服务真实,而不是掩盖虚假;“数字人”的意义在于拓展可能,而不是模糊边界。

下次刷到“温婉女生”的视频,不妨多停留一秒——看看简介有没有“AI”二字,找找评论区有没有“手指穿模”的提醒;进直播间时,别急着下单,先确认左上角有没有“数字人直播”的标识。这些“多此一举”的小动作,不是对技术的偏见,而是对真实的守护。我们都希望:看到的“美好”,是真的美好;听到的“建议”,是真的建议。

AI不是洪水猛兽,但“以假乱真”的数字人,正在模糊真实与虚拟的边界。唯有让“标识”硬起来、“惩处”严起来,才能让“数字人”回归工具本质,让真实与虚拟各安其位。我们想要的,从来不是“分不清真假”的世界,而是“看得清真相”的生活。

查看余下全文
(责任编辑:年巍)
当前位置     首页 > 滚动 > 正文
中经搜索

别让AI“数字人”模糊了真实边界

2025年06月16日 09:24   来源:红网   王志高

记者近日随机采访了数十名路人,至少有七成受访者称曾刷到过“AI数字人”视频,并且“难以分清到底是真人还是‘数字人’”,而原因主要在于“找不到有效提示”。很多人担忧:真人“数字人”傻傻分不清楚,背后是肖像权侵权乃至敲诈、诈骗等违法犯罪的风险隐患。(6月14日 《法治日报》)

AI生成“数字人”的技术已足够成熟,但“如何让公众分清真假”的问题,却成了被遗忘的角落。

更令人担忧的,是“数字人”背后的安全隐患。山西忻州的王某某用AI合成“新闻视频”引流敲诈,江西65岁老人因“AI靳东”视频要贷款200万,张文宏、雷军的形象被用来带货恶搞……当“数字人”穿上“真实”的外衣,肖像权侵权、虚假宣传、诈骗等违法犯罪行为便有了温床。对老年人来说,一句“医生”的养生建议可能耽误健康;对年轻人来说,一个“虚拟恋人”的温柔陷阱可能掏空钱包;对公众人物来说,形象被滥用更可能损害名誉。

问题的根源,藏在“标识”二字里。尽管《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法规已明确要求“AI生成内容需显著标注”,但现实中,多数“数字人”账号要么不标、要么“藏标”——字体透明、位置隐蔽、颜色模糊,年轻人得“费眼睛”找,老年人根本看不见。更有甚者,有人花千元买“镜像参数”绕过平台检测,让“数字人”以假乱真。当“标识”成了走过场,“透明”就成了奢望。

如何破解?专家给出了答案:细化标准、加大惩处。重庆大学罗勇教授说,要让标识“一目了然”——规定文字最小高度、对比度、展示时长,让“AI生成”四个字像“危险提示”一样醒目;中国政法大学郑飞教授建议,对不按规定标注的行为“动真格”——行政罚款、暂停业务、纳入信用黑名单,用法律威慑让“躲猫猫”者无处遁形。

其实,公众要的不是“谈AI色变”,而是“看AI明白”。就像我们能一眼认出广告里的“特效”,能分清电影里的“替身”,只要“数字人”标得清、管得严,技术本身并无原罪。毕竟,AI的价值在于服务真实,而不是掩盖虚假;“数字人”的意义在于拓展可能,而不是模糊边界。

下次刷到“温婉女生”的视频,不妨多停留一秒——看看简介有没有“AI”二字,找找评论区有没有“手指穿模”的提醒;进直播间时,别急着下单,先确认左上角有没有“数字人直播”的标识。这些“多此一举”的小动作,不是对技术的偏见,而是对真实的守护。我们都希望:看到的“美好”,是真的美好;听到的“建议”,是真的建议。

AI不是洪水猛兽,但“以假乱真”的数字人,正在模糊真实与虚拟的边界。唯有让“标识”硬起来、“惩处”严起来,才能让“数字人”回归工具本质,让真实与虚拟各安其位。我们想要的,从来不是“分不清真假”的世界,而是“看得清真相”的生活。

(责任编辑:年巍)

分享到:
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
>
关于经济日报社关于中国经济网网站大事记网站诚聘版权声明互联网视听节目服务自律公约广告服务友情链接纠错邮箱
经济日报报业集团法律顾问:北京市鑫诺律师事务所    中国经济网法律顾问:北京刚平律师事务所
中国经济网 版权所有  互联网新闻信息服务许可证(10120170008)   网络传播视听节目许可证(0107190)  京ICP备18036557号

京公网安备 11010202009785号