AI造假“魔高一丈”怎么办

2024-10-11 07:06 来源:北京日报

  “国庆上网被雷军骂了整整7天”?据报道,这个假期,短视频平台上出现了大量“雷军”的发言视频,涉及堵车、调休、游戏等热门话题,不仅言辞犀利,还常爆粗口。但事实上,这些发言和本尊并无干系,而是AI配音所成。目前,相关短视频已被平台逐步下架。

  虚假信息古已有之。如今,人人都有“麦克风”、人人皆是信息源,信息与新闻的界限日渐模糊,亦真亦假的消息、汹涌澎湃的情绪,让舆论场跌宕起伏,过山车般的反转更是天天可见。如果说,之前的人工造假只是1.0版本,那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作,移花接木;文生文、文生图、文生视频,无中生有……几千元即可定制整套虚拟形象,寻常软件分分钟生成一批内容详细、真假难辨的文章,几张图片、几个关键词就能轻松炮制“新闻”,这般假消息着实令人防不胜防。

  假信息激增是全球问题,国外政要官员、商企精英、歌手明星等,无不遭遇“碰瓷”。流水线式造假,不仅侵犯隐私权益、混淆公众认知,更带来巨大的风险隐患。《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,仅今年上半年,AI诈骗案案值已超过1.85亿元。

  深度伪造猖獗,如何识别与治理?有学者主张从假信息生命周期和传播链条的三个环节着力,即制造、传播、接受。着眼生产端,我国相继出台了《互联网信息服务深度合成管理规定》等法律法规,逐步厘清了各方权责,期待更为有力的治理举措落地。再看平台端,尽管已采取措施加强识别,但仍需升级技术,用技术对抗技术、用魔法打败魔法。

  信息最终都要作用于人,传播媒介的代际更迭,总会对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”,这也要求人们具备基本媒介素养,对于所谓的“网络热点”及吸睛信息,不可“听风就是雨”,盲目相信、轻易转发。更进一步,也有必要有意识地优化媒介使用策略,平衡信源、打破“茧房”,改善“信息偏食”、拒绝“偏听偏信”。AI本身就是“人为”创造的,也应该“为人”所用、“为人”服务,我们理当对携手行动、以善治实现善“智”抱有足够信心。

查看余下全文
(责任编辑:武晓娟)
当前位置     首页 > 滚动 > 正文
中经搜索

AI造假“魔高一丈”怎么办

2024年10月11日 07:06   来源:北京日报   杜梨

  “国庆上网被雷军骂了整整7天”?据报道,这个假期,短视频平台上出现了大量“雷军”的发言视频,涉及堵车、调休、游戏等热门话题,不仅言辞犀利,还常爆粗口。但事实上,这些发言和本尊并无干系,而是AI配音所成。目前,相关短视频已被平台逐步下架。

  虚假信息古已有之。如今,人人都有“麦克风”、人人皆是信息源,信息与新闻的界限日渐模糊,亦真亦假的消息、汹涌澎湃的情绪,让舆论场跌宕起伏,过山车般的反转更是天天可见。如果说,之前的人工造假只是1.0版本,那么AI的发达则开启了深度伪造与低价量产的2.0时代。换脸、换声、换动作,移花接木;文生文、文生图、文生视频,无中生有……几千元即可定制整套虚拟形象,寻常软件分分钟生成一批内容详细、真假难辨的文章,几张图片、几个关键词就能轻松炮制“新闻”,这般假消息着实令人防不胜防。

  假信息激增是全球问题,国外政要官员、商企精英、歌手明星等,无不遭遇“碰瓷”。流水线式造假,不仅侵犯隐私权益、混淆公众认知,更带来巨大的风险隐患。《2024人工智能安全报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,仅今年上半年,AI诈骗案案值已超过1.85亿元。

  深度伪造猖獗,如何识别与治理?有学者主张从假信息生命周期和传播链条的三个环节着力,即制造、传播、接受。着眼生产端,我国相继出台了《互联网信息服务深度合成管理规定》等法律法规,逐步厘清了各方权责,期待更为有力的治理举措落地。再看平台端,尽管已采取措施加强识别,但仍需升级技术,用技术对抗技术、用魔法打败魔法。

  信息最终都要作用于人,传播媒介的代际更迭,总会对受众产生深远影响。技术进步带来了“信息的洪流”与“选择的苦恼”,这也要求人们具备基本媒介素养,对于所谓的“网络热点”及吸睛信息,不可“听风就是雨”,盲目相信、轻易转发。更进一步,也有必要有意识地优化媒介使用策略,平衡信源、打破“茧房”,改善“信息偏食”、拒绝“偏听偏信”。AI本身就是“人为”创造的,也应该“为人”所用、“为人”服务,我们理当对携手行动、以善治实现善“智”抱有足够信心。

(责任编辑:武晓娟)

分享到:
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
>
关于经济日报社关于中国经济网网站大事记网站诚聘版权声明互联网视听节目服务自律公约广告服务友情链接纠错邮箱
经济日报报业集团法律顾问:北京市鑫诺律师事务所    中国经济网法律顾问:北京刚平律师事务所
中国经济网 版权所有  互联网新闻信息服务许可证(10120170008)   网络传播视听节目许可证(0107190)  京ICP备18036557号

京公网安备 11010202009785号