向“AI生成谣言”说不,让网络空间更清朗

2025-01-14 07:09 来源:工人日报

  据1月12日央视新闻报道,近日,西藏日喀则市定日县发生6.8级地震后,一系列“小男孩被埋图”在网络上广泛传播。经公安机关核查,上述图片由AI工具创作,青海某网民将其与日喀则地震信息进行关联拼凑,引发谣言扩散。目前,该涉案人员已被属地公安机关依法行政拘留。警方核查发现,此次地震后,多地网民参与发布地震造谣信息多达数百条,有的用以往地震现场画面假冒定日灾区现场、有的是“走在路上亲历地震瞬间”,还有夸大死伤人数、预测地震、嫁接视频等制造虚假信息的情形,其中不乏AI工具参与创作的影子。

  地震发生后,一些号称来自灾区的视频、图文信息无疑极具关注度和影响力。“小男孩被埋图”的广泛传播,令人们原本就难过的心情再添一层阴云。在某短视频平台,以该系列图片为内容的发布者多达数十名,有的单条作品获得上万转评赞数据,很多网友追问“小孩怎么样了”。

  其实,每次发生地震、泥石流等地质灾害,暴雨等极端天气灾害以及一些重大事故时,往往都有谣言见缝插针,随意编造遇难人数、恶意揣测成因或“移花接木”相关视频等,目的多是收割关注度,实现流量变现。

  让造谣者付出代价,是人们的共同心声,但很多时候,谣言还是跑在了真相前面,造谣有时甚至成了一门生意。时下,AI生成内容门槛低、可定制、识别难,文生图、图生视频、爆改视频易如反掌。短视频时代,信息的传播仅需“轻点一下”,不少人并不会认真鉴别真伪,这也加剧了虚假信息的病毒式扩散。

  在类似地震这种重大事件面前,谣言的危害不容小觑。首先,制造虚假热点,恶意消费公众的注意力和同情心,还有人设下爱心捐款类骗局。其次,干扰一线救援工作秩序和节奏,影响信息的搜集研判以及救援力量的分配。再有,谣言对于各战线的救灾人员、遇难者及其亲属而言,是极大的不尊重,甚至可能造成二次伤害。还需注意的是,“谣言—流量—变现”的路径可能带来一些负面激励,比如,此番“小男孩被埋图”刚辟谣,就有网民发布“过段时间就到××地方了,经验之谈”“300多年就会来一次大的,两次了”等言论。

  随着谣言生产越来越低成本和批量化,公众必须提高警惕,多一些思辨,少一些随意转发,对没有权威出处的信息尤须审慎。长远看,针对AI工具参与谣言制造与传播,更需加强技术对抗。一方面,随着AI接受的基础素材“投喂”越来越多,其生成的信息就会越来越逼真,相应的识别和打击工作会更难,有关部门须从技术对抗的视角思考如何有效管理生成式人工智能技术及其产品,对不良苗头早防早治、打早打小;另一方面,相关平台应完善技术手段,加强对深度合成内容的管理——当前,不少平台对AI生成信息要么没有提示,要么字体极小,有的审核机制滞后甚至“先发后审”,给谣言传播留下了较大空间。近几年,国家有关部门出台了深度合成服务管理规定、生成式人工智能服务管理规定等,都明确不得用AI方式或者深度合成方式去炮制谣言,不得把AI手段作为传播谣言的方式。

  近年来,关于如何让AI技术向上向善屡屡引发热议。“AI赋能”对普通人而言,究竟是利好更多还是“韭菜味儿”更多,往往与技术开发和应用的一方秉持何种价值观、发展观,以及有关平台和监管方面的作为有很大关系。无论是“逢大事便有谣言”还是“逢谣言便有AI”都提示我们,治标更要治本,要以前瞻性思维布局谋划,让打击治理谣言事半功倍。

  灾难话题是严肃的、凝重的,有关方面绝不应容许“吃流量馒头”的次生灾害一再发生,相关不法行为也须受到惩处。这是规范网络秩序,让社会更文明、更法治的需要,也是减少公众恐慌,让社会有更多信任、更多良知的需要。

查看余下全文
(责任编辑:臧梦雅)
当前位置     首页 > 滚动 > 正文
中经搜索

向“AI生成谣言”说不,让网络空间更清朗

2025年01月14日 07:09   来源:工人日报   吴迪

  据1月12日央视新闻报道,近日,西藏日喀则市定日县发生6.8级地震后,一系列“小男孩被埋图”在网络上广泛传播。经公安机关核查,上述图片由AI工具创作,青海某网民将其与日喀则地震信息进行关联拼凑,引发谣言扩散。目前,该涉案人员已被属地公安机关依法行政拘留。警方核查发现,此次地震后,多地网民参与发布地震造谣信息多达数百条,有的用以往地震现场画面假冒定日灾区现场、有的是“走在路上亲历地震瞬间”,还有夸大死伤人数、预测地震、嫁接视频等制造虚假信息的情形,其中不乏AI工具参与创作的影子。

  地震发生后,一些号称来自灾区的视频、图文信息无疑极具关注度和影响力。“小男孩被埋图”的广泛传播,令人们原本就难过的心情再添一层阴云。在某短视频平台,以该系列图片为内容的发布者多达数十名,有的单条作品获得上万转评赞数据,很多网友追问“小孩怎么样了”。

  其实,每次发生地震、泥石流等地质灾害,暴雨等极端天气灾害以及一些重大事故时,往往都有谣言见缝插针,随意编造遇难人数、恶意揣测成因或“移花接木”相关视频等,目的多是收割关注度,实现流量变现。

  让造谣者付出代价,是人们的共同心声,但很多时候,谣言还是跑在了真相前面,造谣有时甚至成了一门生意。时下,AI生成内容门槛低、可定制、识别难,文生图、图生视频、爆改视频易如反掌。短视频时代,信息的传播仅需“轻点一下”,不少人并不会认真鉴别真伪,这也加剧了虚假信息的病毒式扩散。

  在类似地震这种重大事件面前,谣言的危害不容小觑。首先,制造虚假热点,恶意消费公众的注意力和同情心,还有人设下爱心捐款类骗局。其次,干扰一线救援工作秩序和节奏,影响信息的搜集研判以及救援力量的分配。再有,谣言对于各战线的救灾人员、遇难者及其亲属而言,是极大的不尊重,甚至可能造成二次伤害。还需注意的是,“谣言—流量—变现”的路径可能带来一些负面激励,比如,此番“小男孩被埋图”刚辟谣,就有网民发布“过段时间就到××地方了,经验之谈”“300多年就会来一次大的,两次了”等言论。

  随着谣言生产越来越低成本和批量化,公众必须提高警惕,多一些思辨,少一些随意转发,对没有权威出处的信息尤须审慎。长远看,针对AI工具参与谣言制造与传播,更需加强技术对抗。一方面,随着AI接受的基础素材“投喂”越来越多,其生成的信息就会越来越逼真,相应的识别和打击工作会更难,有关部门须从技术对抗的视角思考如何有效管理生成式人工智能技术及其产品,对不良苗头早防早治、打早打小;另一方面,相关平台应完善技术手段,加强对深度合成内容的管理——当前,不少平台对AI生成信息要么没有提示,要么字体极小,有的审核机制滞后甚至“先发后审”,给谣言传播留下了较大空间。近几年,国家有关部门出台了深度合成服务管理规定、生成式人工智能服务管理规定等,都明确不得用AI方式或者深度合成方式去炮制谣言,不得把AI手段作为传播谣言的方式。

  近年来,关于如何让AI技术向上向善屡屡引发热议。“AI赋能”对普通人而言,究竟是利好更多还是“韭菜味儿”更多,往往与技术开发和应用的一方秉持何种价值观、发展观,以及有关平台和监管方面的作为有很大关系。无论是“逢大事便有谣言”还是“逢谣言便有AI”都提示我们,治标更要治本,要以前瞻性思维布局谋划,让打击治理谣言事半功倍。

  灾难话题是严肃的、凝重的,有关方面绝不应容许“吃流量馒头”的次生灾害一再发生,相关不法行为也须受到惩处。这是规范网络秩序,让社会更文明、更法治的需要,也是减少公众恐慌,让社会有更多信任、更多良知的需要。

(责任编辑:臧梦雅)

闁告帒妫旈棅鈺呭礆鐢喚绐�
娑擃厼娴楃紒蹇旂ス缂冩垹澧楅弶鍐ㄥ挤閸忓秷鐭楁竟鐗堟閿涳拷
1閵嗕礁鍤掗張顒傜秹濞夈劍妲戦垾婊勬降濠ф劧绱版稉顓炴禇缂佸繑绁圭純鎴斺偓锟� 閹存牑鈧粍娼靛┃鎰剁窗缂佸繑绁归弮銉﹀Г-娑擃厼娴楃紒蹇旂ス缂冩垟鈧繄娈戦幍鈧張澶夌稊閸濅緤绱濋悧鍫熸綀閸у洤鐫樻禍锟�
閵嗏偓 娑擃厼娴楃紒蹇旂ス缂冩埊绱欓張顒傜秹閸欙附婀佹竟鐗堟閻ㄥ嫰娅庢径鏍电礆閿涙稒婀紒蹇旀拱缂冩垶宸块弶鍐跨礉娴犺缍嶉崡鏇氱秴閸欏﹣閲滄禍杞扮瑝瀵版娴嗘潪濮愨偓浣规喅缂傛牗鍨ㄦ禒銉ュ従鐎癸拷
閵嗏偓 閺傜懓绱℃担璺ㄦ暏娑撳﹨鍫担婊冩惂閿涙稑鍑$紒蹇庣瑢閺堫剛缍夌粵鍓ц閻╃ǹ鍙ч幒鍫熸綀娴h法鏁ら崡蹇氼唴閻ㄥ嫬宕熸担宥呭挤娑擃亙姹夐敍灞界安濞夈劍鍓扮拠銉х搼娴f粌鎼ф稉顓熸Ц閸氾附婀�
閵嗏偓 閻╃ǹ绨查惃鍕房閺夊啩濞囬悽銊╂閸掕泛锛愰弰搴礉娑撳秴绶辨潻婵嗗冀鐠囥儳鐡戦梽鎰煑婢圭増妲戦敍灞肩瑬閸︺劍宸块弶鍐瘱閸ユ潙鍞存担璺ㄦ暏閺冭泛绨插▔銊︽閳ユ粍娼靛┃鎰剁窗娑擃厼娴�
閵嗏偓 缂佸繑绁圭純鎴斺偓婵囧灗閳ユ粍娼靛┃鎰剁窗缂佸繑绁归弮銉﹀Г-娑擃厼娴楃紒蹇旂ス缂冩垟鈧縿鈧倽绻氶崣宥呭鏉╂澘锛愰弰搴も偓鍜冪礉閺堫剛缍夌亸鍡氭嫹缁岃泛鍙鹃惄绋垮彠濞夋洖绶ョ拹锝勬崲閵嗭拷
2閵嗕焦婀扮純鎴炲閺堝娈戦崶鍓у娴f粌鎼ф稉顓ㄧ礉閸楀厖濞囧▔銊︽閳ユ粍娼靛┃鎰剁窗娑擃厼娴楃紒蹇旂ス缂冩垟鈧繂寮�/閹存牗鐖i張澶嗏偓婊€鑵戦崶鐣岀病濞村海缍�(www.ce.cn)閳ワ拷
閵嗏偓 濮樻潙宓冮敍灞肩稻楠炴湹绗夋禒锝堛€冮張顒傜秹鐎电顕氱粵澶婃禈閻楀洣缍旈崫浣烽煩閺堝顔忛崣顖欑铂娴滆桨濞囬悽銊ф畱閺夊啫鍩勯敍娑樺嚒缂佸繋绗岄張顒傜秹缁涘墽璁查惄绋垮彠閹哄牊娼堟担璺ㄦ暏
閵嗏偓 閸楀繗顔呴惃鍕礋娴e秴寮锋稉顏冩眽閿涘奔绮庨張澶嬫綀閸︺劍宸块弶鍐瘱閸ユ潙鍞存担璺ㄦ暏鐠囥儳鐡戦崶鍓у娑擃厽妲戠涵顔芥暈閺勫簶鈧粈鑵戦崶鐣岀病濞村海缍夌拋鎷屸偓鍖礨X閹藉嫧鈧繃鍨�
閵嗏偓 閳ユ粎绮″ù搴㈡)閹躲儳銇�-娑擃厼娴楃紒蹇旂ス缂冩垼顔囬懓鍖礨X閹藉嫧鈧繄娈戦崶鍓у娴f粌鎼ч敍灞芥儊閸掓瑱绱濇稉鈧崚鍥︾瑝閸掆晛鎮楅弸婊嗗殰鐞涘本澹欓幏鍛偓锟�
3閵嗕礁鍤掗張顒傜秹濞夈劍妲� 閳ユ粍娼靛┃鎰剁窗XXX閿涘牓娼稉顓炴禇缂佸繑绁圭純鎴礆閳ワ拷 閻ㄥ嫪缍旈崫渚婄礉閸у洩娴嗘潪鍊熷殰閸忚泛鐣犳刊鎺嶇秼閿涘矁娴嗘潪鐣屾窗閻ㄥ嫬婀禍搴濈炊闁帗娲�
閵嗏偓 婢舵矮淇婇幁顖ょ礉楠炴湹绗夋禒锝堛€冮張顒傜秹鐠х偛鎮撻崗鎯邦潎閻愮懓鎷扮€电懓鍙鹃惇鐔风杽閹嗙鐠愶絻鈧拷
4閵嗕礁顩ч崶鐘辩稊閸濅礁鍞寸€瑰箍鈧胶澧楅弶鍐ㄦ嫲閸忚泛鐣犻梻顕€顣介棁鈧憰浣告倱閺堫剛缍夐懕鏃傞兇閻ㄥ嫸绱濈拠宄版躬30閺冦儱鍞存潻娑滎攽閵嗭拷

閳ワ拷 缂冩垹鐝幀缁樻簚閿涳拷010-81025111 閺堝鍙ф担婊冩惂閻楀牊娼堟禍瀣杹鐠囩柉浠堢化浼欑窗010-81025135 闁喚顔堥敍锟�

精彩图片
闂佺ǹ绻愰崢鏍姳椤掑倻纾奸煫鍥ㄦ⒒閵堝綊鏌¢崘锕€鍔滃┑顔哄€楃划鍫ユ晸閿燂拷 闂佹寧鍐婚幏锟� 闂佺ǹ绻愰崢鏍姳椤掍胶鈻旀い鎾跺仦缁傚洨绱撴担鍝ョ缂佷礁婀辩槐鏃堟晸閿燂拷 闂佹寧鍐婚幏锟� 缂傚倸鍟崹褰掓偟椤栨稑绶炵憸宀€鑺遍妸褎濯奸柨鐕傛嫹 闂佹寧鍐婚幏锟� 缂傚倸鍟崹褰掓偟椤栨粍瀚氭慨妯哄帠缁拷 闂佹寧鍐婚幏锟� 闂佺粯顨呴悧濠傖缚閸喓鐝堕柣妤€鐗婇~锟� 闂佹寧鍐婚幏锟� 婵炲瓨绮嶇敮鐔哥閸垻纾鹃柟杈剧秵濞兼帡鏌涘鐓庡⒉濠碘槅鍙冮幆鍕敊閼恒儳鐤€闂佸憡鏋€閵堝懏顔囬悗鍨緲椤戝懘宕i弴鐘垫/闁跨噦鎷� 闂佹寧鍐婚幏锟� 濡ょ姷鍋涢悘婵嬪箟閿熺姴瀚夌€广儱鎳庨~锟� 闂佹寧鍐婚幏锟� 闂佸憡鐟ラ鍡涘磿韫囨稒鐓i柣鎰靛墮婢讹拷 闂佹寧鍐婚幏锟� 缂備礁澧芥繛鈧柡浣革躬閺屽洭顢欑紒銏犳暬
缂傚倷绀佺换鎴犵矈瑜版帒绫嶉柕澶涚畱琚氶梺纭呯堪閸庢壆绮悢鍏尖挅闁糕剝顨嗙粈瀣箾婢跺绀€缂佽翰鍎查妵鍕偅閸愨晪绱梺鎸庡喕閹凤拷闂佸憡鐗楅妵鐐哄触椤愩倖鏆滈柛宀€鍋為崳鐑芥偣閸パ勬儓缂佽翰鍎抽弫顕€宕煎⿰鍛闂佸憡鏌¢崜婵囨櫠閿燂拷    婵炴垶鎼╅崢鐓幟瑰Δ鍐<闊洦姊婚妶鍦磽閸愨晛鐏︾痪顓℃硾椤曘儳鈧綆鍠撻埀顒佸姍濮婂顢氶崱娆戠崶闂佸憡鐗楅妵鐐哄触椤愶箑绀嗘慨姗嗗墴閹割剛鈧灚婢橀鍛箔閳ь剙霉濠婂喚鍎忓┑顔惧枛楠炲秹鍩€閿燂拷
婵炴垶鎼╅崢鐓幟瑰Δ鍐<闊洦姊婚妶鍦磽閸愭寧瀚� 闂佺粯顨呴悧濠傖缚閸儱绠ラ柍褜鍓熷鐢告晸閿燂拷  婵炲瓨绮嶇敮鐔哥閸垻纾鹃柟瀵稿仦閻撯偓闂傚倸鍊介濠冪┍婵犲洤绠掓い鏍ㄧ⊕缁犳盯鏌涢弬鍛€ら崯鍛存煕濞嗘ê鐏ラ柣锔兼嫹(10120170008)   缂傚倸鍟崹鍦垝閼搁潧顕遍柣妯挎珪鐏忥繝鎮峰▎蹇旑棞闁诡垰顦甸幊鐐哄磼濠婂嫮鐛ラ柣鐘辫兌鏋憸鎷屽皺閹风娀鏁撻敓锟�(0107190)  婵炲瓨绮庨幃渚癙婵犮垼顔愰幏锟�18036557闂佸憡鐟遍幏锟�

婵炲瓨绮犻崜娆撳矗閺囩姷纾鹃柟瀛樼箘閺嗘柨顭跨拋瑙勫 11010202009785闂佸憡鐟遍幏锟�