当前位置     首页 > 滚动 > 正文
中经搜索

程啸:谨防深度伪造技术侵害公众利益

2021年03月24日 07:56   来源:法治日报   

  近段时间以来,一款来自国外的Avatarify软件在朋友圈、短视频平台上迅速走红。用户只要在该软件中上传一张照片,照片上的任何人就可以扭动脖子唱一曲魔性十足的“蚂蚁呀嘿”。这不由使公众联想起2019年国内红极一时的换脸软件ZAO。这些软件都涉及深度伪造技术。

  就在近日,国家网信部门和公安部门依法约谈映客、小米等11家互联网企业,督促其加强对语音社交软件和涉深度伪造技术的互联网新技术新应用安全评估,完善风险防控机制和措施,并对发现的安全隐患及时采取有效整改措施。这也让更多的公众意识到深度伪造技术所蕴含的安全隐患。

  “深度伪造”是随着现代人工智能技术(尤其是语音模拟、人脸合成、视频生成等)的发展而出现的技术,是计算机“深度学习”和“伪造”组合的产物。简单地说,就是通过人工智能技术来制作虚假的视频或音频,或者对原本真实的视频或音频的内容进行修改,从而呈现与真相不符合的状态。

  可以说,在深度伪造技术面前,传统的“眼见为实”“有图有真相”的说法会变得不堪一击,亲眼所见和亲耳所听的东西都可能是完全子虚乌有的。深度伪造技术的滥用会对公众的合法权益造成损害,破坏社会秩序、经济秩序和政治秩序,损害社会公共利益乃至危害国家安全,包括我国在内的许多国家的法律都对之作出规范,例如换脸软件ZAO上线不久,就被工信部约谈。

  目前我国尚未发生因深度伪造技术而产生侵权纠纷案件,但实践中,一些违法犯罪分子利用深度伪造技术侵害他人人身财产权益的情形屡见不鲜。从被侵害的民事权益的类型看,这些侵害行为包括以下几种:

  首先,利用深度伪造技术,实现移花接木,会对他人名誉权构成侵害。我国民法典第1024条规定:“民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。”制作虚假色情视频,是深度伪造技术最早也是最常见的非法运用方式之一。利用该技术能将一些知名歌星、影星等公众人物的脸移转到色情明星身上,伪造逼真的色情场景。这些虚假色情视频一经传播,公众可能真假莫辨,从而导致受害人的名誉严重受损。即便不是用于制作色情视频,深度伪造技术也完全可以通过制造虚假的视频或音频,侵害自然人、法人或非法人组织的名誉权,进而给其造成财产损失以及精神损害。

  其次,深度伪造技术会构成对自然人肖像权的侵害。运用深度伪造技术,可以实现所谓的“换脸”,即将某个自然人的脸部形象逼真地移植到他人身上,从而构成对该自然人肖像权的侵害。我国在编纂民法典时,有单位提出,利用信息技术手段“深度伪造”他人的肖像、声音,不仅侵害自然人的人格权益,严重的还可能造成恶劣的社会影响,危害国家安全和社会公共利益,建议法律对深度伪造技术带来的“换脸”等问题予以回应。后来民法典在制定时采纳了这一意见——第1019条第1款明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。

  再次,深度伪造技术为违法犯罪分子实施诈骗等行为提供了便利。实践中,一些犯罪分子利用深度伪造技术,非常逼真地克隆出被害人的近亲属、朋友或同事的声音,然后轻易地骗取巨额钱财。据报道,2019年3月,就有犯罪分子使用深度伪造技术成功模仿了英国某能源公司的母公司CEO的声音,从而诈骗了22万欧元。从民法角度说,这种行为侵害了他人财产权,而从刑法角度讲则可能构成诈骗等犯罪,均应依法承担法律责任。

  最后,在深度伪造技术利用的过程中,还往往会涉及非法收集、买卖个人信息的违法行为。我国民法典、网络安全法等法律对于个人信息保护作出明确规定,人的脸部特征信息就属于生物识别信息。而深度伪造技术能够应用的一个重要前提,就是要大量处理包括生物识别信息在内的个人信息。因此,深度伪造技术还会侵害自然人的个人信息权益。

  总之,由于目前业界还没有相关标准对这些用深度伪造技术制作出来的假视频、假音频进行检测,因此,公众因深度伪造技术遭受侵害时,往往很难加以证明并得到有效救济。这就迫切需要从民法、刑法、行政法等多个角度对于深度伪造技术进行严格规范,从而充分保护广大民事主体的合法权益。此次两部门约谈一些互联网企业,要求其对这一技术进行安全评估,也旨在督促企业履行主体责任,实现有效的事先风险管理,这也会为以后从法律角度进行规制积累有益经验。

(作者系清华大学法学院副院长、教授)

(责任编辑:臧梦雅)

闂備礁鎲$敮鎺懳涢弮鍫燁棅闁冲搫鎳庣粈鍡涙偨椤栵絽鏋ょ紒鎰舵嫹
延伸阅读
娑擃厼娴楃紒蹇旂ス缂冩垹澧楅弶鍐ㄥ挤閸忓秷鐭楁竟鐗堟閿涳拷
1閵嗕礁鍤掗張顒傜秹濞夈劍妲戦垾婊勬降濠ф劧绱版稉顓炴禇缂佸繑绁圭純鎴斺偓锟� 閹存牑鈧粍娼靛┃鎰剁窗缂佸繑绁归弮銉﹀Г-娑擃厼娴楃紒蹇旂ス缂冩垟鈧繄娈戦幍鈧張澶夌稊閸濅緤绱濋悧鍫熸綀閸у洤鐫樻禍锟�
閵嗏偓 娑擃厼娴楃紒蹇旂ス缂冩埊绱欓張顒傜秹閸欙附婀佹竟鐗堟閻ㄥ嫰娅庢径鏍电礆閿涙稒婀紒蹇旀拱缂冩垶宸块弶鍐跨礉娴犺缍嶉崡鏇氱秴閸欏﹣閲滄禍杞扮瑝瀵版娴嗘潪濮愨偓浣规喅缂傛牗鍨ㄦ禒銉ュ従鐎癸拷
閵嗏偓 閺傜懓绱℃担璺ㄦ暏娑撳﹨鍫担婊冩惂閿涙稑鍑$紒蹇庣瑢閺堫剛缍夌粵鍓ц閻╃ǹ鍙ч幒鍫熸綀娴h法鏁ら崡蹇氼唴閻ㄥ嫬宕熸担宥呭挤娑擃亙姹夐敍灞界安濞夈劍鍓扮拠銉х搼娴f粌鎼ф稉顓熸Ц閸氾附婀�
閵嗏偓 閻╃ǹ绨查惃鍕房閺夊啩濞囬悽銊╂閸掕泛锛愰弰搴礉娑撳秴绶辨潻婵嗗冀鐠囥儳鐡戦梽鎰煑婢圭増妲戦敍灞肩瑬閸︺劍宸块弶鍐瘱閸ユ潙鍞存担璺ㄦ暏閺冭泛绨插▔銊︽閳ユ粍娼靛┃鎰剁窗娑擃厼娴�
閵嗏偓 缂佸繑绁圭純鎴斺偓婵囧灗閳ユ粍娼靛┃鎰剁窗缂佸繑绁归弮銉﹀Г-娑擃厼娴楃紒蹇旂ス缂冩垟鈧縿鈧倽绻氶崣宥呭鏉╂澘锛愰弰搴も偓鍜冪礉閺堫剛缍夌亸鍡氭嫹缁岃泛鍙鹃惄绋垮彠濞夋洖绶ョ拹锝勬崲閵嗭拷
2閵嗕焦婀扮純鎴炲閺堝娈戦崶鍓у娴f粌鎼ф稉顓ㄧ礉閸楀厖濞囧▔銊︽閳ユ粍娼靛┃鎰剁窗娑擃厼娴楃紒蹇旂ス缂冩垟鈧繂寮�/閹存牗鐖i張澶嗏偓婊€鑵戦崶鐣岀病濞村海缍�(www.ce.cn)閳ワ拷
閵嗏偓 濮樻潙宓冮敍灞肩稻楠炴湹绗夋禒锝堛€冮張顒傜秹鐎电顕氱粵澶婃禈閻楀洣缍旈崫浣烽煩閺堝顔忛崣顖欑铂娴滆桨濞囬悽銊ф畱閺夊啫鍩勯敍娑樺嚒缂佸繋绗岄張顒傜秹缁涘墽璁查惄绋垮彠閹哄牊娼堟担璺ㄦ暏
閵嗏偓 閸楀繗顔呴惃鍕礋娴e秴寮锋稉顏冩眽閿涘奔绮庨張澶嬫綀閸︺劍宸块弶鍐瘱閸ユ潙鍞存担璺ㄦ暏鐠囥儳鐡戦崶鍓у娑擃厽妲戠涵顔芥暈閺勫簶鈧粈鑵戦崶鐣岀病濞村海缍夌拋鎷屸偓鍖礨X閹藉嫧鈧繃鍨�
閵嗏偓 閳ユ粎绮″ù搴㈡)閹躲儳銇�-娑擃厼娴楃紒蹇旂ス缂冩垼顔囬懓鍖礨X閹藉嫧鈧繄娈戦崶鍓у娴f粌鎼ч敍灞芥儊閸掓瑱绱濇稉鈧崚鍥︾瑝閸掆晛鎮楅弸婊嗗殰鐞涘本澹欓幏鍛偓锟�
3閵嗕礁鍤掗張顒傜秹濞夈劍妲� 閳ユ粍娼靛┃鎰剁窗XXX閿涘牓娼稉顓炴禇缂佸繑绁圭純鎴礆閳ワ拷 閻ㄥ嫪缍旈崫渚婄礉閸у洩娴嗘潪鍊熷殰閸忚泛鐣犳刊鎺嶇秼閿涘矁娴嗘潪鐣屾窗閻ㄥ嫬婀禍搴濈炊闁帗娲�
閵嗏偓 婢舵矮淇婇幁顖ょ礉楠炴湹绗夋禒锝堛€冮張顒傜秹鐠х偛鎮撻崗鎯邦潎閻愮懓鎷扮€电懓鍙鹃惇鐔风杽閹嗙鐠愶絻鈧拷
4閵嗕礁顩ч崶鐘辩稊閸濅礁鍞寸€瑰箍鈧胶澧楅弶鍐ㄦ嫲閸忚泛鐣犻梻顕€顣介棁鈧憰浣告倱閺堫剛缍夐懕鏃傞兇閻ㄥ嫸绱濈拠宄版躬30閺冦儱鍞存潻娑滎攽閵嗭拷

閳ワ拷 缂冩垹鐝幀缁樻簚閿涳拷010-81025111 閺堝鍙ф担婊冩惂閻楀牊娼堟禍瀣杹鐠囩柉浠堢化浼欑窗010-81025135 闁喚顔堥敍锟�

精彩图片
鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�

程啸:谨防深度伪造技术侵害公众利益

2021-03-24 07:56 来源:法治日报

  近段时间以来,一款来自国外的Avatarify软件在朋友圈、短视频平台上迅速走红。用户只要在该软件中上传一张照片,照片上的任何人就可以扭动脖子唱一曲魔性十足的“蚂蚁呀嘿”。这不由使公众联想起2019年国内红极一时的换脸软件ZAO。这些软件都涉及深度伪造技术。

  就在近日,国家网信部门和公安部门依法约谈映客、小米等11家互联网企业,督促其加强对语音社交软件和涉深度伪造技术的互联网新技术新应用安全评估,完善风险防控机制和措施,并对发现的安全隐患及时采取有效整改措施。这也让更多的公众意识到深度伪造技术所蕴含的安全隐患。

  “深度伪造”是随着现代人工智能技术(尤其是语音模拟、人脸合成、视频生成等)的发展而出现的技术,是计算机“深度学习”和“伪造”组合的产物。简单地说,就是通过人工智能技术来制作虚假的视频或音频,或者对原本真实的视频或音频的内容进行修改,从而呈现与真相不符合的状态。

  可以说,在深度伪造技术面前,传统的“眼见为实”“有图有真相”的说法会变得不堪一击,亲眼所见和亲耳所听的东西都可能是完全子虚乌有的。深度伪造技术的滥用会对公众的合法权益造成损害,破坏社会秩序、经济秩序和政治秩序,损害社会公共利益乃至危害国家安全,包括我国在内的许多国家的法律都对之作出规范,例如换脸软件ZAO上线不久,就被工信部约谈。

  目前我国尚未发生因深度伪造技术而产生侵权纠纷案件,但实践中,一些违法犯罪分子利用深度伪造技术侵害他人人身财产权益的情形屡见不鲜。从被侵害的民事权益的类型看,这些侵害行为包括以下几种:

  首先,利用深度伪造技术,实现移花接木,会对他人名誉权构成侵害。我国民法典第1024条规定:“民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。”制作虚假色情视频,是深度伪造技术最早也是最常见的非法运用方式之一。利用该技术能将一些知名歌星、影星等公众人物的脸移转到色情明星身上,伪造逼真的色情场景。这些虚假色情视频一经传播,公众可能真假莫辨,从而导致受害人的名誉严重受损。即便不是用于制作色情视频,深度伪造技术也完全可以通过制造虚假的视频或音频,侵害自然人、法人或非法人组织的名誉权,进而给其造成财产损失以及精神损害。

  其次,深度伪造技术会构成对自然人肖像权的侵害。运用深度伪造技术,可以实现所谓的“换脸”,即将某个自然人的脸部形象逼真地移植到他人身上,从而构成对该自然人肖像权的侵害。我国在编纂民法典时,有单位提出,利用信息技术手段“深度伪造”他人的肖像、声音,不仅侵害自然人的人格权益,严重的还可能造成恶劣的社会影响,危害国家安全和社会公共利益,建议法律对深度伪造技术带来的“换脸”等问题予以回应。后来民法典在制定时采纳了这一意见——第1019条第1款明确规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。

  再次,深度伪造技术为违法犯罪分子实施诈骗等行为提供了便利。实践中,一些犯罪分子利用深度伪造技术,非常逼真地克隆出被害人的近亲属、朋友或同事的声音,然后轻易地骗取巨额钱财。据报道,2019年3月,就有犯罪分子使用深度伪造技术成功模仿了英国某能源公司的母公司CEO的声音,从而诈骗了22万欧元。从民法角度说,这种行为侵害了他人财产权,而从刑法角度讲则可能构成诈骗等犯罪,均应依法承担法律责任。

  最后,在深度伪造技术利用的过程中,还往往会涉及非法收集、买卖个人信息的违法行为。我国民法典、网络安全法等法律对于个人信息保护作出明确规定,人的脸部特征信息就属于生物识别信息。而深度伪造技术能够应用的一个重要前提,就是要大量处理包括生物识别信息在内的个人信息。因此,深度伪造技术还会侵害自然人的个人信息权益。

  总之,由于目前业界还没有相关标准对这些用深度伪造技术制作出来的假视频、假音频进行检测,因此,公众因深度伪造技术遭受侵害时,往往很难加以证明并得到有效救济。这就迫切需要从民法、刑法、行政法等多个角度对于深度伪造技术进行严格规范,从而充分保护广大民事主体的合法权益。此次两部门约谈一些互联网企业,要求其对这一技术进行安全评估,也旨在督促企业履行主体责任,实现有效的事先风险管理,这也会为以后从法律角度进行规制积累有益经验。

(作者系清华大学法学院副院长、教授)

(责任编辑:臧梦雅)

查看余下全文