当前位置     首页 > 滚动 > 正文
中经搜索

防范AI诈骗重在数据治理

2023年05月25日 07:25   来源:证券日报   邢 萌

  最近,“AI诈骗正在全国爆发”话题热度居高不下。事情起因在于包头警方近日发布一起利用AI实施诈骗的典型案例,受骗人10分钟内被骗430万元。

  AI诈骗之所以如此受社会关注、甚至引发恐慌,主要原因在于AI诈骗是模仿真人声音和面部实施诈骗,这种针对个人信息定制的“专属剧本”诈骗成功率非常高。上述案件中,骗子盗用受骗人好友微信账号,通过AI换脸和拟声技术佯装好友,通过视频聊天成功对受骗人实施诈骗。多地警方提醒,AI诈骗的成功率接近100%。亲友间网络上借钱更要防范此类诈骗,避免个人信息被别有用心者盗用。

  面对此类诈骗案,网络上甚至有网友自嘲,“还没享受到AI的便利,就先遭到了AI的重锤”。众所周知,利用新技术诈骗是电信诈骗的典型特点。从过往来看,无论是“盗版技术”BT种子下载还是“比特币技术”区块链,都曾是电信诈骗利用的工具。笔者在此呼吁,对于这种现象监管部门需要高度重视,电信诈骗与新技术密切勾连,在实践中容易造成上述污名化现象。其危害既影响科研人员积极性,又不利于营造友好的创新环境。

  事实上,技术本身是中性的,“无罪的”,关键谁来运用。对于AI这样的新一代信息技术,我们不能因噎废食。当前,ChatGPT引领AI变革,让人们再次看到AI技术在解放生产力、提高生产效率上的巨大潜力。

  同时,技术被滥用的风险不容低估。笔者建议,在AI诈骗刚刚冒头之际,监管部门不仅要严打AI诈骗,还要利用大数据技术查清到底是哪些人在为AI诈骗提供技术?背后是否形成了灰色产业链?目的就是在AI技术发展中坚决规范并堵住危害社会的源头。

  追根溯源,AI诈骗的源头在于个人信息泄露,在于数据的治理。个人信息不泄露,骗子也就无法拿到个人信息,无从得知人际关系,更没法模仿面貌腔调。然而,在当前几乎所有的App都想接入个人电话、照片、短信等权限的环境下,用户“信息裸奔”现象时有发生。

  因此,对于电信诈骗,见招拆招诚然重要,更重要的是防范。近年来,个人信息保护法、个人信息安全规范、数据安全法等法律法规陆续推出,加强了对公众的生物特征等各类隐私数据保护力度。与此同时,生成式人工智能服务管理办法出台在即,重点强调了生成式人工智能产品训练数据及生成内容的真实性。

  笔者认为,监管部门在贯彻落实好相关政策的同时,也要注重健全AI等新技术伦理规范,加强安全监管举措,引导和规范技术服务商行为。网络社交等平台企业要加强用户账号管理,防止被他人盗用、窃取。个人也要提高防范意识,避免过多暴露自身信息。

(责任编辑:臧梦雅)

分享到:
延伸阅读
  • ·谨防“零首付购房”风险    2023年05月12日
  • ·“有偿探店”,需综合施治    2022年08月08日
  • ·电信服务乱收费顽疾必须根治    2022年08月05日
  • 中国经济网版权及免责声明:
    1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
      中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
      方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
      相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
      经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
    2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
      水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
      协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
      “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
    3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
      多信息,并不代表本网赞同其观点和对其真实性负责。
    4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

    ※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

    精彩图片
    关于经济日报社关于中国经济网网站大事记网站诚聘版权声明互联网视听节目服务自律公约广告服务友情链接纠错邮箱
    经济日报报业集团法律顾问:北京市鑫诺律师事务所    中国经济网法律顾问:北京刚平律师事务所
    中国经济网 版权所有  互联网新闻信息服务许可证(10120170008)   网络传播视听节目许可证(0107190)  京ICP备18036557号

    京公网安备 11010202009785号

    防范AI诈骗重在数据治理

    2023-05-25 07:25 来源:证券日报 邢 萌

      最近,“AI诈骗正在全国爆发”话题热度居高不下。事情起因在于包头警方近日发布一起利用AI实施诈骗的典型案例,受骗人10分钟内被骗430万元。

      AI诈骗之所以如此受社会关注、甚至引发恐慌,主要原因在于AI诈骗是模仿真人声音和面部实施诈骗,这种针对个人信息定制的“专属剧本”诈骗成功率非常高。上述案件中,骗子盗用受骗人好友微信账号,通过AI换脸和拟声技术佯装好友,通过视频聊天成功对受骗人实施诈骗。多地警方提醒,AI诈骗的成功率接近100%。亲友间网络上借钱更要防范此类诈骗,避免个人信息被别有用心者盗用。

      面对此类诈骗案,网络上甚至有网友自嘲,“还没享受到AI的便利,就先遭到了AI的重锤”。众所周知,利用新技术诈骗是电信诈骗的典型特点。从过往来看,无论是“盗版技术”BT种子下载还是“比特币技术”区块链,都曾是电信诈骗利用的工具。笔者在此呼吁,对于这种现象监管部门需要高度重视,电信诈骗与新技术密切勾连,在实践中容易造成上述污名化现象。其危害既影响科研人员积极性,又不利于营造友好的创新环境。

      事实上,技术本身是中性的,“无罪的”,关键谁来运用。对于AI这样的新一代信息技术,我们不能因噎废食。当前,ChatGPT引领AI变革,让人们再次看到AI技术在解放生产力、提高生产效率上的巨大潜力。

      同时,技术被滥用的风险不容低估。笔者建议,在AI诈骗刚刚冒头之际,监管部门不仅要严打AI诈骗,还要利用大数据技术查清到底是哪些人在为AI诈骗提供技术?背后是否形成了灰色产业链?目的就是在AI技术发展中坚决规范并堵住危害社会的源头。

      追根溯源,AI诈骗的源头在于个人信息泄露,在于数据的治理。个人信息不泄露,骗子也就无法拿到个人信息,无从得知人际关系,更没法模仿面貌腔调。然而,在当前几乎所有的App都想接入个人电话、照片、短信等权限的环境下,用户“信息裸奔”现象时有发生。

      因此,对于电信诈骗,见招拆招诚然重要,更重要的是防范。近年来,个人信息保护法、个人信息安全规范、数据安全法等法律法规陆续推出,加强了对公众的生物特征等各类隐私数据保护力度。与此同时,生成式人工智能服务管理办法出台在即,重点强调了生成式人工智能产品训练数据及生成内容的真实性。

      笔者认为,监管部门在贯彻落实好相关政策的同时,也要注重健全AI等新技术伦理规范,加强安全监管举措,引导和规范技术服务商行为。网络社交等平台企业要加强用户账号管理,防止被他人盗用、窃取。个人也要提高防范意识,避免过多暴露自身信息。

    (责任编辑:臧梦雅)

    查看余下全文