近日,上海警方成功侦破一起利用人工智能技术编造、传播网络谣言损害企业权益案,抓获犯罪嫌疑人8名。嫌疑人为提高账号流量获取广告收益,在网上找到人代笔。代笔者利用AI生成了一篇涉及沪上某茶饮企业的文章,文中包含大量针对该企业及创始人的不实信息。全网浏览量迅速上涨,引发网民对该茶饮企业的质疑。
近年来,AI工具正融入人们日常生活工作。而作为技术使用的一体两面,用AI工具造谣抹黑企业的现象也频频发生。AI“一键生成”“批量产出”内容的能力,大大降低了“黑嘴”抹黑营商环境的成本和门槛。
造谣者提出指令,AI快速以“无中生有”“移花接木”“断章取义”的手法拼凑,再冠以“博眼球”的标题。由于违法人员深谙内容平台算法机制,涉及企业的不实内容被快速推送到用户眼前。
AI造谣之所以猖獗,是背后的利益驱动作祟。从相关案件看,利用AI造谣抹黑企业的目的大致有二:一部分,为了追求内容平台给创作者的收益分成:内容越“劲爆”、点击量越高,分成收入也越多。而还有一些,则是敲诈勒索,刻意诋毁企业产品质量、经营状况以及企业家声誉,再以“删稿”等名义,向企业索取所谓“合作费”,将企业当作“提款机”。
AI谣言对营商环境的破坏力巨大。对企业来说,一旦陷入谣言漩涡,要花费大量时间、人力、财力辟谣、维权,即使澄清成功,品牌形象也已受到伤害。有的企业在新品发布、上市、融资等关键时期,因谣言的干扰,发展推进受阻。
AI谣言严重扰乱了正常市场秩序,破坏了公平竞争的市场环境,干扰了正常的市场运行机制,误导消费者的购买决策,降低公众对市场的信任度,进而影响社会的经济活力。