近日，有网友在使用某网盘时，被推荐了一张自己怀孕的照片，并配文“脑子不够，肚子来凑”，文案疑似AI自动生成。该网友觉得这句话对孕妇存在侮辱性，表示不愿再用该网盘。随后，相关平台公司联系她进行了退款，同时回应：文案确实不妥，后续将加强文案的筛选、提高模型训练和技术审核能力，避免再出现类似问题。
伴随着互联网科技的飞速发展，各种AI应用层出不穷。其中，尤以“文生图”或“图配文”最为常见。前者只需提供文字，就能自动生成相对应的图片；后者则会根据图片内容，自动匹配相应的文字。善意地理解，此次事件应该是AI会错了意、表错了情，AI智能体或许只是想调侃一下，而非对孕妇或特定人群怀有主观恶意。但无论是“明知故犯”，还是“无心之失”，此次事件都暴露出一个非常现实的问题——尽管以“智能体”为名，某些AI技术远远没有那么智能。
相比起此次事件，某些AI应用的主观恶意显然更加明显，社会危害性也更大。《甄嬛传》变身“枪战片”、《红楼梦》改成“武打戏”、孙悟空骑着摩托车扬长而去……在AI技术的加持之下，某些“魔改”视频肆无忌惮地亵渎经典IP，不仅扰乱公共视听，而且涉嫌构成侵权行为，由此带来公众对技术边界以及商业伦理的反思。
诚如贝克在《风险社会》一书中所说：“任何新兴技术的诞生与运用，在给人们带来机遇与便利的同时，也可能产生风险与制造挑战。”作为现代信息技术的重要组成部分，AI技术为各种应用场景提供了更加智能化的解决方案。与此同时也要看到，不成熟或者不恰当的使用，也可能使AI出现误差、误判，或者传递出不健康的信息和内容。
版权所有 