“小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。据央视网报道,近日,有10岁女孩被发现偷偷用AI聊天软件,与AI生成的“角色”进行“谈恋爱”,甚至多次出现“擦边”对话。
AI聊天软件所提供的虚拟“恋爱”等新奇体验,对于好奇心重、模仿能力强的未成年人来说极具吸引力。其成瘾性主要体现在,AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。而心智尚未成熟、自我控制能力较弱的他们,极易对这种虚拟情感体验产生依赖,难以自拔。
国外已发生多起AI聊天争议案例。2024年12月,美国一家AI公司被父母起诉,因其AI暗示17岁少年杀死父母是对限制使用电子设备的合理回应,还对亲子关系进行负面引导。更早之前,也出现过AI机器人教唆用户自杀的事件。这些案例表明,AI虽然并非主动引诱作恶,但在程序设定上容易顺着用户负面情绪推波助澜。?
回到国内,虽然有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务,但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度。