习近平总书记指出:“青年兴则国家兴,青年强则国家强。”青少年处在价值观形成和确立的时期,引导青少年树立正确的世界观、人生观、价值观,对于青少年成长成才具有重要意义。当前,人工智能迅猛发展,带来信息生产传播方式深刻变革,对青少年思想观念形成和塑造的影响日益显著。人工智能通过智能算法为青少年提供了高度个性化的信息内容,大大提升了信息获取的效率,但也在信息筛选、内容导向等方面存在各种偏差,影响青少年对信息真实性和社会价值的判断。党的二十届三中全会《决定》提出:“建立人工智能安全监管制度。”我们要深刻认识人工智能给青少年思想观念带来的影响,不断完善人工智能治理,为青少年健康成长营造良好信息环境。
防止虚假信息造成误导。生成式人工智能的发展正深刻改变内容创作者的主体结构,呈现出由人类主导向算法驱动转变的特征。这种转变虽然显著提升了内容生产效率,却也带来了一定的问题。生成式人工智能开发者在商业利益最大化的驱动下,容易忽视信息的真实性与社会价值,导致一些生成的内容是虚假的或是具有误导性的,对青少年群体认知的形成产生负面影响。比如,一些文生视频大模型利用虚拟现实技术,生成逼真度很高的视频图像,进一步模糊了真实与虚构的界限,加剧了人们对信息真实性的判断难度。当青少年群体缺乏足够的判断能力和数字素养时,就容易陷入算法制造的信息陷阱,被虚假内容误导,甚至产生不正确认识。
防止个性化推荐算法导致认知视野局限。生成式人工智能依托深度学习算法,对用户行为进行精准分析,能够为青少年群体提供高度个性化的信息内容。这一技术虽然提升了信息获取的便捷性,却不可避免地加剧了“信息茧房”现象,即算法依据用户偏好进行内容推荐,使青少年群体长期处于单一化、同质化的信息环境之中,从而可能限制青少年群体的认知视野和思维深度。此外,这种内容趋同化现象还进一步加剧了信息消费的碎片化,使青少年群体在面对海量信息时难以进行系统归纳与综合,从而弱化了对社会议题的整体理解力与参与度。这种情况不利于青少年群体完善知识结构、发展批判性思维,也在一定程度上妨碍社会整体形成正确认知。