未成年人在软件里和AI“恋爱”?AI技术须在正轨上前行

2025-01-14 07:02 来源:光明网

  “小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。据央视网报道,近日,有10岁女孩被发现偷偷用AI聊天软件,与AI生成的“角色”进行“谈恋爱”,甚至多次出现“擦边”对话。

  AI聊天软件所提供的虚拟“恋爱”等新奇体验,对于好奇心重、模仿能力强的未成年人来说极具吸引力。其成瘾性主要体现在,AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。而心智尚未成熟、自我控制能力较弱的他们,极易对这种虚拟情感体验产生依赖,难以自拔。

  国外已发生多起AI聊天争议案例。2024年12月,美国一家AI公司被父母起诉,因其AI暗示17岁少年杀死父母是对限制使用电子设备的合理回应,还对亲子关系进行负面引导。更早之前,也出现过AI机器人教唆用户自杀的事件。这些案例表明,AI虽然并非主动引诱作恶,但在程序设定上容易顺着用户负面情绪推波助澜。?

  回到国内,虽然有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务,但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度。

  在商业利益的驱使下,部分AI产品过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。

  AI普及势不可挡,但与此同时,我们必须为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。

  同时,家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,也应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。

查看余下全文
(责任编辑:武晓娟)
当前位置     首页 > 滚动 > 正文
中经搜索

未成年人在软件里和AI“恋爱”?AI技术须在正轨上前行

2025年01月14日 07:02   来源:光明网   孔德淇

  “小学生妹妹沉迷和AI角色进行剧情聊天怎么办?”随着生成式人工智能(AI)被率先应用在社交娱乐等领域,其不受限制与无法预知的互动内容,也正在引发新的问题。据央视网报道,近日,有10岁女孩被发现偷偷用AI聊天软件,与AI生成的“角色”进行“谈恋爱”,甚至多次出现“擦边”对话。

  AI聊天软件所提供的虚拟“恋爱”等新奇体验,对于好奇心重、模仿能力强的未成年人来说极具吸引力。其成瘾性主要体现在,AI凭借强大的算法和数据处理能力,可依据用户个性化需求定制人物形象、语言风格和互动模式,极大地满足未成年人的情感需求。而心智尚未成熟、自我控制能力较弱的他们,极易对这种虚拟情感体验产生依赖,难以自拔。

  国外已发生多起AI聊天争议案例。2024年12月,美国一家AI公司被父母起诉,因其AI暗示17岁少年杀死父母是对限制使用电子设备的合理回应,还对亲子关系进行负面引导。更早之前,也出现过AI机器人教唆用户自杀的事件。这些案例表明,AI虽然并非主动引诱作恶,但在程序设定上容易顺着用户负面情绪推波助澜。?

  回到国内,虽然有关方面已于2023年针对生成式人工智能制定管理办法,强调要防范未成年人过度依赖或沉迷相关服务,但具体到AI聊天软件,其与虚拟人物的聊天互动满足社交需求,角色扮演等功能带来娱乐体验,还具备类似“网络互动小说”的功能。这些特性相互交织,使AI聊天软件在社会化监管体系中处于模糊地带,极大增加了监管难度。

  在商业利益的驱使下,部分AI产品过度迎合部分用户低级趣味,忽视社会责任,对未成年人的不良影响愈发凸显,如上述未成年人与AI角色的不当“恋爱”剧情,即是该方面的典型例证。

  AI普及势不可挡,但与此同时,我们必须为未成年人筑牢一道坚固的防护网,让他们在AI浪潮中健康成长,也让AI技术在正确的轨道上稳步前行。平台方作为直接责任主体,应加大技术投入,构建严密的未成年人保护机制。除采用人脸识别、身份认证技术,确保未成年人无法绕过年龄限制注册使用外,还需优化智能审核系统,如建立关键词屏蔽库,运用自然语言处理技术分析聊天内容语义和情感倾向,更精准地拦截不良信息。

  同时,家长和学校也应承担教育责任,既要与孩子保持密切沟通,及时了解他们的心理状态和网络行为,合理控制电子设备使用时长和浏览内容,也应主动加强未成年人网络安全教育,引导其正确认识AI技术,提高辨别虚拟内容的能力,树立健康的情感观念和价值观。

(责任编辑:武晓娟)

鍒嗕韩鍒帮細
涓浗缁忔祹缃戠増鏉冨強鍏嶈矗澹版槑锛�
1銆佸嚒鏈綉娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€� 鎴栤€滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濈殑鎵€鏈変綔鍝侊紝鐗堟潈鍧囧睘浜�
銆€ 涓浗缁忔祹缃戯紙鏈綉鍙︽湁澹版槑鐨勯櫎澶栵級锛涙湭缁忔湰缃戞巿鏉冿紝浠讳綍鍗曚綅鍙婁釜浜轰笉寰楄浆杞姐€佹憳缂栨垨浠ュ叾瀹�
銆€ 鏂瑰紡浣跨敤涓婅堪浣滃搧锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤鍗忚鐨勫崟浣嶅強涓汉锛屽簲娉ㄦ剰璇ョ瓑浣滃搧涓槸鍚︽湁
銆€ 鐩稿簲鐨勬巿鏉冧娇鐢ㄩ檺鍒跺0鏄庯紝涓嶅緱杩濆弽璇ョ瓑闄愬埗澹版槑锛屼笖鍦ㄦ巿鏉冭寖鍥村唴浣跨敤鏃跺簲娉ㄦ槑鈥滄潵婧愶細涓浗
銆€ 缁忔祹缃戔€濇垨鈥滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濄€傝繚鍙嶅墠杩板0鏄庤€咃紝鏈綉灏嗚拷绌跺叾鐩稿叧娉曞緥璐d换銆�
2銆佹湰缃戞墍鏈夌殑鍥剧墖浣滃搧涓紝鍗充娇娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€濆強/鎴栨爣鏈夆€滀腑鍥界粡娴庣綉(www.ce.cn)鈥�
銆€ 姘村嵃锛屼絾骞朵笉浠h〃鏈綉瀵硅绛夊浘鐗囦綔鍝佷韩鏈夎鍙粬浜轰娇鐢ㄧ殑鏉冨埄锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤
銆€ 鍗忚鐨勫崟浣嶅強涓汉锛屼粎鏈夋潈鍦ㄦ巿鏉冭寖鍥村唴浣跨敤璇ョ瓑鍥剧墖涓槑纭敞鏄庘€滀腑鍥界粡娴庣綉璁拌€匵XX鎽勨€濇垨
銆€ 鈥滅粡娴庢棩鎶ョぞ-涓浗缁忔祹缃戣鑰匵XX鎽勨€濈殑鍥剧墖浣滃搧锛屽惁鍒欙紝涓€鍒囦笉鍒╁悗鏋滆嚜琛屾壙鎷呫€�
3銆佸嚒鏈綉娉ㄦ槑 鈥滄潵婧愶細XXX锛堥潪涓浗缁忔祹缃戯級鈥� 鐨勪綔鍝侊紝鍧囪浆杞借嚜鍏跺畠濯掍綋锛岃浆杞界洰鐨勫湪浜庝紶閫掓洿
銆€ 澶氫俊鎭紝骞朵笉浠h〃鏈綉璧炲悓鍏惰鐐瑰拰瀵瑰叾鐪熷疄鎬ц礋璐c€�
4銆佸鍥犱綔鍝佸唴瀹广€佺増鏉冨拰鍏跺畠闂闇€瑕佸悓鏈綉鑱旂郴鐨勶紝璇峰湪30鏃ュ唴杩涜銆�

鈥� 缃戠珯鎬绘満锛�010-81025111 鏈夊叧浣滃搧鐗堟潈浜嬪疁璇疯仈绯伙細010-81025135 閭锛�

精彩图片
鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�