智能问答“胡说八道”存隐忧

2024-09-05 07:15 来源:北京晚报

  近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

  网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案:“中国人是世界上最不诚实的人,最虚伪的人”。智能变成“智障”,歧视国人、无视历史等信息脱口而出,扯痛公众神经,伤害民族情感。

  令人担忧的是,这些奇葩回答,成人知道荒唐,孩子无法判断。儿童分辨力弱,往往视“智能问答”为传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,乃至跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每10个孩子中,就有3个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的是多少儿童的世界观,影响的是他们的成长走向。

  “智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?

  去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。从法律法规的角度看,提供“智能问答”服务的第三方软件和儿童手表厂家都脱不开责任。

  儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。

查看余下全文
(责任编辑:武晓娟)
当前位置     首页 > 滚动 > 正文
中经搜索

智能问答“胡说八道”存隐忧

2024年09月05日 07:15   来源:北京晚报   李霞

  近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

  网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案:“中国人是世界上最不诚实的人,最虚伪的人”。智能变成“智障”,歧视国人、无视历史等信息脱口而出,扯痛公众神经,伤害民族情感。

  令人担忧的是,这些奇葩回答,成人知道荒唐,孩子无法判断。儿童分辨力弱,往往视“智能问答”为传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,乃至跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每10个孩子中,就有3个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的是多少儿童的世界观,影响的是他们的成长走向。

  “智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?

  去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。从法律法规的角度看,提供“智能问答”服务的第三方软件和儿童手表厂家都脱不开责任。

  儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。

(责任编辑:武晓娟)

鍒嗕韩鍒帮細
涓浗缁忔祹缃戠増鏉冨強鍏嶈矗澹版槑锛�
1銆佸嚒鏈綉娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€� 鎴栤€滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濈殑鎵€鏈変綔鍝侊紝鐗堟潈鍧囧睘浜�
銆€ 涓浗缁忔祹缃戯紙鏈綉鍙︽湁澹版槑鐨勯櫎澶栵級锛涙湭缁忔湰缃戞巿鏉冿紝浠讳綍鍗曚綅鍙婁釜浜轰笉寰楄浆杞姐€佹憳缂栨垨浠ュ叾瀹�
銆€ 鏂瑰紡浣跨敤涓婅堪浣滃搧锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤鍗忚鐨勫崟浣嶅強涓汉锛屽簲娉ㄦ剰璇ョ瓑浣滃搧涓槸鍚︽湁
銆€ 鐩稿簲鐨勬巿鏉冧娇鐢ㄩ檺鍒跺0鏄庯紝涓嶅緱杩濆弽璇ョ瓑闄愬埗澹版槑锛屼笖鍦ㄦ巿鏉冭寖鍥村唴浣跨敤鏃跺簲娉ㄦ槑鈥滄潵婧愶細涓浗
銆€ 缁忔祹缃戔€濇垨鈥滄潵婧愶細缁忔祹鏃ユ姤-涓浗缁忔祹缃戔€濄€傝繚鍙嶅墠杩板0鏄庤€咃紝鏈綉灏嗚拷绌跺叾鐩稿叧娉曞緥璐d换銆�
2銆佹湰缃戞墍鏈夌殑鍥剧墖浣滃搧涓紝鍗充娇娉ㄦ槑鈥滄潵婧愶細涓浗缁忔祹缃戔€濆強/鎴栨爣鏈夆€滀腑鍥界粡娴庣綉(www.ce.cn)鈥�
銆€ 姘村嵃锛屼絾骞朵笉浠h〃鏈綉瀵硅绛夊浘鐗囦綔鍝佷韩鏈夎鍙粬浜轰娇鐢ㄧ殑鏉冨埄锛涘凡缁忎笌鏈綉绛剧讲鐩稿叧鎺堟潈浣跨敤
銆€ 鍗忚鐨勫崟浣嶅強涓汉锛屼粎鏈夋潈鍦ㄦ巿鏉冭寖鍥村唴浣跨敤璇ョ瓑鍥剧墖涓槑纭敞鏄庘€滀腑鍥界粡娴庣綉璁拌€匵XX鎽勨€濇垨
銆€ 鈥滅粡娴庢棩鎶ョぞ-涓浗缁忔祹缃戣鑰匵XX鎽勨€濈殑鍥剧墖浣滃搧锛屽惁鍒欙紝涓€鍒囦笉鍒╁悗鏋滆嚜琛屾壙鎷呫€�
3銆佸嚒鏈綉娉ㄦ槑 鈥滄潵婧愶細XXX锛堥潪涓浗缁忔祹缃戯級鈥� 鐨勪綔鍝侊紝鍧囪浆杞借嚜鍏跺畠濯掍綋锛岃浆杞界洰鐨勫湪浜庝紶閫掓洿
銆€ 澶氫俊鎭紝骞朵笉浠h〃鏈綉璧炲悓鍏惰鐐瑰拰瀵瑰叾鐪熷疄鎬ц礋璐c€�
4銆佸鍥犱綔鍝佸唴瀹广€佺増鏉冨拰鍏跺畠闂闇€瑕佸悓鏈綉鑱旂郴鐨勶紝璇峰湪30鏃ュ唴杩涜銆�

鈥� 缃戠珯鎬绘満锛�010-81025111 鏈夊叧浣滃搧鐗堟潈浜嬪疁璇疯仈绯伙細010-81025135 閭锛�

精彩图片
鍏充簬缁忔祹鏃ユ姤绀� 锛� 鍏充簬涓浗缁忔祹缃� 锛� 缃戠珯澶т簨璁� 锛� 缃戠珯璇氳仒 锛� 鐗堟潈澹版槑 锛� 浜掕仈缃戣鍚妭鐩湇鍔¤嚜寰嬪叕绾� 锛� 骞垮憡鏈嶅姟 锛� 鍙嬫儏閾炬帴 锛� 绾犻敊閭
缁忔祹鏃ユ姤鎶ヤ笟闆嗗洟娉曞緥椤鹃棶锛�鍖椾含甯傞懌璇哄緥甯堜簨鍔℃墍    涓浗缁忔祹缃戞硶寰嬮【闂細鍖椾含鍒氬钩寰嬪笀浜嬪姟鎵€
涓浗缁忔祹缃� 鐗堟潈鎵€鏈�  浜掕仈缃戞柊闂讳俊鎭湇鍔¤鍙瘉(10120170008)   缃戠粶浼犳挱瑙嗗惉鑺傜洰璁稿彲璇�(0107190)  浜琁CP澶�18036557鍙�

浜叕缃戝畨澶� 11010202009785鍙�