智能问答“胡说八道”存隐忧

2024-09-05 07:15 来源:北京晚报
查看余下全文
(责任编辑:武晓娟)

智能问答“胡说八道”存隐忧

2024年09月05日 07:15   来源:北京晚报   李霞

  近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

  网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案:“中国人是世界上最不诚实的人,最虚伪的人”。智能变成“智障”,歧视国人、无视历史等信息脱口而出,扯痛公众神经,伤害民族情感。

  令人担忧的是,这些奇葩回答,成人知道荒唐,孩子无法判断。儿童分辨力弱,往往视“智能问答”为传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,乃至跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每10个孩子中,就有3个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的是多少儿童的世界观,影响的是他们的成长走向。

  “智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?

  去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。从法律法规的角度看,提供“智能问答”服务的第三方软件和儿童手表厂家都脱不开责任。

  儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。

(责任编辑:武晓娟)

精彩图片