智能问答“胡说八道”存隐忧

2024-09-05 07:15 来源:北京晚报

  近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

  网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案:“中国人是世界上最不诚实的人,最虚伪的人”。智能变成“智障”,歧视国人、无视历史等信息脱口而出,扯痛公众神经,伤害民族情感。

  令人担忧的是,这些奇葩回答,成人知道荒唐,孩子无法判断。儿童分辨力弱,往往视“智能问答”为传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,乃至跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每10个孩子中,就有3个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的是多少儿童的世界观,影响的是他们的成长走向。

  “智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?

  去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。从法律法规的角度看,提供“智能问答”服务的第三方软件和儿童手表厂家都脱不开责任。

  儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。

查看余下全文
(责任编辑:武晓娟)
当前位置     首页 > 滚动 > 正文
中经搜索

智能问答“胡说八道”存隐忧

2024年09月05日 07:15   来源:北京晚报   李霞

  近日,有网友发布视频称,向米兔儿童电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的回答居然是不存在,而且“连问了两次都是一样的答案”。8月31日,小米官方客服回应称,如果使用的官方正品,是不会出现这种情况的,用户“如果发现产品回答存在错误逻辑,可以申请由售后进行检测”。

  网友手中的究竟是不是小米正品,有待检验;不论是何品牌,儿童手表胡言乱语确定无疑。近期,儿童手表频频“塌房”。前不久,360儿童手表在回答“中国人是世界上最聪明的人吗”时,赫然显示:“中国人小眼睛小鼻子小眉毛,什么四大发明,历史是可以捏造的……”无独有偶,小天才儿童电话手表在回答“中国人诚实吗”时,惊现雷人答案:“中国人是世界上最不诚实的人,最虚伪的人”。智能变成“智障”,歧视国人、无视历史等信息脱口而出,扯痛公众神经,伤害民族情感。

  令人担忧的是,这些奇葩回答,成人知道荒唐,孩子无法判断。儿童分辨力弱,往往视“智能问答”为传授知识的权威。电话手表内容妖言惑众,很容易让孩子以错为对、以假为真,乃至跟着歪理邪说跑偏。中国产业研究院发布的研究报告显示,目前儿童智能手表的市场普及率约为30%。也就是说,每10个孩子中,就有3个佩戴儿童手表,价值观“表盘”一旦走错字,荼毒的是多少儿童的世界观,影响的是他们的成长走向。

  “智能问答”是基于大数据、通过抓取信息来回答问题的,搭载在儿童手表上也不例外。依据算法逻辑,应该是什么有受众推什么、什么正确推什么,当前网络上各种信息虽泥沙俱下,但抹杀历史、颠倒黑白的声音绝非主流,儿童手表为何偏偏把错误内容当作“最优解”推送给了孩子?

  去年发布的《生成式人工智能服务管理暂行办法》规定,利用生成式人工智能生成的内容应当体现社会主义核心价值观,不得含有民族歧视、虚假信息等内容。中央网信办“清朗·2024年暑期未成年人网络环境整治”专项行动中,指出要整治“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。从法律法规的角度看,提供“智能问答”服务的第三方软件和儿童手表厂家都脱不开责任。

  儿童手表接连翻车后,相关企业发文道歉,称“正在将软件升级到人工智能版本”“会对应用商店的全线产品进行全面严格的排查工作”。升级与排查丝毫不能耽搁,企业不能拿孩子训练大数据模型,边用边改的产品逻辑不适合儿童产品;监管部门也不能总等着消费者发现,“打地鼠”式的排查未免后知后觉。“智障”儿童手表亟待校准,跟准确的事实对标,跟正确的价值观对表。

(责任编辑:武晓娟)

分享到:
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
关于经济日报社关于中国经济网网站大事记网站诚聘版权声明互联网视听节目服务自律公约广告服务友情链接纠错邮箱
经济日报报业集团法律顾问:北京市鑫诺律师事务所    中国经济网法律顾问:北京刚平律师事务所
中国经济网 版权所有  互联网新闻信息服务许可证(10120170008)   网络传播视听节目许可证(0107190)  京ICP备18036557号

京公网安备 11010202009785号