AI“一本正经瞎编”咋办?

2025-04-03 07:25 来源:广州日报

在使用AI工具时,你是否发现这个问题挥之不去——AI幻觉,一种“看似真实、实则虚构”的内容生成现象,正渗透进我们的生活。(4月1日中新网)

虚构事实,语焉不详,在逻辑上自相矛盾,并夹杂无意义的内容……这些问题的出现,让人不由得对AI的未来生出一丝隐忧。在医疗领域,使医学检查更敏锐的AI也会加重患者的焦虑,引发新的“过度诊疗”。“AI帮你一分钟搞定问诊开药”在有的地方已被叫停。在法律领域,律师因轻信AI助手而援引未发生的判例,最终遭受司法处罚。种种指鹿为马、无中生有、以讹传讹,无疑给那些对AI产生依赖症的人敲响了警钟。毕竟,幻觉可能是一种病态表现,时间长了会诱发知觉障碍,甚至侵蚀人与人之间的信任。

AI幻觉只是祸患?答案却不尽然。在游戏开发、动漫设计、小说创作等领域,不合常理的AI幻觉闪现着奇思妙想的光华,可以充当创作者的灵感之源。对其一棒子打死的判断,未免简单化了。但无可否认的是,AI并非无所不能。它更像是一个泡在语料海洋中的学习者,而不是擅长深度推理的智者。

实际上,AI幻觉的存在再次印证了科技的双刃剑属性。反复拷问之下,一条原则清晰可见:对待AI应用创新,既要铺设“快车道”,又要安好“缓冲带”。对AI幻觉导致的信息污染,须保持警惕;对AI的能力短板,要给予充分考量。同时,要包容和鼓励创新,在动态平衡中寻求治理的最优解。

时下,AI幻觉正变得越来越复杂和隐蔽,怎么治呢?

不妨分类施策。在低容错率领域,如医疗、法律、金融领域,要强制激活“严谨模式”。譬如,强制调用权威知识库,创建白名单知识库,确保信息的准确与可靠。反之,则可以允许AI“大开脑洞”。监管部门要善用“生成即标注”的强制性规则,帮助公众迅速有效地识破AI幻觉。

用AI治理AI。搜索引擎平台要把AI技术与人工审核结合起来,掌握给AI做“脑部扫描”的技术,为生成式内容祛“毒”。譬如,健全溯源审查机制,建立强有力的防火墙,对信息实施实时监控、分类和过滤,确保更高质量、更洁净的数据供给。

学会扬长避短。身处智能时代,每个人对AI要保持清醒,学会在人机协作中发挥好人自身的优势。譬如,掌握优化提问、验证信源、培训AI的工作方法,使自己成为人机协作的主导者。

查看余下全文
(责任编辑:臧梦雅)
当前位置     首页 > 滚动 > 正文
中经搜索

AI“一本正经瞎编”咋办?

2025年04月03日 07:25   来源:广州日报   杨博

在使用AI工具时,你是否发现这个问题挥之不去——AI幻觉,一种“看似真实、实则虚构”的内容生成现象,正渗透进我们的生活。(4月1日中新网)

虚构事实,语焉不详,在逻辑上自相矛盾,并夹杂无意义的内容……这些问题的出现,让人不由得对AI的未来生出一丝隐忧。在医疗领域,使医学检查更敏锐的AI也会加重患者的焦虑,引发新的“过度诊疗”。“AI帮你一分钟搞定问诊开药”在有的地方已被叫停。在法律领域,律师因轻信AI助手而援引未发生的判例,最终遭受司法处罚。种种指鹿为马、无中生有、以讹传讹,无疑给那些对AI产生依赖症的人敲响了警钟。毕竟,幻觉可能是一种病态表现,时间长了会诱发知觉障碍,甚至侵蚀人与人之间的信任。

AI幻觉只是祸患?答案却不尽然。在游戏开发、动漫设计、小说创作等领域,不合常理的AI幻觉闪现着奇思妙想的光华,可以充当创作者的灵感之源。对其一棒子打死的判断,未免简单化了。但无可否认的是,AI并非无所不能。它更像是一个泡在语料海洋中的学习者,而不是擅长深度推理的智者。

实际上,AI幻觉的存在再次印证了科技的双刃剑属性。反复拷问之下,一条原则清晰可见:对待AI应用创新,既要铺设“快车道”,又要安好“缓冲带”。对AI幻觉导致的信息污染,须保持警惕;对AI的能力短板,要给予充分考量。同时,要包容和鼓励创新,在动态平衡中寻求治理的最优解。

时下,AI幻觉正变得越来越复杂和隐蔽,怎么治呢?

不妨分类施策。在低容错率领域,如医疗、法律、金融领域,要强制激活“严谨模式”。譬如,强制调用权威知识库,创建白名单知识库,确保信息的准确与可靠。反之,则可以允许AI“大开脑洞”。监管部门要善用“生成即标注”的强制性规则,帮助公众迅速有效地识破AI幻觉。

用AI治理AI。搜索引擎平台要把AI技术与人工审核结合起来,掌握给AI做“脑部扫描”的技术,为生成式内容祛“毒”。譬如,健全溯源审查机制,建立强有力的防火墙,对信息实施实时监控、分类和过滤,确保更高质量、更洁净的数据供给。

学会扬长避短。身处智能时代,每个人对AI要保持清醒,学会在人机协作中发挥好人自身的优势。譬如,掌握优化提问、验证信源、培训AI的工作方法,使自己成为人机协作的主导者。

(责任编辑:臧梦雅)

分享到:
中国经济网版权及免责声明:
1、凡本网注明“来源:中国经济网” 或“来源:经济日报-中国经济网”的所有作品,版权均属于
  中国经济网(本网另有声明的除外);未经本网授权,任何单位及个人不得转载、摘编或以其它
  方式使用上述作品;已经与本网签署相关授权使用协议的单位及个人,应注意该等作品中是否有
  相应的授权使用限制声明,不得违反该等限制声明,且在授权范围内使用时应注明“来源:中国
  经济网”或“来源:经济日报-中国经济网”。违反前述声明者,本网将追究其相关法律责任。
2、本网所有的图片作品中,即使注明“来源:中国经济网”及/或标有“中国经济网(www.ce.cn)”
  水印,但并不代表本网对该等图片作品享有许可他人使用的权利;已经与本网签署相关授权使用
  协议的单位及个人,仅有权在授权范围内使用该等图片中明确注明“中国经济网记者XXX摄”或
  “经济日报社-中国经济网记者XXX摄”的图片作品,否则,一切不利后果自行承担。
3、凡本网注明 “来源:XXX(非中国经济网)” 的作品,均转载自其它媒体,转载目的在于传递更
  多信息,并不代表本网赞同其观点和对其真实性负责。
4、如因作品内容、版权和其它问题需要同本网联系的,请在30日内进行。

※ 网站总机:010-81025111 有关作品版权事宜请联系:010-81025135 邮箱:

精彩图片
关于经济日报社关于中国经济网网站大事记网站诚聘版权声明互联网视听节目服务自律公约广告服务友情链接纠错邮箱
经济日报报业集团法律顾问:北京市鑫诺律师事务所    中国经济网法律顾问:北京刚平律师事务所
中国经济网 版权所有  互联网新闻信息服务许可证(10120170008)   网络传播视听节目许可证(0107190)  京ICP备18036557号

京公网安备 11010202009785号