近年来,人工智能工具在政务领域应用日益广泛,写材料、做方案、生成报告等,成为一些基层干部的“好帮手”。然而,某县干部用AI匹配案例,四个案例中两个张冠李戴,两个凭空捏造。AI幻觉风险正渗入公文写作、情况汇报、政策制定等严肃场景,甚至带来庸政懒政、公信力受损、泄密等隐患。政务AI该如何用,风险如何防?本期“廉议汇”约请三位嘉宾进行讨论。
宾语(安徽合肥 媒体人):AI代笔不是小事,而是形式主义的新变种。有的干部懒得调研、疏于核实,把AI当成“代笔”,本质是庸政懒政。更值得警惕的是,个别地方将AI使用率硬化为考核任务,本末倒置,反而让基层干部背上更多负担。政务材料关乎公共决策和群众利益,必须明确AI使用边界,强化审核把关,对编造数据、虚构案例的行为严肃追责,不能让算法生成的假材料污染政务生态。
刘卫国(湖南长沙 高校教师):AI是工具,不能替代人的主体性和责任。政务AI涉及公共利益、公共安全、公共决策,最终的责任主体是人,而不是“算法”。从治理层面看,应健全制度规范,明确哪些场景可用、哪些场景禁用,涉密信息绝不联网,敏感内容不上传。同时,要建立人工审核兜底机制,坚持“AI做辅助、人工做兜底、规程做保障”。技术可以提质增效,但决策必须由人负责。人的主体性和责任不能丢,这是政务AI必须守住的底线。
李勇(广东东莞 职员):政务AI使用中的泄密风险不容忽视。个别干部将涉密方案、内部文件输入互联网AI工具,导致敏感资料外流,甚至被境外IP非法访问、下载。技术企业可以通过本地化知识库、白名单、权限控制等方式降低风险,但“人工智能背后的人工”绝对不可少。对使用者而言,必须守纪律、讲规矩,不能为了省事丢了安全底线。AI不能承担责任,罚它也没用,最终还是应回归到用制度管人。(整理:李跃)