3月1日,国家网信办等四部门联合发布的《互联网信息服务算法推荐管理规定》正式施行。作为一部专注算法治理的部门规章,《规定》的施行无疑是回应近年来广大群众和消费者反映强烈的相关社会痛点问题的具体举措,一些报道甚至认为“用户‘数据裸奔’‘大数据杀熟’等问题将成为历史”。
算法是计算机用于执行计算或解决问题的指令。大数据时代,从购物平台上的“猜你喜欢”,到社交网站上的“热搜排行”,一切基于相关数据信息,表现为机器自主或自动呈现、推荐给使用者的内容和服务,其背后依赖的都是某种算法。对个体来说,算法的“精准匹配”很多时候意味着高效、智能和便利。然而,由于长时间以来算法始终处于制定者的“黑箱”之中,因为其不恰当的运用所导致的技术“双刃剑”现象也越来越凸显,类似“大数据杀熟”等现象近年来持续引发关注,即是典型。
互联网订票平台上,“大数据杀熟”颇为讽刺地展现了算法如何异化为商家对用户和消费者的“算计”;外卖平台里,算法一味追求效率,让送餐员身陷“系统”的压力之下;在商业征信方面,算法指导下对用户的“精准”画像,有可能悄无声息地在资质评估方面对用户施以“算法歧视”;在一些短视频平台,用户一不留神就在算法推荐的引导下陷入“网络沉迷”;更有甚者,在一些社交平台,算法决定着哪些事件或话题成为热点、进入排行榜,显著影响着议题设置、舆论风向……盘点这些现象,并非要对算法作出“非好即坏”的评判,而是想强调人们应该正视算法的另一面,从而更深刻地意识到,在“数字化生存”全面成为现实的今天,算法已然成了深切影响人们线上线下生活的社会规则。算法向善,还是沦为无形的过度逐利的工具,是不容回避的重大问题。
对照现实,不难看出《规定》的两个鲜明政策意图和监管指向。第一,明确应用算法推荐技术提供互联网信息服务主要指“利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类等算法技术向用户提供信息”,有针对性地指向了“大数据杀熟”、“网络沉迷”、炒作“话题排行”等一系列滥用算法引发的热点问题。第二,通过赋予用户算法知情权、选择权,通过对面向未成年人、老年人、劳动者、消费者等主体提供服务的算法推荐服务提供者作出具体规范,强制算法跳出“黑箱”,尽可能地破除“算法陷阱”,最大限度地保护国家安全和社会公共利益以及用户的合法权益。
还应该看到,就如同人们不时抱怨,视频平台上的“个性化”智能推荐反过来使人沉迷其中一样,对算法的规范约束很可能要在现实中面临一些“模糊地带”,以至不能乐观地认为一部部门规章就足以让“大数据杀熟”成为历史。至少应该看到,要让《规定》“长出牙齿”,切实成为引导规范互联网信息服务提供主体的行为,需要相关监管部门强化其落地执行。尤其对互联网商业平台而言,算法在很大程度上是事关市场竞争力的重要砝码,以什么方式、在什么程度和范围实现算法的尽可能透明公开,仍需要可操作的制度机制来保障。
显然,技术向善与否,与算法息息相关,而算法的背后,则是人,及其选择遵从的商业伦理。无论是依据手机品牌定价,还是区别对待新老用户等,“大数据杀熟”之所以引发诟病,本质上就像是商家在现实世界中以貌取人,其折射的既可以说是技术伦理,也是基本的商业伦理。又如,一些平台往往把算法对速度的追求,归结为消费者的需求,但值得追问的是,到底是什么力量塑造着这种不断加速的对“快”的需求,算法有没有可能改变那些机器化的缺乏人文意识的“系统”运作方式?基于此,我们更期待《规定》不仅仅是给算法戴上紧箍、让算法跳出黑箱,而是启发人们不断审视技术规则与人们所向往的美好生活的关系,如何运用恰当规则引导技术更好地造福人类。
(责任编辑:邓浩)