当前位置     首页 > 滚动 > 正文
中经搜索

“算法要向善”选择背后的伦理博弈

2020年12月14日 07:09   来源:光明日报   方师师

  即将过去的2020年似乎经历了一个“加速社会”的中场休息,但种种迹象表明,这并没有暂缓数字智能服务成为人们日常生活的一种方式。健康码、点外卖、视频会议成为工作生活“三件套”,各种基于数字化、信息化和智能化的服务应用快速入场,社会在技术与资本的双重博弈下正经历结构转型。

  这种转型呈现出一种“重组”的力量,将现有的时间空间重新切割,再以一种“光电方式”重新拟定节奏、划定规则、做出决策。线性时间被打碎,信息的“精准推荐”是一种“算法时间”,它调整信息的呈现序列,插入合适的节点,指出什么才是“适合你的内容”,而不在意“真正的时间”。以算法为核心生产逻辑的数字平台,作为社会行动网络中的主导力量,正在整合性地协调社会系统中的多元参与,通过设置代码规则,进行算法管理,规训的颗粒度被逐层细化,渗透进社会的毛细血管。算法社会的结构转型正呈现出3个鲜明的趋势。

  一种新的“平台速度”正在形成。麦克·沃尔什在《算法领导者:当机器比你聪明时如何变聪明》一书中描述了一种“亚马逊步速”,这是一种“介于行走和慢跑之间的速度”,而在亚马逊,员工们必须按照这个节奏来工作。与之类似,我们看到了“困在算法里”的外卖平台骑手们,面对不断压缩的订单送达时间,他们没有选择,只能遵循算法的设计逻辑,看着手机上一条直线的数字地图,在现实的道路上“与死神赛跑,和交警较劲,和红灯做朋友”。平台速度是一种时间节奏,集中体现着平台规则和算法支配下的统一性、规划性和标准性,而且蕴含着一种肤浅的消费哲学,代价就是将劳动者的主体性、情感性和立体感隐藏起来,这也助推了平台算法所带来的社会不平等。

  “人脸识别”或将重新划定个体身份边界。疫情期间,人脸识别作为社会监测技术助力公共防疫,但是强制“刷脸”、事后“丢脸”的问题也暴露出来。在一些小区,人脸识别成为居民出入的唯一验证方式,而一转眼,在一些黑灰产平台上,据说两块钱就可以买到千张人脸照片。人脸识别是一种“无目光的注视”,人脸识别的准确性高度依赖数据、算法和算力,如果操作不当,泄露出去的面部照片可被用来训练深度伪造,欺骗识别系统,冒充个人身份,恶搞他人隐私,持续给个体带来经济风险和身份困扰,造成社会秩序混乱。

  “算法鸿沟”逐渐成形并拉大社会距离。算法的逻辑机械且强势,而如果社会的协调机制过分滞后,那么则会形成新的“算法鸿沟”与社会歧视。以往的知识鸿沟、数字鸿沟更多的是由于社会结构中的教育程度、年龄层次、经济地位等要素使得社会资源分配不均,而“算法鸿沟”则有可能在分配制度的上游,通过人口数据、用户画像、使用习惯、社交关系等先期就预置了鸿沟。而随着算法回还往返于社会与系统之间,那些有机会获得工作经验、拥有学习机会、算法素养较高的群体,同那些缺少机会、相对弱势的群体之间的差距将不断拉大。老龄人口、残障人士、低收入群体可能会陷入新一轮的“算法陷阱”,行踪羞辱、健康码歧视等问题则随时可能落到每一个普通人身上。而这样的差距经年累月沉积,将加重阶层固化,形成算法特权和垄断力量。

  去年4月,《自然》杂志上刊登了一篇研究性的综述,指出未来将是一个“算法无所不在”社会:自动化的新闻推荐、算法辅助法官判案、无人驾驶汽车、针对个体的差别化定价等,都将无缝接入我们的生活。如果以现在的发展态势来看,这个“未来”已来。

  如同“药”具有两面性,算法在摧枯拉朽急速推进社会进步的同时,也暴露很多问题。这些问题不仅是一个技术问题,更是一个系统问题和社会问题。算法社会结构转型的特殊性在于,这是一种行动的“再现”:算法没有善恶,但绝非中立。算法要向善,因为所有围绕算法进行的协作都是社会再现,而未来的方向在每一个积极的主体手中。

  我们已经看到了这样的努力。就在前几日,中共中央印发《法治社会建设实施纲要(2020—2025年)》,其中明确提出要制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。10月,杭州市人民代表大会常务委员会发布的《杭州市物业管理条例(修订草案)》有望成为国内首部明确写入人脸识别禁止性条款的地方性法规;11月23日,国内“人脸识别第一案”宣判,未经当事人同意的“强制刷脸”被驳回。关注平台外卖员的生存状态和阶层流动机制,为老年人、特定身份群体打造友好的数字生活环境,对平台滥用市场支配地位、进行差别性对待等不合规问题进行监管治理等,都是对算法社会中可能会出现的结构性问题的“纠偏”。

  我们在见证算法改变社会结构的同时,也要看到这种“公共关涉”算法是一种社会机制,涉及多种社会要素和力量。要使得这种社会机制能够朝向更加具有社会保障、社会共情、公共向善的方向推进,则需要建立更为完善的监督、协商与支撑体系。

  (作者:方师师,系上海社会科学院新闻研究所助理研究员)

(责任编辑:年巍)

闁告帒妫旈棅鈺呭礆鐢喚绐�
延伸阅读
濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灩婢ф寮堕崘銊ユ尋闁稿繐绉烽惌妤佺珶閻楀牊顫栭柨娑虫嫹
1闁靛棔绀侀崵鎺楀嫉椤掑倻绉规繛澶堝妽濡叉垿鍨惧⿰鍕檷婵犙勫姧缁辩増绋夐鐐寸缂備礁绻戠粊鍦磾閹存柡鍋撻敓锟� 闁瑰瓨鐗戦埀顒佺矋濞奸潧鈹冮幇鍓佺獥缂備礁绻戠粊褰掑籍閵夛箑袚-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绻勫▓鎴﹀箥閳ь剟寮垫径澶岀▕闁告繀绶ょ槐婵嬫偋閸喐缍€闁秆冩搐閻ɑ绂嶉敓锟�
闁靛棌鍋� 濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁煀缁辨瑩寮甸鍌滅Ч闁告瑱闄勫﹢浣圭珶閻楀牊顫栭柣銊ュ濞呭孩寰勯弽鐢电闁挎稒绋掑﹢顓犵磼韫囨梹鎷辩紓鍐╁灦瀹稿潡寮堕崘璺ㄧ濞寸姾顔婄紞宥夊础閺囨氨绉撮柛娆忥梗闁叉粍绂嶆潪鎵憹鐎电増顨夊ù鍡樻姜婵劏鍋撴担瑙勫枀缂傚倹鐗楅崹銊︾閵夈儱寰撻悗鐧告嫹
闁靛棌鍋� 闁哄倻鎳撶槐鈩冩媴鐠恒劍鏆忓☉鎾筹龚閸亝鎷呭⿰鍐╂儌闁挎稒绋戦崙锛勭磼韫囧海鐟㈤柡鍫墰缂嶅绮甸崜褑顔夐柣鈺兦归崣褔骞掗崼鐔哥秬濞达綀娉曢弫銈夊础韫囨凹鍞撮柣銊ュ瀹曠喐鎷呭鍛尋濞戞搩浜欏Ч澶愭晬鐏炵晫瀹夋繛澶堝妽閸撴壆鎷犻妷褏鎼煎ù锝嗙矊閹佳勭▔椤撶喐笑闁告熬闄勫﹢锟�
闁靛棌鍋� 闁烩晝枪缁ㄦ煡鎯冮崟顒€鎴块柡澶婂暕婵炲洭鎮介妸鈺傤€欓柛鎺曟硾閿涙劙寮版惔顖滅濞戞挸绉寸欢杈ㄦ交濠靛棗鍐€閻犲洢鍎抽悺鎴︽⒔閹邦剙鐓戝鍦濡叉垿鏁嶇仦鑲╃懍闁革负鍔嶅鍧楀级閸愵厼鐦遍柛銉︽綑閸炲瓨鎷呯捄銊︽殢闁哄啳娉涚花鎻掆枖閵婏附顫栭柍銉︾矋濞奸潧鈹冮幇鍓佺獥濞戞搩鍘煎ù锟�
闁靛棌鍋� 缂備礁绻戠粊鍦磾閹存柡鍋撳┑鍥х仐闁炽儲绮嶅ḿ闈涒攦閹板墎绐楃紓浣哥箲缁佸綊寮妷锕€袚-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绺块埀顒€鍊界换姘跺矗瀹ュ懎顤呴弶鈺傛緲閿涙劙寮版惔銈傚亾閸滃啰绀夐柡鍫墰缂嶅浜搁崱姘缂佸矁娉涢崣楣冩儎缁嬪灝褰犳繛澶嬫礀缁躲儳鎷归敐鍕床闁靛棴鎷�
2闁靛棔鐒﹀﹢鎵磾閹寸偛顣查柡鍫濐槺濞堟垿宕堕崜褍顣诲ù锝嗙矊閹佳勭▔椤撱劎绀夐柛妤€鍘栨繛鍥р枖閵婏附顫栭柍銉︾矋濞奸潧鈹冮幇鍓佺獥濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灍閳ь剚绻傚锟�/闁瑰瓨鐗楅悥锝夊嫉婢跺棌鍋撳⿰鈧懙鎴﹀炊閻e瞼鐥呮繛鏉戞捣缂嶏拷(www.ce.cn)闁炽儻鎷�
闁靛棌鍋� 婵ɑ娼欏畵鍐晬鐏炶偐绋绘鐐存构缁楀绂掗敐鍫涒偓鍐嫉椤掑倻绉归悗鐢殿攰椤曟氨绮垫径濠冪闁绘娲g紞鏃堝传娴g兘鐓╅柡鍫濐槼椤斿繘宕i娆戦搨濞存粏妗ㄦ繛鍥偨閵娧勭暠闁哄鍟崺鍕晬濞戞ê鍤掔紓浣哥箣缁楀矂寮甸鍌滅Ч缂佹稑澧界拋鏌ユ儎缁嬪灝褰犻柟鍝勭墛濞煎牊鎷呯捄銊︽殢
闁靛棌鍋� 闁告绻楅鍛存儍閸曨偄绀嬪ù锝呯Т瀵攱绋夐鍐╃溄闁挎稑濂旂划搴ㄥ嫉婢跺缍€闁革负鍔嶅鍧楀级閸愵厼鐦遍柛銉︽綑閸炲瓨鎷呯捄銊︽殢閻犲洢鍎抽悺鎴﹀炊閸撗冾暬濞戞搩鍘藉Σ鎴犳兜椤旇姤鏆堥柡鍕岸閳ь剚绮堥懙鎴﹀炊閻e瞼鐥呮繛鏉戞捣缂嶅鎷嬮幏灞稿亾閸栫えX闁硅棄瀚ч埀顒佺箖閸拷
闁靛棌鍋� 闁炽儲绮庣划鈥趁规惔銏★級闁硅翰鍎抽妵锟�-濞戞搩鍘煎ù妤冪磼韫囨梻銈圭紓鍐╁灱椤斿洭鎳撻崠绀╔闁硅棄瀚ч埀顒佺箘濞堟垿宕堕崜褍顣诲ù锝嗙矊閹佳囨晬鐏炶姤鍎婇柛鎺撶懕缁辨繃绋夐埀顒勫礆閸ワ妇鐟濋柛鎺嗘櫅閹寮稿⿰鍡楁閻炴稑鏈竟娆撳箯閸涱偀鍋撻敓锟�
3闁靛棔绀侀崵鎺楀嫉椤掑倻绉规繛澶堝妽濡诧拷 闁炽儲绮嶅ḿ闈涒攦閹板墎绐梄XX闁挎稑鐗撳ḿ顏呯▔椤撶偞绂囩紓浣哥箲缁佸湱绱旈幋顖滅闁炽儻鎷� 闁汇劌瀚紞鏃堝传娓氬﹦绀夐柛褍娲╁ù鍡樻姜閸婄喎娈伴柛蹇氭硾閻g姵鍒婇幒宥囩Ъ闁挎稑鐭佸ù鍡樻姜閻e本绐楅柣銊ュ濠€顏呯鎼存繄鐐婇梺顐e笚濞诧拷
闁靛棌鍋� 濠㈣埖鐭穱濠囧箒椤栥倗绀夋鐐存构缁楀绂掗敐鍫涒偓鍐嫉椤掑倻绉归悹褏鍋涢幃鎾诲礂閹偊娼庨柣鎰嚀閹锋壆鈧數鎳撻崣楣冩儑閻旈鏉介柟顑棛顦伴悹鎰剁祷閳ь剨鎷�
4闁靛棔绀侀々褔宕堕悩杈╃▕闁告繀绀侀崬瀵糕偓鐟扮畭閳ь兛鑳舵晶妤呭级閸愩劍瀚查柛蹇氭硾閻g娀姊婚鈧。浠嬫閳ь剛鎲版担鍛婂€遍柡鍫墰缂嶅鎳曢弮鍌炲厙闁汇劌瀚哥槐婵堟嫚瀹勭増韬�30闁哄啨鍎遍崬瀛樻交濞戞粠鏀介柕鍡嫹

闁炽儻鎷� 缂傚啯鍨归悵顖炲箑缂佹ɑ绨氶柨娑虫嫹010-81025111 闁哄牆顦崣褎鎷呭⿰鍐╂儌闁绘鐗婂ḿ鍫熺鐎n亞鏉归悹鍥╂焿娴犲牏鍖栨导娆戠獥010-81025135 闂侇収鍠氶鍫ユ晬閿燂拷

精彩图片
閸忓厖绨紒蹇旂ス閺冦儲濮ょ粈锟� 閿涳拷 閸忓厖绨稉顓炴禇缂佸繑绁圭純锟� 閿涳拷 缂冩垹鐝径褌绨ㄧ拋锟� 閿涳拷 缂冩垹鐝拠姘充粧 閿涳拷 閻楀牊娼堟竟鐗堟 閿涳拷 娴滄帟浠堢純鎴n潒閸氼剝濡惄顔芥箛閸斅ゅ殰瀵板鍙曠痪锟� 閿涳拷 楠炲灝鎲¢張宥呭 閿涳拷 閸欏鍎忛柧鐐复 閿涳拷 缁剧娀鏁婇柇顔绢唸
缂佸繑绁归弮銉﹀Г閹躲儰绗熼梿鍡楁礋濞夋洖绶ユい楣冩6閿涳拷閸栨ぞ鍚敮鍌炴噷鐠囧搫绶ョ敮鍫滅皑閸斺剝澧�    娑擃厼娴楃紒蹇旂ス缂冩垶纭跺瀣€愰梻顕嗙窗閸栨ぞ鍚崚姘挬瀵板绗€娴滃濮熼幍鈧�
娑擃厼娴楃紒蹇旂ス缂冿拷 閻楀牊娼堥幍鈧張锟�  娴滄帟浠堢純鎴炴煀闂傝淇婇幁顖涙箛閸斅ゎ啅閸欘垵鐦�(10120170008)   缂冩垹绮舵导鐘虫尡鐟欏棗鎯夐懞鍌滄窗鐠佺ǹ褰茬拠锟�(0107190)  娴滅悂CP婢讹拷18036557閸欙拷

娴滎剙鍙曠純鎴濈暔婢讹拷 11010202009785閸欙拷

“算法要向善”选择背后的伦理博弈

2020-12-14 07:09 来源:光明日报 方师师

  即将过去的2020年似乎经历了一个“加速社会”的中场休息,但种种迹象表明,这并没有暂缓数字智能服务成为人们日常生活的一种方式。健康码、点外卖、视频会议成为工作生活“三件套”,各种基于数字化、信息化和智能化的服务应用快速入场,社会在技术与资本的双重博弈下正经历结构转型。

  这种转型呈现出一种“重组”的力量,将现有的时间空间重新切割,再以一种“光电方式”重新拟定节奏、划定规则、做出决策。线性时间被打碎,信息的“精准推荐”是一种“算法时间”,它调整信息的呈现序列,插入合适的节点,指出什么才是“适合你的内容”,而不在意“真正的时间”。以算法为核心生产逻辑的数字平台,作为社会行动网络中的主导力量,正在整合性地协调社会系统中的多元参与,通过设置代码规则,进行算法管理,规训的颗粒度被逐层细化,渗透进社会的毛细血管。算法社会的结构转型正呈现出3个鲜明的趋势。

  一种新的“平台速度”正在形成。麦克·沃尔什在《算法领导者:当机器比你聪明时如何变聪明》一书中描述了一种“亚马逊步速”,这是一种“介于行走和慢跑之间的速度”,而在亚马逊,员工们必须按照这个节奏来工作。与之类似,我们看到了“困在算法里”的外卖平台骑手们,面对不断压缩的订单送达时间,他们没有选择,只能遵循算法的设计逻辑,看着手机上一条直线的数字地图,在现实的道路上“与死神赛跑,和交警较劲,和红灯做朋友”。平台速度是一种时间节奏,集中体现着平台规则和算法支配下的统一性、规划性和标准性,而且蕴含着一种肤浅的消费哲学,代价就是将劳动者的主体性、情感性和立体感隐藏起来,这也助推了平台算法所带来的社会不平等。

  “人脸识别”或将重新划定个体身份边界。疫情期间,人脸识别作为社会监测技术助力公共防疫,但是强制“刷脸”、事后“丢脸”的问题也暴露出来。在一些小区,人脸识别成为居民出入的唯一验证方式,而一转眼,在一些黑灰产平台上,据说两块钱就可以买到千张人脸照片。人脸识别是一种“无目光的注视”,人脸识别的准确性高度依赖数据、算法和算力,如果操作不当,泄露出去的面部照片可被用来训练深度伪造,欺骗识别系统,冒充个人身份,恶搞他人隐私,持续给个体带来经济风险和身份困扰,造成社会秩序混乱。

  “算法鸿沟”逐渐成形并拉大社会距离。算法的逻辑机械且强势,而如果社会的协调机制过分滞后,那么则会形成新的“算法鸿沟”与社会歧视。以往的知识鸿沟、数字鸿沟更多的是由于社会结构中的教育程度、年龄层次、经济地位等要素使得社会资源分配不均,而“算法鸿沟”则有可能在分配制度的上游,通过人口数据、用户画像、使用习惯、社交关系等先期就预置了鸿沟。而随着算法回还往返于社会与系统之间,那些有机会获得工作经验、拥有学习机会、算法素养较高的群体,同那些缺少机会、相对弱势的群体之间的差距将不断拉大。老龄人口、残障人士、低收入群体可能会陷入新一轮的“算法陷阱”,行踪羞辱、健康码歧视等问题则随时可能落到每一个普通人身上。而这样的差距经年累月沉积,将加重阶层固化,形成算法特权和垄断力量。

  去年4月,《自然》杂志上刊登了一篇研究性的综述,指出未来将是一个“算法无所不在”社会:自动化的新闻推荐、算法辅助法官判案、无人驾驶汽车、针对个体的差别化定价等,都将无缝接入我们的生活。如果以现在的发展态势来看,这个“未来”已来。

  如同“药”具有两面性,算法在摧枯拉朽急速推进社会进步的同时,也暴露很多问题。这些问题不仅是一个技术问题,更是一个系统问题和社会问题。算法社会结构转型的特殊性在于,这是一种行动的“再现”:算法没有善恶,但绝非中立。算法要向善,因为所有围绕算法进行的协作都是社会再现,而未来的方向在每一个积极的主体手中。

  我们已经看到了这样的努力。就在前几日,中共中央印发《法治社会建设实施纲要(2020—2025年)》,其中明确提出要制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。10月,杭州市人民代表大会常务委员会发布的《杭州市物业管理条例(修订草案)》有望成为国内首部明确写入人脸识别禁止性条款的地方性法规;11月23日,国内“人脸识别第一案”宣判,未经当事人同意的“强制刷脸”被驳回。关注平台外卖员的生存状态和阶层流动机制,为老年人、特定身份群体打造友好的数字生活环境,对平台滥用市场支配地位、进行差别性对待等不合规问题进行监管治理等,都是对算法社会中可能会出现的结构性问题的“纠偏”。

  我们在见证算法改变社会结构的同时,也要看到这种“公共关涉”算法是一种社会机制,涉及多种社会要素和力量。要使得这种社会机制能够朝向更加具有社会保障、社会共情、公共向善的方向推进,则需要建立更为完善的监督、协商与支撑体系。

  (作者:方师师,系上海社会科学院新闻研究所助理研究员)

(责任编辑:年巍)

查看余下全文