编者按:
伴随着人工智能技术的广泛应用,算法已然深入到社会生活的每一个角落。从智慧医疗到智慧金融、从智能家居到智慧教育、从智慧政务到智能战争,算法正演变为一种新型权威,从这一意义上讲,如何构建算法正义,为算法嵌入正义的价值观尤为重要。学者们从不同角度对算法正义进行了有益探索,本期文萃予以汇编。
培植“以人民为中心”的算法正义
刘顺在《经济学家》2021年第5期《资本逻辑与算法正义——对数字资本主义的批判和超越》一文中认为,数字资本主义本质上只是资本逻辑延展至网络场域的新形态,与传统资本主宰的政治经济结构具有内在一致性。因此,不妨基于马克思的资本批判理论来探寻超越之路。我们应在驾驭资本逻辑中培植“以人民为中心”而非“以资本为中心”的算法正义。值得注意的是,不同社会制度下的数字经济存在质的不同。这关涉到数字经济“由什么人主导”和“为什么人服务”的根本性问题。当今网络恐怖主义频现世界各地以及数字鸿沟愈发拉大的现实充分说明,数字经济用得好,可以造福人类,反之则易成为肇始社会问题的帮凶。
人的尊严和价值优先原则
董青岭、朱玥在《探索与争鸣》2021年第3期《人工智能时代的算法正义与秩序构建》一文中认为,技术应当服务所有人,而不只是使少数人获得优势。放眼数字化的未来,算法将充斥于社会生活的每一个角落。算法即规则,算法已然成为社会变革的关键驱动力量和新秩序的塑造者。理解算法究竟是被谁所设计、反映何种规则又是被谁所执行的,有助于我们更好地认识算法正义的本质,理性推进算法秩序的构建。就此而言,谁编码、如何编码以及如何使用编码并不只是一个技术问题,而是一个实实在在的社会正义问题。算法并不是中立的和客观的,无论是其设计还是其运行,都体现为一定的社会价值选择。算法是为人类服务的工具,而不应成为人类的主宰。算法研究和算法的部署应该设置严厉管制和关键保护禁区,特别是有关人类生命、尊严和价值的重大事项不应轻易交由算法系统来决策,即便交由算法系统来决策也应设立严密的监视程序和严厉的法律框架,以便当算法偏见伤及人类生命和尊严时能够作出及时补救。这些严厉管制和关键保护禁区诸如算法反恐、人工智能司法审判、致命性自主武器研发和部署,以及其他涉及人类尊严和价值的领域。
谨慎对待深度介入个人生活的算法
李晓辉在《比较法研究》2021年第3期《算法商业秘密与算法正义》一文中认为,要建立算法社会的正义,所需要的首先是不简单肯定算法增益必然高于算法风险;其次,要建立对算法的伦理审查机制和风险分析机制,在法律、伦理和技术多层面予以事先预防;再次,赋予个体实质性的算法知情同意权、算法解释权、算法拒绝权以增强其制衡算法权力的能力;最后,建立基于过程和结果双重向度的算法正当程序控制。对于那些深度介入个人生活的算法,要求其设置事先听证、事中预警和事后救济的机制。在这种情况下,算法或许能够真正地增益福利、促进人类的自由解放,从而构架一个美善、正义的算法社会而不是一个神秘的“算法铁笼”。
算法正义的最终实现依赖于算法主体的良善行为
金梦在《政法论坛》2021年1月《立法伦理与算法正义——算法主体行为的法律规制》一文中认为,信息时代的立法活动面临技术更新迭代的崭新命题,立法伦理为算法主体的技术行为提供了内在的制度准则和规范指引。智慧社会快速发展的背后依托一系列的数据、算法和算力,算法正义的最终实现依赖于算法主体的良善行为。从抽象的立法原则到具体的法律规范都需要具有大数据时代的技术面向,立法者需要从法律制度层面保障算法主体和算法用户的合法权利,同时更要明确算法控制者和处理者的行为边界。
(栏目主持:赵鑫)
(责任编辑:年巍)
分享到微信X
打开微信,点击底部的"发现",使用 "扫一扫" 即可将网页分享到我的朋友圈。