自动化系统中算法偏见的法律规制

摘要

在日常生活中,算法的影响力越来越大,尤其是自动化算法系统更是举足轻重.由于输入数据及算法自身可能存在偏见,因此,自动化算法系统可能产生偏见影响.算法偏见不仅能够放大固有的人类偏见,而且还会妨碍个人的自我决定权,甚至威胁人身财产安全.欧盟对算法偏见采取了严厉的规制态度,通过赋予个人对"自动化决策"及"数据画像"的"解释权""反对权",并要求数据控制者履行"数据保护影响评估"义务,来消减自动化系统中的算法偏见.以此为借鉴,我国应该超越算法中的"技术乌托邦",坚持"通过设计实现公平",利用"合同治理"增强算法的透明性,实施算法影响评估.