算法时代预测性警务的兴起及其风险规制

摘要

算法时代预测性警务日渐勃兴,其在任务构造与权力结构上都有了新的变化。虽然受到各国警政机关青睐,但预测性警务也有潜在风险,包括算法自动化对警察个别化判断的侵蚀、算法操纵下的执法歧视风险、算法依赖下的过度执法风险以及算法训练时的数据安全风险。规制预测性警务的核心在于规制警务中的算法权力。为此,需要在警察法与行政监管的双重维度下完善规制框架。警察法框架下,需要搭建预测性算法与强制性措施启动的桥梁,明晰算法决策的边界;通过预测措施的分级分类,强化算法预测的程序门槛;通过针对执法终端的司法审查,及时发现和纠正算法歧视。行政监管框架下,需要建立数据安全监督专责机构,确保算法训练时的数据安全;通过算法清单的编制与备案,逐步建立预测性算法的准入门槛。