成真？英国警方准备使用AI预测犯罪

近日，据 New Scientist 报道，英国警察正希望使用人工智能预测严重暴力犯罪。这一计划的执行方式是：被计算机系统标注的高风险人群将被提前干预，例如接受询问，以避免潜在的犯罪行为。

 

然而，世界领先的数据科学研究机构在看到这一提案的编辑版本之后表达了对该项目的严重关切。

 

英国提出的 AI 系统名为国家数据分析解决方案（NDAS），它使用人工智能和统计数据来评估个人试图持枪或持刀犯罪的可能性，同时也可以评估个人成为现代奴隶的几率。

 

这一项目由英国西米德兰兹郡（West Midlands）警方领导，预计会在 2019 年 3 月推出原型。包括伦敦警察厅和大曼彻斯特警察局在内的其他 8 个警察部门也参与其中。在 NDAS 的计划中，未来全英国所有的警察部门都将使用该工具。

 

近年来，英国用于警力的资金正逐渐减少，因此警务部门急需一种可以监视所有已知个人的新系统，并优先追踪急需注意的一小部分，该项目的警察负责人 Iain Donnelly 表示。

 

预先干预

 

关于识别出这样的个体之后采取什么行动仍然是个有争议的问题，Donnelly 说道。他说其目的不是为了先发制人式地逮捕任何人，而是为当地治安和社会工作者提供支持。例如，他们可以为被 NDAS 标记为有心理健康问题而可能实施暴力犯罪的个体提供咨询。潜在的受害者可以接受社会服务。

 

这样的项目在全世界范围内是首例，集合了来自大量警力的多个数据集用于犯罪预测，Donnelly 说道。在早期阶段，该团队从当地和国家的警方数据库收集了超过 1TB 的数据，包括人们被阻止和搜查的记录以及犯罪记录。数据包含大约 500 万个可识别的个体。

 

通过该数据集，软件可以找到大约 1400 个可以帮助预测犯罪的指标，其中有大约 30 个尤其有效：包括个体在他人帮助下实施犯罪的次数，以及个体在社会组织中犯罪的次数。NDAS 的机器学习组件将使用这些指标来预测：哪些个体目前的行为尚未升级，但可能会出现和过去案例相似的暴力行为。这样的个体会被分配一个危险系数，指示未来出现攻击行为的可能性。

 

这种做法有效吗？

 

西米德兰兹郡警局希望在下一年年初使用 NDAS 进行首批犯罪预测。他们将与英国数据监督部门信息专员办公室合作，确保 NDAS 符合隐私规定。

 

但是，该项目已经引起批评。阿兰·图灵研究所的一支团队（Data Ethics Group）去年看到了 NDAS 计划的编辑版本，并将在一份报告中发表对此的判断。

 

Data Ethics Group 在报告中称 NDAS 存在「严重的伦理问题」，在个人没有犯罪的时候先预测 ta 犯罪的概率，这真的有助于大众利益吗？该团队的研究人员认为尽管这项计划的初衷是好的，但它无法完全识别重要的问题，错误的预测会引发担忧。

 

哥伦比亚特区大学 Andrew Ferguson 表示，分析工具基于过去的逮捕记录进行预测，这会使得警察局可能只关注固定的区域，导致偏见的强化。逮捕与警力部署的区域相关却与犯罪地点不相关，这会导致过度「关注」有色人群和贫困社区的居民。

 

英国卡迪夫大学犯罪与安全研究所所长 Martin Innes 称，他对该系统能够合理预测个人的犯罪行为这一说法「持怀疑态度」。该工具可能在预测比较危险的区域方面比较有用。

 

西米德兰兹郡警察局邀请 Innes 及其同僚近期对 NDAS 的效果进行独立评估。

 

牛津互联网研究所 Sandra Wachter 认为，此类系统的本质困难在于，评估在没有警察或其他服务干预的情况下预测结果是否准确。「我如何知道它做出的决策是否正确？这是很难衡量的。」

 

预先治安（predictive policing）的风险

 

在全世界范围内，警察越来越多地使用数据来预测犯罪。例如，加州圣塔克拉拉大学开发的 PredPol 尝试预测未来犯罪热点地区。该系统在美国和英国都有应用。洛杉矶警局根据一些特征（如是否有前科或是否为帮派中知名成员）评估犯罪风险指数。巡逻警察将更加关注「最危险」的人。

 

荷兰使用另一款软件来分析犯罪数据和特定区域的社交数据，如年龄、工资、是否申请救济金等。警察利用这些数据来预测某种类型的犯罪多发于城市哪个区域。