这并非人工智能首次涉足犯罪预测的领域。早在2010年，美国洛杉矶警察局就推出一个“预测性警务”软件，用以预测不同地点发生犯罪行为的概率和规模；2022年，美国芝加哥大学研究团队开发了一款人工智能模型，利用芝加哥2014年至2016年的犯罪数据，用边长约300米的方格对城市进行划分，以提前一周预测最有可能发生犯罪行为的城市方格；荷兰、日本等国也正加速引入相关技术……技术介入司法决策的趋势似乎日渐明朗。
然而，当代码试图对复杂的人性进行判断，当非犯罪数据被纳入“全景式画像”，人们不禁担忧：这是否触及了“无罪推定”的底线？算法是否会复制并放大社会既有的偏见，甚至沦为结构性不公的“帮凶”？
就这些问题，《环球》杂志记者采访了南开大学法学院副院长王强军。
2017年4月27日，在伦敦英国议会大厦附近进行例行检查时发现一名持刀男子，随后以涉嫌恐怖主义活动等罪名将其逮捕 新华社/路透
1
警惕预测性监控
《环球》杂志：目前世界上已有不少国家开始利用算法、人工智能（AI）工具等进行犯罪预测，这是否意味着算法介入司法决策正在形成新的国际趋势？
王强军：算法介入司法决策，无论是在文学艺术领域还是学术研究领域，早已不是新鲜事。在大数据和AI的共同助力下，这些算法有望揭示治理手段与治理效果之间最本质的关联，从而提升司法的决策效率与准确性。然而，这并不意味着人类设计的算法能轻松实现其初衷，借助算法进行司法决策尚有漫长的路要走。
首先，算法设计之初需要选定两个具备逻辑关联的现实变量，以期通过调控其中一个来管控另一个，正如有专家就认为，轻微犯罪可能导致更严重的暴力事件。但如果想用社会科学理论对事件之间的因果关系进行推断，恐怕很难。我们很难像自然科学那样，精确无误地证明“A事件必然导致B事件”。因为社会现象复杂多变，而且因素之间相互纠缠。所以，社会科学研究通常只能告诉我们“A事件很可能和B事件有关”，或者“A事件可能是B事件的原因之一”，提供的是一个比较“弱”的、提示性的因果关系推断，而非绝对确定答案。
其次，即便我们能够证明两个现实变量存在因果关联，也仍需证明调控前者能够有效地影响后者。例如，美国的有色人种犯罪率偏高，这会影响到这部分群体出狱后的就业问题，从而进一步加剧美国的种族不平等。为此，美国政府出台了“Ban The Box”（禁止查问）法案，试图通过立法限制雇主查询雇员的犯罪记录，以解决社会群体平等就业的问题。但该法案出台后，雇主考虑到难以查明有色人种的犯罪前科，反而更倾向于避免招录这些群体，最终加剧了社会不平等。
最后，有人试图用“温水煮青蛙效应”以及“破窗效应”，来论证轻微罪立法的必要性。但“温水煮青蛙效应”已被实验证伪，而“破窗效应”则难以被证真，即便被证真，也很难被普遍适用于社会治理中。通过严惩轻微犯罪来“防微杜渐”的思路过于简单化，甚至可能无效或有害。
故而，将算法介入司法决策的第一步，就是要大量收集社会数据，唯此才能论证指标设立的正当性，进而得出一个相对准确的决策结论。
《环球》杂志：在英国政府的“凶杀预测项目”中，医疗、教育等非犯罪数据也被整合进预测模型，这种“全景式数据画像”是否突破了“无罪推定”原则，导致法治精神面临挑战？
王强军：英国这种项目设计自然会对法治精神产生冲击，需要做好犯罪预测与诉讼程序的衔接。首先，若国家机器通过数据整合构建“全景式监控”，可能突破传统法治对公权力的制约。当预防性干预基于预测而没有其他客观直接证据支撑时，公民的隐私权、自由权将面临被侵蚀的风险。其次，若将犯罪预测对象直接纳入刑法惩罚范围，那么一方面国家在无需犯罪证据的情况下就能直接将人带入诉讼程序；另一方面，当国家通过凶杀预测项目判断公民是否实施犯罪时，公民并不知情，缺乏对自身被风险评估检测的知情权、异议权和救济渠道，也难以对自己的行为进行合法性评估。这与法治所要求的透明度和程序正义背道而驰。
但凶杀预测项目与“无罪推定”并不具备直接的联系。“无罪推定”是指任何人在未经依法判决有罪之前，都应被视为无罪。此外，“无罪推定”还包括被告人不负有证明自己无罪的义务，并且不能因为被告人没有或不能证明自己无罪而认定其有罪。作为刑事办案过程的指导思想，“无罪推定”实际上是对犯罪嫌疑人权利的保障。
不过，“无罪推定”并不影响侦查机关围绕犯罪嫌疑人采取强制措施，或进行调查取证。在凶杀预测项目中，国家系统确实能收集足够多的非犯罪数据，但关键在于收集不到任何与犯罪直接关联的数据。
《环球》杂志：边沁的“圆形监狱”隐喻在数字时代是否正成为现实？
王强军：犯罪预测事实上就是通过对公民的全部数据进行监控，使其所有犯罪行为甚至犯罪可能性都置于“日光之下”，从而进行全方位的强制性规训。这种预测监控实际上是将自由与安全推到了颇为极端的领域——公民是否需要如此让渡自己的自由以实现社会的安全治理？
预测性监控一开始必然针对极端刑事案件，接下来会因为一些高发性案件的不断出现，试图通过预测的方法进行控制，进而不断地将监控范围扩张。并且，公民一旦脱离监控的领域，有可能会为自己因此受到的压抑，进行报复性宣泄。
2
规避“数据陷阱”
《环球》杂志：有研究者认为，复制社会中的偏见一直是AI使用中难以解决的问题。你如何看待用AI预测犯罪所产生的偏见问题？
王强军：AI确实存在着一定的基于设计逻辑或社会偏见而得出的“幻觉性”结论。这种“幻觉性”的来源并非单一，因此我们需要担心的影响AI模型结论的因素，也不仅仅是“偏见”这一点。并且，犯罪预测模型的设计以及模型与司法程序的衔接，并非一个简单的AI模型就能实现，而是需要通过社会实证数据的研究，并对预测逻辑进行评估才能完成。
“偏见”事实上是人基于主观认识得出的结论，它既可以通过社会实践建立，也可以被打破。我们不必将“偏见”一棍子打死，否定其价值。如何利用“偏见”，如何通过数据分析模型对一些“偏见”进行证伪，这才是未来技术发展的重要价值之一。
《环球》杂志：英国少数族裔犯罪率更高的历史数据被算法吸收后，是否会放大对少数族裔的歧视，加剧结构性不公？法律该如何防范算法成为种族主义的“帮凶”？
王强军：法律面前人人平等。面对少数族裔犯罪率更高的历史数据，我们无法忽视这些数据，否则就违背了犯罪预测模型最底层的逻辑。当然，种族歧视、不平等问题也是客观存在的，但法律的功能也是有限的，无法解决所有问题。并且，种族问题无法通过强制性手段予以调节，而需要通过经济或教育手段进行潜移默化地调整。
回到法律层面，需要反思的是：少数族裔犯罪率高，究竟指的是少数族裔的一般犯罪率更高，还是由于针对少数族裔的犯罪查处力度更强，从而导致犯罪率更高？以公路拦车抽检为例，部分美西方国家的警察对少数族裔格外“照顾”，抽检率更高。而抽检率高，自然指向犯罪的发现率也更高。
面对少数族裔更高的犯罪率，需要进行更科学理智的辨识：即究竟是在同等比例抽取样本的前提下，少数族裔的犯罪率更高；还是由于少数族裔的抽取样本占比更高，从而导致犯罪率更高？后者可能是在算法设计之前就要提前规避的数据陷阱。
3
犯罪预测只能作为辅助证据
《环球》杂志：算法治理如何避免掉入“技术替代人性”的陷阱？
王强军：算法治理只能作为一种治理手段的补充，而不能替代或成为犯罪预防的必要环节。但算法治理本身又存在巨大价值，需要在充分利用这种价值的基础上，谨慎限制其具体适用范围。
首先，算法的预测有一个前提，就是确保行为人目前状态与行为结果之间具备强因果联系。这种强因果联系表明，行为只有发展到一定阶段，直接导向犯罪时，算法的运用才有必要性。
其次，算法无法取代人类主导的司法程序。法律只有在人类的适用下才会有温度。算法能够通过对行为人诸多外部特征的分析，反映出行为人内部的一定心理样态。也就是说，算法治理的推广，能够辅助诉讼程序中主观罪过、明知内容等方面的证明。同时，算法分析能够在一定程度上将抽象危险犯的危险程度尽可能具体化，例如醉酒驾驶机动车的行为，算法能够综合行为人的酒精接纳能力、行驶道路等多方面因素，判断出其危险行为对交通安全的实际威胁，进而促进刑事立法与刑事司法的精细化。
罪刑法定原则始终是刑法的基本原则。算法的预测结果能够成为证据构成的一部分，但绝不能将其完全取代，只有通过对行为人全部涉案证据的判断，才能认定其是否有罪。
《环球》杂志：陀思妥耶夫斯基曾说“人是一个奥秘，应该解开他”，而算法试图用线性思维解构人的非理性犯罪动机。这种技术简化是否会从根本上误判人性？
王强军：人类通过发展算法技术，能够不断加深对思维结构的理解与分析，但从目前能看到的技术发展程度和多数观念看，人工智能无法对人性进行彻底、准确的预判。人类行为等看起来既是容易被预测的，又是无法被完全预测的。就我个人的理解，算法只能对人类的思维以及行为进行一个高概率的预测，既然存在高概率的预测结果，那么便必然存在低概率的意外情况，因此，这种预测在很长一段时间内恐怕也只能作为辅助证据。
《环球》杂志：在司法实践中，有哪些被认为是必要且合理的犯罪预测方法？你认为在预测犯罪上，AI应该如何合理合法地发挥作用？
王强军：事实上，在司法程序的不同阶段确实存在着切实可行的预测方法，这些预测方法也已经内化为侦查机关的工作重点以及办案方法。例如，警察会在历来发案量高的时间或地点开展重点巡逻活动；又如在重要节假日，在公众场所加强对盗窃案件的预防工作等。侦查机关在侦破案件过程中，会围绕未知的犯罪嫌疑人进行心理画像，把握其外在特征，从而为侦破工作提供办案方向。
对于AI的使用，首先需要建立正确的AI分析数据库，能够证明犯罪先期特征与犯罪具体行为之间存在强因果关系；同时也要正视，在数据收集上，由于个人的收集偏好，会导致对象群体产生误差的情况；其次，AI的使用要完全在现有司法机制下进行，预测结果在个案中作为证据的辅助，结合犯罪嫌疑人的行为进行综合研判；最后，AI使用于个体应当始终以犯罪客观方面（主要包括危害行为，危害结果，刑法因果关系，犯罪的时间、地点和方法等）为核心，即应当被动地使用AI，以分析犯罪嫌疑人的犯罪特征。法律无法解决所有问题，AI也同样无法解决所有的犯罪预测问题。 （南开大学法学院博士研究生王文博对此文亦有贡献）
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡