La police britannique se penche sur une IA qui pourra prédire des crimes

Selon l’article de New Scientist partagé il y a quelques jours, la police britannique prépare un outil dont l’objectif est de prédire des crimes. Baptisé Solution nationale d’analyse des données (NDAS), le système mélange intelligence artificielle et statistiques afin d’atteindre son but. Le département des Midlands de l’Ouest prévoit de présenter un prototype de l’outil en mars 2019, soit dans moins de six mois.

Un outil pour prédire des crimes qui pose des questions éthiques

Outre ce département, près de huit autres services sont impliqués. Le système devrait être conçu afin que toutes les autorités du pays puissent l’utiliser. Comme l’explique New Scientist, le budget dédié à la police britannique a réduit au cours de ces dernières années, si bien qu’il lui serait très utile d’avoir un système capable de prédire les crimes.

Pour fonctionner, la Solution nationale d’analyse des données se baser sur plus de 1 400 indicateurs différents, dont une trentaine sont particulièrement importants. Le nombre de crimes commis par une personne ainsi que ceux réalisés dans son groupe social sera ainsi passé au crible. De la même façon, les personnes connues des services de police seront sous la surveillance particulière du système.

Lors du déploiement de l’intelligence artificielle, le Département collaborera avec le Commissaire à l’information du Royaume-Uni afin de veiller à ce que le système soit conforme au RGPD.

Néanmoins, le sujet soulève de nombreuses questions éthiques liées à de potentielles discriminations basées sur la couleur de peau des citoyens du pays. En effet, le système risque de se concentrer sur certaines personnes et certains lieux géographiques au détriment d’autres, ce qui pourrait renforcer les préjugés des policiers. De la même façon, l’intelligence artificielle pourrait intégrer un biais discriminatoire incluant, dans ce cas, les personnes de couleur vivant dans des quartiers pauvres.

Un outil similaire a été secrètement déployé à la Nouvelle Orléans. En effet, les autorités ont collaboré avec Palantir afin de mettre en place un système capable de prédire des crimes. L’entreprise privée se chargeait de décloisonner les différentes bases de données, mélangeant par exemple les dossiers des autorités, les permis de conduire et de ports d’arme ainsi que les données extraites des réseaux sociaux. De cette façon, il était possible de suivre un individu à la trace pour déterminer s’il était enclin à commettre un crime.