Le département de police de Détroit met en œuvre de nouvelles limites concernant la reconnaissance faciale
Le département de police de Detroit instaure de nouvelles règles pour la technologie de reconnaissance faciale
Le département de police de Detroit (DPD) a mis en place de nouvelles règles restreignant l'utilisation de la technologie de reconnaissance faciale (FRT) à la suite d'un accord à l'amiable avec Robert Williams, un homme noir qui a été arrêté à tort en 2020 en raison d'une méprise. Cet accord, s'il n'interdit pas complètement la FRT, interdit au DPD d'arrêter des personnes sur la base des résultats de la FRT seuls ou de procéder à des confrontations uniquement sur la base de meneurs de FRT. L'arrestation de Williams résultait d'une correspondance erronée de sa photo de permis de conduire expiré avec celle d'un voleur à l'étalage, entraînant une humiliante arrestation devant sa famille. L'ACLU, qui a participé à l'obtention de l'accord, a mis en évidence au moins deux autres arrestations à tort de Noirs facilitées par la FRT. Les nouvelles règles exigent des preuves supplémentaires au-delà de la FRT pour les mandats d'arrêt et exigent une formation sur les préjugés raciaux de la FRT. De plus, tous les cas depuis 2017 impliquant la FRT pour les mandats d'arrêt feront l'objet d'un audit.
Points clés à retenir
- Le département de police de Detroit adopte de nouvelles règles limitant l'utilisation de la technologie de reconnaissance faciale après un règlement d'arrestation à tort.
- La police ne peut arrêter ou procéder à des confrontations uniquement sur la base des résultats de la technologie de reconnaissance faciale.
- Les nouvelles politiques exigent des preuves indépendantes liant les suspects à des crimes pour les mandats d'arrêt.
- Le département de police de Detroit se soumettra à une formation sur les préjugés raciaux de la technologie de reconnaissance faciale et à un audit des affaires passées.
- L'accord garantit que la technologie de reconnaissance faciale ne peut remplacer le travail de base d'enquête.
Analyse
Les limites imposées par le DPD à la technologie de reconnaissance faciale (FRT) à la suite du règlement Williams attirent l'attention sur les problèmes de préjugés raciaux de la technologie. Les impacts immédiats incluent un examen plus approfondi des déploiements de FRT et le potentiel de défis juridiques contre d'autres départements de police. À long terme, l'adoption plus large de la FRT peut ralentir, forçant les sociétés technologiques à aborder les biais dans les algorithmes. Les implications financières pourraient affecter des entreprises comme Amazon, qui a fait face à des demandes d'arrêter l'utilisation de son logiciel Rekognition par la police. Le règlement souligne la nécessité d'une réglementation complète de la FRT et du développement éthique de l'IA.
Le saviez-vous ?
- La technologie de reconnaissance faciale (FRT):
- La technologie de reconnaissance faciale (FRT) est un logiciel biométrique qui peut identifier ou vérifier l'identité d'une personne à l'aide de ses caractéristiques faciales. Elle fonctionne en analysant des caractéristiques faciales distinctes telles que la distance entre les yeux, la profondeur des orbites, la forme des pommettes et la largeur du nez. La FRT est largement utilisée dans les systèmes de sécurité et est présente dans diverses applications, y compris les smartphones, les caméras de surveillance et les systèmes de contrôle d'accès.
- Partialité raciale dans la technologie de reconnaissance faciale:
- Le biais racial dans la technologie de reconnaissance faciale fait référence à la tendance de ces systèmes à fonctionner moins précisément sur les individus de certains groupes raciaux, en particulier ceux qui sont noirs ou d'ascendance africaine. Ce biais peut provenir des jeux de données utilisés pour former les algorithmes, qui peuvent ne pas représenter adéquatement les populations diverses. Par conséquent, ces systèmes peuvent produire de fausses correspondances ou échouer à identifier correctement les individus, entraînant des problèmes tels que des arrestations