Microsoft met à jour la politique Azure OpenAI sur la reconnaissance faciale

Mise à jour d'Azure OpenAI de Microsoft interdit la reconnaissance faciale pour les départements de police aux États-Unis

Microsoft a mis à jour sonlangage de conduite Azure OpenAI pour interdire explicitement l'utilisation de ses modèles d'IA à des fins de reconnaissance faciale par ou pour un département de police aux États-Unis. Cela inclut les cas d'utilisation où des caméras mobiles sont utilisées par les forces de l'ordre à l'échelle mondiale "en plein air" ou lorsque des agents de police patrouillants utilisent des caméras portées sur le corps ou montées sur le tableau de bord pour vérifier les identités. La mise à jour interdit également l'identification des individus dans une base de données de suspects ou d'anciens détenus. Le Code de conduite de Microsoft interdisait déjà l'utilisation du système Azure OpenAI pour identifier ou vérifier les identités individuelles en fonction des visages des personnes ou d'autres caractéristiques physiques, physiologiques ou comportementales. Le nouveau langage décrit des interdictions plus spécifiques concernant les agences de police utilisant des systèmes d'IA pour la collecte de données.

Points Importants

• Microsoft interdit l'utilisation de ses services Azure OpenAI pour la reconnaissance faciale par les départements de police aux États-Unis.
• Les cas d'utilisation spécifiques interdits comprennent l'utilisation de caméras mobiles par les forces de l'ordre à l'échelle mondiale et les caméras portées sur le corps ou montées sur le tableau de bord des agents de police.
• Microsoft interdit également l'identification des individus dans une base de données de suspects ou d'anciens détenus.
• Le nouveau langage décrit des interdictions plus spécifiques concernant les agences de police utilisant des systèmes d'IA pour la collecte de données.
• Un récent rapport de ProPublica met en avant l'utilisation d'outils alimentés par l'IA par les départements de police pour examiner des heures d'enregistrements de contrôles routiers et autres interactions civiles.

Analyse

L'interdiction de la reconnaissance faciale par Azure OpenAI de Microsoft pour les départements de police aux États-Unis pourrait avoir un impact sur les agences de maintien de l'ordre d'autres pays en raison de sa portée mondiale. Cette décision pourrait pousser d'autres entreprises technologiques à faire de même, remodelant ainsi le paysage de l'industrie de l'IA. Les conséquences à court terme incluent des réactions potentielles des organisations de maintien de l'ordre dépendantes de cette technologie pour la surveillance et la vérification de l'identité. Cependant, à long terme, cela pourrait encourager un usage plus responsable de l'IA, en conformité avec des directives éthiques et garantissant la protection de la vie privée. Cette initiative pourrait également stimuler l'innovation dans des méthodes alternatives et non invasives pour le maintien de l'ordre. Le rapport de ProPublica sur les outils alimentés par l'IA dans le travail de la police met en lumière la nécessité de réglementation et de surveillance, rendant la décision de Microsoft opportune et essentielle.

Le Saviez-Vous ?

• Azure OpenAI : Azure OpenAI est une plateforme d'intelligence artificielle (IA) basée sur le cloud proposée par Microsoft. Elle permet aux développeurs de créer et déployer des modèles d'IA capables d'analyser et d'interpréter de grandes quantités de données. La plateforme est construite sur le service de cloud computing Azure de Microsoft et utilise les modèles d'apprentissage automatique d'OpenAI.

• Reconnaissance Faciale : La reconnaissance faciale est un type de technologie biométrique utilisant des algorithmes d'IA pour identifier ou vérifier des individus en fonction de leurs traits faciaux. Elle consiste à analyser l'image du visage d'une personne et à la comparer à une base de données de visages connus pour identifier ou vérifier leur identité. La technologie de reconnaissance faciale a été largement adoptée par les agences de maintien de l'ordre à diverses fins, notamment l'identification de suspects, la recherche de personnes disparues et la vérification des identités.

• Collecte de Données : La collecte de données fait référence au processus de collecte d'informations ou de données à partir de diverses sources en vue d'une analyse ou d'un stockage. Dans le contexte de l'article, Microsoft interdit l'utilisation de sa plateforme Azure OpenAI pour la collecte de données par les départements de police, en particulier en ce qui concerne la reconnaissance faciale. Cela signifie que les départements de police ne peuvent pas utiliser Azure OpenAI pour collecter des données sur des individus en fonction de leurs traits faciaux, que ce soit via des caméras mobiles, des caméras portées sur le corps, ou des bases de données de suspects ou d'anciens détenus.