Google Met en Place des Modifications d'Algorithmes pour Lutter Contre les Images Explicites Non Consensuelles
Google a mis en œuvre des modifications majeures à ses algorithmes de classement des recherches, ce qui a entraîné une réduction de plus de 70 % de la visibilité des images explicites non consensuelles, en particulier des deepfakes. Cette initiative vise à donner la priorité au contenu non explicite dans les résultats de recherche liés à des personnes spécifiques, ce qui a pour effet de minimiser la visibilité des images explicites deepfake préalablement répandues, en particulier celles concernant des personnalités telles que Jennifer Aniston. Au lieu d'afficher ces images problématiques, Google met désormais l'accent sur les articles discutant des impacts sociétaux des deepfakes et émet des avertissements concernant les arnaques associées.
Ces changements interviennent à la suite de rapports internes et de recommandations d'experts en vue de lutter contre la diffusion de l'imagerie explicite non consensuelle (IENC), une proposition précédemment rejetée par la direction de Google. Néanmoins, Google a démontré sa réactivité face aux demandes de retrait, en honorant plus de 82 % d'entre elles, en particulier celles ciblant les principaux sites hébergeant des deepfakes.
Les mesures révisées de Google comprennent la prévention de l'affichage d'images deepfake dupliquées dans les résultats de recherche, le filtrage des images explicites dans les requêtes similaires et la rétrogradation des sites Web ayant enregistré un volume élevé de demandes de retrait. Bien que ces mesures soient destinées à offrir un réconfort aux personnes préoccupées par une exposition future à un tel contenu, les critiques soutiennent qu'il faudrait prendre des mesures plus étendues. En particulier, Google s'abstient actuellement d'émettre des avertissements pour les recherches relatives aux deepfakes pour adultes, contrairement aux avertissements pour les recherches relatives à la pornographie infantile, en dépit des interdictions légales contre l'IENC.
Principaux Enseignements
- Google réduit l'exposition aux images explicites non véridiques de plus de 70 % grâce à de nouveaux ajustements de classement.
- Un changement dans les résultats de recherche de Google favorise les articles d'actualité et les avertissements par rapport au contenu deepfake explicite.
- Google renforce ses garde-fous contre l'imagerie explicite non consensuelle (IENC) en adoptant des mesures proactives.
- Google retire plus de 82 % des liens demandés par les victimes sur les sites d'hébergement de deepfakes populaires.
- Google a l'intention de rétrograder les sites Web ayant enregistré un volume important de demandes de retrait réussies dans les résultats de recherche.
Analyse
La mise à jour de l'algorithme de Google ciblant les deepfakes aura un impact sur les géants de la technologie, les créateurs de contenu et les victimes. Les facteurs à l'origine de ces modifications comprennent la pression publique et les préoccupations d'ordre éthique, ainsi que des facteurs indirects tels que les risques juridiques et les dommages à la réputation. Les implications à court terme comprennent la diminution de la visibilité des deepfakes explicites, bénéficiant aux personnes ciblées et dissuadant les créateurs. À long terme, ce changement pourrait entraîner l'établissement de normes sectorielles plus larges et la mise en œuvre de sanctions juridiques contre l'IENC. De plus, les instruments financiers liés aux sites touchés peuvent subir des effets négatifs, tandis que les entreprises technologiques investissant dans l'IA éthique peuvent bénéficier d'avantages.
Saviez-Vous Que?
- **Deepfakes** :
- Les deepfakes correspondent à des médias synthétiques dans lesquels l'image d'une personne dans une image ou une vidéo existante est remplacée par le visage de quelqu'un d'autre grâce à des techniques d'intelligence artificielle, en particulier des algorithmes d'apprentissage profond. Ces derniers peuvent être utilisés pour produire des vidéos ou des images convaincantes mais fausses, souvent dans un but malveillant, comme la diffusion de désinformation ou de contenu explicite non consensuel.
- **Imagerie Explicite Non Consensuelle (IENC)** :
- L'IENC, également connue sous le nom de "[pornographie de vengeance](https://fr.wikipedia.org/wiki/Pornographie_de_vengeance)", désigne la distribution de contenu sexuellement explicite, qu'il s'agisse d'images ou de vidéos, sans le consentement des personnes concernées. Cette forme de cybercriminalité peut causer des préjudices et des souffrancesimportants aux victimes, et son utilisation s'étend de plus en plus via la technologie deepfake permettant de générer de faux contenus explicites.
- **Algorithmes de Classement des Recherches** :
- Les algorithmes de classement des recherches sont des systèmes complexes utilisés par les moteurs de recherche tels que Google pour déterminer l'ordre de présentation des résultats de recherche. Ces algorithmes prennent en compte divers facteurs, tels que la pertinence, l'engagement des utilisateurs et la qualité du contenu, dans le but d'offrir aux utilisateurs les résultats les plus précieux et pertinents. Dans ce contexte, Google a modifié ses algorithmes afin de diminuer la visibilité des images explicites non véridiques et de mettre en avant un contenu plus sûr et plus informatif.