La Chine durcit les règles sur l'abus d'algorithmes : de nouvelles règles visent à protéger les travailleurs, les utilisateurs et l'équité en ligne

Réglementations des Algorithmes en Chine : Un Pas Audacieux vers des Plateformes Numériques Plus Équitables

Le 24 novembre 2024, l’Administration du Cyberspace de Chine, en collaboration avec trois autres départements gouvernementaux clés, a annoncé un nouveau cadre réglementaire intitulé “Claire et Brillante - Action Spéciale sur la Gouvernance des Problèmes Typiques d'Algorithmes sur les Plateformes Internet”. Cette initiative vise à répondre aux préoccupations publiques concernant l'utilisation des algorithmes par les plateformes internet et leurs implications sociales et économiques.

Cette réglementation montre l'engagement de la Chine à favoriser une économie de plateforme saine et durable tout en atténuant les pratiques nuisibles liées aux algorithmes. Voici une explication complète de l'annonce, de ses objectifs et de ses implications pour les entreprises, les travailleurs et la société.

Que s'est-il Passé ?

La Chine a lancé une campagne réglementaire ciblée pour aborder les problèmes liés aux algorithmes qui compromettent la confiance sociale, exploitent les travailleurs indépendants et désavantagent les consommateurs. Les principaux problèmes traités incluent :

• Chambres d'écho d'information créées par un contenu répétitif.
• Listes de tendances manipulées et récits publics biaisés.
• Exploitation des livreurs par des horaires déraisonnablement serrés.
• Discrimination tarifaire par les grandes données, où les clients fidèles sont facturés plus cher.
• Un manque général de designs algorithmiques bénéfiques pour l'utilisateur.

Les réglementations ont été émises par l’Administration du Cyberspace de Chine, avec la contribution d'autres entités gouvernementales. Les plateformes concernées incluent toutes les grandes entreprises internet chinoises utilisant des algorithmes pour orienter les recommandations, les prix ou les processus de livraison.

Bien que les algorithmes soient des outils techniquement neutres, leurs applications réelles sont dirigées par des humains, ce qui peut causer de graves dommages sociétaux en cas de mauvaise utilisation. Les nouvelles réglementations visent à restaurer l'équilibre en veillant à ce que les algorithmes soient utilisés de manière éthique et transparente, favorisant la confiance entre les plateformes et les utilisateurs. Le cadre réglementaire s'applique à toutes les plateformes internet opérant en Chine, mais ses implications résonnent à l’échelle mondiale en raison de la nature universelle des problèmes abordés. L’annonce a eu lieu le 24 novembre 2024, et les mesures d'application devraient être mises en œuvre dans les mois à venir.

Points Clés à Retenir

1. Ciblage des Pratiques Exploitantes :

   • Les plateformes ne pourront plus utiliser d'algorithmes qui compressent injustement les délais de livraison, causant :
     • Augmentation des infractions routières.
     • Taux d’accidents plus élevés parmi les livreurs.
   • La discrimination tarifaire basée sur les données utilisateur sera limitée.

2. Combattre l'Homogénéité du Contenu :

   • Les chambres d'écho créées par des recommandations algorithmiques répétitives seront démantelées pour encourager une exposition diversifiée et équilibrée au contenu.

3. Amélioration de la Transparence : Les plateformes doivent divulguer publiquement :

   • Principes derrière les algorithmes de tendance qui dictent les sujets populaires.
   • Méthodes de calcul des frais utilisées sur les plateformes de l'économie de gig.
   • Règles de planification des itinéraires pour les livreurs.

4. Équilibrer Innovation et Réglementation :

   • Le gouvernement promet une approche d'application équilibrée, avec des sanctions proportionnelles à la gravité et à l'impact des violations.

5. Implications Mondiales :

   • Ces réglementations résonnent avec des préoccupations similaires dans le monde sur la gouvernance des algorithmes, s'alignant avec les tendances mondiales en matière d'IA éthique.

Analyse Approfondie

Problèmes Clés Abordés

1. Chambres d'Écho et Polarisation

   • Les algorithmes qui privilégient un contenu répétitif ou extrême créent des silos d'information, renforçant les biais et les divisions sociétales. Les nouvelles mesures visent à perturber ces schémas nuisibles.

2. Classements Manipulés

   • Les listes de tendances manipulées par les plateformes déforment la perception publique, influencent les opinions et parfois promeuvent des récits nuisibles ou trompeurs. Les exigences de transparence garantiront que ces listes reflètent des tendances organiques.

3. Exploitation des Travailleurs Indépendants

   • Les plateformes de services de livraison de nourriture utilisent souvent des algorithmes pour imposer des contraintes de temps déraisonnables, entraînant des pratiques dangereuses. En se concentrant sur la sécurité des travailleurs, la Chine vise à réduire :
     • Les pénalités pour dépassement de délai.
     • Les accidents de la route causés par la précipitation.
     • Le stress parmi les travailleurs.

4. Discrimination Tarifaire par les Grandes Données

   • Les algorithmes qui utilisent les données des consommateurs pour facturer aux clients fidèles des prix plus élevés érodent la confiance. Les nouvelles réglementations abordent explicitement ce problème, garantissant des pratiques tarifaires équitables.

5. Responsabilité des Algorithmes

   • Un objectif plus large est de s'assurer que les algorithmes servent les meilleurs intérêts des utilisateurs, plutôt que des motifs purement lucratifs. Cela comprend la prévention des conceptions addictives et des pratiques de recommandation non éthiques.

Contexte Économique et Social

L’annonce fait suite à une récente réunion du Conseil d'État, qui a réaffirmé l'importance de l'économie de plateforme pour :

• Élargir la demande intérieure.
• Stabiliser l'emploi.
• Améliorer les conditions de vie.
• Favoriser l'innovation.

Plutôt que d'étouffer la croissance, ces mesures visent à protéger le bien-être public tout en garantissant que les plateformes restent des contributeurs dynamiques à l’économie de la Chine.

Pertinence Mondiale et Comparaisons

Le mouvement de la Chine s'inscrit dans une conversation internationale plus large sur la gouvernance des algorithmes. Des préoccupations similaires ont été soulevées dans le monde entier :

1. Chambres d'Écho et Désinformation

   • Contexte Mondial : Des plateformes comme Facebook et YouTube font l'objet de critiques pour avoir promu des contenus qui approfondissent la polarisation et diffusent des informations trompeuses.

2. Exploitation des Travailleurs

   • États-Unis : Des entreprises comme Uber ont été critiquées pour le manque de transparence dans le calcul des paiements des conducteurs et la planification algorithmique.
   • Royaume-Uni : De nouvelles lois sur le travail poussent à plus de droits et de transparence pour les travailleurs indépendants.

3. Discrimination Tarifaire par les Grandes Données

   • E-commerce : Des entreprises comme Amazon et les compagnies aériennes utilisent souvent des algorithmes pour facturer des prix différents en fonction du comportement des utilisateurs, une pratique sous surveillance mondiale.

4. Efforts Réglementaires Mondiaux :

   • Union Européenne : La Loi sur les Services Numériques (DSA) et la Loi sur les Marchés Numériques (DMA) mettent l'accent sur la transparence et l'équité des algorithmes.
   • États-Unis : La Loi sur la Responsabilité Algorithmique propose des audits réguliers des algorithmes dans des secteurs comme la finance et la santé.

Saviez-Vous Que ?

1. Sécurité Routière : Des études en Chine montrent une corrélation significative entre des délais de livraison serrés et des accidents de la route, soulignant l'importance de réguler les algorithmes de livraison.

2. Biais Cachés : Les algorithmes reflètent souvent les biais de leurs créateurs, entraînant des pratiques discriminatoires dans des domaines tels que le recrutement et les approbations de crédit.

3. Tactiques de Surfacturation : La tarification dynamique n'est pas nouvelle—les compagnies aériennes l'utilisent depuis des décennies. Cependant, les algorithmes la rendent désormais beaucoup plus précise et potentiellement injuste.

4. Préoccupations Mondiales : Un rapport du Forum Économique Mondial estime que plus de 80 % des plateformes numériques reposent sur des algorithmes manquant de transparence.

Conclusion

L’initiative “Claire et Brillante” de la Chine est une réponse opportune aux préoccupations croissantes du public concernant l'utilisation abusive des algorithmes. En abordant des problèmes tels que les chambres d'écho, l'exploitation des travailleurs indépendants et la discrimination tarifaire, les nouvelles réglementations établissent un précédent pour une gestion éthique des algorithmes. L'accent mis sur la transparence et l'application équilibrée souligne un engagement à favoriser la confiance, l'équité et la sécurité des travailleurs sans étouffer l'innovation.

À mesure que les algorithmes façonnent de plus en plus nos vies, ces efforts résonnent à l'échelle mondiale. Avec des défis similaires qui sont abordés dans l'UE, les États-Unis et au-delà, le cadre réglementaire de la Chine pourrait servir de modèle pour traiter l'interaction complexe entre technologie et société. Le message clé ? Les algorithmes devraient permettre—et non exploiter—ceux qui en dépendent.