Usine à fausses informations actionnée par l'IA fermée : une entreprise chinoise générait 7 000 articles par jour
Entreprise chinoise condamnée pour la production de milliers d'articles de désinformation
Dans le cadre d'une récente répression de la désinformation, une entreprise chinoise de MCN (Multi-Channel Network) a été condamnée pour avoir généré entre 4 000 et 7 000 articles de désinformation par jour. Le véritable responsable de la société, identifié comme M. Wang, a utilisé un logiciel d'IA avancé pour créer ces récits trompeurs. En saisissant des mots-clés dans un logiciel d'IA capable d'interagir par la voix, M. Wang a pu automatiquement collecter des informations connexes sur Internet, générer du texte allant de quelques centaines à plus de mille mots et l'associer à des images entièrement fabriquées mais semblant pertinentes. Ces articles trompeurs ont ensuite été diffusés sur plusieurs plateformes en ligne, permettant à l'entreprise de gagner environ 10 000 yuans (environ 1 400 dollars) par jour. À la suite d'une enquête, M. Wang a été reconnu coupable de propagation de rumeurs, de falsification de faits et de perturbation de l'ordre public. Par conséquent, il a été placé en détention administrative pour une durée de cinq jours et l'entreprise MCN concernée a été ordonnée de cesser ses activités et de corriger ses pratiques.
Points clés à retenir :
- Volume et impact : L'entreprise de MCN a généré entre 4 000 et 7 000 articles de désinformation par jour.
- Gain financier : L'entreprise a gagné environ 10 000 yuans par jour grâce à ces activités.
- Conséquences judiciaires : M. Wang a reçu une détention administrative de cinq jours et l'entreprise a été ordonnée d'arrêter ses activités et de corriger ses pratiques.
Analyse :
L'affaire de l'entreprise chinoise de MCN met en lumière la menace croissante de la désinformation propulsée par l'IA. La capacité à produire de vastes quantités de contenu trompeur convaincant avec un minimum d'intervention humaine pose un défi important pour les régulateurs et les plateformes. Cet incident reflète les luttes continues contre la désinformation sur nos principales plateformes de médias sociaux telles que Twitter et TikTok. Sur Twitter, les fausses informations se propagent plus rapidement et atteignent un public plus large que les informations véridiques, essentiellement propagées par des humains plutôt que par des robots. TikTok, avec sa croissance rapide et la nature virale de son contenu, fait face à des problèmes similaires, exacerbés par les préoccupations d'influence étrangère.
Malgré les efforts des entreprises de médias sociaux pour mettre en œuvre la détection basée sur l'IA, des partenariats de vérification des faits et l'étiquetage de contenu, l'efficacité de ces mesures reste limitée. La perception du public reflète cela, car une partie importante des utilisateurs exprime sa frustration face à l'inaccuracité des nouvelles sur ces plateformes. La complexité et l'échelle du discours en ligne rendent difficile sa gestion, et les experts prédisent que la situation peut s'aggraver avant de s'améliorer.
Le saviez-vous ?
- Facteur humain : Les études montrent que sur Twitter, les fausses informations sont 70 % plus susceptibles d'être