NeurIPS 2024 : Des remarques controversées d'une professeure du MIT enflamment les réseaux sociaux, accusée de racisme, au milieu des succès de chercheurs chinois

Ce qui s'est passé

En décembre 2024, lors de la prestigieuse conférence Neural Information Processing Systems (NeurIPS) 2024, la Professeure Rosalind Picard, fondatrice et directrice du Affective Computing Research Group au MIT Media Lab, a donné une conférence invitée intitulée « Comment optimiser ce qui compte le plus ? » Sa présentation portait sur les avancées pionnières dans l'intelligence artificielle (IA), l'informatique affective et les technologies portables. Elle a souligné comment les émotions, telles que traitées par le cerveau humain, signalent une importance personnelle et a discuté de la conception de systèmes d'IA qui privilégient des valeurs éthiques et centrées sur l'humain. Picard a mis en évidence comment ces progrès technologiques ont déjà sauvé des vies, soulignant l'importance d'optimiser l'IA pour un avenir meilleur.

Cependant, la conférence a pris une tournure controversée lorsque Picard a mentionné un incident spécifique impliquant un « étudiant chinois » qui aurait été expulsé d'une grande université pour avoir admis un comportement contraire à l'éthique : « Je l'ai fait pour améliorer les résultats de mon article. Personne dans mon école ne nous a appris la morale ou les valeurs. » Bien que Picard ait ajouté des mises en garde, précisant que « la plupart des Chinois que je connais sont honnêtes et moralement droits » et répétant « La plupart, soyons très clairs. La plupart des Chinois que je connais sont extrêmement droits. J'espère que c'est une exception », l'inclusion de la nationalité de l'étudiant et de ses lacunes morales perçues a provoqué un contrecoup immédiat. Certains participants ont estimé que faire référence à l'ethnicité de l'étudiant était une généralisation inutile et risquait de renforcer des stéréotypes néfastes lors d'une conférence de haut niveau destinée à célébrer la diversité et la collaboration mondiale.

En quelques heures, des chercheurs chinois et d'autres membres de la communauté de l'IA ont exprimé leur déception et leur colère, déclenchant une protestation publique. Beaucoup ont affirmé que les remarques de Picard étaient racialement insensibles et ont exigé des mesures plus fermes de la part des organisateurs de la conférence. NeurIPS a répondu sur LinkedIn après la conférence principale, reconnaissant que le commentaire « renforce les préjugés implicites » et « ne correspond pas à ce que représente NeurIPS », réaffirmant l'engagement de l'événement en faveur de la diversité, de l'inclusion et d'un environnement sûr pour tous. Pourtant, de nombreux critiques ont trouvé cette réponse insuffisante, accusant NeurIPS de « maquiller le racisme » et appelant à des mesures correctives plus décisives.

L'incident a été particulièrement surprenant étant donné la stature de Picard en tant que leader dans la recherche inclusive et le mentorat. En tant que fer de lance de la diversité et d'une éthique forte dans l'IA, sa référence controversée était en contradiction directe avec les valeurs qu'elle représente au sein du groupe Informatique affective du MIT Media Lab. La controverse plus large a éclipsé d'autres réalisations notables à NeurIPS 2024, notamment la présence et le succès importants des chercheurs chinois. Un prix du meilleur article a été décerné à Keyu Tian, étudiante en master à l'Université de Pékin, pour ses travaux révolutionnaires sur la modélisation autorégressive visuelle pour la génération d'images évolutives. Un prix du deuxième meilleur article a récompensé les efforts d'une équipe, comprenant des chercheurs chinois de Microsoft Research Asia, qui ont introduit Rho-1, un nouveau modèle linguistique qui se concentre sélectivement sur les jetons les plus importants, améliorant ainsi l'efficacité et les performances des données. Ces réalisations ont mis en évidence les immenses contributions des chercheurs chinois à la communauté mondiale de l'IA, même si la controverse faisait rage.

Points clés

1. Mention controversée dans une conférence principale : La conférence principale de Rosalind Picard à NeurIPS 2024 comportait une référence à la conduite contraire à l'éthique d'un étudiant chinois, suscitant des accusations d'insensitivité raciale et occultant son message initial sur l'optimisation de l'IA pour le bien commun.

2. Réaction négative de la communauté : Des chercheurs chinois et d'autres participants internationaux ont protesté contre la généralisation raciale perçue, critiquant à la fois les remarques de Picard et la réponse ultérieure de NeurIPS comme étant insuffisamment fortes.

3. La réponse de NeurIPS examinée : Les organisateurs de la conférence ont publié une déclaration sur LinkedIn réaffirmant leur position sur la diversité et l'inclusion. Cependant, beaucoup ont estimé que cette déclaration ne tenait pas suffisamment compte des dommages causés par la référence de la conférence principale.

4. Contradiction avec la réputation : Les remarques de Picard ont été particulièrement choquantes, étant donné son statut de pionnière de l'informatique affective et son rôle de mentor qui est censé respecter les normes les plus élevées de conduite professionnelle et d'inclusion.

5. Impact des chercheurs chinois : Malgré la controverse, les chercheurs chinois ont continué à faire des progrès significatifs, recevant les plus hautes distinctions à NeurIPS 2024 et illustrant leurs contributions essentielles aux avancées de l'IA.

Analyse approfondie

Cette controverse met en lumière le délicat équilibre entre la reconnaissance des méfaits et le risque de renforcer les stéréotypes au sein de la communauté mondiale de l'IA. L'intention initiale de Rosalind Picard, qui consistait à mettre en évidence les dilemmes moraux dans la recherche, a été éclipsée par la mention explicite de l'ethnicité. Même avec des mises en garde, le fait de présenter l'acte contraire à l'éthique par rapport à l'origine chinoise de l'étudiant a été largement considéré comme un détail inutile qui risquait de peindre toute une communauté avec un large pinceau négatif.

Dans un domaine aussi international et collaboratif que l'IA, les conférences comme NeurIPS sont censées servir de modèle pour les meilleures pratiques en matière de sensibilité culturelle et de représentation équitable. Les chercheurs de Chine et d'autres pays sont non seulement essentiels à l'écosystème mondial de l'IA, mais leurs travaux sont souvent à l'avant-garde de l'innovation. En soulignant une nationalité dans un contexte négatif, les conférenciers risquent de saper le principe fondamental selon lequel le talent, l'honnêteté et l'intégrité morale ne sont pas limités par les frontières géographiques ou les identités culturelles.

La réponse tiède de NeurIPS, bien intentionnée, peut refléter les défis auxquels sont confrontées les grandes conférences lorsqu'elles traitent des incidents en temps réel. Trouver un équilibre entre la liberté d'expression, la recherche universitaire et la responsabilité morale est délicat, et une action rapide et décisive est exigée par une communauté qui refuse d'accepter des assurances vagues ou superficielles. La controverse incite les organisateurs de conférences, les institutions universitaires et les voix dirigeantes dans le domaine de l'IA à évaluer rigoureusement leur langage, leurs enseignements et leurs politiques. Cela permettra de garantir que tous les chercheurs, quelle que soit leur nationalité, se sentent respectés, valorisés et représentés équitablement.

Parallèlement, l'incident met en lumière le rôle notable que jouent les chercheurs chinois dans la progression de l'IA. Les prix du meilleur article et du deuxième meilleur article décernés à NeurIPS 2024 à des projets impliquant des étudiants et des chercheurs chinois illustrent le caractère mondial de l'innovation en IA. Ces réalisations contrastent fortement avec l'impression négative créée lors de la conférence principale, réaffirmant que l'excellence et l'intégrité transcendent les étiquettes culturelles.

Le saviez-vous ?

• Fondements de l'informatique affective : Rosalind Picard est surtout connue pour avoir été une pionnière de l'informatique affective au MIT Media Lab, un domaine dédié à permettre aux machines de comprendre et de répondre aux émotions humaines, ce qui est crucial pour des systèmes d'IA plus empathiques et conviviaux.

• Historique de l'inclusion de NeurIPS : La conférence NeurIPS, l'un des événements mondiaux les plus prestigieux dans le domaine de l'IA, a toujours défendu la diversité. Sa large participation comprend une présence significative de chercheurs de Chine, des États-Unis, d'Europe et d'autres régions du monde.

• Influence croissante des chercheurs chinois : Bien que des données complètes pour 2024 ne soient pas fournies, les chercheurs chinois ont constamment contribué à la croissance de l'IA. Leur présence dans les principales conférences, où ils obtiennent fréquemment les plus hautes distinctions, témoigne de leur impact et du caractère collaboratif de la recherche en IA.

• Articles primés innovants : À NeurIPS 2024, les recherches de chercheurs chinois ont fait des percées, telles que la « modélisation autorégressive visuelle » pour une génération d'images plus rapide, et « Tous les jetons ne sont pas ce dont vous avez besoin pour le pré-entraînement » présentant Rho-1, un modèle linguistique sélectif conçu pour des performances et une efficacité améliorées.

• Débats moraux en IA : La controverse à NeurIPS 2024 s'ajoute à la conversation mondiale en cours sur l'éthique, la responsabilité et l'équité en IA. À mesure que la technologie progresse, la communauté se concentre de plus en plus sur la garantie que les innovations sont guidées par des valeurs morales partagées, une communication transparente et une sensibilité culturelle.