Révélé : Comment le 'greenwashing' de l'IA générative affaiblit la confiance dans le cadre de l'UE AI Act
En 2024, le paysage de l'IA générative fait l'objet d'un examen approfondi en raison du phénomène connu sous le nom de 'greenwashing'. Ce terme désigne la pratique consistant à revendiquer des modèles d'IA comme open source afin de bénéficier de la transparence et de l'innovation associées, sans véritablement adhérer aux principes fondamentaux du mouvement open source. Cette pratique a gagné en popularité, car de grandes entreprises, telles que Meta, ont publié leurs modèles d'IA, tels que Llama 2 et Llama 3, sous la couverture de l'open source. Le règlement AI de l'UE, qui vise à réglementer l'IA de manière exhaustive et à encourager l'innovation open source, a inopinément créé des incitations à ce comportement en offrant des exemptions réglementaires aux modèles étiquetés open source.
Le document de Andreas Liesenfeld et Mark Dingemanse, présenté à la conférence FAccT '24 à Rio de Janeiro, au Brésil, examine les subtilités de ce problème. Ils mettent en évidence comment les dispositions actuelles de l'AI Act de l'UE permettent aux modèles publiés sous des licences open source de se soustraire à la divulgation détaillée des données d'entraînement et des méthodes de réglage fin. Cette faille législative a été exploitée par les entreprises pour commercialiser leurs produits AI en tant que open source tout en retenant des informations critiques, évitant ainsi le examen scientifique et le contrôle réglementaire.
Points clés à retenir
- Greenwashing défini : Le greenwashing consiste à commercialiser les modèles d'IA des entreprises comme open source sans véritablement adhérer aux principes open source, principalement pour bénéficier d'une perception publique positive et d'exemptions réglementaires.
- Impact législatif : L'AI Act de l'UE offre des exemptions pour les modèles d'IA open source, ce qui a entraîné une augmentation des entreprises qui falsifient de manière incorrecte la marque de leurs modèles open source pour éviter les exigences réglementaires strictes.
- Conséquences pour l'innovation : Cette pratique freine l'innovation réelle en détournant des ressources et une attention précieuses des projets open source authentiques et en sapant la confiance dans les déclarations open source.
- Appel à une ouverture complète : Les auteurs soutiennent une compréhension plus nuancée et multiforme de l'ouverture qui va au-delà de la simple licence pour inclure la transparence des données d'entraînement, la documentation technique et l'architecture système globale.
Analyse approfondie
Le concept de greenwashing est une manœuvre stratégique des entreprises pour s'aligner sur les attributs positifs du mouvement open source sans la transparence et la contribution communautaire associées. Cela est particulièrement évident dans la manière dont les entreprises publient leurs modèles d'IA. En rendant les poids du modèle disponibles sous des licences open source mais en retenant d'autres éléments cruciaux comme les données d'entraînement et les processus de réglage fin, ces entreprises créent une illusion d'ouverture.
Les recherches de Liesenfeld et Dingemanse soulignent que l'ouverture authentique dans l'IA doit être multidimensionnelle. Elle devrait inclure non seulement la disponibilité des poids du modèle, mais aussi l'accessibilité des jeux de données d'entraînement, la transparence dans le processus de développement et la documentation complète. La tendance actuelle de l'ouverture sélective compromet ces principes, conduisant à ce que les auteurs appellent