Deepfakes racistes et NFT, combo sordide sur Opensea

Les NFTs ¹ les NFT pour Non Fongible Token sont des jetons chiffrés permettant d’acquérir un certificat de propriété d’un bien numérique gagnent en popularité et font l’objet de toutes les spéculations. Opensea, une plateforme dédiée à la vente de ces NFT, abrite un certain nombre d’entre eux dont les références racistes font froid dans le dos. 

▾

Le succès de Thispersondoesnotexist ² Un générateur aléatoire de visages synthétiques. Le générateur de visage d’IA est alimenté par StyleGAN, un réseau de neurones de Nvidia développé en 2018. s’est étendu à la sphère des NFT, et pour le coup, de la pire des manières. Début février 2022, un compte repéré sur twitter nommé @Slavesbaby ³ le compte est désormais suspendu a fait la promotion d’images synthétiques de jeunes enfants intitulés « Baby Meta Slaves » vendus pour une fraction d’éther ⁴ l’éther est une cryptomonnaie liée à l’ethereum, un protocole d’échange décentralisé au coeur de ce qu’on appelle le web 3 avec le bitcoin et la blockchain. L’auteur de ce compte a par ailleurs alimenté un autre compte nommé « Meta Slaves » listant 1865 NFTs ⁵ L’esclavage aux États-Unis a été aboli en 1865 de visages synthétiques de personnes noires, provoquant l’indignation et de nombreux signalements auprès de Twitter et d’Opensea.

Une capture d’écran du compte Twitter @Slavesbaby (désormais désactivé)

Le compte impliqué ⁶trouvable sur wayback machine , qui a rapidement changé de nom pour s’identifier sous le nom de « Meta Humans » ⁷@MetaHumanWorld, a présenté ses excuses ⁸ “We apologize to those who have been offended by our project, but we are here only with good intentions. indiquant qu’aucune mauvaise intention ne se cachait derrière le projet. Un tweet plus récent, datant du 11 février montre pourtant que l’auteur de ces NFTs se plaint de la censure appliquée au hashtag #whitepower sur Instagram – autre lieu de diffusion des portraits synthétiques du projet – par rapport au hashtag #blackpower, faisant l’impasse plus ou moins volontairement sur la nature raciste du mouvement des suprémacistes blancs derrière le mot clef en question ⁹ « Aux Etats-Unis, on assiste à une lame de fond massive du militantisme white power », le Monde, le 6 janvier 2022 .

D’autres NFT d’images synthétiques en relation avec le décès de Georges Floyd ont pu être repérées sur la plateforme de vente de NFTs Opensea ainsi que de nombreux NFTs présentant des thèmes néonazis comme le rapporte récemment Vice ¹⁰ OpenSea Sure Has a Lot of Hitler NFTs for Sale, Vice, le 6 octobre 2021 . 

Ce nouvel usage à visée raciste n’est pas en soi étonnant, une technologie peut toujours être dévoyée d’une façon ou d’une autre pour porter un message de haine ou heurter les sensibilités. Elle met cependant en lumière les difficultés qui s’annoncent pour les plateformes et les minorités fréquemment ciblées par des attaques racistes, antisémites, homophobes ou xénophobes.

Pour les plateformes hébergeant des NFTs, il s’agit de contrôler davantage les contenus téléversés sur leurs serveurs. Leur thématique et leur nature — notamment lorsqu’il s’agit de médias synthétiques — peuvent être à l’origine de casse-têtes moraux et légaux insurmontables. Les CGU d’Opensea indiquent par exemple que la plateforme pourra héberger du contenu « controversé », mais qu’une sorte de modération est en place pour éviter de publier des contenus « inappropriés ». Reste à définir ce que sont des contenus « controversé » et « inappropriés » pour Opensea. Ce flou délibérément entretenu autorise des décisions à l’emporte-pièce, inconsistantes basée sur des contextes médiatiques plutôt que sur des standards éditoriaux correctement établis.

Pour les minorités, il s’agit de pouvoir identifier les contenus directement dirigés contre leurs intérêts et d’être en capacité d’agir pour faire retirer les NFTs incriminés. Réfugiés derrière le paravent légal de la section 230 qui distingue le rôle de plateforme de celui d’éditeur de contenus ¹¹ Publisher or Platform? It Doesn’t Matter, EFF, le 8 décembre 2020, les hébergeurs de contenus offensants peuvent jouer la montre ou nier toute responsabilité légale, ralentissant enquêtes ou recours.

Malheureusement ce type de NFTs exploitant les pires aspects de la technologie combinés aux pires motivations humaines ne risque pas de disparaitre de si tôt, d’autant plus qu’ils évoluent dans un univers où le vol de propriété intellectuelle et la spéculation sont monnaie courante. Sans régulation universelle, ces écosystèmes continueront de se développer et de poser de nombreux défis.