〉〉〉

Chapitre II

LES CRÉATEURS D'HYPERTRUCAGES

LES NOUVEAUX ILLUSIONNISTES

LES PREMIERS CRÉATEURS DE DEEPFAKES

Comme toute forme nouvelle d’expression, quelques pionniers se sont emparés des méthodes de deep learning et des GANs pour donner libre cours à leur créativité.

Il ne s’agit pas ici de dresser une liste exhaustive des créateurs de deepfakes. Ce chapitre se penche sur les plus intéressants d’entre eux, ceux qui développent un œil, un style et une habileté particulière à manipuler les pixels. Pas de panique donc, il s’agit d’un contenu SFW.

Bill Posters & Daniel Howe

Le duo du Britannique Barnaby Francis (connu sous le pseudonyme de Bill Posters) 1billposters.ch et de l’américain Daniel C. Howe 2rednoise.org/daniel s’est fait connaitre avec le projet Spectre récompensé par le Sheffield Doc/Fest 3« Alternate Realities Artist Commission Winner » Sheffield Doc/Fest, 2019. Une installation artistique mettant en scène 6 deepfakes de Marcel Duchamp, Marina Abramović, Mark Zuckerberg, Kim Kardashian, Morgan Freeman et Freddie Mercury avec lesquels ils interrogent les formes de propagande numérique et ce qu’ils qualifient d’« industrie de l’influence digitale étendue ».

À la fois commentaire politique et objet de test 4la vidéo a été diffusée sur Instagram et Facebook pour tester les mesures de détection mise en place par les deux plateformes suite à des plaintes répétées la vidéo de Mark Zuckerberg a rapidement provoqué de nombreux commentaires en ligne de la part des internautes comme de nombreux papiers de la part des médias. Une réponse officielle de Facebook a même été diffusée pour justifier leur position sur la publication de vidéos manipulées sur Facebook et Instagram 5« A Fake Zuckerberg Video Challenges Facebook’s Rules » par Cade Metz, The New York Times, 11 avril 2019.

Ctrl-Shift-Face

Personne ne sait réellement qui se cache derrière ce pseudonyme, mais l’individu se présente comme un professionnel de l’image de synthèse, fan de cinéma d’une trentaine d’années originaire de Slovaquie (mais n’y vivant plus) 6« Stallone in Terminator 2? How one deepfake prankster is changing cinema history” par Luke Dormehl, 14 juillet 2019. Son travail repose principalement sur le faceswaping, c’est-à-dire le remplacement du visage d’un acteur par un autre, et porte essentiellement sur des séquences de cinéma iconiques.

La qualité de ses productions force l’admiration tant le choix des séquences utilisées, le choix des sources et leur qualité technique donnent un résultat proche de la perfection. Sa chaine YouTube 7Ctrl-Shift-Face sur YouTube compte 399 000 abonnés et ses vidéos comptent ces centaines de milliers de vues. Ctrl-Shift-Face dispose aussi d’un compte Reddit où il échange régulièrement avec ses fans, souvent des artistes et des techniciens comme lui 8Ctrl-Shift-Face sur Reddit. Depuis peu, Paperspace, un service de cloud computing sponsorise ses vidéos (au 21.04.20).

ShamOOk

Sham00k est le deepfake artist derrière les formidables vidéos de l’imitateur américain Jim Meskimen qui ont fait surface fin 2019. Dans une interview d’octobre 2019 9« 106 Deepfakes (with Sham00k) » 2 Girls 1 Podcast, l’informaticien anglais explique qu’il a approché Meskimen pour réaliser ces vidéos d’imitations. Depuis il travaille main dans la main avec l’acteur, a quitté son travail, reçu un certain nombre d’investissements et se lance désormais dans une carrière à plein temps de créateurs de deepfakes qu’il considère être la prochaine évolution des effets spéciaux.

Chris Ume

Créateur d’effets spéciaux basé en Belgique, Chris Ume s’est rapidement fait un nom en produisant parmi les deepfakes les plus réussis. Spécialistes d’effets visuels, sa chaine compte un demi million de vues et son compte instagram explose à près de 15000 followers. Sa dernière réalisation mettant en scène la Mona Lisa est particulièrement réussie.

Derpfakes


Créateur prolixe, Derpfakes 10la chaine YouTube de Derpfake, un anglais de 28 ans prénommé James qui a fait sa réputation en créant tout un tas de vidéos avec Nicolas Cage. Comme d’autres, James réalise ces vidéos pour amuser ses près de 30 000 abonnés.

The Fakening

La banque mène à tout, en tous cas, pour The Fakening 11la chaine YouTube de TheFakening c’est le cas. Professionnellement, Paul Shales travaille au service marketing d’une banque à Toronto, mais le weekend, c’est sous son pseudonyme qu’il publie les deepfakes qu’il réalise. Délibérément dans la satire, l’humour et la manipulation évidente des situations, Shales manipule les visages pour amuser. Son audience totalise près de 100 000 abonnés sur YouTube et Instagram combiné. Depuis quelque temps, il reçoit quelques commandes et a notamment travaillé avec le show télévisé de Samantha Bee « Full Frontal with Samantha Bee ». Il a dernièrement réalisé les deepfakes du vidéo-clip “Bad Selections” des Strokes, un travail qui lui a pris près d’un mois 12« When Diplo and The Strokes need a deepfake, they slump to this guy » par Informassive, 4 mars 2020.

Corridor Crew

L’équipe de Corridor Crew 13 le site de « The corridor crew » a produit quelques deepfakes remarquables, dont celui-ci, avec Keanu Reeves. L’effet est saisissant. Pour cause, ces experts des effets spéciaux travaillent quotidiennement sur des projets de ce type. Leur chaine est un concentré de ressources et d’infos sur l’univers des CGI (computer generated imagery).

Et encore…

Bien entendu cette liste — qui je le répète n’est pas exhaustive — risque de s’agrandir à mesure que les progrès d’algorithmes comme Deepface ou First Motion Order se développeront. Dans cette section, ce sont donc les initiatives uniques qui seront listées. Par leur excellente réalisation et leur apport au genre, ces vidéos marquent en soit une étape dans la compréhension du phénomène deepfake. En voici donc quelques-unes.

Buzzfeed Video

La vidéo de Buzzfeed a marqué au moment de sa sortie un point d’inflexion dans l’opinion publique. Jordan Peele, acteur américain familier des imitations de Barack Obama, dénonce dans cette vidéo qui a été vue près de 7,5 millions de fois les risques de manipulation qui peuvent survenir dans le futur. Largement relayée sur les réseaux, par les sites d’information et même la télévision, ce qui devient un plaidoyer anti-deepfakes a profondément perturbé le public et initié une discussion élargie aux décideurs américains.

In Event of Moon Disaster

L’histoire c’est l’ensemble des choses qui se sont passées. Cette vidéo de « In event of Moon disaster » montre un morceau d’histoire qui lui, ne s’est jamais déroulé. Le discours écrit, mais jamais enregistré du président Nixon est une ode aux astronautes d’Apollo 11 dans le cas où il leur serait arrivé quelque chose pendant le vol. La vidéo hypertruquée fait référence tant par sa qualité que par son propos.

Nul doute que le nombre de ces pionniers bidouilleurs va encore augmenter dans les mois à venir. Tant que la technologie reste disponible gratuitement sur Github, rien n’empêche le premier venu disposant d’un ordinateur armé d’une bonne carte graphique de fabriquer ses propres deepfakes. Qu’ils soient vidéos ou audio, les hypertrucages vont donc progresser en nombre et en qualité, se démocratiser et envahir notre espace numérique. On peut d’ores et déjà distinguer différentes familles de créateurs de deepfakes.

Les Chercheurs

Ce sont eux qui pensent les algorithmes, qui les fabriquent. Leurs deepfakes montrent le plein potentiel des modèles qu’ils inventent. Impossible de se tromper sur la nature scientifique des productions qui sont souvent annotées et limitées aux frontières des laboratoires.

Les Avant-gardistes

Primo-adoptants, pionniers parmi pionniers qui ouvrent la voie, les avant-gardistes se sont emparés du phénomène avant tous les autres. Souvent réfugiés derrière un pseudonyme, un avatar, les avant-gardistes produisent essentiellement des parodies, des œuvres uchroniques recréant les scènes marquantes du cinéma américain en mixant les acteurs, les situations, sans pour le moment tenter de donner un sens narratif à leurs créations. C’est avant tout la parodie, le fun, l’humour qui ressort des vidéos de ces jeunes informaticiens créatifs anglo-saxons. Au fil des publications, ils jouent avec les codes de la culture pop en créant des objets facilement partageables, compréhensibles par tous, dans le direct esprit de l’esprit « Remix » popularisé par Kirby Ferguson en 2010 14« Everything is a Remix » Kirby Fergusson, 2010.

Les Activistes

Ils sont encore peu, mais ils ont compris la puissance politique (au sens large) des deepfakes. Même dans le cadre d’un exercice de fiction identifié et revendiqué, faire promettre à chef de gouvernement des choses pour lequel il ne s’engage pas peut avoir un fort effet sur le personnel politique concerné et/ou tromper gravement le public. ONG et partis politiques se sont déjà adonnés à un tel exercice 15 lire « Extinction Rebellion s’empare des deepfakes«  et continueront sans hésiter si la recette est bonne (et elle semble être bonne). L’effet de ces deepfakes politiques dans la vie démocratique pourrait être problématique. Par exemple, elle permettrait à des personnes incriminées par des documents vidéos parfaitement authentiques d’invoquer l’excuse du deepfake et de semer le doute sur la véracité du document. Elle pourrait permettre également de détruire rapidement la crédibilité d’adversaires politiques, de colporter de fausses déclarations. C’est donc la fin de la preuve par l’image, la fin de la confiance collective, l’heure du scepticisme permanent qui pourrait sonner si on élargissait l’usage des deepfakes dans la sphère de l’activisme ou du discours politique.

Les Perverts

Sexe, argent, revanche, voilà les moteurs profonds qui animent cette branche de la famille des créateurs de deepfakes. Que ce soit pour en tirer un petit revenu ou pour laisser libre cours à leur agressif penchant narcissique, les Perverts utilisent les deepfakes principalement pour réaliser des vidéos pornos, des deep-porns, utilisant le visage d’actrices, de chanteuses ou de femmes moins connues. La violence faite aux femmes à travers la production de ces vidéos coupe le souffle et révèle une fois de plus la misogynie qui règne à certains endroits de la société. Le harcèlement qui résulte directement ou indirectement de ce type de vidéos produit des dégâts considérables sur les vies des victimes, y compris lorsqu’elles sont connues.

Les Faussaires

Les enjeux de sécurité concernant les deepfakes sont extrêmement importants. Par exemple, la période de confinement imposée par le COVID-19 force un usage amplifié des outils de communication numériques et peut potentiellement constituer une opportunité pour certains faussaires. Des cas d’espionnages et d’escroquerie – antécédents à la crise – ont d’ailleurs déjà été rapportés 16 Pour en savoir plus, lire « Cybersécurité et deepfakes, une menace sérieuse« .

 

Quels sont les dispositions à prendre pour assurer aux créateurs une liberté artistique complète et dans le même temps prévenir les effets négatifs de la démocratisation d’un outil de tromperie particulièrement efficace ? C’est ce que nous allons voir dans le troisième chapitre.

Notes :   [ + ]

1. billposters.ch
2. rednoise.org/daniel
3. « Alternate Realities Artist Commission Winner » Sheffield Doc/Fest, 2019
4. la vidéo a été diffusée sur Instagram et Facebook pour tester les mesures de détection mise en place par les deux plateformes suite à des plaintes répétées
5. « A Fake Zuckerberg Video Challenges Facebook’s Rules » par Cade Metz, The New York Times, 11 avril 2019
6. « Stallone in Terminator 2? How one deepfake prankster is changing cinema history” par Luke Dormehl, 14 juillet 2019
7. Ctrl-Shift-Face sur YouTube
8. Ctrl-Shift-Face sur Reddit
9. « 106 Deepfakes (with Sham00k) » 2 Girls 1 Podcast
10. la chaine YouTube de Derpfake
11. la chaine YouTube de TheFakening
12. « When Diplo and The Strokes need a deepfake, they slump to this guy » par Informassive, 4 mars 2020
13. le site de « The corridor crew »
14. « Everything is a Remix » Kirby Fergusson, 2010
15. lire « Extinction Rebellion s’empare des deepfakes« 
16. Pour en savoir plus, lire « Cybersécurité et deepfakes, une menace sérieuse«