Les journaux du monde entier ont relayé l’histoire. Le Premier ministre Néerlandais et d’autres représentants européens du Royaume Unis, de Lettonie, Lituanie et d’Estonie se seraient entretenus sur zoom avec un deepfake de Leonid Volkov. Le chef de cabinet d’Alexei Navalny principal opposant de Vladimir Poutine aujourd’hui en prison, aurait démenti avoir eu cette conversation tandis que d’autres contacts affirmaient avoir discuté avec un deepfake. Alors, Leonid Volkov a-t-il été victime d’un deepfake ?
▾
Passé les gros titres, le lecteur avisé décèlera rapidement la prudence des journalistes néerlandais qui couvrent cette affaire depuis quelques jours. Pour rappel, l’histoire se déroule entre mars et fin avril de cette année ou différents représentants de parlements européens (Lettonie, Lituanie, Estonie, Pays-Bas) affirment avoir eu une conversation avec un individu se faisant passer pour Leonid Volkov. La manipulation aurait été réalisée à l’aide d’un filtre Zoom, similaire à celui employé pour le filtre d’Elon Musk 1« DeepFake Elon Musk bombs a Zoom call » https://www.youtube.com/watch?v=JiJKXCkWH3w qui a tant fait parler de lui à sa sortie.
The problem here is that people claim to have seen a #deepfake. No hard evidence is provided and we cannot evaluate the threat by hearsay. Claims should be backed by evidence. Other alleged of deepfakes seem to suffer from a lack of convincing proof. https://t.co/qEh7gPmcwo
—Gerald Holubowicz (@gholubowicz) April 25, 2021
Pendant quelques jours, déclarations contradictoires et fausses preuves se sont étalées sur les réseaux sociaux. Volkov parlant lui-même d’une supercherie montée à l’aide d’un deepfake 2 la publication Facebook où Leonid Volkov suggère lui-même que son double pourrait s’inscrire dans l’ère des deepfakes https://t.co/RlInLtDAhm?amp=1. Mais la blague n’aura pas tenu longtemps et c’est avec les révélations publiées dans « The Verge » 3“Deepfake” that supposedly fooled European politicians was just a look-alike, say pranksters, The Verge, 30 avril 2021 que la supercherie prend fin. Vladimir Kuznetsov et Alexei Stolyarov (l’homme qui ressemble à Volkov) ont confessé avoir réalisé la supercherie avec du simple maquillage et un angle de caméra suffisamment bien choisi pour tromper les interlocuteurs de la conférence Zoom. La technique ressemble à celle des Yes Men 4 The Yes Men, Framer Framed, dans “Doe does the right thing” 2004 et repose sur une simple ressemblance avec la cible de la manipulation.
L’excuse du « deepfake »
L’affaire avait également fait grand bruit en 2019, le Wall Street Journal rapportait qu’une compagnie assurée par Euler Hermes avait été victime d’une extorsion de 243 000 $ par une personne utilisant un deepfake audio 5 « Thieves Used Audio Deepfake of a CEO to Steal $243,000 », Vice, 2019. Le nom de la compagnie n’avait pas été divulgué à l’époque et cette révélation avait relancé le débat sécuritaire autour de l’usage frauduleux des deepfakes.
« The liar dividend » ou l’excuse du menteur permet d’invoquer les deepfakes pour échapper à ses responsabilités.
Or, compte tenu de l’état de la technologie à l’époque pour créer des deepfakes audio, il y avait lieu de s’interroger sur la véracité des déclarations de la compagnie extorquée. À l’occasion d’une interview avec Nicolas Obin, maître de conférences à la Faculté des Sciences de Sorbonne Université et chercheur dans l’équipe Analyse et Synthèse des Sons à l’Ircam, dans le cadre de mes recherches, nous avions évoqué l’affaire. Il m’avait alors fait part de ses doutes quant à l’utilisation d’un deepfake audio et penchait davantage sur l’imposture téléphonique.
D’autres allégations à l’usage de deepfakes se sont avérées fausses. Le président Ali Bongo au Gabon 6« Les “deepfakes”, arme de désinformation massive », Jeune Afrique, 11 avril 2019, le musicien Ouïghour Abdurehim Heyit 7 Abdurehim Heyit Chinese video “disproves Uighur musician’s death,” BBC, 11 février 2019, le président algérien Abdelmadjid Tebboune 8 Le « vrai » Président Tebboune aurait fait « une apparition » surprenante !, le 7 TV, 13 décembre 2020, les allégations concernant l’usage de deepfakes à fins politiques s’intensifient.
Les deepfakes deviennent l’alibi parfait des manipulations, que ce soit pour minimiser la responsabilité des crédules, pour souligner la perfidie des opposants, soutenir les thèses de complot les plus folles ou plus prosaïquement appuyer la légitimité d’une action politique douteuse. Les deepfakes n’ont pas fini de jouer un rôle dans la communication politique. Objectif principal : brouiller les pistes, perturber la lecture des évènements, instiller le doute des deux côtés de l’argument, soutenir une stratégie de polarisation du débat à des fins politiciennes. ⚠️ 9 Sur ce point, lisez la précieuse étude de Kaylyn Jackson Schiff, Daniel Schiff et Natalia Bueno. Schiff, Kaylyn J, Daniel Schiff, and Natalia Bueno. 2021. “The Liar’s Dividend: The Impact of Deepfakes and Fake News on Trust in Political Discourse.” OSF. April 29. doi:10.17605/OSF.IO/QPXR8.
La caisse de résonance que constituent les médias en ligne amplifie par ailleurs les allégations et — le rythme de l’information aidant à faire oublier les articles correctifs — cristallise dans l’esprit du public une ligne narrative anxiogène autour des médias synthétiques et de leur rôle délétère sur la démocratie. Résultat, une image très imprécise et polarisée de la question des deepfakes et de leur usage imprègne la sphère publique jusqu’aux responsables politiques qui — en réaction — imaginent des solutions législatives approximatives ou inutiles 10 Olivia Grégoire a-t-elle raison de craindre que les deepfakes influencent les présidentielles en 2022 ? 16 avril 2021.
L’approche technocentrée des contre-mesures des deepfakes, soutenue par une sorte de solutionnisme technologique poussée par des acteurs tels que Facebook ou Microsoft, ne répond pas à cet immense défi qui exploite la « prime au menteur ». Il semble illusoire de chercher dans les dispositifs techniques, les détecteurs de deepfakes vendus ici ou là, une réponse transversale aux problématiques que soulèvent les médias synthétiques.
Le développement de l’éducation aux médias et particulièrement à l’impact de ces nouveaux types de contenus semble davantage porter ses fruits 11 Hwang Y, Ryu JY, Jeong SH. Effects of Disinformation Using Deepfake: The Protective Effect of Media Literacy Education. Cyberpsychol Behav Soc Netw. 2021 Mar; 24(3):188–193. doi: 10.1089/cyber.2020.0174. Epub 2021 Mar 1. PMID: 33646021. en donnant les outils intellectuels d’analyse et de contextualisation nécessaires aux citoyens pour correctement appréhender l’environnement numérique dans lequel ils évoluent.
L’encapacitation qui en résulte permet de libérer les individus d’un filtre technique principalement maitrisé par des entités privées et favorise l’émergence d’une conscience collective des enjeux liés aux médias synthétiques et à l’usage des techniques d’intelligence artificielle.
Notes :
