Les créateurs de deepfakes s'organisent

Les créateurs de deepfakes s’organisent

Temps de lecture: 4 min

Signe que les choses deviennent sérieuses, les créateurs de deepfakes s’organisent. Fin octobre 2021 se tenait la première conférence en ligne du groupement Synthetic Futures 1 lancé à la rentrée de septembre 2021, le site est hébergé sous l’adresse syntheticfutures.org créé par Chris Umé et Henry Ajder entre autres. L’un a réalisé le deepfake @DeepTomCruise 2 Chris Umé : le deepfake @deeptomcruise doit alerter le public, journalism.design, 5 mars 2021l’autre, après avoir travaillé pour Sensity.ai et rédigé un rapport sur les médias synthétiques, travaille désormais pour Metaphysic.ai qu’a justement créé Chris Umé… un petit monde.

Tout avance très vite dans cet univers synthétique en formation. À peine quatre ans après leur apparition, les deepfakes deviennent un objet de concorde professionnelle. Des startups ont surfé sur la vague des médias synthétiques pour ensuite disparaitre, d’autres ont déjà changé de nom et légèrement pivoté 3 en langage d’entrepreneur, « pivoter » veut dire changer de pied, c’est dire revoir son modèle d’affaires. Le pivot peut s’effectuer après un échec commercial ou après une découverte interne à l’entreprise, mais mène toujours à un nouveau type de prestation pour trouver de nouveaux débouchés commerciaux. La petite histoire qui se construit autour des médias synthétiques s’appuie — comme toutes les histoires autour des nouvelles technologies — sur le succès de créateurs capables d’organiser l’engouement autour d’un sujet et de l’imposer dans les médias grand public pour le faire connaitre largement.

Depuis 2017, la communauté des créateurs de médias synthétiques s’est développée et a vu quelques « stars » apparaitre 4 pour ne citer qu’eux, Ctrl-Shift-Face, Sham00k et Chris Umé en font partie , des techniques se consolider, des discussions s’organiser sur les questions de l’éthique, des pratiques et de la régulation. Il ne restait donc plus qu’à regrouper tout ce petit monde au sein d’une organisation — même informelle — pour permettre à tous d’engager le dialogue. Synthetic Future 5 dont je suis membre à titre d’observateur réunit donc autour d’un groupe Discord, près de 225 membres 6 Information au 8 novembre 2021 venant principalement du monde de la Tech numérique, mais aussi des universitaires et des journalistes.

Chris Umé, co-fondateur du studio Metaphysics, a lancé avec l’aide d’Henry Ajder entre autres le groupe Synthetic Future.

Individus, organisations et entreprises partageant le même enthousiasme pour les médias synthétiques se retrouvent donc autour d’une même cause : redorer le blason des deepfakes, largement terni par près de 4 ans de couverture presse défavorable. En insistant sur le potentiel « positif » de ces créations tout en défendant une approche déontologique de ce type de création, le groupe espère mettre en place les conditions nécessaires pour que l’activité se développe. Un effort qui plait aux investisseurs puisque Metaphysics a récemment levé près de 7,5 millions d’euros 7The startup behind the viral Tom Cruise deepfake just raised $7.5 million. Here’s the 15-slide pitch deck Metaphysic used to attract investment from the Winklevoss twins, CodeList, 27 janvier 2022 après que Synthesia a levé près de 50 millions d’euros 8 Synthesia raises $50M to leverage synthetic avatars for corporate training and more, TechCrunch, Jordan Crook, 8 décembre 2021 .

La conférence en ligne qui a eu lieu fin octobre 2021 servait donc de grand lancement à ce mouvement d’éducation positive et de réflexion éthique sur les hypertrucages. Comme je le disais, l’éthique tient une place centrale dans le discours et les actions qu’entend mener le groupe. Une leçon certainement apprise de l’observation d’autres entités du numérique moins prompts à embrasser ces questions 9 Cf Google qui licencie Timnit Gebru, chercheuse spécialisée dans l’éthique de l’intelligence artificielle. Cf Facebook qui fournit des données incomplètes aux chercheurs étudiant les interactions utilisateurs sur la plateforme .

Ainsi, tout au long d’un livestream qui aura duré plus de 7 h, les spectateurs ont pu approfondir des sujets aussi variés que la montée en puissance des apps de création de médias synthétiques, les questions de copyright appliquées aux médias synthétiques, la fabrication du métavers ou encore le rôle de la satire dans les actions militantes contre les responsables politiques 10 les replays sont visibles sur le site ici sur le site de Synthetic Future . Parmi eux, je retiendrai la question posée au sujet de l’éthique et de la régulation à l’occasion du panel « How to Copy Right: Synthetic media, creativity and the Law » 11 « How to Copy Right: Synthetic media, creativity and the Law », Synthetic Futures, septembre 2021 et celle au sujet de l’enjeu de classification des deepfakes — entre satire, activisme et commentaire politique à l’occasion de la discussion « Just Joking? Deepfake, satire and the politics of synthetic media » 12« Just Joking? Deepfake, satire and the politics of synthetic media”, Synthetic Futures, septembre 2021.

Une question de point de vue

Le point de vue résolument anglo-américain a marqué la totalité des débats bien évidemment. Doute vis-à-vis des pouvoirs publics et de leur capacité à réguler le secteur sans en entraver la bonne marche. Appels à légiférer pour protéger le droit des personnes, mais surtout permettre le bon épanouissement du marché. Promotion des initiatives privées, à travers notamment le développement du standard C2PA permettant de tracer la provenance de certains types de médias. Au cours des discussions, nulle question de remettre en cause la pertinence des médias synthétiques dans l’écosystème numérique. Finalement, on s’intéresse peu aux effets qu’ils produisent. Les femmes victimes de deep-porns apparaissent seulement quelquefois dans la discussion. Un des rares rapports sur le sujet 13 celui de Deeptrace, devenu Sensity, dont Henry Adjer est l’auteur annonce pourtant des chiffres accablants : près de 95 % des deepfakes seraient des deep-porns. Cela ne suffit pas aux conférencières et aux conférenciers pour examiner les conditions d’accès aux codes sources des logiciels de production ou à certaines recherches, ni d’évaluer les externalités négatives des médias synthétiques sur tous les secteurs d’activité concernés.

Reste pour le moment, à voir les projets et les idées que cette nouvelle organisation va porter dans les mois à venir. S’il s’agit d’un catalyseur d’affaires pour les membres qui la compose ou d’un détecteur de startups pour les investisseurs qui gravitent autour, le groupe risque vite de péricliter ou de se transformer en un succédané de Linkedin. Si une véritable production de pensée collective, inclusive et responsable est menée autour de l’éthique des médias synthétiques et des questions fondamentales que soulèvent leur création et leur usage, alors Synthetic Futures sera sur la bonne voie pour remplir sa mission. L’animation d’un groupe de ce type est sans aucun doute un véritable défi, et pour le moment le Discord semble relativement vide de toute activité significative.

Notes :

Notes :
1 lancé à la rentrée de septembre 2021, le site est hébergé sous l’adresse syntheticfutures.org
2 Chris Umé : le deepfake @deeptomcruise doit alerter le public, journalism.design, 5 mars 2021
3 en langage d’entrepreneur, « pivoter » veut dire changer de pied, c’est dire revoir son modèle d’affaires. Le pivot peut s’effectuer après un échec commercial ou après une découverte interne à l’entreprise, mais mène toujours à un nouveau type de prestation
4 pour ne citer qu’eux, Ctrl-Shift-Face, Sham00k et Chris Umé en font partie
5 dont je suis membre à titre d’observateur
6 Information au 8 novembre 2021
7The startup behind the viral Tom Cruise deepfake just raised $7.5 million. Here’s the 15-slide pitch deck Metaphysic used to attract investment from the Winklevoss twins, CodeList, 27 janvier 2022
8 Synthesia raises $50M to leverage synthetic avatars for corporate training and more, TechCrunch, Jordan Crook, 8 décembre 2021
9 Cf Google qui licencie Timnit Gebru, chercheuse spécialisée dans l’éthique de l’intelligence artificielle. Cf Facebook qui fournit des données incomplètes aux chercheurs étudiant les interactions utilisateurs sur la plateforme
10 les replays sont visibles sur le site ici sur le site de Synthetic Future
11 « How to Copy Right: Synthetic media, creativity and the Law », Synthetic Futures, septembre 2021
12« Just Joking? Deepfake, satire and the politics of synthetic media”, Synthetic Futures, septembre 2021
13 celui de Deeptrace, devenu Sensity, dont Henry Adjer est l’auteur
Author avatar
Gerald Holubowicz
http://geraldholubowi.cz
Ancien photojournaliste et web-documentariste primé, je travaille désormais comme chef de produit spécialisé en innovation éditoriale. J’ai notamment collaboré avec le journal Libération, les éditions Condé Nast, le pure player Spicee et le Groupe les Échos/le Parisien. À travers mon site journalism. design, j’écris sur le futur des médias et étudie l’impact des réalités synthétiques — notamment les deepfakes — sur la fabrique de l’information. Après 10 ans d’interventions régulières auprès des principales écoles de journalisme reconnues, j’interviens désormais à l’École de Journalisme et au Centre des Médias de Sciences Po à Paris.