Les créateurs de deepfakes s’organisent

Signe que les choses deviennent sérieuses, les créateurs de deepfakes s’organisent. Fin octobre 2021 se tenait la première conférence en ligne du groupement Synthetic Futures ¹ lancé à la rentrée de septembre 2021, le site est hébergé sous l’adresse syntheticfutures.org créé par Chris Umé et Henry Ajder entre autres. L’un a réalisé le deepfake @DeepTomCruise ² Chris Umé : le deepfake @deeptomcruise doit alerter le public, journalism.design, 5 mars 2021l’autre, après avoir travaillé pour Sensity.ai et rédigé un rapport sur les médias synthétiques, travaille désormais pour Metaphysic.ai qu’a justement créé Chris Umé… un petit monde.

▾

Tout avance très vite dans cet univers synthétique en formation. À peine quatre ans après leur apparition, les deepfakes deviennent un objet de concorde professionnelle. Des startups ont surfé sur la vague des médias synthétiques pour ensuite disparaitre, d’autres ont déjà changé de nom et légèrement pivoté ³ en langage d’entrepreneur, « pivoter » veut dire changer de pied, c’est dire revoir son modèle d’affaires. Le pivot peut s’effectuer après un échec commercial ou après une découverte interne à l’entreprise, mais mène toujours à un nouveau type de prestation pour trouver de nouveaux débouchés commerciaux. La petite histoire qui se construit autour des médias synthétiques s’appuie — comme toutes les histoires autour des nouvelles technologies — sur le succès de créateurs capables d’organiser l’engouement autour d’un sujet et de l’imposer dans les médias grand public pour le faire connaitre largement.

Depuis 2017, la communauté des créateurs de médias synthétiques s’est développée et a vu quelques « stars » apparaitre ⁴ pour ne citer qu’eux, Ctrl-Shift-Face, Sham00k et Chris Umé en font partie , des techniques se consolider, des discussions s’organiser sur les questions de l’éthique, des pratiques et de la régulation. Il ne restait donc plus qu’à regrouper tout ce petit monde au sein d’une organisation — même informelle — pour permettre à tous d’engager le dialogue. Synthetic Future ⁵ dont je suis membre à titre d’observateur réunit donc autour d’un groupe Discord, près de 225 membres ⁶ Information au 8 novembre 2021 venant principalement du monde de la Tech numérique, mais aussi des universitaires et des journalistes.

Chris Umé, co-fondateur du studio Metaphysics, a lancé avec l’aide d’Henry Ajder entre autres le groupe Synthetic Future.

Individus, organisations et entreprises partageant le même enthousiasme pour les médias synthétiques se retrouvent donc autour d’une même cause : redorer le blason des deepfakes, largement terni par près de 4 ans de couverture presse défavorable. En insistant sur le potentiel « positif » de ces créations tout en défendant une approche déontologique de ce type de création, le groupe espère mettre en place les conditions nécessaires pour que l’activité se développe. Un effort qui plait aux investisseurs puisque Metaphysics a récemment levé près de 7,5 millions d’euros ⁷The startup behind the viral Tom Cruise deepfake just raised $7.5 million. Here’s the 15-slide pitch deck Metaphysic used to attract investment from the Winklevoss twins, CodeList, 27 janvier 2022 après que Synthesia a levé près de 50 millions d’euros ⁸ Synthesia raises $50M to leverage synthetic avatars for corporate training and more, TechCrunch, Jordan Crook, 8 décembre 2021 .

La conférence en ligne qui a eu lieu fin octobre 2021 servait donc de grand lancement à ce mouvement d’éducation positive et de réflexion éthique sur les hypertrucages. Comme je le disais, l’éthique tient une place centrale dans le discours et les actions qu’entend mener le groupe. Une leçon certainement apprise de l’observation d’autres entités du numérique moins prompts à embrasser ces questions ⁹ Cf Google qui licencie Timnit Gebru, chercheuse spécialisée dans l’éthique de l’intelligence artificielle. Cf Facebook qui fournit des données incomplètes aux chercheurs étudiant les interactions utilisateurs sur la plateforme .

Ainsi, tout au long d’un livestream qui aura duré plus de 7 h, les spectateurs ont pu approfondir des sujets aussi variés que la montée en puissance des apps de création de médias synthétiques, les questions de copyright appliquées aux médias synthétiques, la fabrication du métavers ou encore le rôle de la satire dans les actions militantes contre les responsables politiques ¹⁰ les replays sont visibles sur le site ici sur le site de Synthetic Future . Parmi eux, je retiendrai la question posée au sujet de l’éthique et de la régulation à l’occasion du panel « How to Copy Right: Synthetic media, creativity and the Law » ¹¹ « How to Copy Right: Synthetic media, creativity and the Law », Synthetic Futures, septembre 2021 et celle au sujet de l’enjeu de classification des deepfakes — entre satire, activisme et commentaire politique à l’occasion de la discussion « Just Joking? Deepfake, satire and the politics of synthetic media » ¹²« Just Joking? Deepfake, satire and the politics of synthetic media”, Synthetic Futures, septembre 2021.

Une question de point de vue

Le point de vue résolument anglo-américain a marqué la totalité des débats bien évidemment. Doute vis-à-vis des pouvoirs publics et de leur capacité à réguler le secteur sans en entraver la bonne marche. Appels à légiférer pour protéger le droit des personnes, mais surtout permettre le bon épanouissement du marché. Promotion des initiatives privées, à travers notamment le développement du standard C2PA permettant de tracer la provenance de certains types de médias. Au cours des discussions, nulle question de remettre en cause la pertinence des médias synthétiques dans l’écosystème numérique. Finalement, on s’intéresse peu aux effets qu’ils produisent. Les femmes victimes de deep-porns apparaissent seulement quelquefois dans la discussion. Un des rares rapports sur le sujet ¹³ celui de Deeptrace, devenu Sensity, dont Henry Adjer est l’auteur annonce pourtant des chiffres accablants : près de 95 % des deepfakes seraient des deep-porns. Cela ne suffit pas aux conférencières et aux conférenciers pour examiner les conditions d’accès aux codes sources des logiciels de production ou à certaines recherches, ni d’évaluer les externalités négatives des médias synthétiques sur tous les secteurs d’activité concernés.

.@sensityai, a research company that has tracked online deepfake videos since December of 2018, has consistently found that between 90% and 95% of them are nonconsensual porn. https://t.co/KPXu8SybOf

—MIT Technology Review (@techreview) February 12, 2021

Reste pour le moment, à voir les projets et les idées que cette nouvelle organisation va porter dans les mois à venir. S’il s’agit d’un catalyseur d’affaires pour les membres qui la compose ou d’un détecteur de startups pour les investisseurs qui gravitent autour, le groupe risque vite de péricliter ou de se transformer en un succédané de Linkedin. Si une véritable production de pensée collective, inclusive et responsable est menée autour de l’éthique des médias synthétiques et des questions fondamentales que soulèvent leur création et leur usage, alors Synthetic Futures sera sur la bonne voie pour remplir sa mission. L’animation d’un groupe de ce type est sans aucun doute un véritable défi, et pour le moment le Discord semble relativement vide de toute activité significative.