Contact rapide
[email protected]
Tel: +33.7.77.00.76.32
Mentions Légales
M.A.J: 01 mai 2023
Retour

SYNTH N°7 | Novembre 2022

💌 Bienvenue sur SYNTH, la newsletter d’info critique des médias synthétiques. Voilà un petit aperçu de ce que vous pouvez trouver une fois par mois sur SYNTH. Si le contenu vous intéresse, n’hésitez pas à vous abonner sur synth-media.fr.

EXPLOITATION

Vous l’aurez remarqué si d’aventure vous vous rendez sur journalism. design, le rythme des publications a considérablement chuté. Pas par manque d’envie, mais par manque de temps, j’écris tous les jours, simplement pas pour le blog, mais pour un projet particulier. Un livre sur les deepfakes et les médias synthétiques. Dans le livre j’aborde notamment l’impact des deep-porns sur les femmes et l’influence du cadrage médiatique qui tend à balayer le problème sous le tapis. On préfère parler fin de la démocratie, mésinformation, que des femmes victimes de harcèlement en ligne, de pornodivulgation (revenge porn) et de deepfakes. C’est un phénomène documenté, traité (même mal) dans la presse anglo-américaine, notamment par Samantha Cole, la découvreuse de u/deepfakes et de ces productions.

Dans le synopsis qui me sert à démarcher les éditeurs, ce passage est clairement explicité tant il me semble important. Aussi, quelle ne fut pas ma stupeur quand la réponse d’un de ces éditeurs — pourtant respecté dans le milieu — m’enjoignait à oublier ces considérations woke qui me détournait du sujet principal. En gros, il me fallait évacuer cette thématique féministe, sauf à vouloir me faire commander 1000 exemplaires du livre par Sandrine Rousseau, la députée Insoumise et féministe.

Cas isolé me dirait vous ? Peut-être, mais vous le verrez dans ce numéro 7 de SYNTH, les deep-porns provoquent encore des dégâts immenses dans la vie de dizaines de femmes. Leur souffrance n’est pas feinte et le terreau qui permet de faire émerger ce type de production est loin de perdre en fertilité. L’accès aux outils gratuits et leur facilité d’usage permettent désormais à quiconque de produire des contenus pornos, de les diffuser ou de les revendre sans être particulièrement inquiété. Dans un article documenté, Samantha Cole décrit en mai dernier comment certains créateurs de deepfakes présentés comme « éthiques » avaient en réalité des proximités avec Mr Deepfakes, le 1er site de deep-porns.

Malgré les discours focalisés sur la créativité et les opportunités immenses qu’offrent les médias synthétiques, la réalité demeure que des centaines de femmes ont été, continuent d’être et seront victimes des deep-porns dans l’indifférence presque générale. Pas un truc de woke, non, un phénomène à reconnaitre, à affronter, pour lequel il faut agir et se mobiliser, spécialement du côté des hommes.

Bonne lecture.


MAGHLA VICTIME DE DEEP-PORNS

La streameuse Maghla a retrouvé des dizaines de posts où de jeunes hommes partagent du matériel pornographique réalisé avec son image en toute illégalité.

La streameuse Maghla a retrouvé des dizaines de posts où de jeunes hommes partagent du matériel pornographique réalisé avec son image en toute illégalité.

Le 24 octobre dernier, la streameuse française Maglha se livre sur Twitter. « Je suis fatiguée et il est temps que je vous explique. Des années que je streame et j’ouvre ma gueule sur 10 % max du problème, parce qu’apparemment faut ignorer pour que ça passe. » S’en suis un thread d’une dizaine de tweet qui détaille, images à l’appui du torrent de violences immondes et d’insultes dont la jeune femme est victime quasi quotidiennement. Une situation qui dure puisque l’an dernier déjà, elle alertait sur les conditions difficiles dans lesquelles elle exerçait.

Bref, un petit enfer entretenu avec passion par des dizaines de jeunes hommes aux mœurs écœurants sur de discrets forums Discord, quelques subreddits obscurs et d’autres recoins sordides encombrés de sopalins usagés. Pourtant le travail de Maglha n’a rien d’obscène. Elle fait partie des joueurs streamers français les plus suivis de Twitch et tente de diversifier ses propositions éditoriales avec créativité.

Le cas de Maglha n’est malheureusement pas isolé et vous allez le voir plus loin, il touche d’autres femmes dans d’autres pays et sous d’autres latitudes. Il révèle en revanche plusieurs problèmes de fonds.

DU PORNO ILLÉGAL EN TOUTE IMPUNITÉ
Ce déchainement de violence en ligne, on le doit à une petite communauté de jeunes hommes dont la vision de la masculinité est à la fois problématique et particulièrement toxique.
Une communauté à la croisée des communautés « incels » — ces jeunes gars qui se voient en éternelles victimes de la vie, des femmes et de la société — et de certains hardcores gamers qui partagent sans recul les positions misogynes et parfois homophobes ou même racistes des premiers.

Sur Discord ou sur Reddit, ils se regroupent et s’entraident pour produire les contenus qui satisferont leurs fantasmes méchants. Reddit a bien tenté de déloger de leur Reddit ces communautés répugnantes, sans grand succès. Quant à Discord, certains forums échappent même à la connaissance des immédiates des victimes. Le harcèlement se construit, se nourrit depuis ces camps retranchés.

Dépourvues de moyens légaux véritablement efficaces pour lutter contre ces nids de guêpes numériques, les jeunes femmes ciblées n’ont d’autre choix que de continuer sous la pression sans cesse grandissante. Alors, que faire ? Déjà, démontrer une solidarité sans faille et dénoncer, investiguer et révéler comme le fait Samantha Cole (la journaliste qui a découvert u/deepfake et ses créations).

NOT YOUR (DEEP) PORN

Kate Isaacs est la fondatrice de #notyourporn une organisation britanique qui se bat contre le harcèlement sexuel en ligne et l'utilisation de la pornodivulgation (revenge porn).

Kate Isaacs est la fondatrice de #notyourporn une organisation britanique qui se bat contre le harcèlement sexuel en ligne et l’utilisation de la pornodivulgation (revenge porn).

Kate Isaacs est à l’avant-garde du combat contre la pornodivulgation, l’utilisation d’images pornographiques non consenties dans le cadre de harcèlements en ligne. Elle est la fondatrice d’une organisation #notyourporn qui se bat pour protéger les personnes vulnérables et en particulier les femmes victimes.
Ce fut donc le choc quand au détour d’un tweet, elle a découvert une vidéo porno la mettant en scène suivie de dizaines de commentaires plus graveleux les uns que les autres.

Issacs, victime d’un deep-porns, fait l’objet d’un documentaire produit par la BBC sur le sujet des deepfakes intitulé « Deepfakes porn : pouvez-vous être la suivante ? ». Elle décrit l’horreur de la découverte, le sentiment de honte, la panique, les effets dévastateurs sur elle et sa famille. Comme des dizaines d’autres femmes qui ont été victime de pornodivulgation, Issacs a été ciblée à cause de son engagement. Intimidation ou humiliation, les ressorts sont les mêmes qu’avec le revenge porn classique à cela près que les logiciels qui permettent la manipulation sont gratuits et proposent des résultats fous de réalisme.

Beaucoup de deep-porns proviennent du travail d’hommes qui fabriquent ces vidéos comme un hooby et les revendent sous le manteau sur des sites comme MrDeepfakes. Le site héberge un peu plus de 20 000 vidéos (autour de 25 000 selon mes estimations) et totalise près de 13 millions de vues par mois. Pas un big player de la catégorie, mais un trafic honnête pour un site sorti de nulle part sur un créneau de niche.

Le créateur du site, comme beaucoup d’autres créateurs qui fréquentent les forums, comme d’ailleurs u/deepfakes lui-même ne semble pas sensible au sort de ces femmes qui voient leur identité jetée en pâture sur les réseaux. Au mieux du cynisme, au pire, la méchanceté pure, c’est à peu près ce qui anime ces hommes à la masculinité toxique et aux passe-temps crasseux.

KIM JUNG GI S’ÉTEINT, UNE IA LE REMPLACE

Une création réalisée à l'aide de Stable Diffusion pour imiter le style de Kim Jung Gi

Une création réalisée à l’aide de Stable Diffusion pour imiter le style de Kim Jung Gi

Kim Jung Gi, dessinateur coréen de génie, s’est éteint à Paris début octobre des suites d’un accident cardiaque. L’artiste, adulé dans le monde entier pour son style unique de traits d’encre au pinceau, captivait les foules de fans lors d’évènements live où il dessinait des fresques géantes. Doté d’une mémoire visuelle unique au monde, Jung Gi était capable de dessiner à main levée n’importe quelle image tirée de son imagination infinie.

À peine quelques jours après sa disparition, l’artiste digital 5You décidait d’entrainer une IA à l’aide des dessins de Jung Gi pour lui rendre hommage. Les résultats sont assez proches du style du maitre sans pour autant accéder à la magie. Pour autant, cette tentative dont l’auteur semble assez content a causé l’indignation parmi les fans du dessinateur coréen.

Les réponses à la suite du tweet de 5You sont assez mitigées, certains saluent la performance technique, d’autres crient au scandale, l’auteur lui-même reconnait que ces images synthétiques ne remplaceront pas le talent de l’artiste.

La communauté des artistes créateurs de manga en Corée et au Japon s’inquiète de la montée en puissance des images générées par Dall.E2 ou Stable Diffusion. Ces jeunes artistes, qui souvent travaillent dans des conditions difficiles, craignent que les outils automatisés ne les remplacent. À la manière des luddites, ce sont moins les outils de la Tech numérique qu’ils rejettent que les menaces économiques que ces outils font peser sur eux. Une menace bien réelle puisque NovelAI, une compagnie spécialisée dans la génération d’image synthétique a dû retirer son service du public pendant un moment après avoir vu un pic de connexion provenant du japon et de Corée et avoir été attaquée. Certains artistes ont du même montrer des captures d’écran de leur Photoshop pour prouver qu’ils étaient les auteurs de leurs dessins.

Une situation qui risque de se multiplier tant la qualité des images produites ne cesse de s’améliorer et représente un opportunité immanquable pour les faussaires professionnels.

SIMPLE COMME UN PROMPT

La démo du service Runway est impressionnante de fluidité, mais est-ce qu’elle reflète la réalité ?

La démo du service Runway est impressionnante de fluidité, mais est-ce qu’elle reflète la réalité ?

Runway.ml est un logiciel de montage vidéo en ligne plutôt évolué qui dispose d’outils assez sophistiqués pour produire des contenus parfaitement adaptés à l’esthétique moderne croisée sur les réseaux sociaux. On peut appliquer des filtres et utiliser des templates qui vont faciliter le montage, mais aussi enlever des objets grâce à leur outil de masquage (très impressionnant quand il marche bien) ou de détourage.

Dernière évolution en date, les outils AI magic tools. Le Erase and Replace permet de retirer n’importe quel élément d’une scène en remplaçant le fond par la texture adaptée ou un objet désigné par un texte. Derrière tout ça, l’algorithme de Stable Ai semble pointer le bout de son nez. Plus besoin de faire appel à un expert des effets spéciaux, l’outil semble remplacer les heures de travail par quelques clics. Semble, parce que les résultats ne sont pas toujours optimums, mais comme il s’agit de machine learning, la bête apprend à réaliser ses tours et les réussi de mieux en mieux au fil des utilisateurs.

POPCORN REVIENT SUR LES PROPOS DE MAGHLA

Être streameuse c’est un enfer et c’est ce qu’essaie de faire comprendre Ultia au micro de Domingo dans cet extrait de Popcorn. L’équipe revient sur le thread de Maghla qui expose les abus dont elle est victime depuis quelque temps déjà et dont nous avons parlé en début de newsletter et partage les difficultés pour une femme d’être sur twitch. En question, les comportements masculins sur internet et les réseaux, les dérives toxiques, et peut-être même l’éducation de ceux qui se prête à ce jeu de harcèlement.

 LA VIDÉO :   à découvrir ici

Gerald Holubowicz
http://geraldholubowi.cz
Ancien photojournaliste et web-documentariste primé, je travaille désormais comme chef de produit spécialisé en innovation éditoriale. J’ai notamment collaboré avec le journal Libération, les éditions Condé Nast, le pure player Spicee et le Groupe les Échos/le Parisien. À travers mon site journalism. design, j’écris sur le futur des médias et étudie l’impact des réalités synthétiques — notamment les deepfakes — sur la fabrique de l’information. Après 10 ans d’interventions régulières auprès des principales écoles de journalisme reconnues, j’interviens désormais à l’École de Journalisme et au Centre des Médias de Sciences Po à Paris.