Retour

Deepfake et pornographie

Dans un rapport datant de fin 2019, Deeptrace indiquait que 96% des deepfakes répertoriés par l’entreprise étaient des “deep-porns”, des vidéos truquées mettant en scène des célébrités ou des femmes anonymes dans des situations non-consenties. Les juristes et activistes examinent désormais de près les hypertrucages et leur impact sur les victimes.

Les liens entre les deepfakes et la production de contenus pornographiques ont été tissés très tôt, dès l’apparition des premières vidéos manipulées. En janvier 2018, un article de Samatha Cole publié sur Motherboard montre clairement l’engouement qu’a suscité l’expérience de u/deepfakes avec l’actrice israélienne Gal Gadot transformée abusivement, grâce aux réseaux de neurones artificiels en hardeuse occasionnelle.

Dès fin 2017, un utilisateur sous le pseudonyme de pipeb (visiblement non-anglophone) demande conseil sur la façon de réaliser un deep-porn de son ex petite amie. D’autres commentaires du même ordre suivent sur les chaines Discord et le subreddit 1Reddit regroupe un certain nombre de forums portant sur diverses thématiques, on appelle ces forums des subreddits où les utilisateurs sont à l’instar de wikipédia éditeurs, contributeurs et lecteurs /r/deepfakes où se sont échangés rapidement des faceswaps d’actrices.

La requête de Pipeb sur Reddit Deefakes

Malgré l’engouement que suscite le subreddit /r/deepfakes, Reddit décide en février 2018 de le bannir en réponse aux multiples violations des conditions générales d’utilisation du site. D’un même mouvement les subreddits /r/deepfakensfw, /r/youtubefakes, /r/CelebFakes, /r/doppelbangher, /r/facesets et /r/xray étaient également bannis fermant ainsi la porte à près de 90.000 membres de la communauté.

Suite à cette prise de position de la part de Reddit, une majorité d’utilisateur migrent vers 8chan 2 8chan, désormais appelé 8kun, est un site web composé de forums créés par les utilisateurs à l’image de Reddit. Un propriétaire modère chaque forum, avec un minimum d’interaction de la part de l’administration du site. et d’autres plateformes qui autorisent la création de deep-porns.

Depuis la communauté ne cesse de grandir et nul doute que l’engouement autour de ce type de production ne va pas baisser en intensité. Les sites dédiés sont apparus et réunissent nombre de créateurs de deep-porns avides d’en savoir plus sur les méthodes de fabrication de ces contenus pornographiques. Les recours contre ces plateformes semblent bien mince et les moyens légaux de bloquer leur développement extrêmement ténus. Le législateur devra sans aucun doute s’emparer de la question à plus ou moins long terme pour sanctionner les abus.

Notes :

Notes :
1Reddit regroupe un certain nombre de forums portant sur diverses thématiques, on appelle ces forums des subreddits où les utilisateurs sont à l’instar de wikipédia éditeurs, contributeurs et lecteurs
2 8chan, désormais appelé 8kun, est un site web composé de forums créés par les utilisateurs à l’image de Reddit. Un propriétaire modère chaque forum, avec un minimum d’interaction de la part de l’administration du site.
Gerald Holubowicz
https://geraldholubowi.cz
Ancien photojournaliste et web-documentariste primé, je travaille désormais comme chef de produit spécialisé en innovation éditoriale. J’ai notamment collaboré avec le journal Libération, les éditions Condé Nast, le pure player Spicee et le Groupe les Échos/le Parisien. À travers mon site journalism. design, j’écris sur le futur des médias et étudie l’impact des réalités synthétiques — notamment les deepfakes — sur la fabrique de l’information. Après 10 ans d’interventions régulières auprès des principales écoles de journalisme reconnues, j’interviens désormais à l’École de Journalisme et au Centre des Médias de Sciences Po à Paris.