Qu'est ce qu'un deep-porn ? - Journalism.design

Temps de lecture: 3 min

Qu'est ce qu'un deep-porn?

Cette section propose une définition et une étymologie du terme deep-porn ou deepfake pornographie apparut en 2018 pour désigner les deepfakes à teneur sexuelle.

1

Définition

Le terme deep-porn désigne une vidéo pornographique réalisée à l’aide des mêmes méthodes que les deepfakes, c’est à dire, à l’aide d’algorithmes d’intelligence artificielle. Ces vidéos apparaissent dès 2017 sur le forum Reddit. Produites par l’utilisateur u/deepfake 1 l’utilisateur u/deepfake a donné son nom aux deepfakes elles font l’objet d’un trafic entre les utilisateurs et u/deepfake. La création d’un logiciel permettant de faciliter la création de deepfakes pornographique par un autre utilisateur popularise ce type de création pornographique. Rapidement un groupe grandit autour de la thématique jusqu’à atteindre près de 100 000 membres au plus haut de son activité.

Sous la pression des protestations publiques, les plateformes Pornhub et Twitter interdisent les deep-porns début février 2018 2Deepfake” face-swap porn videos banned by Pornhub and Twitter, The Guardian, 7 février 2018 après que la plateforme Gfycat ait également supprimé les comptes partageant des deep-porns 3AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host, Motherboard, 31 janvier 2018 . Jusqu’alors silencieuse, la plateforme Reddit met finalement à jour ses conditions d’utilisation le 8 février 2018 et interdit les vidéos pornographiques involontaires 4 « involuntary pornography » en bannissant les deep-porns 5 Reddit bans “deepfakes” face-swap porn community, The Guardian, 8 février 2018 . Cette interdiction signe la fermeture du principal sub Reddit qui regroupait près de 90 000 membres à ce moment.

Extrait d'un deep-porn utilisant le visage de Daisy Ridley, actrice principale de la dernière trilogie de star wars

Extrait d’un deep-porn utilisant le visage de Daisy Ridley, actrice principale de la dernière trilogie de star wars, parmi les premières victimes de deep-porns.

Les articles de la journaliste américaine Samatha Cole, publiée sur le site Motherboard, révèlent au grand public à la fois le phénomène des deepfakes et leur lien avec la pornographie et l’exploitation féminine. Ils montrent l’ampleur du phénomène qui touche des actrices comme Daisy Ridley, Gal Gadot, Emma Watson, Jennifer Lawrence ou Scarlett Johansson  comme de nombreuses femmes anonymes victimes de pornodivulgation. On dénombre notamment des journalistes ou des femmes politiques qui seront plus tard victimes de pression et de chantage.

En 2019, l’app DeepNude promet de mettre à nu les femmes présentes sur n’importe quelle photo. Les algorithmes retirent en effet les parties habillées du corps des femmes photographiées et les remplacent par des parties de corps, créant ainsi l’illusion d’une mise à nu. La compagnie estonienne responsable de son développement retire l’application quelques jours après alors qu’un scandale fait rage et que les attaques se font de plus en plus fortes.

Les deep-porns se développent sur d’autres plateformes montées pour l’occasion et entièrement dédiées au phénomène. Ces sites sont également le lieu de discussion de nombreux créateurs de deepfakes qui échangent conseils techniques et astuces pour améliorer leurs productions.

En Corée, au Japon et en Russie, des réseaux de trafic de deep-porns qui prospèrent sur les messageries Telegram ou Signal sont démantelés 6 Des milliers de femmes victimes d’un bot générateur de deep-porns sur Telegram, journalism. design, le 20 octobre 2020 | Nth Room : des deepfakes comme arme d’exploitation sexuelle, journalism. design, le 4 juillet 2020 .

Depuis de nombreux textes de loi ont émergé aux États-Unis notamment pour pénaliser les deep-porns, mais les poursuites restent rares, car elles impliquent que les victimes aient à la fois connaissance de l’infraction et aient le courage et/ou les ressources de se confronter aux créateurs ou aux commanditaires de ces vidéos.

2

Éthymologie

“Deep-porn” est un mot-valise anglophone composé de deux autres mots. “Deep” pour deep-learning ou apprentissage profond en français faisant référence à la dimension technique du phénomène et “porn” pour “pornographie” faisant référence à la nature sexuelle des contenus. On peut également parler de contenus porno-synthétiques.

Le terme de “deep-porn” ne possède pas d’équivalent en français à contrario de l’expression “revenge porn” qu’on qualifiera de pornodivulgation en français.

3

Exemples

Désolé, vous ne trouverez pas d’exemple de deep-porn sur ce site 🙅🏻‍♀️.
Par ailleurs, je vous décourage vivement d’aller visiter les sites mentionnés plus haut à titre de référence.

Vous noterez que je n’ai pas mis de lien vers les plateformes hébergeant ce type de contenu pour dissuader la consultation de sites exploitant illégalement l’image de centaines de femmes pour les placer dans des situations dégradantes.

Notes :

Notes :
1 l’utilisateur u/deepfake a donné son nom aux deepfakes
2Deepfake” face-swap porn videos banned by Pornhub and Twitter, The Guardian, 7 février 2018
3AI-Generated Fake Porn Makers Have Been Kicked Off Their Favorite Host, Motherboard, 31 janvier 2018
4 « involuntary pornography »
5 Reddit bans “deepfakes” face-swap porn community, The Guardian, 8 février 2018
6 Des milliers de femmes victimes d’un bot générateur de deep-porns sur Telegram, journalism. design, le 20 octobre 2020 | Nth Room : des deepfakes comme arme d’exploitation sexuelle, journalism. design, le 4 juillet 2020