SYNTH N°8 | Décembre 2022

💌 Bienvenue sur SYNTH, la newsletter d’info critique des médias synthétiques. Voilà un petit aperçu de ce que vous pouvez trouver une fois par mois sur SYNTH. Si le contenu vous intéresse, n’hésitez pas à vous abonner sur synth-media.fr.

CRÉATIVITÉ

D’après le Petit Larousse la créativité c’est la « Capacité, la faculté d’invention ou d’imagination, le pouvoir créateur ». En ces temps troublés où les machines produisent des contenus qui ressemblent à s’y méprendre aux travaux d’artistes que des heures, des mois voire des années de travail ont permis d’obtenir, la question de la créativité se pose. La créativité comme facteur différenciant entre homme et machine, intelligence humaine et synthétique, met-elle définitivement à l’abri les artistes, dessinateurs, écrivains et autres esprits de l’art de l’emprise de la machine ? La question en tous cas ne cesse d’agiter les forums et les réseaux sociaux où, les défenseurs. seuses des arts visuels se confrontent aux ingénieurs qui nous ressortent encore et encore la bonne vielle théorie que la machine est neutre et que seul l’homme perverti son usage. On le sait depuis Jacques Ellul, la Tech est bien plus ambivalente. Et pour reprendre — tant que je suis dans le “name dropping” — l’idée de Jacques Derrida du Pharmakon, tout réside dans le dosage.
Or, ni le technicien ni l’artiste ne s’occupe de la proportion d’art et d’automation dans l’espace public, c’est le marchand qui définit les règles, tout du moins, il suit celles de l’offre et de la demande. Donc le sort des outils de génération d’image automatique n’a rien à voir avec la qualité intrinsèque de l’art produit par des créateurs dont le métier s’est nourri d’années d’expérience. Il a tout avoir en revanche avec le fait de savoir si certains sont sensibles à cette plus-value et s’ils sont prêts à payer le prix pour obtenir cette plus-value.
Et là, le problème prend une dimension davantage économique. Le choix des plateformes d’utiliser ou pas la génération d’image par AI n’est pas dictée par l’envie de fournir un outil de plus à leurs créateurs. Pas plus qu’il n’est dicté par la réassurance que l’artiste ne sera jamais dépassé par la machine. Pas plus encore qu’il n’est dicté par la neutralité des outils qu’on lui propose. Il est dicté par la marge opérationnelle dégagée en fin d’année, il est dicté par un bénéfice pécuniaire. Les clients de ces plateformes font les mêmes choix et leurs utilisateurs de même.
Car au fond, il n’y a que dans les musées et dans certains cercles d’amateurs sensibles qu’on se soucie de voir des créations originales. La vignette YouTube générée par Dall.E ou la photo d’illustration de l’article de brand content ne mérite ni notre attention ni qu’on y investisse le temps d’un graphiste.
Et donc, in fine, c’est la victoire des contenus cheap, fabriqués (digérés) à la chaine par les Stables Diffusions and Co. Les travaux — remarquables et inspirés — de certains créateurs trouveront toujours chaussure à leur pied, mais les commandes alimentaires, celles qui nourrissaient la femme ou l’homme derrière le pinceau, vont se faire de plus en plus rares à mesure que les publications de tous genres remplaceront leurs images par des images synthétiques.
Si l’intelligence artificielle n’est capable que d’imiter, elle n’a pour cela besoin de rien d’autre que d’un peu de courant électrique. Les créateurs auxquels certains imposent de reproduire le style ou l’agencement d’autres artistes plus connus ont eux besoin de nourriture pour exprimer leur créativité et dépasser ces commandes alimentaires. En les privant de petits revenus bien utiles, on prive « demain » des artistes d’aujourd’hui.

Bonne lecture et à très vite. 


LES DEEP-PORNS INTERDITS EN ANGLETERRE ET DANS LE WALES.

Pour les États-Unis seulement, le coût financier de la productivité des entreprises est estimé à 16,9 milliards de dollars par an.

Pour les États-Unis seulement, le coût financier de la productivité des entreprises est estimé à 16,9 milliards de dollars par an.

Vous le savez les ravages de la pornographie synthétique sont importants et à mesure que le genre se développe, il ne cesse de croitre. Une loi sur le point d’être votée outre-Manche va interdire le partage de contenus pornos synthétiques sans que le juge ait besoin de prouver l’intention de causer du tort.
Une avancée significative puisqu’en Angleterre près d’un adulte sur 14 dit avoir été menacé de pornodivulgation, c’est-à-dire du partage public et sans consentement de photos intimes à caractère sexuel.
Sur Reddit des dizaines de milliers d’images pornos synthétiques se négocient sous le manteau et la BBC panorama avait notamment dévoilé tout un réseau au mois d’aout dernier.
La loi doit être encore votée, puis appliquée et l’ensemble prendra certainement encore un temps nécessairement trop long du point de vue des victimes. Celles-ci d’ailleurs se mettent à parler davantage et osent partager leur expérience traumatisante à l’instar de certaines activistes anglaises qui ont œuvré à l’écriture de cette proposition de législative.
On attend encore que du côté-ci de la manche les choses évoluent et que des voix se lèvent pour porter le débat à l’Assemblée nationale tant il s’agit de réalités difficiles à vivre pour les victimes.
Enfin, pas certain que les créateurs de deep-porns s’inquiètent des conséquences de ces textes, souvent difficiles à implémenter. Si quelques-uns avouent sur les réseaux qu’ils arrêteraient si la loi devait passer, beaucoup ne s’en émeuvent pas et continueront en toute impunité à faire leurs affaires.
Reste à agir au niveau des plateformes et il se trouve que Github — déjà attaqué pour une autre histoire que vous découvrirez plus bas — accueille le code nécessaire à la création des deepfakes.
Sans censurer nécessairement ni interdire la publication de ce code, il pourrait être utile de faire pression sur Microsoft pour en restreindre l’accès sous des conditions particulières d’identification.
Encore une fois, il s’agit de doser la légitimité d’un outil à se retrouver dehors sans véritable contrôle et le marché montre une fois de plus son incapacité à agir dans l’intérêt des publics les plus fragiles.

DEEPFAKE TO PROTECT

Un des manifestants des évènements de 2019 qui se sont déroulés à Hong Kong est interrogé par la BBC dans le cadre d'une série documentaire. Son visage n'est en fait pas le sien, il s'agit d'un faceswap, un type de deepfake.

Un des manifestants des évènements de 2019 qui se sont déroulés à Hong Kong est interrogé par la BBC dans le cadre d’une série documentaire. Son visage n’est en fait pas le sien, il s’agit d’un faceswap, un type de deepfake.

Petite tempête médiatique pour la BBC outre-Manche qui a récemment commencé à diffuser son documentaire épisodique sur les manifestations d’opposants qui ont eu lieu à Hong Kong en 2019. Alors qu’un projet de loi permettant l’extradition vers la chine doit être voté, la colère monte dans l’ancien protectorat britannique. Le documentaire suit 4 activistes qui se mobilisent à la veille d’une tentative de censure de la part du régime et suit ces protagonistes à travers les évènements qui émailleront la ville pendant de nombreux mois sous les yeux des caméras du monde entier.

Les manifestants, soucieux d’échapper à la cyber-surveillance mise en place par les autorités chinoises ont développé des systèmes de contremesure importante encore copiés aujourd’hui dans nombre de manifestations d’opposition politique où des affrontements peuvent avoir lieu. En raison de la nature des témoignages récoltés dans le documentaire et pour protéger leurs sources sans dénaturer le travail documentaire et notamment l’approche empathique des sujets, les réalisateurs ont alors réalisé un faceswap des visages de ces manifestants.

Un faceswap est un procédé courant qu’on retrouve dans les deepfakes et qui consiste en une greffe numérique de visage. On « prélève » un visage d’une source vidéo pour le greffer synthétiquement sur un autre visage qui apparait dans une autre vidéo. C’est le principe sur lequel repose @deeptomcruise par exemple.

Dans le cas d’un documentaire, le faceswap protège l’identité de la personne interrogée d’une meilleure manière qu’un simple contre-jour puisque ce sont les pixels qui composent l’image qui sont remplacés intégralement par le nouveau visage.

Le procédé n’est pas nouveau puisqu’il avait été utilisé dans « Welcome to Chechnya » le film de David France qui exposait le travail délicat et dangereux d’activistes Tchétchène aidant des personnes LGBTQUIA+ Tchéchène à fuir le pays dirigé par Ramzam Kadirov, dictateur ouvertement homophobe. En Grande-Bretagne le procédé semble avoir soulevé quelques vives critiques notamment sur la question de la vérité des documents présentés et des manipulations du réel.

MICROSOFT SUR LE BANC DES ACCUSÉS

Microsoft, GitHub et OpenAI sont poursuivis pour avoir prétendument violé la loi sur le droit d'auteur en reproduisant du code open-source utilisant l'IA.

Microsoft, GitHub et OpenAI sont poursuivis pour avoir prétendument violé la loi sur le droit d’auteur en reproduisant du code open-source utilisant l’IA.

MicrosoftGitHub et OpenAI seraient-ils de vils copieurs ? C’est la question que va se poser la cour fédérale de San Francisco dans quelques mois après qu’une class action ait été déposée pour dénoncer l’IA de Github nommée Copilot.

Le site de la class action explique qu’en « entraînant leurs systèmes d’IA sur des dépôts publics de Github (…) les défendeurs (ie MicrosoftGithub et OpenAI) ont violé les droits légaux d’un grand nombre de créateurs qui ont publié du code ou d’autres travaux sous certaines licences de logiciels libres sur Github. Quelles licences ? Un ensemble de 11 licences open source populaires qui exigent toutes l’attribution du nom de l’auteur et du droit d’auteur, notamment la licence MIT, le GPL et la licence Apache. »

D’après le site The VergeGithub Copilot a été pris la main dans le sac en ré-écrivant à plusieurs reprises textuellement des passages entiers de code appartenant à des programmes sous licence protégée sans en mentionner la provenance ni créditer de façon transparente lesdits programmes et leurs développeurs. Elle cite notamment un tweet de Tim Davis, professeur de Computer Science au Texas.

Les implications sont assez larges, mais deux points se détachent déjà particulièrement. Coté développeur d’IA, les critiques sont assez féroces contre cette action en justice, certains argumentant qu’une victoire signerait la fin de l’exploitation des bases de données nécessaires au « machine learning » qui sont composées de millions d’images, de sons, de lignes de code ou de vidéos.
De l’autre côté, les peurs sont du côté des développeurs Open Source dont les travaux sous licence sont utilisés par Github Copilot sans crédit. Pour eux, une victoire de Microsoft et Github signifierait la fin des programmes open sources. Pourquoi en effet laisser du code libre en attribution simple si cette attribution n’est jamais respectée par Copilot ?

SIMPLE COMME UN PROMPT

Le designer Finlandais Roope Rainisto a entrainé un algorithme pour produire des "portraits réalistes" et le résultat est bluffant. | crédit image: Roope Rainisto

Le designer Finlandais Roope Rainisto a entrainé un algorithme pour produire des “portraits réalistes” et le résultat est bluffant. | crédit image: Roope Rainisto

Directeur artistique, Roope Rainisto se dévoue depuis quelque temps déjà à la génération d’images synthétiques. Ses créations sont disponibles sous la forme de NFT trouvable sur différentes plateformes. Un tweet récent a mis en lumière ses essais et montre combien la photographie de stock risque fort d’être bouleversée par les plateformes comme Midjourney, Dall.E ou ici Stable Diffusion.

« Trained a new model for ‘realistic photos’—whatever that ever means. It works pretty well. Imagine where the quality will be in a year.” @rainisto

Le modèle génère aussi bien des modèles masculins que féminin et d’origines diverses comme Rainisto le montre dans un autre tweet suite à quelques commentaires. Une image met environ 30 secondes à être générée et environ 10 % d’entre elles sont publiables sans retouches. Le modèle d’algorithme a quant à lui été entrainé avec une vingtaine d’images pour le style de rendu souhaité. Avec une dizaine d’ordinateurs l’auteur affirme donc capable de générer des volumes conséquents d’images.
La photo de stock n’a qu’à plier les bagages, d’ici deux à trois ans, certains acteurs seront en capacité de distribuer ces images, d’ici à cinq ans, la masse d’images synthétique aura probablement dépassé le volume d’images générées par des photographes humains.

LES IMAGES SYNTHÉTIQUES SE FONT UNE PLACE AU SOLEIL

Le mouvement s’accélère du côté des agences photo de stock. Les outils de génération d’image synthétique devenant de plus en plus stable et performante, chacun s’engage dans des partenariats technologiques et prépare l’avenir. Dernières nouvelles en date, le fournisseur américain de photos de stock, Shutterstock, s’allie avec LG AI Research quelques mois après avoir annoncé son partenariat avec Dall.E autorisant ce dernier à utiliser sa banque d’images pour entrainer l’algorithme désormais bien connu. Le partenariat avec LG repose sur quasiment les mêmes conditions. Un outil de text to image sera mis à disposition des clients de Shutterstock. L’opération va également dans le sens inverse, certains créateurs d’images verront leurs créations passer au crible du moteur image to text LG AI EXAONE, pour fabriquer les légendes et les mots-clefs nécessaires à la recherche.

Dans le même temps, Getty images a banni les images générées par IA de son catalogue et les retire progressivement pour s’éviter les éventuelles suites judiciaires qui pourraient survenir de poursuites liées à des violations de copyright.

La bataille entre ces deux grands acteurs de l’image de stock ne fait que commencer. L’un pariant sur l’IA quitte à en payer les premiers pots cassés, l’autre préférant une approche plus prudente, mais certainement plus risquée en termes concurrentiels.

LE ZUCK SE MOQUE DU CONGRÈS AMÉRICAIN

La dernière campagne en ligne de la part de Demand Progress, une organisation fondée entre autres par le regretté Aaron Swartz, met en scène #fakezuck qui se moque du Congrès américain et de son inaction. Alors que les élections de mi-mandat ont eu lieu et que la majorité s’apprête à basculer au parlement américain, l’ONG demande un vote de la loi contre la concentration des Big Tech et notamment de Meta.

 LA VIDÉO :   à découvrir ici

Author avatar
Gerald Holubowicz
http://geraldholubowi.cz
Ancien photojournaliste et web-documentariste primé, je travaille désormais comme chef de produit spécialisé en innovation éditoriale. J’ai notamment collaboré avec le journal Libération, les éditions Condé Nast, le pure player Spicee et le Groupe les Échos/le Parisien. À travers mon site journalism. design, j’écris sur le futur des médias et étudie l’impact des réalités synthétiques — notamment les deepfakes — sur la fabrique de l’information. Après 10 ans d’interventions régulières auprès des principales écoles de journalisme reconnues, j’interviens désormais à l’École de Journalisme et au Centre des Médias de Sciences Po à Paris.