💌 Bienvenue sur SYNTH, la newsletter d’info critique des médias synthétiques. Voilà un petit aperçu de ce que vous pouvez trouver une fois par mois sur SYNTH. Si le contenu vous intéresse, n’hésitez pas à vous abonner sur synth-media.fr.
NOSTALGIE
NOSTALGIEUne nostalgie qui soulève beaucoup de questions éthiques qui restent en suspens dans cet entre-deux légal que nous vivons. Comment gérer la vie des morts après leurs morts, quels sont leurs droits à l’image ? Devra-t-on le faire évoluer à l’avenir ? Peut-on tirer des revenus de leur image sans leur consentement ? Quid de nos représentations d’aujourd’hui qui serviront à nos doubles numériques demain ? L’exploitation des données demeure un enjeu crucial qu’il va falloir questionner sérieusement au-delà du cadre légal disponible aujourd’hui. Désinformation, tromperie, questions éthiques et politiques, c’est le numéro trois de SYNTH.
ILS ONT CRU PARLER À VITALI KLITSCHKO
Le maire de Madrid, José Luis Martínez-Almeida, en communication avec le faux Klitschko
Il y a près d’un an, des responsables politiques européens organisaient une rencontre en ligne avec l’un des leaders de l’opposition russe, Leonid Volkov. Quelques jours plus tard après avoir soupçonné avoir été victime d’un deepfake, ils découvraient qu’ils avaient été trompés par un imitateur. En mars dernier, alors que l’invasion russe de l’Ukraine venait de débuter, le président ukrainien Vlodomir Zelensky s’adressait à son peuple pour l’appeler à déposer les armes. Quelques minutes plus tard, on découvrait qu’il s’agissait cette fois-ci d’un grossier deepfake. Côté Est, la désinformation surfe sur la peur des médias synthétiques et crée le doute chez les Européens.
Il y a quelques jours, fin juin, c’est le maire de Kyiv, Vitali Klitschko qui devait s’entretenir avec différents maires européens. Michael Ludwig, le maire de Vienne, puis Franziska Giffey la maire de Berlin et José Luis Martínez-Almeida le maire de Madrid ont été piégés par un faux Klitschko. C’est la maire de Berlin qui a fini par démasquer le faux Klitschko qui aurait demandé un traducteur russe/allemand alors qu’il maitrise parfaitement la langue de Goethe.
Si la mairie de Kyiv a bien confirmé que le véritable Klitschko n’avait pas assisté à ces entretiens, la question reste entière sur la nature du faux. Certains ont avancé qu’il s’agissait d’un deepfake, mais Daniel Laufner, un journaliste de l’ARD, a publié un thread sur twitter contredisant la thèse des médias synthétiques. Il s’agirait d’une interview que le maire de Kyiv avait donnée en avril et dont certains extraits auraient été coupés puis montés en direct en utilisant des petites coupures de communication pour masquer les transitions.
On le voit donc ici, il n’est pas nécessaire d’avoir à faire à des médias synthétiques, manipulés par une intelligence artificielle, pour que les dommages soient bien réels. Un simple “cheap fake” – une vidéo manipulée à l’aide de moyens ingénieux, mais classiques – peut faire l’affaire et tromper des interlocuteurs crédules ou trop confiants. En revanche, deepfakes ou pas, les conséquences sont catastrophiques et annoncent de mauvais jours. Il est probable que les fournisseurs de service devront renforcer les dispositifs de sécurité, renforcer les techniques d’authentification et les mécaniques de traçage pour s’assurer que les correspondants sont les bons.
ON PARLE DE DEEPFAKES AVEC TRENCHTECH
J’ai eu le grand plaisir d’apparaitre dans le nouveau podcast “TrenchTech” qui ambitionne de critiquer la tech sous un angle éthique. J’y parle de la “menace” des deepfakes – of course. Vous pouvez retrouver l’épisode sur les plateformes traditionnelles Apple, Spotify et Google .
AMAZON VEUT FAIRE PARLER LES MORTS
“Si l’IA ne peut pas éliminer la douleur de la perte, elle peut certainement faire durer leurs souvenirs” annonce Rohit Prasad, l’ingénieur en charge de l’intelligence artificielle d’Alexa.
Plus de 150 millions d’unités d’Alexa, l’assistant intelligent d’Amazon, ont été vendues dans le monde depuis son lancement. Rien qu’aux États-Unis, près de 69% des américains utilisent Amazon Echo. Chacune des petites évolutions du service a donc un impact profond et insoupçonné. Dernière actualité en date, Amazon souhaite implémenter un service de deep-voice permettant de personnaliser Alexa avec la voix d’une personne décédée.
Suite à la pandémie mondiale de Covid-19, beaucoup d’entre nous ont perdu un proche. Amazon s’est donc mis en tête de permettre à ses utilisateurs de continuer à interagir avec leur proches partis prématurément. Ce qui n’est encore à ce stade qu’une expérience pourrait devenir réalité dans les prochains mois. Rohit Prasad, le chef scientifique d’Alexa AI a montré une démo du service envisagé à la conférence annuelle MARS tenue sur les questions d’intelligence artificielle et de conquête spatiale, les deux chevaux de bataille de Jeff Bezos, le patron d’Amazon.
Le système serait capable d’apprendre à reproduire n’importe quelle voix à l’aide d’un échantillon d’une minute. En premier lieu, l’usage des données pose question. Où vont être stockés ces échantillons, pour combien de temps, seront-ils uniquement destinés à cet usage ou à d’autres buts ? Pourra-t-on supprimer cet échantillon définitivement de tous les serveurs d’Amazon ? Quelles autorisations seront nécessaires ? Normalement en France les droits de la personne disparaissent à la mort, rien ne semble donc interdire l’usage d’une voix après le décès. Mais qu’en est-il des vivants ? Pourra-t-on donner à Alexa la voix de son ex-petite amie, de son ex-mari, de son enfant décédé ? Quels seront les effets sur les mécanismes du deuil ? Comment tourner la page quand celui qui nous manque reste à chaque instant présent ?
Ce type de services exploite les fantasmes et les pulsions les plus élémentaires comme le deuil ou le manque de la personne aimée pour attirer les utilisateurs. Ils n’ont que très peu souvent un rapport direct avec un quelconque « bénéfice utilisateur », celui-ci ne faisant partie que d’une stratégie marketing formulée pour améliorer l’acceptabilité du produit. La force de frappe d’Amazon permet d’imposer ce service dans des millions de foyers sans effort et de récolter des centaines de milliers voire des millions d’échantillons gratuitement pour entrainer une intelligence artificielle spécialisée. Une fois le dispositif déployé et activé, Amazon dispose d’un outil qu’aucune autre entreprise ne peut mobiliser (sauf Google, Apple et Meta qui sont comparables en taille et en moyen) et se positionne donc de facto parmi les leaders de la voix synthétique.
Difficile par la suite de faire émerger de puissantes entreprises capables de rivaliser avec Amazon (ou Apple) dans ces conditions de déséquilibre concurrentiel. Difficile surtout d’assurer aux utilisateurs un respect total de leur vie privée, du secret de leurs données et de les prémunir contre les effets collatéraux que créeront sans aucun doute ces doudous numériques.
UN DERNIER REPAS
Dans l’expérience, une mère et sa fille partagent un repas (photo: agence Rabbit’s Tale)
On reste dans la resuscitation. À 26 ans, Supitchaya Na Songkla adore partager ses repas avec sa mère. La jeune femme explique dans un mini documentaire commandité par Five Star (un restaurant spécialisé dans les préparations de poulet), son plaisir à partager ces moments d’intimité entre mère et fille. En 2010, un cancer a pourtant emporté tout espoir de renouveler ce moment. C’est grace aux deepfakes que l’agence Rabbit’s Tale a pu reconstituer en réalité virtuelle, une expérience inédite et sensible, un poil étrange, et franchement border d’un point de vue éthique.
VAL KILMER AU TOP
Val Kilmer dans le dernier Top Gun Maverick
Pour les fans d’avion de chasse et de beach-volley, Iceman, le personnage de Val Kilmer dans Top Gun reste une figure iconique. Trente-quatre ans après le premier film, il retrouve Maverick, le pilote incarné par Tom Cruise dans le dernier Top Gun sorti en salle récemment. Pourtant cette réunion a bien failli ne pas avoir lieu. En 2017, Val Kilmer annonçait son cancer de la gorge qui — après traitement — le laissait sans sa voix, condamné à parler à travers un tube. Il aura fallu que les deep-voices fassent leur apparition pour que l’acteur américain puisse retrouver sa voix. Le studio Sonantic, basé à Londres, spécialisé dans la création de voix synthétiques, avait déjà travaillé sur le documentaire « Val » en 2020 qui retraçait la vie de Kilmer. À l’aide de nombreux échantillons et d’huile de coude, l’équipe a pu recréer avec finesse la voix de l’acteur, une voix capable de laisser transpirer les émotions de l’interprète. Dans Top Gun Maverick, Sonantic a repris ses algorithmes pour fournir une séquence subtile. L’effet a véritablement marqué l’acteur qui a pu retrouver son identité à l’écran.
ÉCOUTER LA VIDÉO DÉMO :
SONANTIC DEMONSTRATION
RAPPORT SUR LA SÉCURITÉ NATIONALE ET LES DEEPFAKES
Les États-Unis semblent s’inquiéter de l’impact que pourraient avoir les deepfakes sur la sécurité du pays. Un document d’information parlementaire publié par le Congressional Research Service (CRS) soulève un certain nombre de questions dont il sera intéressant de connaitre les réponses.
- Est-ce que le Département de la Défense, le Département d’État et les renseignements ont des informations concernant l’état d’avancement des technologies permettant de faire des deepfakes et à quel point elles représentent une menace pour les États-Unis ?
- Quel est le niveau de préparation de DARPA à faire face à des deepfakes ? Quelles sont les stratégies de détection mise en place pour éviter des catastrophes ?
- Comment équilibrer les besoins de sécurité nationale avec la liberté d’expression et de création ?
- Quels devraient-être les efforts du gouvernement pour éduquer la population aux deepfakes ?
- Les réseaux sociaux doivent-ils prendre des mesures permettant l’authentification des contenus, leur provenance, doivent-ils être tenus responsables pour leur dissémination ?
Des questions qu’on aimerait également poser aux députés qui viennent d’effectuer leur rentrée législative.
LE DOCUMENT ORIGINAL:
Deep Fakes and National Security
L’EUROPE MENACE LES PLATEFORMES DE SANCTIONS
Alors que l’Europe a récemment mis à jour son code contre la désinformation, les plateformes de réseaux sociaux se sont engagés à réduire la diffusion des deepfakes. Facebook, Twitter, Google, Microsoft et TikTok sont appelés à renforcer leurs outils de prévention interne. 
Les plateformes devront également renforcer les partenariats avec les fact-checkers pour lutter contre les messages de propagande. Le code fait partie du paquet règlementaire dont le Digital Service Act fait partie, destiné à contrer les abus et les postions dominantes des GAFAMs.
Comme vous pouvez le constater avec cette capture d’écran réalisée il y a quelques jours, la lutte ne concerne pas les deep-porns qui continuent de se multiplier sur les réseaux à vitesse grand V. Millie Bobby Brown appréciera certainement que ce type de contenus ne soient pas inclus dans un dispositif règlementaire chargé de réguler davantage les deepfakes .
🚨 LE FBI ALERTE
« Le FBI Internet Crime Complaint Center (IC3) signale une augmentation du nombre de plaintes faisant état de l’utilisation de faux noms et d’informations personnelles identifiables (IPI) volées pour postuler à divers postes de travail à distance et à domicile. » Le communiqué diffusé le 28 juin fait suite à une alerte de la part d’Europol, un peu plus tôt dans l’année concernant les fraudes liées aux deepfakes par des organisations criminelles.
Les postes en télétravail intégral semblent être les cibles privilégiées après que la pandémie de COVID ait davantage popularisé ce mode de travail. Les risques ne sont pas mineurs puisqu’il implique qu’un employé puisse avoir accès à des données sensibles du type brevets, comptabilité ou coordonnées bancaires. Les modalités opératoires semblent impliquer l’usage de deep-voices et de deepfakes lives notamment sur zoom.
Nouvelle arrivée sur Tik Tok, la fausse Margot Robbie (@unreal_margot), qui a – entre autres choses — incarné à l’écran la déjantée Harley Quinn dans Suicide Squad. Le compte totalise déjà près de 614 000 followers et 3,6 millions de likes, mais ce qui est le plus impressionnant c’est bien la ressemblance et la qualité de la production. On compte donc aujourd’hui 4 “@unreal_stars” sur TikTok, Robert Pattinson (The Batman), Jason Statham (Transporter) et Keanu Reeves (Matrix). Le premier à être apparu sous le compte @Iam_pattinson (désormais supprimé) le deepfake de Robert Pattinson s’est ensuite transformé en @unreal, créant ainsi une sorte de signature pour les autres comptes de célébrités. Comment les véritables stars vont-elles réagir — il s’agit d’une usurpation d’identité — vont-elles être aussi tolérantes que Tom Cruise, rien n’est moins sûr ?
