Crédit : NYTimes
Ce visage souriant en médaillon de profil Facebook, cette bonne tête familière qui laisse un avis sur Amazon, ce mec pas mal qui vous drague sur Tinder… toutes ces personnes n’existent pas. Comme dans un épisode de Black Mirror, leurs visages ont été générés par une intelligence artificielle tirée d’un ordinateur et plus précisément d’un logiciel créé en 2014, le GAN. 
Crédit : ThisPersonDoesNotExist
Car il existe un incroyable business qui consiste à vendre de fausses personnes sur internet – que ce soit pour faire croire que votre boîte est plus grande ou plus inclusive qu’en réalité, pour des jeux vidéo, pour faire de la propagande d’extrême droite sur les réseaux sociaux, pour harceler des gens sans montrer son vrai visage, pour tromper les systèmes de reconnaissance faciale, pour espionner sans se révéler… Les raisons sont diverses, mais le prix reste le même : 2,99$ pour un deepfake (de “deep learning” et “fake”) sur le site Generated.Photos et, allez, soyons fous, 1000$ pour 1000 têtes à utiliser comme bon vous semble – sans peur de froisser qui que ce soit puisqu’aussi crédibles soient-ils, ces visages n’existent pas dans la vraie vie comme l’annonce cash le site ThisPersonDoesNotExist. Pour jouer au démiurge digital, vous pouvez évidemment ajuster tous les features à votre guise : genre, couleur de peau, âge, cheveux, yeux, mood…
Crédit : Wikimedia
Ça vous paraît dingue et très loin de vous ? Pourtant, ces derniers temps, les deepfakes sont partout. La publicité et l’entertainment se sont emparés de cette technologie pour créer des images truquées, l’industrie du porno aussi, ravie de l’opportunité de pouvoir créer de fausses vidéos de cul avec des personnes célèbres (ce qui est arrivé à Scarlett Johansson, entre autres). Mais vous en avez aussi eu plein votre feed sans même vous en rendre compte, ne serait-ce qu’en vous amusant avec l’appli ReFace par exemple. En allant plus loin et en y ajoutant une autre technique du turfu ne relevant même plus de la science-fiction, Kanye West a récemment offert à Kim Kardashian pour son anniversaire un hologramme de son père décédé (pire idée cadeau du monde, en passant), l’ultime deepfake. Les applications sont sans fin – et ne se limitent d’ailleurs pas à l’apparence d’une personne, mais aussi à sa parole, comme avec WaveNet, un AI qui permettent de créer des voix plus vraies que nature, capables de se coller sur les mouvements de lèvres et expressions faciales, signant la mort des doublages à l’ancienne.
Crédit : Samsung
Au début du logiciel GAN, ces fake faces ne ressemblaient à rien – ou plutôt si, à des Sims d’après Camille François, chercheuse en désinformation interviewée sur le sujet dans ce génial papier du New York Times. Mais l’AI (Intelligence Artificielle en français) apprend très vite et, à force d’être nourri de portraits, a peaufiné les siens, les rendant de plus en plus réalistes. Envie d’une petite démo ? Rien de plus simple : uploadez une photo de vous sur Anonymizer et hop, voici tous les visages bidons que votre doux minois évoque à l’ordi. Sachez-le, ça s’accélère et les entreprises de la tech sont en train de gagner la course à la montre : dans un futur pas si distant, il est possible que nous soyons confrontés à des photos de famille inexistantes, faisant un pique-nique avec leurs amis imaginaires ou saluant l’arrivée d’un nouveau bébé bidon. Il sera de plus en plus dur de distinguer le vrai du faux sur les réseaux sociaux et internet – et Facebook essaye d’ailleurs d’interdire ces avatars mutants. Dystopie 3000…
Crédit : WhichFaceIsReal
Mais l’AI, aussi malin qu’il soit, n’est pas parfait. La reconnaissance faciale qui lui a permis de progresser jusqu’à ce niveau, a justement du mal avec nos imperfections naturelles, celles qui font tout le charme de l’humain. Grâce à cette faille dans le système, il est encore aujourd’hui possible de reconnaître un faux visage d’un vrai. Dans un article de Medium assez rigolo, l’artiste du code Kyle McDonald donne tous ses trucs pour repérer les créations de l’AI des vraies personnes. Regardez bien les détails de ces portraits apparemment inoffensifs : les fonds souvent flous, les accessoires de mode (lunettes, boucles d’oreilles, couvre-chefs…), les lobes d’oreille, la dentition, la chevelure, la symétrie/dissymétrie et parfois, plus criant, les glitches qui font pousser des protubérances cheloues sur le crâne ou le menton de ces caractères fictifs ainsi démasqués. Avec des erreurs pareilles, ça peut paraître facile de reconnaître des personnes générées par ordinateur, mais en fait c’est loin de l’être. Tentez le quizz de SpotDeepfakes ou celui de WhichFaceIsReal, vous serez probablement surpris.e par le niveau de faussaire facial numérique…
Crédit : Microsoft
Le problème des deepfakes inquiète beaucoup et aux plus hauts niveaux, comme l’explique très bien cet article des Échos : on les croit une menace pour la démocratie (vous pouvez faire faire ou dire n’importe quoi à n’importe qui) et donc pour la confiance en général. Un outil parfait pour manipuler les masses et désinformer toujours plus… Si l’on ne peut plus croire ce que l’on voit, comment va-t-on s’en sortir ? C’est la question que se pose The Weekly dans un épisode très fouillé et assez flippant – parce que franchement, le problème est amené à grandir en même temps que la technologie à progresser. Fataliste, la docteure en philosophie Regina Rini estime dans un édito que la meilleure chose à faire est d’être conscient que cela existe et de se préparer à y être exposé.e de plus en plus. Plus positive, Claire Wardle explique dans cette excellente vidéo que la panique autour des deepfakes pourrait être plus dangereuse que la technologie même, rappelant que le phénomène de manipulation des images n’est pas nouveau, exemples de cheapfakes à l’appui (ces falsifications low cost comme le ralenti, les légendes trompeuses, l’editing à charge, etc…). Et de conclure que notre problème tient plus du sociétal, avec une suspicion généralisée (voir notre article sur le complot), qu’à un véritable danger digital.Quoi qu’il en soit et aussi absurde que cela puisse être, pour lutter contre ces ersatz de plus en plus envahissants, il existe désormais des sociétés et des logiciels dont le job est de les détecter, tels Sensity et Vidéo Authentificator de Google. Des AI qui luttent contre des AI et, comme un serpent qui se mord la queue, un problème infini puisqu’en se contrant, la machine apprend encore et s’améliore toujours plus… Le futur n’est décidément plus ce qu’il était.
