Manipulations graphiques, deepfakes… comment les repérer ?

Les outils permettant de détecter de potentielles manipulations graphiques s’appellent les outils d’analyse forensique (“Forensics” en anglais). Les plus basiques sont libres d’accès, comme par exemple

Forensically 

Fotoforensics  

Le plugin Invid WeVerify 

Ces outils présentent de nombreux tutoriels pour apprendre à les utiliser, comme par exemple ici ou là. Mais leur décryptage est parfois compliqué et ne permet souvent pas à 100% de déterminer si une image a été modifiée ou pas.

Dans la vidéo ci-dessus (dans l'image de une, ou ici), retrouvez une explication du fonctionnement de ces outils, de leurs forces et de leurs faiblesses par Denis Teyssou, responsable du Medialab R&D de l'Agence France-Presse, un des membres du projet InVid WeVerify..

Deux cas d’école : Emma Gonzales et Abou Bakr al-Baghdadi

Dans InVid, l’onglet “Forensics”, qui rassemble plusieurs fonctionnalités similaires à celles de Forensically, vous pouvez ajouter des captures d’écran de vidéos (fichiers ou liens) et tenter de trouver des incohérences graphiques dans les images. Mais ça ne fonctionne pas à chaque fois.

Voici un exemple : une photo manipulée, montrant l’activiste anti-armes américaine Emma Gonzales déchirer la Constitution américaine, qui a été diffusée en mars 2018. En passant dans l’outil cette photo , le résultat est très net.

On remarque une démarcation de la zone correspondant à la feuille de papier déchirée par Emma Gonzales (en rouge), ce qui nous met sur la voie d'une manipulation par retouche graphique.

Dans la vraie photo, Emma Gonzales déchirait en fait une cible, pour signifier son opposition au port d'armes à feu aux Etats-Unis.

 ATTENTION, LA PHOTO QUI SUIT PEUT CHOQUER LES PLUS SENSIBLES

Autre cas célèbre, et plus ancien, avec le dirigeant autoproclamé de l’organisation État islamique, Abou Bakr al-Baghdadi dont nous parlions dans cet article.

À gauche, la photo d’un Albanais mort en Syrie en août 2013 et, à droite, un photomontage réalisé avec le visage du chef de l’EI. 

Pour repérer ce type d’images, on peut utiliser des outils techniques comme Forensically. Il permet de voir que quelque chose cloche avec la photo d’Al-Baghdadi.

Voici le résultat après avoir téléchargé le montage des deux photos dans Forensically, avec la fonctionnalité “Noise Analysis” (le "bruit" de la photo).

Dans la photo de droite (retouchée), on remarque des incohérences entre le visage - très sombre et sans détails - par rapport au reste du corps. S’il ne fait pas office de preuve, cet indice nous met sur la voie du photomontage et nous permet d’avancer dans l’enquête. On pourra ensuite faire des recherches par mots-clés, par exemple.

Vous êtes intéressés par d’autres exemples ? En voici deux autres en vidéo expliqués par Denis Teyssou, responsable du MédiaLab de l'AFP.

Détection de manipulations vidéos : pas d’outil magique

Il n’existe à ce jour pas de logiciel de détection de manipulation vidéo libre d’accès et gratuit. Les outils forensiques vus précédemment peuvent cependant s’appliquer à des captures d’écran de vidéo, à condition que la capture d’écran soit suffisamment de bonne qualité.

Reprenons cette fois-ci l'exemple d'une vidéo mettant en scène Emma Gonzales déchirant la constitution américaine. Des internautes conservateurs ont repris une vidéo où elle déchirait une cible de tir pour la remplacer par une image de la Constitution, grâce à la technique du “motion tracking”.

Dans ce cas, l’outil d’analyse technique d’InVid repère des incohérences graphiques dans la capture d’écran de cette vidéo. Ci-dessous, la zone correspondant à la Constitution est bien plus sombre que le reste, ce qui signifie que les qualités sont différentes et qu’une retouche a très probablement été faite.

Cependant, le résultat n'est pas aussi net que pour la photo comme vu précédemment.

Pourquoi ? Les deux qualités d’images, d'un côté de la photo, de l'autre de la vidéo, sont différentes. Une vidéo retouchée est plus difficile à repérer parce qu’il faut faire des captures d’écran, qui altèrent la qualité de l’image et le niveau de détail. Elles lissent les aspérités et atténuent les signes de retouche.

Pour repérer ces vidéos, il faut donc redoubler d’attention face aux détails, et adopter de bons réflexes pour enquêter. Et surtout, garder à l’esprit que ces outils ne permettent pas toujours de faire éclater la vérité : ils ne sont que des éléments permettant de faire avancer votre recherche.

En 2018 par exemple, nous expliquions comment prouver, sans outil particulier, qu’une vidéo de canards traversant à un passage piéton était en réalité une création graphique par une agence publicitaire en Allemagne.

Des techniques de manipulation de plus en plus évoluées ?

Aujourd’hui, les techniques de retouches de vidéos atteignent des niveaux de subtilité déconcertants. En 2017, des chercheurs à l’université de Washington sont parvenus à synthétiser les mouvements de la bouche de l’ancien président américain Barack Obama à partir de 14 h de vidéos de ses discours. Ils sont désormais capables de fabriquer une vidéo faisant dire absolument n’importe quoi au président, avec une voix synthétique et des mouvements de bouche ultra-réalistes. Le nom de cette technologie : le deepfake.

D’abord utilisés dans le cadre de vidéos à connotation sexuelles, où certaines célébrités ont été victimes d’internautes mal intentionnés pour coller leur visage sur le corps d’acteurs ou d’actrices  de films pornographiques, les deepfakes restent rares  même en 2022.

Ils sont pour la plupart utilisés à des fins pédagogiques ou de divertissement. Le compte TiKTok @deeptomcruise recense par exemple des vidéos de synthèse où le visage de l’acteur Tom Cruise apparaît à la place de celui d’un acteur moins connu.

Des deepfakes qui trompent vraiment ?

Les cas d’utilisation de deepfakes à des fins manipulatoires restent cependant rares, et sont souvent de très mauvaise qualité.

En 2020 par exemple, une vidéo de type “deepfake” de l’ambassadeur de France au Cameroun lui prêtaient des propos qu’il n’avait jamais prononcés. La vidéo avait été réalisée avec un logiciel sur smartphone en animant ses lèvres sur une de ses photos. 

En 2021, une émission de télévision italienne a diffusé un deepfake de l’ancien Président du Conseil, Matteo Renzi, faisant croire qu’il avait tenu des propos grossiers lorsqu’il ne savait pas qu’il était filmé. La vidéo avait été sortie de son contexte par plusieurs internautes, sortant totalement de son contexte le contenu humoristique, et le fait qu’il s’agissait d’un acteur interprétant Matteo Renzi. 

Enfin en 2022, au coeur de la guerre entre la Russie et l’Ukraine, deux vidéos deepfakes de Volodymyr Zelensky et de Vladimir Poutine leur prêtaient des propos qu’ils n’avaient jamais prononcés. Ces vidéos avaient rapidement été identifiées et vérifiées par plusieurs médias. 

Est il possible de détecter un deepfake ?

Des outils gratuits sont développés, comme par exemple celui de Deepware qui propose de scanner une vidéo en ligne pour donner une indication s’il pourrait s’agir d’un deepfake ou pas.

L’outil reste cependant perfectible, et ne détecte pas à 100% des deepfakes avérés, comme par exemple celui de Matteo Renzi cité précédemment.

Au-delà des outils techniques, l’observation reste votre meilleur allié pour détecter une potentielle manipulation graphique.

Dans la vidéo ci-dessous, Vincent Nozick, chercheur en informatique à l’Université Gustave Eiffel en France explique comment il est possible de détecter un deepfake.