On a tous en tête la vidéo du président ukrainien, Volodymyr Zelensky, exhortant la population à rendre les armes. Un deepfake, ou hyper-trucage, qui a fait le tour du globe. Le monde économique est aussi touché par le phénomène. Faut-il s’en inquiéter? Doit-on éviter de publier sa photo sur le site de l’entreprise ou sur les réseaux sociaux, de peur qu’elle ne soit détournée?
Démocratisation des outils
«La problématique des images truquées n’est pas nouvelle, note Touradj Ebrahimi, directeur du Groupe de traitement du signal multimédia à l’EPFL. Ce qui a changé, c’est la démocratisation des outils de trucage. Ne pas publier son portrait sur le site de l’entreprise, alors que cela peut avoir un impact positif, n’empêchera pas les abus. On peut vous prendre en photo lors d’un événement professionnel ou trouver une photo ailleurs. Personnellement, je ne suis pas inquiet de donner mon image.»
Personnalité scientifique, le professeur a reçu l’an dernier la médaille SMPTE, l’équivalent du Prix Nobel des professionnels des technologies de l’image. Aujourd’hui, on parle moins de deepfake mais plus d’image générée par l’IA ou Generative AI. Ainsi, en peu de temps et avec peu de moyens, on peut créer une vidéo contrefaite. Mais l’intérêt de ces images trafiquées n’est pas toujours l’escroquerie.
«Près de 80% des images modifiées le sont pour des raisons positives, pour gagner en contraste, amener de la compréhension ou créer une interface personnalisée entre machine et humain, à des fins de formation ou tout simplement dans un cadre ludique, énumère l’expert. Les 20% restants concernent des fraudes à l’assurance, des manipulations politiques, de fausses authentifications, des certificats truqués ou des tromperies visant à nuire à une personne ou à un groupe.»
Le Wall Street Journal relayait déjà en 2019 une information concernant le CFO d’une entreprise allemande abusé par un deepfake audio reproduisant la voix du CEO lui demandant de faire un versement. En Suisse, les cas concernent plutôt des fraudes à l’assurance montrant des machines ou des stocks détruits.
Faut-il signaler le trucage?
«Le principal problème est qu’aujourd’hui presque toutes les photos sont modifiées automatiquement par l’IA. Raison pour laquelle la norme JPEG Trust va encoder les images en détaillant ce qui a été modifié (couleur, taille, ajout…). On pourra ainsi tracer l’historique des modifications d’une image», résume Touradj Ebrahimi, à l’origine de cette norme internationale qui se déploiera dès juillet 2024. Une piste intéressante pour le copyright et les droits d’auteur des professionnels de l’image. La start-up Bria travaille avec Getty Images dans ce sens.
La norme JPEG AI sera également disponible dès 2024. Une technologie utile pour les images analysées par des machines et compressées afin de prendre moins de place dans un téléphone, par exemple.
On le voit, on ne peut plus simplement dire qu’une photo est vraie ou fausse, cela n’a plus de sens. En revanche, connaître sa provenance et les modifications apportées vous donnera, en tant qu’utilisateur, la possibilité d’agir, écartant cette donnée ou la validant. A noter que si retravailler une image est autorisé, on ne peut pas tout faire. La législation suisse règle principalement le problème par la protection de la sphère privée et de la personnalité.
Une majorité des images truquées ne visent pas un but malveillant. Difficile toutefois d’ignorer les contenus contrefaits à des fins d’humiliation et d’extorsion. La start-up Sensity estimait en 2020 que plus de 100 000 photos de femmes avaient été détournées pour en faire des images à caractère sexuel.
Le premier réflexe
Vérifiez la source, l’URL et si la vidéo a été reprise ailleurs. Des outils tels que Fake Off de 20 Minutes ou Fake Check Explorer de Google existent. Repérez aussi quel est le groupe cible en observant les publicités accompagnant la vidéo. «Il est juste de confronter les sources. Malheureusement, avec la rapidité des réseaux sociaux, ce système est de moins en moins performant», signale Touradj Ebrahimi.
Œil de lynx
Les outils pour traquer les deepfakes deviennent rapidement obsolètes. Cependant, on peut regarder l’expression du visage et repérer des mouvements de lèvres non naturels. Le teint inégal ou un visage «synthétique» sont aussi des repères. Observez également les transitions inhabituelles entre visages frontaux (souvent fake) et autres angles.