Photos et vidéos truquées (deepfakes) : quels sont les dangers et comment les détecter ?

La technologie évolue rapidement et l’Intelligence Artificielle nous facilite la vie mais elle comporte également des risques que certains peuvent exploiter à des fins malveillantes. Grâce aux progrès rapides de l’IA, il est désormais facile de manipuler les photos, les vidéos et même les enregistrements audio. Les cybercriminels usent de tous les moyens pour parvenir à leurs fins, leur dernière trouvaille  : le deepfake.

Qu’est-ce qu’un deepfake ?

Le deepfake est une méthode de synthèse de la vidéo ou de l’audio basée sur l’intelligence artificielle. Elle permet par exemple de superposer des visages et des voix sur des vidéos existantes, créant ainsi du contenu vidéo qui semble véridique, mais qui est en réalité faux.

Pour faire plus simple, le deepfake permet de créer une photo, un audio ou une vidéo qui reprend le visage ou la voix de quelqu’un en lui faisant dire ce que l’on veut.

Initialement utilisé dans le cinéma par les spécialistes des effets spéciaux, le deepfake a commencé à être détourné à des fins moins amusantes que le cinéma.

Quelles peuvent être les conséquences néfastes des deepfakes ?

Les conséquences de cette technologie peuvent être assez graves que ce soit dans la politique, le monde des affaires ou tout simplement dans la vie de tous les jours.

Par exemple, une fausse vidéo de quelqu’un dans un contexte embarrassant ou compromettant peut nuire gravement à la réputation et au statut personnel ou professionnel de la personne, ce qui peut avoir des conséquences catastrophiques sur sa vie.

Le dernier exemple en date à l’international vient des Etats-Unis, en effet, un deepfake de la voix de Joe Biden, l’ancien président américain a vu sa voix être utilisée pour inciter, avec un message pré-enregistré, plus de 5000 citoyens américains à ne pas aller voter aux primaires démocrates américaines.

Plus proche de nous en France, certains influenceurs ou encore des sportifs assez connus ont fait les frais de vidéos ou de photos créées par le deepfake.

On peut notamment en retrouver des usages pour une utilisation liée à la pornographie où il n’est pas rare de voir apposé un visage sur leur corps de quelqu’un d’autre, sans le consentement de la personne dont le visage est utilisé.

C’est tout autant un outil de propagande pour servir la désinformation (entre autres) qu’un outil de harcèlement car avec la possibilité de pouvoir modifier le visage ou la voix de n’importe qui et le partager sur les réseaux sociaux.

Comment reconnaître un deepfake ?

En réponse à cette menace, les entreprises de technologie et les gouvernements ont commencé à développer un certain nombre d’outils pour détecter les vidéos deepfakes mais leur accès au grand public reste encore limité.

Quelques aspects à vérifier cependant pour essayer de reconnaitre une fausse vidéo ou une piste audio d’une vraie :

• La qualité de l’image ou de l’enregistrement
• La source de la vidéo/de l’audio
• La cohérence de l’éclairage et du son : il faut s’assurer que l’éclairage et le son sont cohérents avec l’environnement dans lequel la vidéo ou l’audio a été filmé ou enregistré. Si ces éléments ne sont pas cohérents, cela peut être un signe de deepfake.
• Anomalies visuelles ou sonores : des anomalies visuelles ou sonores peuvent également indiquer la présence d’un deepfake. Il faut vérifier si l’image de la personne semble floue, flottante ou si elle présente des erreurs de perspective. Pour l’audio, il faut vérifier s’il y a des bruits de fond étranges ou si la voix présente une courbe d’intonation qui ne semble pas naturelle.
• Comparaison avec d’autres vidéos ou audios : il est souvent utile de comparer la vidéo ou l’audio suspect avec d’autres vidéos ou audios de la même personne pour voir s’il y a des différences significatives.

Plus spécifiquement :

• Pour la vidéo :
  • vérifier le clignement des yeux de la personne
  • regarder les traits du visage et la carnation de la peau
• Pour l’audio :
  • prêter attention aux variations de la voix, aux intonations

En conclusion, bien que le deepfake puisse être une technologie amusante et intéressante, il peut aussi être utilisé à des fins malveillantes. Attention donc à bien avoir en tête les bons gestes à adopter pour les reconnaître.