Une étude réalisée par Kapwing, une entreprise spécialisée dans la création et l'édition de vidéos avec IA, révèle quelles sont les figures publiques les plus utilisées dans les vidéos deepfake, mettant en évidence cette tendance, qui cherche parfois à générer du contenu humoristique, mais également àInformer mal les utilisateurs ou à usurper l'identité de quelqu'un pour réaliser des arnaques.
Qu'est-ce qu'un deepfake et pourquoi est-il si problématique
Les deepfakes sont des vidéos manipulées qui utilisent l'intelligence artificielle pour remplacer le visage ou la voix d'une personne par ceux d'une autre, de manière extrêmement réaliste. À ses débuts, en créer un nécessitait d'énormes quantités de données et de traitement informatique, mais les avancées technologiques récentes ont facilité leur création. De nos jours, une vidéo convaincante peut être réalisée avec seulement 10 secondes d'images originales et quelques clics, ce qui ouvre la porte à toutes sortes d'utilisations malveillantes.
Le principal problème avec les deepfakes réside dans leur capacité à diffuser des informations fausses et de la désinformation de manière efficace. Dans le contexte politique, par exemple, ils ont été utilisés pour influencer l'opinion publique, tandis que dans le divertissement et les réseaux sociaux, ils ont généré des controverses en raison de l'utilisation non autorisée de l'image de célébrités. Selon l'étude, "la plupart des deepfakes sont réalisés pour influencer l'opinion publique, permettre des arnaques ou générer des bénéfices économiques".
De plus, le fait que ces vidéos puissent être réalisées facilement et rapidement, sans nécessiter d'énormes quantités de données ou d'entraînement spécialisé, signifie que la technologie est à la portée de n'importe qui. Cela augmente le risque d'abus, car les utilisateurs malintentionnés peuvent créer des vidéos qui semblent authentiques, mais qui sont en réalité fabriquées pour tromper ou nuire.
Les célébrités les plus affectées en 2024
Kapwing a réalisé une analyse des personnages publics les plus touchés par cette technologie en 2024. Pour ce faire, ils ont examiné les demandes de deepfakes effectuées sur l'un des outils d'IA les plus actifs sur Discord, où ils ont compté manuellement le nombre de fois que la création de vidéos fausses a été demandée pour plus de 500 figures influentes de la culture américaine.
Le résultat a révélé un classement des célébrités les plus deepfakeées, dominé par Donald Trump, qui a accumulé plus de 12 000 vidéos manipulées rien que cette année. Trump est suivi par des figures tout aussi marquantes comme Elon Musk et Taylor Swift, qui ont également été l'objet de multiples manipulations. Voici la liste des 10 célébrités les plus touchées par les deepfakes en 2024 :
- Donald Trump : 12 384 vidéos
- Elon Musk : 9 544 vidéos
- Taylor Swift : 8 202 vidéos
- Joe Biden : 7 956 vidéos
- Tom Cruise : 2 308 vidéos
- Dwayne Johnson : 1 970 vidéos
- Cristiano Ronaldo : 1 948 vidéos
- Mark Zuckerberg : 1 738 vidéos
- Will Smith : 1 609 vidéos
- Beyoncé : 1 328 vidéos
Comment détecter un deepfake
Avec la prévalence croissante des deepfakes, il est important que les utilisateurs d'Internet sachent comment détecter ces vidéos manipulées. Eric Lu, cofondateur de Kapwing, propose trois conseils clés pour identifier les deepfakes modernes :
- Mouvement incohérent des lèvres et des dents : la synchronisation labiale peut échouer sur des détails tels que l'alignement des dents ou le mouvement des lèvres. Dans certains cas, la zone autour de la bouche peut apparaître floue ou avoir des couleurs peu naturelles.
- Mouvements corporels inhabituels : les deepfakes se concentrent souvent sur le visage, ce qui signifie que les mouvements corporels ou les gestes peuvent ne pas correspondre au dialogue ou aux expressions faciales. Si le sujet ne cligne pas des yeux ou le fait de manière étrange, cela peut être un signe de manipulation.
- Voix inanimées et motifs de respiration inhabituels : les voix clonées manquent souvent des variations naturelles de la parole humaine, et les pauses ou la respiration peuvent sembler antinaturelles.