La publication de la vidéo intervient au moment de l'annonce récente de Harris comme remplaçante de Joe Biden dans la course à la Maison Blanche, dans laquelle le propriétaire de X a déjà exprimé son soutien à Donald Trump, le candidat républicain.
Que montre la vidéo partagée par Musk
La vidéo en question utilise de nombreux éléments visuels d'une véritable annonce que Harris, candidate démocrate à la présidence, a récemment publiée dans le cadre de sa campagne. Cependant, la vidéo partagée par Musk remplace la voix off par une autre qui supplante de manière convaincante la vice-présidente.
Dans l'enregistrement, la voix altérée déclare : « Moi, Kamala Harris, je suis votre candidate démocrate à la présidence parce que Joe Biden a enfin exposé qu'il est sénile lors du débat ». De plus, il est affirmé que Harris a été choisie pour satisfaire aux quotas de "diversité" en tant que femme d'origine indienne et jamaïcaine.
La vidéo ne manipulate pas seulement l'audio, mais ajoute également quelques extraits authentiques de Harris pris dans le passé, augmentant ainsi son apparence d'authenticité.
Le matériel a été publié à l'origine par un compte YouTube nommé "Mr Reagan", étiqueté comme parodie. Cependant, lorsque Musk a partagé l'enregistrement, il a simplement commenté "C'est incroyable" accompagné d'un emoji rieur, sans mentionner que le contenu était faux.
La polémique après la publication
La réaction de l'équipe de campagne de Harris a été immédiate. Mia Ehrenberg, porte-parole de l'équipe de campagne, a envoyé un e-mail à l'Associated Press dans lequel elle a exprimé son indignation : « Nous pensons que le peuple américain veut la véritable liberté, l'opportunité et la sécurité que propose la vice-présidente Harris ; pas les mensonges faux et manipulés d'Elon Musk et de Donald Trump ».
Jusqu'à ce lundi, la vidéo partagée par Musk avait été vue plus de 138 millions de fois, selon la plateforme X. Le manque de clarification explicite de Musk concernant la nature manipulée de la vidéo a amené beaucoup de gens à se demander si sa publication pourrait violer les politiques de X.
Ces politiques stipulent que les utilisateurs "ne peuvent pas partager du contenu synthétique, manipulé ou hors de contexte qui pourrait tromper ou confondre les gens et causer du tort".
L'impact de l'utilisation de l'IA dans la publication de contenu
La vidéo est un exemple clair de la façon dont les images, vidéos ou clips audio générés par intelligence artificielle peuvent être utilisés à la fois pour se moquer et pour tromper dans le domaine politique.
Deux experts en contenus multimédias générés par l'IA ont examiné l'audio de la fausse annonce et ont confirmé qu'une grande partie de celui-ci avait été générée grâce à la technologie de l'IA.
Hany Farid, expert en analyse forensique numérique à l'Université de Californie, campus de Berkeley, a déclaré au Los Angeles Times que "la voix générée par l'IA est très bonne. Bien que la plupart des gens ne croient pas qu'il s'agit de la voix de la vice-présidente Harris, la vidéo est beaucoup plus percutante lorsque les mots sortent avec sa voix".
Farid a ajouté que les entreprises d'IA générative qui mettent à disposition du public des outils de clonage vocal et d'autres outils d'IA devraient s'efforcer davantage de garantir que leurs services ne soient pas utilisés de manière à nuire aux personnes ou à la démocratie.
Nouveau