Sur Internet circulent des vidéos de personnalités publiques qui se révèlent être des deepfakes, c'est-à-dire une manipulation numérique créée avec l'intelligence artificielle pour simuler des situations qui ne se sont jamais produites.
Ces types d'incidents soulignent l'inquiétude croissante concernant la sécurité des contenus consommés en ligne, notamment dans le domaine de la publicité et des publicités.
Les deepfakes, une menace pour la sécurité en ligne
Les deepfakes sont dangereux car ils utilisent l'intelligence artificielle pour créer de fausses vidéos ou audio qui semblent réels , ce qui peut conduire à de la désinformation, affecter la réputation des gens, manipuler l'opinion publique et être utilisé à des fins de fraude et d'escroqueries, sapant ainsi la confiance du public dans les médias numériques.
"Vers la fin de 2023 et au début de 2024, nous avons été confrontés à une campagne ciblée de publicités présentant l'image de personnalités publiques pour arnaquer les utilisateurs, souvent via l'utilisation de deepfakes", selon Google.
Bien qu'il n'y ait aucune information dans le rapport sur le nombre de deepfakes dans les publicités identifiés, Google souligne avoir déployé une stratégie afin de les reconnaître et de les éliminer.
« Nous avons identifié des modèles de comportement d'acteurs malveillants, formé nos modèles d'applications automatisées pour détecter des publicités similaires et commencé à les supprimer à grande échelle », expliquent-ils.
Une époque dominée par l’IA
En 2023, les escroqueries et les fraudes sur toutes les plateformes en ligne ont augmenté, selon Google. « Les acteurs malveillants font constamment évoluer leurs tactiques pour manipuler la publicité numérique afin d'arnaquer à la fois les personnes légitimes et les entreprises », ajoute-t-il.
Outre les deepfakes, l’intelligence artificielle peut avoir plusieurs applications dans la création de publicités frauduleuses, telles que :
- Génération de texte : l'IA peut créer un texte convaincant ou trompeur pour promouvoir des escroqueries, de fausses offres ou des produits inexistants.
- Reconnaissance et analyse d'images : elle peut être utilisée pour modifier des images ou créer des visualisations qui confondent ou trompent le spectateur en affichant faussement des produits.
- Segmentation ciblée : à l'aide d'algorithmes pour analyser de grandes quantités de données, l'IA peut identifier et cibler les utilisateurs vulnérables ou plus susceptibles à certains types d'escroqueries.
- Simulation des comportements humains : des robots intelligents qui simulent des conversations humaines peuvent être utilisés dans des discussions en ligne pour simuler un service client ou des conseillers, afin d'inciter les utilisateurs à transmettre des informations personnelles ou financières.
- Analyse prédictive : pour identifier quand et où certains types de publicités frauduleuses ont le plus de chances de réussir, optimisant ainsi l'impact des activités frauduleuses.
Google a mis en œuvre une série de politiques pour renforcer la sûreté et la sécurité des utilisateurs en ligne. Ces mesures comprenaient le lancement de la politique de diffusion d'annonces limitée en novembre 2023, conçue spécifiquement pour protéger les utilisateurs en limitant la portée des annonceurs moins familiers.
Cette politique constitue un élément essentiel des efforts de Google visant à protéger les utilisateurs contre tout préjudice en ligne, ce qui dépend en grande partie de la capacité de l'entreprise à réagir rapidement aux nouvelles tendances en matière d'escroquerie.
Google a restreint 6,9 milliards de publicités en 2023 dans des domaines sensibles, tels que les services financiers et le contenu pour adultes.
Annonces frauduleuses pendant les élections
Au cours d'une année marquée par plusieurs élections majeures dans le monde, Google a mis en œuvre des vérifications d'identité et des exigences de transparence pour les annonceurs électoraux , et a également lancé une nouvelle exigence de divulgation pour les publicités électorales contenant du contenu synthétique, en se concentrant sur une plus grande transparence et en permettant des décisions éclairées.