L'entreprise d'intelligence artificielle OpenAI a affirmé vendredi qu'un groupe iranien avait utilisé son chatbot ChatGPT pour générer des contenus publiés sur des sites web et des réseaux sociaux dans le but de raviver la polarisation parmi les électeurs américains lors des élections présidentielles.
Les sites et comptes de réseaux sociaux découverts par OpenAI ont publié des articles et des opinions élaborés avec l'aide de ChatGPT sur des sujets tels que le conflit de Gaza et les Jeux Olympiques. Ils ont également publié du matériel sur les élections présidentielles américaines, diffusant des informations erronées et rédigeant des critiques sur les deux candidats, selon un rapport de l'entreprise. Certains sont apparus sur des sites qui, selon Microsoft, ont été utilisés la semaine dernière par l'Iran pour publier de fausses nouvelles visant à augmenter la division politique aux États-Unis, selon OpenAI.
L'entreprise d'IA a interdit les comptes de ChatGPT associés aux efforts iraniens et a déclaré que ses publications n'avaient pas suscité l'attention généralisée des utilisateurs des réseaux sociaux. OpenAI a trouvé “une douzaine” de comptes sur X et un sur Instagram qu'elle a liés à l'opération iranienne et a déclaré que tous avaient été supprimés après l'avoir signalé à ces entreprises de médias sociaux.
Ben Nimmo, chercheur principal de l'équipe de renseignement et d'investigation d'OpenAI, a déclaré que l'activité constituait le premier cas où l'entreprise détectait une opération visant principalement les élections américaines. “Bien qu'il ne semble pas qu'elle ait atteint les gens, c'est un rappel important, nous devons tous rester vigilants mais garder notre calme”, a-t-il dit.
Le rapport d'OpenAI s'ajoute à des preuves récentes d'efforts iraniens axés sur la technologie pour influencer les élections américaines, détaillées dans des rapports de Microsoft et Google.
Un des sites web signalés vendredi par OpenAI, Teorator, se présente comme “la destination définitive pour découvrir les vérités qu'ils ne veulent pas que vous sachiez”, et a publié des articles critiques à l'égard du candidat démocrate à la vice-présidence Tim Walz. Un autre site appelé Even Politics a publié des articles critiques à l'égard du candidat républicain Donald Trump et d'autres figures conservatrices telles qu'Elon Musk.
En mai, OpenAI a détaillé pour la première fois les tentatives d'agents gouvernementaux d'utiliser son IA pour créer de la propagande, affirmant avoir détecté des groupes de l'Iran, de la Russie, de la Chine et d'Israël utilisant ChatGPT pour créer des contenus dans plusieurs langues. Selon Nimmo, aucune de ces opérations d'influence n'a réussi à atteindre les internautes. OpenAI a également reconnu qu'il était possible que l'entreprise n'ait pas détecté des opérations plus discrètes utilisant sa technologie.
Alors que des milliards de personnes votent cette année lors des élections dans le monde entier, des défenseurs de la démocratie, des politiciens et des chercheurs en IA ont exprimé leur inquiétude quant à la capacité de l'IA à faciliter la génération de grandes quantités de propagande semblant écrite par de vraies personnes.
Jusqu'à présent, les autorités n'ont pas signalé de preuves généralisées selon lesquelles des gouvernements étrangers parviendraient à influencer les Américains pour qu'ils votent d'une certaine manière.
© 2024, The Washington Post.