Les procureurs fédéraux ont accusé un soldat de l'armée des États-Unis d'avoir utilisé l'intelligence artificielle pour générer des images sexuelles explicites d'enfants qu'il connaissait, marquant ainsi la plus grande focalisation du gouvernement sur la pénalisation de la création de contenu d'abus sexuel d'enfants par IA.
Seth Herrera, un soldat de l'armée âgé de 34 ans stationné à Anchorage, possédait des milliers d'images montrant des abus sexuels violents d'enfants et dépendait d'outils d'intelligence artificielle pour générer du matériel réaliste d'abus sexuel d'enfants, selon un communiqué du Département de la Justice publié lundi. Il a été arrêté la semaine dernière et a comparu pour la première fois devant le tribunal le mardi 27 août.
Herrera avait pris des photos de mineurs qu'il connaissait et les avait traitées avec un logiciel d'intelligence artificielle pour les dévêtir ou les transformer en images pornographiques les montrant en train de pratiquer le sexe oral ou d'être pénétrés par un objet sexuel, selon des documents judiciaires. Il stockait et recevait des images d'abus sexuel d'enfants via des applications de messagerie populaires comme Telegram.
L'arrestation de Herrera se produit à un moment où le contenu d'abus sexuel d'enfants généré par l'intelligence artificielle, communément connu sous le nom de pornographie infantile, inonde le web grâce à un logiciel qui crée des images synthétiques. Les outils sont de plus en plus promus dans des forums de pédophiles comme moyen de créer des représentations sexuelles d'enfants sans censure et hautement photoréalistes, ont déclaré des chercheurs en sécurité infantile au The Washington Post.
Le cas intervient également alors que des responsables fédéraux avancent des arguments juridiques affirmant que les images inventées par IA devraient encore être traitées de manière similaire à l'abus sexuel d'enfants enregistré dans le monde réel.
“L'utilisation abusive de l'intelligence artificielle générative de dernière génération accélère la prolifération de contenu dangereux”, a déclaré la procureure générale adjointe Lisa Monaco dans la déclaration du Département de la Justice. “… Les criminels qui envisagent d'utiliser l'intelligence artificielle pour perpétrer leurs délits devraient faire une pause et y réfléchir à deux fois”.
Le Département de la Défense a renvoyé les questions à l'armée, qui n'a pas immédiatement répondu à une demande de commentaires. L'avocat d'Herrera, le défenseur public fédéral adjoint Benjamin Muse, a refusé de faire des commentaires.
L'arrestation de Herrera intervient après une série de cas fédéraux liés à l'IA et au contenu d'abus infantile. En mai, un homme du Wisconsin a été accusé d'avoir créé des images d'abus sexuel d'enfants avec IA, probablement le premier chef d'accusation fédéral de création de matériel d'abus sexuel d'enfants appliqué à des images entièrement produites par IA.
Dans deux autres affaires récentes, des responsables fédéraux ont déclaré que des hommes en Caroline du Nord et en Pennsylvanie avaient utilisé l'IA pour superposer des visages d'enfants sur des scènes de sexe explicites, créant ce que l'on appelle un deepfake, ou pour retirer numériquement les vêtements d'enfants sur des photographies réelles.
Selon les documents judiciaires, une révision des trois téléphones Samsung Galaxy d'Herrera, obtenus lors d'une perquisition effectuée par les Investigations de Sécurité Nationale, a révélé qu'il possédait “des dizaines de milliers” de vidéos et d'images montrant des enfants aussi jeunes que des bébés étant violés violemment, datant de mars 2021.
Outre Telegram, Herrera a utilisé d'autres applications de messagerie, telles que Potato Chat, Enigma et Nandbox, pour échanger du contenu explicite. Herrera a également créé son propre groupe public Telegram pour stocker son contenu explicite, selon des documents judiciaires.
Herrera a créé des images “transformées” d'abus sexuels en capturant des images et des vidéos d'enfants qu'il connaissait dans des situations intimes, comme lorsqu'ils prenaient une douche, selon des documents judiciaires. Il agrandissait les images et utilisait l'intelligence artificielle pour “améliorer” ces photos, ont ajouté les procureurs. Lorsque ces images “ne satisfaisaient pas son désir sexuel”, Herrera se tournait vers l'intelligence artificielle pour représenter des mineurs participant aux “types de comportements sexuels qu'il voulait voir”, ont indiqué les responsables.
Robert Hammer, agent spécial en charge de la division Nord-Ouest Pacifique des Investigations de Sécurité Nationale, a déclaré que le rôle d'Herrera en tant que soldat générant des images d'abus sexuel d'enfants utilisant l'IA était une “violation profonde de la confiance” et a anticipé les défis que les forces de l'ordre devront relever pour protéger les enfants.
Herrera est un spécialiste enrôlé de l'armée qui a servi en tant qu'opérateur de transport motorisé dans la 11e Division Aéroportée à la Base Conjointe Elmendorf-Richardson à Anchorage, selon Stars and Stripes.
Herrera est accusé d'un chef d'accusation de transport d'images d'abus sexuel d'enfants, d'un chef d'accusation de réception de ces images et d'un autre chef d'accusation de possession de contenu. S'il est reconnu coupable, Herrera risque une peine maximale de 20 ans de prison.