Le mercredi 28 août, les autorités de Corée du Sud ont lancé une enquête massive pour lutter contre la crise croissante des images pornographiques falsifiées qui a surgi suite à la découverte d'un réseau Telegram dédié à la création de ces contenus.
Selon The Wall Street Journal (WSJ), ce réseau a affecté des centaines de victimes, dont beaucoup sont mineures. Les images, créées à partir de photos réelles, ont été transformées en contenu sexuel explicite et vues par des centaines de milliers d'utilisateurs.
Telegram, une plateforme de messagerie utilisée pour distribuer ces images, a été centrale dans la diffusion de contenu manipulé numériquement sans le consentement des personnes touchées. Les victimes comprennent des enseignants, des militaires, des étudiants universitaires et des élèves de primaire.
Yoon Suk Yeol, président de Corée du Sud, a qualifié ces actes de « crimes clairs qui exploitent la technologie sous le couvert de l'anonymat », soulignant que « quiconque peut être une victime ». Ce phénomène a placé la Corée du Sud parmi les principaux pays d'origine de près de 50 % de ces types de contenus à l'échelle mondiale, selon des rapports d'experts.
Le Ministère de l'Éducation réexamine la peine maximale pour les adolescents impliqués dans la création de ces images, car les protections actuelles en Corée du Sud n'ont pas réussi à suivre le rythme des menaces que représentent les contenus sexualisés générés par l'intelligence artificielle. Les législateurs s'efforcent de combler les lacunes légales et d'étendre les peines au-delà de ceux qui diffusent intentionnellement ce contenu illicite.
Le réseau Telegram opérait à travers des chats organisés par nom d'école ou région, facilitant l'identification de connaissances parmi les utilisateurs. Pour accéder à ces groupes, certains participants devaient fournir des photos d'une femme, généralement extraites des comptes de réseaux sociaux de leurs camarades, selon les autorités et les militants.
La communication dans ces chats se faisait presque exclusivement en coréen, ce qui suggère que la majorité des membres étaient locaux, a rapporté le WSJ.
Au début de ce mois, une enquête policière a révélé l'existence d'un groupe Telegram avec environ 1 200 membres actifs depuis 2020 dans une université sud-coréenne. Dans ce groupe, en plus de partager des images manipulées, ils distribuaient également des informations personnelles sur les victimes, telles que des numéros de téléphone, des adresses et des numéros d'identification étudiants.
Des bénévoles qui ont examiné les chats de Telegram estiment qu'environ 500 établissements éducatifs, allant des universités aux écoles primaires, pourraient avoir été affectés. Un site Web qui offre une liste des écoles impliquées a accumulé environ trois millions de visites depuis son lancement.
L'interpellation de Pavel Durov
Bien qu'une répression contre les images pornographiques falsifiées sur Telegram ait été instaurée, cette action est survenue dans un contexte de préoccupation internationale.
Quelques jours avant l'annonce sud-coréenne, les autorités françaises ont arrêté Pavel Durov, fondateur et directeur général de Telegram, dans le cadre d'une enquête sur la facilitation du crime en ligne via la plateforme, y compris la distribution de pornographie juvénile.
En réponse à l'enquête sud-coréenne, un représentant de Telegram a déclaré que la société supprimait des millions de contenus nuisibles chaque jour par le biais de modération, d'outils d'intelligence artificielle et de signalements d'utilisateurs.
Ce n'est pas un problème récent
Le panorama ne se limite pas seulement à Corée du Sud. Selon des données de 2023 de l'entreprise de prévention de fraude d'identité Security Hero, environ 50 % des personnes présentées dans des pornographies profondes en ligne sont des chanteuses et actrices sud-coréennes, analysant près de 100 000 vidéos diffusées sur plus de 100 sites Web.
Les femmes sud-coréennes ont été exposées à un risque élevé d'apparition non consentie de leurs images sexuelles en ligne pendant des années. Les autorités municipales inspectent les toilettes publiques à la recherche de caméras cachées, et des célébrités ont été accusées de diffuser des enregistrements obtenus illégalement.
Cette année, plus de 6 000 Sud-Coréens ont demandé la suppression d'images pornographiques fausses créées sans leur consentement, selon des données réglementaires étatiques jusqu'en juillet, qui approchent déjà le total annuel de l'année dernière d'environ 7 000 demandes.
Des près de 300 personnes accusées de créer et de distribuer des images pornographiques falsifiées depuis le début de 2023, environ 70 % étaient des adolescents, selon la Agence Nationale de Police de Corée.
La Fédération Coréenne des Syndicats de Professeurs a suggéré dans une déclaration récente que la responsabilité de signaler et d'enquêter sur ces affaires repose principalement sur les écoles. Elle a recommandé d'établir un mécanisme fédéral pour identifier les auteurs.
La situation a poussé de nombreux étudiants à rendre leurs comptes privés ou à supprimer les photos qu'ils avaient publiées en ligne avant qu'une réponse appropriée ne soit mise en place ou que les responsables ne soient sanctionnés.