Le concept d'intelligence artificielle (IA) a commencé à être reconnu depuis 2022 avec l'apparition de ChatGPT, et au fil du temps, d'autres programmes utilisant cette technologie pour toutes sortes de tâches ont émergé, mais ils n'avaient pas nécessairement de bonnes intentions.
C'est ce que montre la Internet Watch Foundation (IWF), qui a lancé une alerte sur la façon dont l'IA est utilisée pour manipuler des images d'enfants à travers le monde, provoquant une augmentation de 360 % des photos sexuelles publiées sur le web d'enfants âgés de 7 à 10 ans.
De plus, ce risque augmente chez la population féminine, car 50 % des images manipulées par IA signalées en 2022 par l'IWF concernaient des filles de 11 à 13 ans.
Bien qu'on puisse penser qu'une image manipulée peut être reconnue par rapport à une réelle, les cas récents et l'avancement de cette technologie montrent que son impact sur la santé physique et mentale des enfants est significatif.
Les filles et les adolescentes sont les principales victimes de la manipulation de l'IA
Certains ont entendu parler des ‘deepfakes’, qui signifie, en termes pratiques, insérer l'image d'une personne sur une autre à l'aide de l'IA, ce qui attire l'attention des autorités internationales en tant que source de désinformation et constitue une atteinte à l'honneur et à la réputation des personnes concernées. Cette situation n'épargne pas non plus les enfants, les filles et les adolescents.
En Espagne, dans une institution éducative, une douzaine de filles âgées de 11 à 17 ans ont alerté les autorités que des photos d'elles nues, manipulées, circulaient sur les téléphones de leurs camarades de classe.
En Amérique Latine, au moins 12 élèves d'un collège à Lima, au Pérou, âgées de 13 à 16 ans, ont été victimes de photos intimes manipulées par intelligence artificielle qui ont fini par être achetées par des prédateurs sexuels.
Ces scénarios atroces reflètent l'utilisation de l'IA par des criminels qui finissent par filtrer des millions d'images sexuelles d'enfants manipulées à des réseaux de trafic qui opèrent dans différentes parties du monde.
Selon l'IWF, "au cours de la première moitié de 2022, 20 000 pages web contenant des images d'abus sexuels «auto-générées» résultant de la coercition d'enfants âgés de 7 à 10 ans ont été identifiées".
Pourquoi il est dangereux de publier des photos d'enfants sur les réseaux sociaux
Selon Martha Castellanos, vice-rectrice académique de la Fundación Área Andina, la première chose à faire est “de faire comprendre aux enfants et adolescents comment utiliser leur propre patrimoine personnel”.
Parmi les éléments qui composent leur patrimoine personnel figurent les photos et vidéos publiées ainsi que leur comportement sur les réseaux sociaux et plateformes technologiques. Castellanos souligne qu'"ils doivent être conscients qu'une expression ou un geste peut être mal interprété et manipulé par les technologies avancées qui existent".
Castellanos ajoute que ce n'est pas seulement la responsabilité des mineurs, mais aussi des parents. "Parfois, nous commettons la légèreté de publier ce que nous faisons avec nos enfants, ce qui peut amener des personnes malintentionnées à utiliser ces informations", affirme l'académique.
Comment les parents doivent agir contre cette menace
Les recommandations sont liées à limiter et éduquer sur l'utilisation de la technologie et des réseaux sociaux. "Il existe plusieurs études qui montrent qu'il ne faut pas exposer les téléphones intelligents et les réseaux sociaux aux enfants de moins de 15 ans", assure Castellanos.
En effet, la Fundación Save the Children dans son rapport “Derechos SinConexión” appelle les entreprises derrière les plateformes de services numériques à "assumer les responsabilités qui leur incombent en matière de protection des enfants, des filles et des adolescents, non seulement en ce qui concerne l'accès à des contenus, mais aussi en ce qui concerne la conception de produits persuasifs pouvant générer des addictions".
Ils ajoutent que "toutes les stratégies doivent privilégier l'éducation et l'accompagnement par les parents, en atteignant des accords avec leurs enfants sur l'utilisation des appareils électroniques".
De même, si dans certaines situations un enfant termine en tant que victime d'une photo intime manipulée par intelligence artificielle, Alejandro Castañeda, chef du Centre de l'Internet Securisé - Viguías de Red Papaz, insiste sur l'importance de ne pas chercher à culpabiliser la victime ; il souligne que "au final, la victime sera toujours l'enfant".
A ces observations s'ajoute celle de Leila Suckewer, enseignante en Licence de Psychopédagogie à l'Université CAECE, en Argentine, qui suggère : “en tant que parents, nous devons mettre des limites en termes de temps d'utilisation des dispositifs et sur quel type de contenu ils consomment”.
Chacun des spécialistes consultés s'accorde à dire que l'éducation des jeunes dès le plus jeune âge sur les risques que présentent la technologie et les réseaux sociaux, ainsi que sur leurs avantages, est essentielle.