Avec l’intégration de l’intelligence artificielle dans les différents domaines de la vie quotidienne, certaines questions imprègnent encore la problématique. Des questions telles que quel est son impact social, si les emplois actuels seront redéfinis, si la création d'emplois sera affectée, entre autres.
La vérité est que, bien qu’elle soit un excellent outil de travail et, comme l’ont souligné de nombreux spécialistes, qu’elle soit conçue pour valoriser le travail des êtres humains et non pour « voler » ces espaces, l’IA a encore plusieurs problèmes à résoudre pour être accessible et inclusif pour tous.
Divers spécialistes de l'Université nationale autonome du Mexique (UNAM) ont souligné que, même si l'on dit que l'intelligence artificielle n'a pas de genre (comme le prétendent ses développeurs), elle a néanmoins un « comportement » sexiste ou sexiste lorsqu'elle fournit ou génère information. « Essayez et vous verrez : l’IA n’est pas féministe . Personne ne vous a donné de cours pour en devenir un. Leurs données n’ont pas un profil inclusif », souligne un article de « l’établissement d’enseignement maximum ».
L’IA est-elle féministe ?
Les systèmes d’ intelligence artificielle (IA) ont considérablement progressé, mais leur développement n’est pas exempt de biais. Bien que l’IA elle-même n’ait pas de genre ni d’idéologie, les ensembles de données utilisés dans sa formation reflètent des stéréotypes et des pratiques discriminatoires, a révélé ChatGPT dans une explication récente. Ce phénomène, souligné par les experts, démontre comment la représentation et les préjugés sociaux peuvent s’infiltrer dans les technologies les plus avancées.
Saiph Savage , ingénieur informaticien de l'UNAM et docteur en informatique de l'Université de Californie à Santa Barbara, a indiqué que l'IA cherche à simuler la pensée humaine grâce à l'apprentissage automatique. « L'IA générative crée de nouveaux contenus à partir de l'expérience et de l'apprentissage, en utilisant des millions de données pour comprendre les concepts », a déclaré Savage. Cette technologie est profondément influencée par l'interaction humaine sur le Web, où les activités quotidiennes telles que télécharger des photos, aimer ou commenter jouent un rôle essentiel.
De son côté, María Ximena Gutiérrez , du programme Big Data, Intelligence Artificielle et Internet du CEIICH de l'UNAM, a souligné que l'IA peut refléter des préjugés sexistes dus à des données partielles dès son origine. En outre, il a souligné que ces systèmes neuronaux, bien que complexes et efficaces, peuvent présenter un manque de transparence qui affecte leur impartialité.
Un exemple notable de discrimination fondée sur le sexe dans les technologies émergentes s’est produit dans une entreprise multinationale de commerce électronique. Entre 2014 et 2015, son algorithme de sélection du personnel était discriminatoire à l’égard des femmes, privilégiant les modèles d’études masculins. Cet incident met en évidence la nécessité de surveiller la neutralité des systèmes d’IA, en particulier dans l’industrie technologique.
Gutiérrez a souligné l'importance d'analyser la représentativité des données utilisées pour entraîner les modèles d'IA et de remettre en question leur souveraineté. Savage a suggéré que la formation d’équipes interdisciplinaires est essentielle pour confronter et atténuer les préjugés existants et favoriser la collecte de données inclusives. La discrimination sexuelle dans les systèmes d’IA ne se limite pas à l’embauche. Dans le cadre de décisions financières, par exemple, AI a refusé des prêts à des femmes au foyer ou a réduit le montant accordé en fonction des revenus enregistrés. La violence numérique et la création de faux contenus, tels que des images profondément fausses , représentent également des risques importants, affectant la sécurité et la représentation des femmes.
Enfin, de nombreuses institutions recherchent une IA responsable. L'UNAM promeut des cours et des projets qui luttent contre les préjugés sexistes dans l'IA, en innovant avec des conceptions participatives axées sur les besoins des femmes. Savage a souligné l'importance de ces initiatives pour promouvoir l'équité dans le développement des technologies émergentes.
Comment l’intelligence artificielle affecte-t-elle les femmes ?
Selon un rapport préparé par la Banque interaméricaine de développement ( BID ), l' OCDE et l'UNESCO, les systèmes d'IA peuvent influencer les opportunités d'emploi, de soins et d'emploi domestique pour les femmes.
Le document souligne que, étant donné que la conception de l’IA peut être influencée par des facteurs culturels et professionnels, il est possible que ces systèmes renforcent les préjugés sexistes existants, affectant négativement les femmes. Le rapport recommande aux gouvernements, au secteur privé et à d’autres acteurs de mettre en œuvre des mesures pour éviter que les femmes ne soient laissées pour compte dans l’économie numérique.
Pour réduire l’écart entre les sexes, l’étude suggère la nécessité de prendre en compte les complexités contextuelles et géographiques lors de la conception et de la mise en œuvre des systèmes d’IA. La diversité des marchés du travail, des économies, des cultures et des normes de genre influence la façon dont les travailleurs, et en particulier les femmes, expérimentent la technologie de l’IA.
Le rapport a également souligné les disparités dans l'accès des femmes aux compétences et aux emplois numériques. Il souligne qu'à l'échelle mondiale, les femmes sont 25 % moins susceptibles que les hommes de savoir comment utiliser les technologies de l'information et de la communication ( TIC ) à des fins de base, comme l'utilisation de formules dans des feuilles de calcul, selon la coalition UNESCO EQUALS Skills (2019) . De plus, les hommes sont quatre fois plus susceptibles de posséder des compétences avancées telles que la programmation.
De même, les organisations internationales ont souligné l’importance de créer des environnements de travail qui favorisent l’égalité des compétences pour les femmes dans la société. Cela indique que certains systèmes d’IA pourraient perpétuer des modèles inégaux de travail flexible, renforçant l’idée selon laquelle les femmes sont principalement responsables des soins et du travail domestique.
Nouveau