L'intelligence artificielle (IA) a le potentiel de résoudre des problèmes logistiques et matériels de manière significative, mais elle pourrait également engendrer des défis sociaux et éthiques importants. De nos jours, il est possible de rédiger un essai d'un simple clic, et à l'avenir, il est prévu que l'IA améliore encore notre qualité de vie. Cette technologie promet de créer de nouveaux emplois, d'augmenter la richesse mondiale, d'améliorer la productivité des entreprises et de libérer du temps pour les activités personnelles. Actuellement, un tiers des entreprises utilise déjà l'IA, et 95 % des utilisateurs de téléphones mobiles ont interagi avec des applications basées sur cette technologie.
Cependant, l'avancée rapide de l'IA peut également comporter des risques considérables. La préoccupation est que les effets négatifs pourraient égaler ou même surpasser les effets positifs, menant à des scénarios apocalyptiques décrits dans la science-fiction. Cependant, le véritable problème ne réside pas dans les machines elles-mêmes, mais dans les humains qui les créent et les utilisent ; des personnes sans principes éthiques solides qui programment des machines pourraient commettre certains abus pour leur profit personnel, et des personnes sans formation pour utiliser l'IA pourraient l'utiliser contre elles-mêmes ou d'autres de manière nuisible, sans s'en rendre compte.
Dans le monde occidental, certains dirigeants ont signalé que les machines actuelles ont été conçues par des personnes d'un "certain profil ethnique", ce qui a entraîné des échecs dans la reconnaissance d'autres ethnies. Les logiciels de reconnaissance faciale peuvent améliorer la sécurité civile, mais peuvent également introduire des biais discriminatoires, reflétant les préjugés de leurs créateurs. Par exemple, les systèmes de reconnaissance faciale conçus par des personnes ayant des profils spécifiques (hommes baby-boomers, anglophones, d'ethnie caucasienne) échouent souvent à reconnaître correctement des personnes d'ethnies diverses. Cela a conduit à l'idée d'exiger légalement que les machines reconnaissent une variété d'ethnies pour prévenir le délit de discrimination.
Un autre exemple de cette problématique est la régulation des réseaux sociaux, qui est devenue nécessaire en raison du mauvais usage des données personnelles et des implications sur la santé des utilisateurs. Les algorithmes qui alimentent ces plateformes, basés sur l'IA, ne veillent pas toujours à la vie privée de l'utilisateur, et n'établissent pas non plus de limites sur l'usage excessif des dispositifs, ce qui affecte la santé numérique et mentale des utilisateurs.
La capacité potentielle de l'IA à amplifier de manière exponentielle les biais humains, à affecter la vie privée des données personnelles, à partialiser le marché du travail et à promouvoir la cybercriminalité a conduit la communauté européenne à utiliser législativement le terme "intelligence artificielle à haut risque". Ce concept permet d'identifier des comportements inacceptables qui doivent être sanctionnés, quelque chose qui reste à définir, y compris les systèmes pouvant causer des dommages physiques, discriminer socialement, priver arbitrairement de droits du travail ou altérer l'autonomie et la vie privée des utilisateurs, portant atteinte aux droits de l'homme ainsi qu'aux principes éthiques universels. Par conséquent, il est crucial de développer et de programmer l'IA avec des paramètres qui n'avaient pas été pris en compte initialement. Ces paramètres éviteraient des processus de recrutement biaisés, la création de logiciels et de produits potentiellement nuisibles pour la société, ainsi que des processus électoraux peu démocratiques.
Le chemin vers une régulation efficace de l'IA sera complexe et nécessitera des limites clairement définies ainsi que des sanctions spécifiques en cas de violation de ces limites. De plus, les cadres réglementaires doivent être flexibles et adaptables pour répondre aux avancées technologiques rapides et aux nouveaux défis éthiques, sans restreindre la liberté d'utiliser l'IA de manière responsable. Ces deux aspects détermineront si l'IA devient un allié de l'humanité ou une menace pour elle.
Nouveau