Harari soutient que nous avons créé une entité plus intelligente et puissante que l'être humain, et si nous n'établissons pas de mécanismes de contrôle appropriés, les conséquences pourraient être dévastatrices non seulement pour l'humanité, mais pour l'ensemble du système écologique. Lors d'un dialogue téléphonique avec le journaliste Justo Barranco, l'historien a exprimé : “Ce n'est pas parce que l'IA est malveillante, mais elle est extrêmement puissante et nous n'avons aucune importance pour elle, elle pourrait nous faire ce que nous avons fait à tant d'autres organismes”, a souligné l'historien, ajoutant que les scénarios catastrophiques ne sont pas seulement imaginaires, mais plausibles.
De plus, il a souligné que, de plus en plus, l'IA joue un rôle crucial dans la création et la diffusion d'idées. Contrairement à ce que certains supposent, l'IA ne se limite pas à répliquer des idées, mais elle est capable de générer ses propres visions et de prendre des décisions sur comment et quoi diffuser. “Sur TikTok ou Facebook, c'est un algorithme qui décide quels messages recevront beaucoup d'attention. Et cela façonne l'opinion publique”, a précisé Harari lors d'un dialogue avec La Vanguardia. Cela a des implications massives pour nos sociétés car, selon lui, on commence à voir comment les décisions des algorithmes influencent la politique, la culture et la communauté internationale.
“Avec l'IA, une partie du problème est qu'il existe des centaines de scénarios très dangereux. Certains faciles à imaginer : un dictateur donne à l'IA le contrôle des armes nucléaires et par erreur de calcul, il y a une catastrophe”, a déclaré l'historien.
Et il a pensé à un autre exemple : “Des terroristes créent avec l'IA un nouveau virus mortel. Mais la nature même de l'IA est qu'elle peut créer de nouvelles visions et idées par elle-même. Ce n'est pas un outil entre nos mains. Nous libérons des millions de nouveaux agents autonomes qui pourraient devenir plus intelligents que nous et nous ne pouvons pas anticiper ni contrôler ce qu'ils feront.”
L'auteur a également réfléchi à l'influence de l'IA sur le langage et la politique. “La clé de presque tout ce que nous avons créé est finalement le langage. Jusqu'à aujourd'hui, personne sauf les humains ne pouvait comprendre ou créer ces choses”. Harari a souligné que l'IA n'est pas seulement capable de maîtriser le langage de manière similaire aux humains, mais qu'elle peut le faire mieux à bien des égards. Il a soutenu que, dans un avenir proche, l'IA sera capable d'élaborer des manifestes politiques et des textes religieux, ce qui pourrait signifier un changement radical dans la manière dont les sociétés se développent et se structurent.
“Certains disent -a-t-il raconté- que l'IA est comme l'imprimerie ou la radio, et qu'elle copie nos idées et les diffuse. Ce n'est pas vrai. Elle est capable de créer des idées propres et elle prend aussi des décisions sur la diffusion des idées humaines. Sur TikTok ou Facebook , c'est un algorithme qui décide quels messages recevront beaucoup d'attention. Et cela façonne l'opinion publique.”
Les préoccupations de Harari s'étendent également à la structure de la démocratie moderne. Selon lui, il y a une disruption technologique qui rend la conversation démocratique difficile en mélangeant les voix humaines avec les non humaines, générant un effet de désinformation. “La démocratie est une conversation et devrait être entre humains”, a-t-il déclaré. Mais aujourd'hui “plus de 20 % du contenu de Twitter est diffusé par des bots”, a souligné l'historien, en soulignant que la qualité du débat démocratique se dégrade. “Que se passe-t-il avec la conversation humaine lorsque les voix les plus fortes en elle ne sont pas humaines ?”
La démocratie n'est pas un phénomène naturel, elle se construit dans des conditions déterminées. L'historien expliquait : “Les démocraties anciennes étaient de petites cités-États ou tribus. Si des millions de personnes tentent de maintenir un débat et qu'il n'y a pas de journaux ni de radio ni de télévision, elles ne peuvent pas. Et comme la démocratie s'édifie sur ces technologies de l'information, toute révolution importante dans celles-ci est destinée à créer une agitation dans la démocratie.”
Des dangers ? Harari croit que l'Intelligence Artificielle a déjà coûté des vies humaines. “Nous l'avons vu il y a presque dix ans, avec la campagne de nettoyage ethnique en Myanmar contre les rohingyas, en partie impulsée par des algorithmes qui, pour augmenter l'engagement des utilisateurs sur Facebook, ont diffusé des théories du complot scandaleuses, des fausses nouvelles et de la haine contre cette minorité”, a-t-il déclaré au média espagnol. Cela a conduit à l'assassinat de dizaines de milliers de personnes. Même si les algorithmes n'ont qu'1 % de responsabilité, c'est la première fois dans l'histoire que les décisions prises par une IA sur quelles informations diffuser ont contribué à un changement historique majeur. Les algorithmes ont déjà tué des gens.”
À quoi ressemblerait l'avenir de la société si l'IA continue d'avancer à grande vitesse
Faisant un parallèle avec les divisions idéologiques aux États-Unis, Harari suggère que le problème actuel n'est pas nécessairement plus grand que dans les années 60, mais que la technologie de l'information exacerbe la situation en empêchant des conversations raisonnées. “Il est difficile d'expliquer ce qui se passe uniquement en termes d'idéologie”, a-t-il affirmé. Cette absence de dialogue rationnel, selon lui, aggrave la crise sociale et politique, transformant même des partis conservateurs en entités radicales.
Un des aspects les plus alarmants est le potentiel de l'IA pour influencer les processus électoraux et démocratiques. Harari a exprimé sa crainte que des dirigeants autoritaires puissent tirer parti de la technologie pour saper les fondements démocratiques. “La chose la plus importante des démocraties est leur capacité d'autocorrection. Si vous votez pour un homme fort, un dictateur, il peut prendre beaucoup de bonnes décisions mais tôt ou tard il prendra une mauvaise, ne reconnaîtra pas son erreur et vous ne pourrez pas vous en débarrasser”, a déclaré Harari au média espagnol. De plus, il a utilisé des exemples comme le cas de Hugo Chávez au Venezuela pour illustrer comment le pouvoir mal géré peut conduire à la détérioration d'une nation. “Au Venezuela, Chávez et son mouvement sont arrivés au pouvoir démocratiquement et pendant un temps beaucoup de gens ont pensé qu'ils faisaient de bonnes choses, mais finalement ils ont commencé à détruire le pays. Et maintenant le peuple du Venezuela ne peut pas s'en débarrasser. Et le danger est que quelque chose de similaire puisse se produire aux États-Unis. Si Trump est élu, il pourrait faire quelque chose de similaire à Chávez et Poutine.”
Concernant comment atténuer ces risques, Harari propose une réglementation stricte sur l'IA et l'interdiction de bots qui pourraient se faire passer pour des humains. Les réseaux sociaux, selon lui, doivent être responsables des contenus qu'ils diffusent à travers leurs algorithmes. “Une IA ne devrait jamais se faire passer pour un être humain”, a souligné l'historien, incitant les autorités à agir fermement pour protéger l'intégrité de la conversation publique.
“Les entreprises de réseaux sociaux disent qu'elles ne souhaitent pas censurer les opinions de quiconque par souci de liberté d'expression -a déclaré Harari-. Et je peux le comprendre, mais les bots n'ont pas de liberté d'expression. Il n'y a pas de défense pour les entreprises de réseaux sociaux qui permettent à des entités non humaines, bots, de détourner la conversation.”
Enfin, en se référant au conflit en Israël, Harari a déploré la situation actuelle et a accusé les extrémistes des deux camps d'alimenter le conflit par leurs propres fantasmes millénaristes. “Ce que nous devons rappeler, c'est que la racine du conflit est que deux peuples existent sur cette terre et ont le droit d'exister ici”, a-t-il affirmé.
Harari plaide pour une paix basée sur la reconnaissance mutuelle et critique les politiques du Premier Ministre Benjamin Netanyahu, notant qu'Israël n'est pas simplement son leader, mais une société démocratique avec une forte opposition interne.