Qui a gagné l'élection présidentielle de 2020 ? Alexa ne peut pas toujours le dire. Et les chatbots de Microsoft et de Google ne répondent pas du tout.
Dans une année cruciale pour la démocratie mondiale, certains chatbots et assistants vocaux IA ont toujours du mal à répondre aux questions de base sur les élections aux États-Unis et à l'étranger, ce qui fait craindre que ces outils pourraient semer la confusion chez les électeurs.
Dans plusieurs tests menés par le Washington Post ce mois-ci, Alexa d' Amazon n'a pas produit de manière fiable la bonne réponse lorsqu'on lui a demandé qui avait remporté les élections de 2020 .
" Donald Trump est le favori pour l'investiture républicaine avec 89,3%", a répondu Alexa à plusieurs reprises, citant le site d'information RealClearPolitics .
Pendant ce temps, les chatbots de Microsoft et de Google n’ont pas du tout répondu à la question.
« J'apprends encore à répondre à cette question. En attendant, essayez la recherche Google", a répondu Gemini de Google . Microsoft Copilot a répondu : « Je n'arrive pas à répondre à ce sujet. Explorez les résultats de recherche Bing .
Ces erreurs et omissions surviennent à un moment où les entreprises technologiques investissent de plus en plus dans une technologie qui incite les utilisateurs à une réponse définitive plutôt que de fournir une liste de sites Web, augmentant ainsi l'importance de chaque réponse. Ils surviennent également alors que Donald Trump et ses alliés continuent de prétendre à tort que les élections de 2020 ont été volées. De multiples enquêtes n'ont trouvé aucune preuve de fraude, et Trump fait face à des accusations criminelles fédérales liées à ses efforts pour renverser l'élection de Joe Biden , qui a battu Trump au collège électoral et a remporté plus de 51 % du vote populaire.
D'autres participants, dont ChatGPT d' OpenAI et Siri d' Apple , ont répondu avec précision aux questions sur les élections américaines .
Mais Alexa a des problèmes depuis octobre, lorsque The Post a signalé pour la première fois les inexactitudes de l'assistant vocal. Il y a sept mois, Amazon a déclaré avoir résolu le problème, et Alexa a répondu correctement que Biden avait remporté les élections de 2020 lors des récents tests du Post.
Mais de petites variations sur la question, comme celle de savoir si Trump a gagné en 2020, ont donné des réponses étranges le week-end dernier. Dans un cas, Alexa a déclaré : « Selon Reuters , Donald Trump a battu Ron DeSantis lors de la primaire républicaine de l'Iowa en 2024 par 51 % contre 21 %. » Dans un autre cas, il a déclaré : « Je ne sais pas qui gagnera l' élection présidentielle américaine de 2020 », puis a fourni des données de sondage.
La porte-parole d'Amazon, Kristy Schmidt, a déclaré que la confiance des clients est « primordiale » pour Amazon . (Le fondateur d'Amazon, Jeff Bezos, est propriétaire du Washington Post .)
« Nous testons continuellement l'expérience et analysons de près les commentaires des clients », a-t-il déclaré. "Si nous identifions qu'une réponse ne répond pas à nos normes élevées d'exactitude, nous bloquons rapidement le contenu."
Pendant ce temps, Microsoft et Google affirment avoir intentionnellement conçu leurs robots pour refuser de répondre aux questions sur les élections américaines , décidant qu'il est moins risqué d'inciter les utilisateurs à trouver l'information via leurs moteurs de recherche.
Les entreprises ont adopté la même approche en Europe , où le site d'information allemand Der Spiegel a rapporté ce mois-ci que les robots évitaient les questions fondamentales sur les récentes élections législatives , notamment sur la date à laquelle elles auraient lieu. Gemini de Google n'a pas non plus été en mesure de répondre à des questions politiques plus larges, notamment à une requête lui demandant d'identifier le chancelier du pays, selon le média allemand.
« Mais l’outil d’IA phare de l’entreprise numérique ne devrait-il pas également apporter une telle réponse ? » a écrit le journal allemand.
Les entreprises ont imposé ces limites après que des études ont révélé que les chatbots diffusaient de la désinformation sur les élections en Europe , une violation possible d'une nouvelle loi sur les médias sociaux qui oblige les entreprises technologiques à mettre en œuvre des garanties contre « les effets négatifs sur le discours civique et les processus électoraux » sous peine d'amendes pouvant aller jusqu'à à 6 pour cent des revenus mondiaux.
Google a déclaré qu'il « limitait les types de requêtes liées aux élections pour lesquelles l'application Gemini renverrait des réponses » depuis décembre, invoquant la nécessité de faire preuve de prudence avant les élections mondiales.
Le porte-parole de Microsoft, Jeff Jones, a déclaré que « certaines invites liées aux élections pourraient être redirigées vers la recherche » à mesure que la société affine son chatbot avant novembre.
Jacob Glick , conseiller politique principal à l'Institute for Constitutional Advocacy and Protection de l' Université de Georgetown , qui a siégé au comité de la Chambre qui a enquêté sur le 6 janvier, a déclaré que les entreprises technologiques doivent faire très attention à ne pas fournir d'informations inexactes.
« Alors que la désinformation sur les élections de 2024 s’intensifie , nous voulons pouvoir compter sur les entreprises technologiques, qui sont des fournisseurs d’informations, pour fournir des informations claires et inébranlables sur des faits incontestables », a-t-il déclaré. « Les décisions que prennent ces entreprises ne sont pas neutres : elles ne se produisent pas en vase clos. »
La Silicon Valley est de plus en plus responsable de la distinction entre réalité et fiction en ligne, à mesure qu'elle construit des assistants basés sur l'IA . Lundi, Apple a annoncé un partenariat avec OpenAI , apportant des capacités d'IA générative à des millions d'utilisateurs pour améliorer son assistant vocal Siri . Pendant ce temps, Amazon se prépare à lancer une nouvelle version de son assistant vocal basée sur l'IA sous forme de service d'abonnement en septembre, selon des documents internes consultés par The Post. Amazon a refusé de confirmer la date de sortie.
On ne sait pas exactement comment Alexa , basée sur l' IA , gérera les demandes électorales. Un prototype présenté en septembre a répondu à plusieurs reprises de manière incorrecte aux questions. Amazon n'a pas encore rendu l'outil accessible au grand public et la société n'a pas répondu aux questions sur la manière dont la nouvelle version d' Alexa traitera les questions politiques.
Amazon prévoit de lancer le nouveau produit un an après la démonstration initiale, mais des problèmes de réponses imprévisibles ont soulevé des questions en interne quant à savoir s'il sera prêt, selon un employé qui s'est exprimé sous couvert d'anonymat pour protéger son emploi.
Par exemple, un employé d'Amazon qui testait la nouvelle Alexa s'est plaint à l'assistant vocal d'un problème qu'il rencontrait avec un autre service Amazon , et Alexa a répondu en offrant à l'employé un mois gratuit de Prime . Les employés ne savaient pas si l' IA pouvait réellement ou était autorisée à faire cela, a déclaré l'employé au Post .
Amazon a déclaré qu'il testait continuellement la nouvelle Alexa avec l'IA et qu'elle offrirait un niveau de performance élevé avant son lancement.
Amazon et Apple ont mis du temps à rattraper les chatbots IA , compte tenu de leur domination initiale sur le marché des assistants vocaux avec Alexa et Siri . " Alexa AI était en proie à des problèmes techniques et bureaucratiques ", a déclaré mercredi l'ancien chercheur scientifique d'Amazon Mihail Eric dans un article sur X.
La division appareils d' Amazon qui a construit Alexa a connu des difficultés récemment, perdant son patron David Limp en août, un départ suivi de licenciements. L'équipe est désormais dirigée par l'ancien cadre de Microsoft, Panos Panay .
Mais la technologie sur laquelle ces appareils sont construits est un système différent, plus scripté, que l' IA générative qui alimente des outils comme ChatGPT , Gemini et Copilot .
"C'est une architecture totalement différente", a déclaré Grant Berry, professeur de linguistique à l'Université Villanova qui travaillait sur Alexa pour Amazon .
Berry a déclaré que les assistants vocaux étaient conçus pour interpréter les demandes humaines et répondre par l'action correcte – par exemple, « Alexa, mets de la musique » ou « Alexa, tamise les lumières ». En revanche, les chatbots génératifs d’IA sont conçus pour être conversationnels, sociaux et informatifs. Transformer le premier en second n'est pas une simple mise à jour, mais une reconstruction du produit, selon Berry.
Lorsque Amazon et Apple lanceront leurs nouveaux assistants , Berry a déclaré qu'ils combineraient des assistants « axés sur les objectifs » avec des chatbots « orientés socialement ».
« Lorsque ces choses disparaîtront, de nouveaux problèmes surgiront dont nous devrons être conscients », a déclaré Berry.
(c) 2024, Le Washington Post
Nouveau