La directrice de la recherche Google, Liz Reid, a confirmé dans un article de blog jeudi après-midi que la société réduisait certaines des réponses, qu'elle appelle « résumés IA ».
La société a réduit l'utilisation des publications sur les réseaux sociaux comme source pour les réponses de l'IA , a suspendu certaines réponses sur des sujets liés à la santé et "a ajouté des restrictions d'activation pour les requêtes dans lesquelles les aperçus de l'IA "ne se sont pas révélés très utiles". » Reid a déclaré dans le message.
L'entreprise a introduit plus d'une douzaine de modifications techniques visant à améliorer le système, selon le directeur.
Ce changement est le dernier exemple de Google qui lance un produit d’intelligence artificielle en grande pompe, puis recule en cas de problème. En février, la société a empêché les utilisateurs de créer des images de personnes avec son outil d’IA , après que certains commentateurs conservateurs l’ont accusée de partialité à l’égard des Blancs.
L’industrie technologique est plongée dans une révolution de l’IA , avec des startups et des géants de la technologie qui tentent de trouver de nouvelles façons d’intégrer la technologie dans leurs produits et d’en tirer profit. De nombreux outils ont été lancés avant d'être prêts à être diffusés aux heures de grande écoute, car les entreprises rivalisent pour être les premières à commercialiser leurs produits et à se présenter comme étant à la pointe de la technologie.
Google , dont les employés ont inventé une grande partie de la technologie qui sous-tend les outils révolutionnaires d'IA comme ChatGPT , a cherché à démontrer aux investisseurs, aux consommateurs et à ses propres employés qu'il reste l'acteur le plus important du secteur. Lors de sa conférence I/O ce mois-ci, la société a fait plus de 100 annonces différentes liées à l'IA .
Le plus important était la confirmation qu’il commencerait à proposer à la majorité de ses utilisateurs des réponses générées par l’IA dans les résultats de recherche. Google teste les réponses de l'IA auprès d'un groupe sélectionné d'utilisateurs depuis un an, mais son ajout à davantage de résultats de recherche signifie que la plupart des gens commenceront à interagir directement avec l'IA générative dans un outil qu'ils utilisent quotidiennement.
La technologie lit les sites Web qui apparaîtraient autrement dans les résultats de recherche Google et les résume en réponses de plusieurs paragraphes. Les éditeurs ont crié au scandale, accusant l'entreprise de nuire à leurs activités en prenant leur contenu et en le régurgitant pour les utilisateurs directement dans les résultats de recherche, les privant ainsi d'un trafic Web important.
Mais les journalistes, les experts en moteurs de recherche et les utilisateurs des réseaux sociaux ont rapidement repéré les problèmes liés aux réponses. Certaines réponses étaient drôles, tandis que d’autres étaient inquiétantes. Ils sont également apparus dans des requêtes sensibles, notamment celles liées à la santé.
L’une des réponses, que Google a depuis corrigée, recommandait de boire beaucoup d’urine pour aider à éliminer les calculs rénaux. Un autre a déclaré que John F. Kennedy avait obtenu son diplôme de l' Université du Wisconsin à Madison au cours de six années différentes, dont trois après sa mort.
La société a essayé de tester l'outil autant que possible avant la sortie générale, mais Reid a déclaré que la version à grande échelle a révélé de nombreuses situations auxquelles la société ne s'était pas préparée.
"Il n'y a rien de tel que des millions de personnes utilisent cette fonctionnalité", a déclaré Reid.
(*) Le Washington Post
(*) Gerrit De Vynck est journaliste technologique pour le Washington Post. Il écrit sur Google, l'intelligence artificielle et les algorithmes qui façonnent de plus en plus la société. Il a auparavant couvert le secteur technologique pendant sept ans chez Bloomberg News.
Nouveau