En 2021, aux parents de l'Afrique du Sud avec des enfants âgés de 5 à 13 ans, on a proposé un accord inhabituel : pour chaque photo du visage de leur enfant, une entreprise d'intelligence artificielle basée à Londres ferait un don de 20 rands sud-africains (environ un dollar) à l'école de leurs enfants dans le cadre d'une campagne intitulée “Share to Protect” (Partager pour protéger).
L'entreprise Yoti avait développé un outil d'intelligence artificielle capable d'estimer l'âge d'une personne en analysant ses motifs et contours faciaux. Mais pour qu'il soit plus précis (et pour augmenter la clientèle de l'entreprise, constituée d'agences gouvernementales et d'entreprises technologiques), ses développeurs avaient besoin de plus de photographies d'enfants.
Riaan van der Bergh se souvient d'avoir scanné sa fille et son fils, âgés de 11 et 10 ans, dans le salon de sa maison dans un quartier de Johannesburg un après-midi, leur disant que la technologie pourrait aider à garder les enfants en sécurité dans un environnement dangereux. Mais d'autres parents, a-t-il dit, détestaient l'idée avec un “peur passionnée extrême”. Le scepticisme était “écrasant”, a-t-il ajouté, “surtout de la part des mamans, qui ont dit : ‘Pas question, ce sont mes enfants’.”
Avec des promesses de protéger les enfants, un groupe peu connu d'entreprises dans un secteur expérimental de l'industrie technologique connu sous le nom de “vérification d'âge” a commencé à participer à une collecte massive de visages, ouvrant la porte à des risques de vie privée pour quiconque utilise le web.
Les entreprises affirment que leurs outils de vérification d'âge pourraient donner aux parents un plus grand sentiment de contrôle et de tranquillité d'esprit. Mais en scannant des dizaines de millions de visages chaque année, les outils pourraient également soumettre les enfants - et tous les autres - à un niveau d'inspection rarement vu sur Internet ouvert et augmenter les chances que leurs données personnelles puissent être piratées, fuitées ou utilisées de manière abusive.
Des entreprises telles que Yoti, Incode et VerifyMyAge travaillent de plus en plus en tant que gardiennes numériques, demandant aux utilisateurs de prendre un “selfie vidéo” en direct avec leur téléphone ou leur webcam, souvent tout en montrant une preuve d'identité gouvernementale, afin que l'IA puisse évaluer s'ils ont l'âge suffisant pour accéder.
Certains des réseaux sociaux les plus importants, tels que Facebook, Instagram et TikTok, utilisent désormais des outils de vérification d'âge pour détecter et restreindre l'accès à leurs utilisateurs les plus jeunes. OpenAI les utilise pour son chatbot ChatGPT; c'est également le cas de plusieurs sites de jeux en ligne et de contenu pour adultes, y compris Pornhub et OnlyFans.
La prévalence des systèmes a augmenté avec les préoccupations selon lesquelles Internet, et en particulier les réseaux sociaux, pourraient nuire à la jeunesse des États-Unis, une crise que le Surgeon General des États-Unis a considérée comme si grave qu'il a proposé des étiquettes d'avertissement similaires à celles des cigarettes pour les plateformes qui, a-t-il déclaré, menaçaient de “causer des dommages significatifs à la santé mentale”.
Dix-neuf États, où vivent près de 140 millions d'Américains, ont approuvé ou promulgué des lois exigeant la vérification d'âge en ligne depuis le début de l'année dernière, y compris la Virginie, le Texas et la Floride. Pour les entreprises, cela a créé une mine d'or : les employés d'Incode, une entreprise basée à San Francisco qui effectue plus de 100 millions de vérifications par an, suivent désormais en interne les factures d'État et communiquent avec les fonctionnaires locaux pour, comme l'a dit la directrice senior de la stratégie Fernanda Sottil, “comprendre où s'inscrit notre technologie”.
Mais bien que ces systèmes soient promus pour protéger les enfants, ils ne peuvent fonctionner que si tout le monde est inspecté : des visages, des permis de conduire et d'autres données sensibles sont examinés en grande quantité. Alex Stamos, ancien responsable de la sécurité de Facebook, qui utilise Yoti, a déclaré que “la plupart des systèmes de vérification d'âge vont de ‘quelque peu violateurs de la vie privée’ à ‘un cauchemar autoritaire’”.
Yoti et Incode ont déclaré qu'ils prenaient la vie privée au sérieux, y compris en supprimant des images après avoir analysé le visage d'une personne. Mais au-delà des préoccupations de confidentialité, les critiques s'inquiètent du fait que des adultes pourraient être injustement bloqués sur des sites web pour ne pas avoir passé une vérification d'âge en raison d'un handicap ou d'un problème technique, comme l'absence d'un document d'identité. Certains craignent également que les législateurs puissent utiliser ces outils pour interdire aux adolescents d'accéder à un contenu qu'ils n'aiment pas, y compris le discours protégé par le Premier Amendement.
Les partisans de ces outils reconnaissent que les contrôles d'âge pourraient engendrer une profonde expansion de la surveillance gouvernementale de la vie en ligne, mais les critiques soutiennent que les législateurs qui espèrent protéger les enfants pourraient, en revanche, exposer des utilisateurs de tous âges à un risque terrible, les obligeant à remettre des détails intimes de leur vie à des entreprises largement non éprouvées, non réglementées et inconnues.
“Pour les protéger, il faut savoir qui sont les enfants”, a déclaré Brenda Leong, avocate chez Luminos Law spécialisée dans la biométrie. “Mais l'une des choses que l'on souhaite protéger est leur vie privée. Et plus on en sait sur eux, plus on met leur vie privée en danger.”
Le test du bébé
Plus de deux décennies après que la Loi sur la protection de la vie privée des enfants sur Internet a établi pour la première fois que les entreprises Internet devaient traiter les enfants différemment des adultes, la plupart des applications et sites web tiennent encore pour acquis que tous leurs utilisateurs, lorsque leur âge est demandé, diront la vérité. Tout enfant de cinq ans capable de sélectionner une date de naissance fausse ou de cocher “oui” dans une case peut presque voir l'ensemble du web.
Ces dernières années, un petit groupe d'entreprises technologiques a commencé à proposer une voie plus stricte. Elles ont réutilisé une technique utilisée dans la reconnaissance faciale, un outil d'identification populaire auprès de la police, introduisant des millions de photographies de visages dans un système d'intelligence artificielle qui a appris à détecter les plus petits indices du vieillissement.
Dans l'ensemble, ces systèmes ont fonctionné. En mai, le National Institute of Standards and Technology (NIST), un laboratoire fédéral, a déclaré avoir testé six estimateurs d'âge sur 11 millions de photos du gouvernement (de points de contrôle frontaliers, de consulats et de photos policières) et a découvert qu'en général, ils étaient précis dans un délai d'environ trois ans. L'algorithme d'Incode a été particulièrement précis avec les bébés, selon le test, triangulant l'âge d'un bébé dans un délai de quatre mois.
Une porte-parole d'Instagram a déclaré que les contrôles d'âge du réseau social avaient arrêté 96 % des adolescents qui ont essayé de modifier leurs comptes pour sembler plus âgés de 18 ans. Et Yubo, un réseau social construit autour de chats vidéo en direct, utilise l'outil pour diviser les utilisateurs en groupes d'âge, la carte de visite de la plateforme.
Lorsqu'on leur demande d'être scannés pour créer un nouveau compte, un utilisateur sur dix s'en va, mais “nous avons accepté ce sacrifice”, affirme Marc-Antoine Durand, directeur des opérations de l'entreprise. “À long terme, les utilisateurs ont plus confiance et se sentent plus en sécurité.”
Les portails de vérification d'âge se sont multipliés rapidement sur le web et beaucoup offrent une vitesse incomparable. Razan Altiraifi, une femme de 37 ans de Caroline du Nord qui a récemment scanné son visage pour accéder à TikTok, a déclaré que le système avait déterminé qu'elle était une adulte si rapidement qu'elle s'est presque sentie gênée. “C'était un peu effrayant”, a-t-elle dit, “mais il n'y a rien de mieux que le confort.”
L'année dernière, Yoti a commencé à faire de la publicité pour un avenir où son estimateur d'âge pourrait être installé à l'extérieur des casinos et des discothèques, où il ne “se fatiguerait jamais lors d'un long quart… [ni] montrerait de favoritisme envers des amis personnels”. Le NIST a suggéré que les outils pourraient un jour aider les entreprises à recueillir des “statistiques d'âge de la population” pour les clients ou aider avec des publicités numériques “adaptées à l'âge”.
Mais la technologie présente également certaines particularités. Bien que les tests du NIST aient déterminé que les systèmes étaient résistants à la large gamme de variations faciales de l'humanité, comme des sourcils denses ou une peau endommagée par le soleil, leur fiabilité s'érodait lorsqu'une personne affichait certaines expressions faciales ou portait des lunettes. Les taux d'erreur pour les filles et les femmes étaient également plus élevés que pour les garçons et les hommes, et les évaluateurs n'ont pas déterminé pourquoi. “Peut-être s'agit-il de cosmétiques, de coiffures ou de structure osseuse”, a déclaré Patrick Grother, chercheur en biométrie au NIST. “La vérité, c'est que nous ne savons pas.”
L'IA, selon eux, fait face au même défi que les humains : certaines personnes semblent simplement plus âgées ou plus jeunes qu'elles ne le sont. La puberté commence à des âges différents et les coutumes culturelles peuvent déterminer comment les enfants paraissent et grandissent. Quelqu'un qui “vit bien ou reçoit une aide supplémentaire” apparaîtra beaucoup plus jeune qu'une personne qui souffre de malnutrition ou qui est privée de sommeil, a déclaré Julie Dawson, directrice des politiques et de la réglementation chez Yoti.
Ces résultats flous pourraient saper leur utilité. Un juge fédéral a noté que les indices d'erreur de trois ans des estimateurs signifiaient que certains jeunes de 16 ans pourraient accéder à des sites web auxquels ne pouvaient pas accéder ceux de 20 ans. En février, le compte TikTok de Violet Elliot, une femme de 25 ans atteinte de nanisme, a été bloqué et menacé d'être supprimé après que l'application a déclaré faussement qu'elle avait moins de 13 ans. Son compte , où elle publie sur la discrimination à laquelle elle fait face , a été rétabli après trois jours, a déclaré Elliot, mais plus de 500 vidéos ont disparu.
TikTok a restauré certaines des vidéos après des questions du Washington Post, et un responsable de l'entreprise a attribué l'interdiction à une erreur humaine. Mais Elliot craignait que la technologie ne puisse qu'aggraver le problème. Ces vérifications ne tiennent pas compte des milliers de personnes handicapées “qui peuvent ne pas correspondre à l'image stéréotypée d'un adulte”, a déclaré Elliot. “L'IA n'est pas équipée pour comprendre les complexités de la vie humaine.”
‘Coin plus sombre’
La Louisiane est devenue un modèle national en matière d'exigences gouvernementales de vérification d'âge lorsqu'elle a adopté en 2022 une loi exigeant la vérification d'âge sur tout site web considéré comme “préjudiciable aux mineurs” ou conçu pour “satisfaire des intérêts lascifs”. Depuis lors, dix-huit États ont suivi son exemple, y compris le Tennessee, dont la loi exige une vérification d'âge toutes les 60 minutes qu'un utilisateur est sur le site pour une surveillance supplémentaire.
La loi de l'Alabama exige que les sites explicites avertissent les visiteurs que la pornographie “désensibilise les circuits de récompense du cerveau” et “augmente la demande de… pornographie infantile”. (Une cour d'appel a annulé un avertissement similaire dans une loi du Texas, la qualifiant de peu scientifique et inconstitutionnelle). D'autres États ont élargi leur portée au-delà du contenu pour adultes : la Floride exige désormais que les réseaux sociaux obtiennent le consentement des parents avant de permettre aux jeunes de 15 ans de créer leurs propres profils.
Mais ces lois ont donné lieu à des batailles constitutionnelles devant des tribunaux fédéraux, où les juges ont averti qu'elles pourraient soumettre les adultes à une surveillance indue et supprimer la liberté d'expression. La Cour suprême a déclaré le mois dernier qu'elle écouterait un appel d'un groupe de l'industrie du porno lié à la loi du Texas.
La loi du Mississippi a été bloquée le mois dernier par un juge qui a déclaré que les parents pourraient utiliser des “technologies de surveillance” moins restrictives pour surveiller leurs enfants. Un juge a bloqué la loi de l'Indiana en juin, en notant que les mineurs pouvaient “simplement rechercher des termes comme ‘sexe chaud’” sur Google, sans besoin de vérification d'âge.
Certains juges ont averti que les coûts de ces vérifications exigées par le gouvernement pourraient être “excessivement” chers pour les entreprises. Le juge de l'Indiana a déclaré que Pornhub, dont le trafic mondial dépasse celui de LinkedIn et Netflix, pourrait avoir à payer plus de 13 millions de dollars par jour. (Yoti a déclaré que ses coûts de vérification d'âge varient généralement entre 10 et 25 centimes par visage, mais peuvent être plus bas pour les sites avec “des volumes très élevés”).
Sarah Bain, associée de la société de capital-investissement propriétaire de la société mère de Pornhub, Aylo, a déclaré que les normes ont obligé des entreprises comme la sienne à recueillir des informations indésirables et ont conduit les spectateurs à des sites web moins surveillés. Depuis que Pornhub a commencé à se conformer à la loi de Louisiane, son trafic a chuté de 80 % dans tout l'État, tandis que le trafic vers des sites web étrangers et d'autres qui ne respectent pas la loi a augmenté. “Ces gens n'ont pas cessé de chercher de la pornographie”, a déclaré Bain. “Ils ont simplement migré vers les coins plus sombres d'Internet.”
Dans 11 États où la vérification d'âge est exigée (Arkansas, Idaho, Kansas, Kentucky, Mississippi, Montana, Nebraska, Caroline du Nord, Texas, Utah et Virginie), Pornhub a commencé à bloquer l'accès à tout le monde comme forme de protestation. À la place, aux visiteurs est présenté une vidéo dans laquelle l'actrice de porno Cherie DeVille dit que “donner son document d'identité chaque fois qu'elle souhaite visiter une plateforme pour adultes” mettra “sa vie privée en danger”.
Des entreprises comme Meta et Aylo ont soutenu que les vérifications devraient être effectuées par les grands fabricants de dispositifs et les magasins d'applications, comme Apple et Google. Mais tout dépôt central de données générerait ses propres risques, a déclaré Jason Kelley, directeur du groupe de défense Electronic Frontier Foundation. “Toutes ces informations extrêmement sensibles liées aux visages des gens ?”, a-t-il dit. Pour un hacker, “c'est le meilleur [trésor] que je puisse imaginer.”
‘État nounou’
Plus de 70 % des adultes américains (et 56 % des adolescents) disent qu'ils sont favorables à la vérification de l'âge des utilisateurs avant qu'ils puissent utiliser les réseaux sociaux, selon une enquête de Pew Research de l'année dernière. Mais tout le monde n'est pas si enthousiaste à propos de la réalité de l'activation de ces outils.
Dans les États avec des lois de vérification d'âge, les gens ont travaillé pour éviter les scans par des outils, connus sous le nom de réseaux privés virtuels, qui peuvent cacher leur emplacement. Et lorsque Yoti a demandé l'an dernier à la Commission fédérale du commerce d'approuver les estimateurs d'âge comme une nouvelle façon d'obtenir le consentement des parents, l'agence a reçu plus de 300 commentaires publics dénonçant la technologie de “l'État nounou” comme une “violation de la vie privée pour les familles qui seraient contraintes de se soumettre”.
“‘Technologie d'estimation de l'âge facial’ est la phrase la plus dystopique que j'ai jamais entendue”, a déclaré un commentateur, Thomas Hale. La FTC a rejeté la proposition, mais a déclaré qu'elle pourrait être redéposée après plus de tests.
Parmi les utilisateurs mineurs, les systèmes ont rencontré un autre type de résistance. Dans des forums de messages et des subreddits, certains utilisateurs ont partagé des conseils sur la façon d'imprimer des documents d'identité falsifiés, d'acheter des vidéos de selfies d'autres personnes ou d'appliquer du maquillage pour paraître suffisamment adultes.
Pour découvrir ces astuces, les entreprises effectuent des “contrôles de vie” sur les vidéos des utilisateurs qui peuvent détecter si le visage est en réalité juste une impression ou le parent endormi de quelqu'un. TikTok est inondé de vidéos de jeunes essayant, sans succès, de passer inaperçus : un utilisateur s'est filmé en essayant de tromper un estimateur d'âge avec un selfie à l'écran de son ordinateur portable avant de finalement abandonner, déclarant que c'était “TELLEMENT DÉPRIMANT”.
Mais l'ingrédient le plus important a été la collection croissante de photographies d'enfants dans le monde réel que détiennent les entreprises. Sottil, l'exécutif d'Incode, a déclaré que l'entreprise avait payé un sous-traitant pour obtenir des photographies des visages des enfants avec le consentement de leurs parents en Afrique, Asie, Europe et Amérique latine, parfois en échange de cartes-cadeaux Amazon.
Yoti, qui avait collecté des données faciales à Nairobi des années avant “Share to Protect”, espérait que le projet sud-africain serait bien reçu par les parents en raison de son objectif déclaré de garder les enfants en sécurité. “Les gens partagent des photos de leurs enfants tout le temps”, a déclaré Dawson, le directeur des politiques, à l'époque.
Kate Farina, fondatrice de Be in Touch, un groupe sud-africain de défense des droits de l'enfant qui a aidé Yoti avec le projet, a déclaré que les parents ont reçu un paquet leur demandant leur consentement et expliquant que les photos seraient “conservées pendant le temps que le système en aurait besoin”. Les enseignants ont été invités à aligner les élèves participants et ensuite à les examiner face à face, en téléchargeant une copie scannée de chaque enfant.
Mais, comme s'en souvient Riaan van der Bergh, de nombreux parents ont refusé de s'inscrire par “peur de l'inconnu”. L'offre d'argent pour chaque photo a échoué, a-t-il ajouté, et tout semblait inconfortablement transactionnel.
L'entreprise, a-t-il rappelé, a reçu un peu plus de mille photos, bien en dessous de son objectif de 50 000 visages. (Yoti a refusé de donner un chiffre exact, se contentant de dire que la campagne avait été un succès). “Certaines personnes ont immédiatement dit : ‘Oh non, je vais vendre mon enfant’”, se souvient-il, à quoi il essayait d'offrir un certain réconfort. “Non”, leur a-t-il dit. “Ils vendent les données de leurs enfants.”