La Californie pourrait devenir le premier État des États-Unis à mettre en œuvre des mesures de sécurité rigoureuses concernant les modèles d'intelligence artificielle à grande échelle. Les legislateurs californiens ont approuvé cette semaine une série de propositions visant à réglementer l'industrie de l'intelligence artificielle (IA), protéger les travailleurs des abus technologiques et combattre les deepfakes.
Ces propositions sont maintenant entre les mains du gouverneur Gavin Newsom, qui a jusqu'au 30 septembre pour décider s'il les signe, les veto ou les laisse devenir loi sans sa signature, selon ABC News.
Les Assemblée législative de Californie, contrôlée par les démocrates, vote des centaines de projets de loi lors de la dernière semaine de session, dans le but de les envoyer au bureau de Newsom avant la date limite fixée au samedi 7 septembre.
Parmi les propositions approuvées, une mesure visant à interdire les deepfakes liés aux élections et à exiger des grandes plateformes de réseaux sociaux qu'elles suppriment ce contenu trompeur 120 jours avant le Jour des Élections du 5 novembre et 60 jours après. De plus, les campagnes devront divulguer publiquement si leurs annonces incluent des matériaux altérés par IA.
Les legislateurs ont également approuvé une législation qui rendrait illégale la création d'images et de vidéos d'abus sexuels infantiles générées avec des outils d'IA. Actuellement, la loi n'autorise pas les procureurs à poursuivre les personnes possédant ou distribuant des images d'abuse sexuel infantile générées par IA si elles ne peuvent prouver que les images représentent une personne réelle, selon ABC News.
Dans un effort pour augmenter la transparence et la sécurité dans le développement de l'IA, une proposition a également été adoptée, exigeant des dévveloppeurs qu'ils divulguent quelles données ils utilisent pour entraîner leurs modèles. Cette mesure vise à fournir une meilleure compréhension du fonctionnement des modèles d'IA et à prévenir de futurs désastres qui pourraient survenir en raison d'une mauvaise utilisation.
Une autre initiative destinée à protéger les travailleurs s'inspire des racines de la grève des acteurs de Hollywood de l'année dernière. Les legislateurs californiens ont approuvé une proposition qui protège les travailleurs, y compris les acteurs de voix et les narrateurs de livres audio, d'être remplacés par leurs clones générés par IA. Ce projet de loi reflète le contrat que le sindicat SAG-AFTRA a signé avec les studios en décembre dernier, a souligné ABC News.
De plus, il sera interdit aux agences d'État et locales d'utiliser l'IA pour remplacer les travailleurs des centres d'appels dans le cadre de l'une des propositions approuvées. La législation prévoit également la création de sanctions pour ceux qui clonent numériquement des personnes décédées sans le consentement de leurs héritiers.
Étant donné l'utilisation croissante de l'IA dans la vie quotidienne des Américains, les legislateurs d'État ont également approuvé plusieurs lois pour augmenter l'alphabétisation en IA. Une proposition exigera qu'un groupe de travail d'État envisage d'incorporer des compétences en IA dans les programmes de mathématiques, sciences, histoire et sciences sociales, tandis qu'une autre élabore des directives sur comment les écoles peuvent utiliser l'IA en classe, selon ABC News.
Le gouverneur Newsom a déjà indiqué son soutien à une proposition spécifique pour traiter les deepfakes en période électorale. Cependant, il a averti qu'une régulation excessive pourrait nuire à l'industrie technologique de l'État, qui est un leader mondial en innovation.