Le gouverneur de Californie, Gavin Newsom (D), a signé mardi une série de projets de loi sur l'intelligence artificielle visant à freiner les effets des deepfakes pendant les élections et à protéger les artistes d'Hollywood contre la reproduction de leurs images par IA sans leur consentement.
Il existe une préoccupation croissante concernant la circulation des deepfakes lors de la campagne de 2024, et les inquiétudes concernant l'utilisation de l'intelligence artificielle à Hollywood ont été une partie proéminente de la grève historique des acteurs de l'année dernière. La Californie abrite « 32 des 50 principales entreprises de IA du monde, ainsi que des institutions de recherche et d'éducation à fort impact », selon le bureau de Newsom, ce qui oblige son gouvernement à équilibrer le bien-être public et les ambitions d'une industrie en évolution rapide.
« Préserver l'intégrité des élections est essentiel pour la démocratie... », a déclaré Newsom mardi dans un communiqué.
Parmi les mesures figure la A.B. 2655, qui exige que les grandes plateformes en ligne suppriment ou étiquettent le contenu trompeur, modifié numériquement ou créé numériquement lié aux élections pendant certains intervalles avant et après leur déroulement. Il a également signé la A.B. 2839, qui prolonge la période pendant laquelle les personnes et les entités ne peuvent pas partager sciemment du matériel électoral contenant un contenu généré ou manipulé par IA de manière trompeuse, et la A.B. 2355, qui exige que les annonces électorales divulguent si elles utilisent un contenu généré par IA ou largement modifié.
En juillet, après que le propriétaire de X, Elon Musk, ait retweeté une annonce de campagne de Kamala Harris modifiée, Newsom a écrit sur les réseaux sociaux que « manipuler une voix dans une ‘annonce’ comme celle-ci devrait être illégal ... ».
Malgré les projets de loi signés mardi, il n'est pas encore clair si Newsom signera ou rejettera la S.B. 1047, qui vise à tenir les entreprises de IA responsables si leur technologie est utilisée pour causer du tort et qui est farouchement rejetée par la majorité de l'industrie technologique.
Les capital-risqueurs et les fondateurs de start-ups affirment que cela étoufferait l'innovation, puisque les développeurs s'inquiéteraient des usages imprévus de la technologie IA qu'ils construisent. L'auteur de la loi, le sénateur Scott Wiener (D), dit qu'il cherche simplement à formaliser les engagements que les entreprises de IA ont pris pour tenter d'éviter que leur technologie soit utilisée à des fins malveillantes.
Les nouvelles lois comprennent également deux mesures pour les acteurs et les artistes que Newsom a déclaré assureront que l'industrie « puisse continuer à prospérer tout en renforçant les protections pour les travailleurs et les conditions d'utilisation de leur image ».
La A.B. 2602 exige que les contrats spécifient comment seront utilisées les reproductions générées par IA de la voix ou de l'image d'un artiste. La A.B. 1836 interdit l'utilisation commerciale de reproductions numériques d'artistes décédés sans le consentement de leurs héritiers.
L'utilisation de IA dans le divertissement, que ce soit par la reproduction consentie de performances comme la voix de Darth Vader de James Earl Jones ou des avertissements de plusieurs célébrités concernant des images d'eux altérées par IA circulant en ligne sans leur consentement, est un sujet très débattu.
L'année dernière, le syndicat des acteurs SAG-AFTRA a obtenu un contrat avec des garde-fous contre l'IA, incluant une exigence selon laquelle les acteurs doivent fournir aux studios un « consentement éclairé » et recevoir une « compensation équitable » pour la création de reproductions numériques, a rapporté The Washington Post.
La présidente du syndicat, Fran Drescher, a salué les projets de loi dans un communiqué mardi pour avoir élargi les protections contre l'IA que les acteurs « ont tant lutté pour obtenir l'année dernière » et a remercié Newsom d'avoir « reconnu que les artistes comptent et que leurs contributions ont de la valeur ».
Duncan Crabtree-Ireland, directeur exécutif national de SAG-AFTRA, a ajouté : « Personne ne devrait vivre dans la peur de devenir la marionnette numérique non rémunérée de quelqu'un d'autre ».
(c) 2024 , The Washington Post