Le film qui propose de réfléchir à ce qui se passerait si la justice était rendue par une intelligence artificielle : sans idéologie politique, mais sans facteur humain.

C'est l'un des thèmes abordés précisément par le nouveau film de Simón Casal, intitulé Justicia Artificial. Et si un système technologique aidait à désengorger les montagnes de cas qui attendent d'être examinés ou de trouver une résolution ? Qu'est-ce qui est mieux pour appliquer une justice équitable, le rigorisme et le jugement des professionnels ou l'impartialité d'une machine ?

Ce sont des questions très suggestives qui résonnent dans ce thriller situé dans un futur proche qui ressemble beaucoup au nôtre, mais où la technologie a fait un pas supplémentaire, par exemple, en utilisant des voitures autonomes. Dans ce cadre, une entreprise a créé un système pour améliorer la justice via l'IA, en l'automatisant, et un référendum national est préparé pour son approbation.

Cependant, une juge, interprétée par Verónica Echegui, commencera à se méfier de ces algorithmes dans lesquels il n'y a pas une once de valeur humaine.

Comment Simón Casal a-t-il commencé à développer cette idée (dont il écrit le scénario avec Víctor Sierra) ? “Au départ, mon idée était de raconter comment les nouvelles technologies impactent la démocratie et les institutions”, explique le réalisateur à Infobae Espagne. “J'ai d'abord commencé à étudier le Big Data et ensuite je suis passé à l'Intelligence Artificielle. Je voulais situer le film dans un domaine concret et j'ai trouvé que le monde judiciaire était fascinant et symbolique car il soulève de nombreuses discussions, de nombreux dilemmes éthiques et politiques.”

Le processus de documentation a été long. Dans un premier temps, Simón Casal a réalisé un documentaire intitulé Justice Artificielle (pour Documentos TV de Televisión Española), qui parlait de ces pays qui avaient déjà utilisé l'IA dans le système judiciaire, comme les États-Unis, où le COMPAS fournit des probabilités de récidive des détenus au moment d'appliquer la liberté conditionnelle. “C'était assez polémique car cela a montré que le système intégrait des biais raciaux”, dit le réalisateur. C'était le germe du film.

Il raconte qu'en Espagne, il existe quelque chose de similaire dans le système pénitentiaire catalan et que le VioGén est capable de prédire le risque dans les cas de violence de genre.

Dans une société de plus en plus polarisée, où il y a tant de crispation et de haine, toutes ces questions soulèvent autant de doutes et d'incertitudes que le sujet en question qui nous occupe. Qui contrôle l'IA ?

Le film met en avant les dangers de la justice robotisée. “La justice n'est pas une question de calcul. Il existe des outils qui peuvent aider, mais la solution n'est pas d'éliminer les problèmes, qui finissent par générer de plus grands maux. La solution réside dans la manière dont vous argumentez, avec quels valeurs, à travers quels discussions, quels débats et quels processus peuvent déterminer la conclusion. Et ce chemin doit être contrôlé par des décisions humaines”, ajoute Casal. “Il faut faire plus et mieux de politique, une meilleure justice, avec plus de moyens, plus de personnes et plus d'organisations de soutien pour parvenir à un meilleur système démocratique.”

En général, les films sur l'IA se situent dans un futur lointain qui s'inscrit dans la science-fiction mais, dans Justicia Artificial, ce futur se rapproche trop de notre réalité. “Nous voulions faire un film qui contienne, oui, des touches de science-fiction, mais surtout de film noir, dont les personnages appartiennent à cette tradition. Par exemple, la protagoniste se confronte à un monstre, qui dans ce cas est l'Intelligence Artificielle, qui est comme un trou noir difficile à comprendre. Mais il n'y a pas de ‘dystopie’ réelle, juste notre monde avec un petit pas supplémentaire.”