Une chercheuse qui travaille à aider les tribunaux à détecter les preuves créées ou modifiées à l’aide de l’intelligence artificielle (IA) affirme qu’il s’avère difficile de mettre au point un outil aussi efficace dans la pratique qu’il semble l’être en laboratoire.
Maura Grossman est codirectrice d’une équipe de chercheurs canadiens qui s’efforce de mettre au point un outil à code source libre, gratuit et facile à utiliser, destiné aux tribunaux et aux autres acteurs du système judiciaire afin de les aider à distinguer le vrai du faux.
Alors que ce projet de deux ans arrive à mi-parcours, elle explique qu’ils ont mis au point un système combinant des algorithmes de pointe, qui fonctionnent ensuite comme un comité chargé de déterminer, par un vote, si un élément a été généré par l’IA.
Maura Grossman précise toutefois que les deux fois où elle l’a testé en situation réelle, les algorithmes n’ont pas réussi à parvenir à un consensus suffisant pour que l’outil soit utile.
Cela constitue ce qu’elle appelle un «problème technique épineux» qui représente un véritable défi alors qu’ils continuent à travailler sur cet outil au cours de l’année à venir.
Mme Grossman, professeure d’informatique à l’université de Waterloo qui enseigne également à la faculté de droit Osgoode Hall de l’université York, précise que la prochaine phase du projet consistera à recueillir les avis des forces de l’ordre et des décideurs politiques.
«Je ne pense pas avoir jamais cru que ce serait facile, mais la difficulté de cette tâche s’est avérée presque décourageante», a-t-elle expliqué vendredi lors d’une entrevue.
«Nous gardons espoir, nous continuons à développer l’outil, mais je pense que nous sommes devenus plus modestes dans notre approche: nous ne considérons plus qu’un seul outil puisse être la solution, mais plutôt que ce problème nécessitera l’intervention du droit, de la réglementation, des décideurs politiques, ainsi que la sensibilisation du public pour qu’il apprenne à mieux distinguer le vrai du faux.»
Selon elle, la complexité de la situation tient en partie au fait qu’une image publiée sur les réseaux sociaux, par exemple, est compressée et probablement dépourvue de ses métadonnées, ce qui la rend très différente du fichier d’origine au moment où elle est présentée comme preuve.
«Elle ne contiendra plus les informations présentes dans le fichier d’origine, et il y a de fortes chances que ce dernier ait disparu trois ans plus tard, au moment où vous me poursuivrez en justice pour avoir tenu des propos horribles à votre égard ou pour toute autre action que j’aurais commise», a-t-elle déclaré.
«C’est une partie du problème, et il en va de même si je vous l’envoie par courriel et que vous le transmettez à six autres personnes: les données changent tout au long de ces transferts.»
Ce projet est l’une des deux premières initiatives de recherche financées via l’Institut canadien de recherche avancée au sein de l’Institut canadien de la sécurité de l’intelligence artificielle, lancé par le gouvernement fédéral en 2024 dans le cadre de sa stratégie globale en matière de sécurité de l’IA.
L’équipe est composée de technologues et de juristes issus d’universités de l’Ontario et de la Colombie-Britannique, mais son comité consultatif est réparti à travers l’Amérique du Nord et comprend des juges ainsi que des organisations venant en aide aux justiciables se représentant eux-mêmes.
Lors de l’annonce du projet l’année dernière, Mme Grossman avait déclaré que les tribunaux n’étaient pas suffisamment préparés à l’IA. Les outils commerciaux existants n’étaient ni assez transparents ni assez fiables, en particulier dans le contexte judiciaire, où les enjeux sont considérables, avait-elle alors précisé.
Elle a souligné vendredi que l’équipe n’avait jamais envisagé son outil comme une solution miracle, ajoutant que tout outil nécessiterait toujours une intervention et un discernement humains.
«Il faudra que quelqu’un soit en mesure d’expliquer pourquoi il pense ce qu’il pense, et tout le reste», a-t-elle insisté.
«Mais il y a des aspects plus larges à prendre en compte, dont certains relèvent de considérations politiques — comme le fait que certaines choses devraient peut-être être purement et simplement interdites, plutôt que de tout miser sur leur détection a posteriori.»
