L’intelligence artificielle (IA) peut aider à comprendre le droit, structurer un argumentaire ou trouver des pistes de recherche. Mais déposer devant un tribunal une décision inventée par l’IA peut coûter cher — même lorsque l’erreur était involontaire.
C’est la mise en garde formulée par l’avocate Chanel Alepin et la juge à la retraite Nicole Gibeault dans l’épisode 11 du balado Objection! Madame la juge, diffusé gratuitement sur Crave consacré aux risques et aux pièges de l’intelligence artificielle dans le milieu juridique.
Leur discussion part d’une situation de plus en plus plausible: une personne impliquée dans un litige civil n’a pas les moyens de payer un avocat et décide de se représenter seule. Elle demande donc à un outil d’intelligence artificielle de l’aider à préparer sa défense.
Le résultat semble impeccable: argumentaire bien structuré, articles de loi, décisions judiciaires et jurisprudence apparemment parfaitement adaptés au dossier.
Le problème? Certaines de ces références pourraient tout simplement ne pas exister.
L’IA peut inventer des décisions judiciaires
Dans le jargon de l’intelligence artificielle, on parle d’«hallucination» lorsqu’un outil produit une information fausse en la présentant comme crédible.
Dans un contexte juridique, cela peut notamment prendre la forme d’un jugement qui n’a jamais été rendu.
Et le résultat peut être particulièrement convaincant.
«On ne peut pas prendre pour acquis que, premièrement, cette décision existe; et deuxièmement, qu’elle parle de ce qu’on parle», prévient Me Alepin.
Même lorsqu’une décision existe réellement, l’IA peut aussi en extraire quelques phrases sans tenir compte du contexte dans lequel elles ont été écrites.
Demander à ChatGPT de «ne pas halluciner» ne suffit pas
Une bonne formulation de la question peut améliorer la réponse obtenue, mais elle ne remplace pas la vérification.
Me Alepin souligne notamment que les outils d’IA ont tendance à vouloir donner à l’utilisateur une réponse qui correspond à ce qu’il cherche.
Le même phénomène peut d’ailleurs toucher un humain qui effectue une recherche juridique: on peut être tenté de ne retenir que les décisions favorables à sa position tout en ignorant celles qui la contredisent.
Ordonner à l’IA de ne pas donner de fausse information ne garantit rien. Même avec une telle consigne, l’outil peut encore se tromper.
Alors, comment vérifier?
Sur ce point, les deux juristes reviennent constamment au même principe: il faut lire.
Si l’IA cite une décision, il faut d’abord confirmer qu’elle existe. Il faut ensuite la consulter pour vérifier qu’elle traite réellement du problème juridique en cause et que le passage invoqué s’applique aux faits du dossier.
«Il n’y aura pas de raccourci si on veut utiliser l’intelligence artificielle.»
— Me Chanel Alepin
L’IA peut donc faciliter l’accès au droit, mais elle ne dispense pas le citoyen du travail de recherche nécessaire pour valider ce qu’elle lui fournit.
Le droit québécois présente un défi particulier
La prudence est d’autant plus importante au Québec, selon Me Alepin.
Le droit civil québécois constitue un marché beaucoup plus petit que le droit américain ou celui du Canada anglais. Les outils généralistes d’intelligence artificielle peuvent donc être moins performants lorsqu’il est question de règles très particulières à la province.
L’avocate raconte avoir elle-même testé l’IA sur des questions juridiques québécoises et l’avoir vue passer à côté d’éléments importants, notamment relativement aux petites créances.
Elle souligne également qu’un outil peut être plus performant dans un domaine largement documenté, comme certains aspects du droit des affaires, que dans un secteur juridique très niché et propre au Québec.
Une fausse décision peut vous coûter de l’argent
L’erreur n’est pas nécessairement sans conséquence.
Les deux juristes évoquent notamment un dossier où des décisions inexistantes ont été soumises au tribunal. Les personnes concernées ont dû payer 800 $ en vertu du Code de procédure civile, selon Me Alepin.
Elle mentionne également d’autres décisions où les montants imposés ont été plus élevés.
Pourquoi sanctionner une telle erreur? Parce que les juges, les avocats de la partie adverse et l’ensemble du système doivent alors perdre du temps à rechercher des décisions qui n’existent pas.
Dans un autre cas évoqué dans le balado, une avocate aurait soumis des références inventées par l’intelligence artificielle. Les avocats adverses ont dû consacrer plusieurs heures à tenter de retrouver ces décisions.
«Ce n’est pas au client de payer les frais de son avocat qui cherche des décisions qui n’existent pas», estime Me Alepin.
Même des professionnels se font prendre
Le phénomène ne concerne donc pas uniquement les citoyens qui se représentent seuls.
Me Alepin évoque notamment le cas d’un arbitre ayant fondé une sentence sur des décisions qui étaient en réalité des hallucinations de l’intelligence artificielle. La partie perdante a contesté la décision devant les tribunaux et a obtenu gain de cause.
Pour l’avocate, l’erreur consiste alors à déléguer à l’intelligence artificielle une responsabilité qui appartient au décideur.
Les professionnels du droit utilisent eux-mêmes ces outils — Me Alepin affirme d’ailleurs s’en servir quotidiennement — mais disposent normalement des connaissances nécessaires pour vérifier ce qui leur est proposé.
Pas les moyens de payer un avocat? Il existe d’autres options
Utiliser l’IA ne signifie pas nécessairement devoir choisir entre tout faire seul et payer un avocat pour prendre entièrement le dossier en charge.
Me Alepin suggère d’abord de vérifier si l’on dispose déjà d’un service d’information juridique par l’entremise d’une assurance ou même de certains avantages associés à une carte de crédit.
Elle cite également Info-Justice, l’aide juridique pour les personnes admissibles, les services de référence du Barreau du Québec ainsi que les avocats offrant des consultations gratuites ou à faible coût.
Une autre possibilité consiste à donner à un avocat un mandat limité.
Un citoyen peut ainsi effectuer lui-même une partie de ses recherches avec l’IA, puis payer uniquement pour qu’un professionnel vérifie sa stratégie ou certaines portions du dossier avant de se présenter en cour.
À la Cour fédérale, il faut divulguer l’utilisation de l’IA
L’encadrement de ces outils demeure lui aussi en évolution.
Selon Me Alepin, différentes lignes directrices existent déjà auprès des tribunaux et du Barreau du Québec. Elle souligne cependant qu’à la Cour fédérale, la règle est plus claire: l’utilisation de l’intelligence artificielle doit être divulguée.
Cette divulgation permet notamment au décideur de savoir qu’il doit porter une attention particulière à l’origine et à la vérification des informations qui lui sont présentées.
L’IA peut améliorer l’accès à la justice… à condition de faire le travail
Les deux juristes ne proposent donc pas de bannir ChatGPT ou les autres outils d’intelligence artificielle des recherches juridiques.
Au contraire, elles y voient un outil qui peut rendre le droit plus accessible, mais l’utilisateur demeure responsable de ce qu’il présente au tribunal.
Il faut vérifier que les décisions existent, les lire, comprendre leur contexte et s’assurer qu’elles s’appliquent véritablement à son dossier.
Autrement dit, l’intelligence artificielle peut accélérer la recherche. Elle ne remplace toutefois ni le jugement humain ni la vérification.