Le gouvernement fédéral prévoit de déployer un outil d'intelligence artificielle à toutes ses frontières terrestres afin de déterminer quels voyageurs pourraient nécessiter un examen secondaire avant d'entrer dans le pays, a confirmé CTV News.
Selon l'Agence des services frontaliers du Canada (ASFC), l'indicateur de conformité des voyageurs a été développé en interne afin de «traiter plus efficacement les voyageurs».
Ce texte est une traduction d'un article de CTV News.
Cet outil compile en temps réel des données prédictives «déjà disponibles dans plusieurs systèmes» et signale les voyageurs qui présentent un risque plus élevé de ne pas respecter les exigences frontalières. Il est destiné à aider les agents frontaliers à décider si certains voyageurs doivent être soumis à un contrôle secondaire.
«L'objectif de l'indicateur de conformité des voyageurs est de fournir aux agents un résumé en temps réel des données disponibles afin de les aider à identifier et à traiter plus rapidement les voyageurs en règle et à se concentrer sur les voyageurs inconnus et à haut risque», a écrit Luke Reimer, porte-parole de l'ASFC, dans un courriel adressé à CTV News.
L'indicateur de conformité des voyageurs s'inscrit dans le cadre d'un plan de modernisation plus large de l'agence, en cours depuis août dernier.
«Ce n'est qu'un indicateur et ne remplace pas le jugement des agents ni ne détermine automatiquement les résultats», a précisé le porte-parole de l'agence fédérale.
«La décision finale de soumettre un voyageur à un examen secondaire appartient à l'agent des services frontaliers, dont la formation spécialisée, l'expertise et les connaissances lui permettent d'être toujours à l'affût des menaces potentielles», a-t-il ajouté.
L'extension de l'utilisation de l'indicateur de conformité des voyageurs par l'ASFC a été rapportée pour la première fois par le Toronto Star.
L'indicateur de conformité des voyageurs est en place depuis 2023 dans le cadre d'un projet pilote dans six points d'entrée terrestres, et son déploiement complet est prévu pour la fin 2027. M. Reimer n'a pas précisé le calendrier de mise en œuvre de cette technologie dans les points d'entrée aériens ou maritimes.
«Nous espérons que l'indicateur de conformité des voyageurs contribuera à réduire le nombre de renvois pour un deuxième contrôle qui ne débouchent pas sur la découverte d'une non-conformité de la part du voyageur», Luke Reimer de l'ASFC.
Les statistiques fournies par M. Reimer sur le nombre de voyageurs ayant fait l'objet d'un examen secondaire sont restées globalement stables ou ont diminué au cours de l'année dernière.
Selon le professeur Ebrahim Bagheri de l'Université de Toronto, toute utilisation de l'IA qui a un impact sur le comportement et les décisions humaines est susceptible d'entraîner des biais inhérents.
À VOIR AUSSI | À quel point les Américains ont-ils boudé Montréal cet été?
Celui qui est spécialisé dans le développement responsable de l'IA a cité des exemples d'intelligence artificielle conçue pour évaluer les risques, qui ont conduit à un profilage négatif des groupes minoritaires.
«Le risque ici est que des types de biais similaires soient repris», a prévenu Ebrahim Bagheri à propos de l'indicateur de conformité des voyageurs, dans une entrevue accordée à CTV News.
Il a ajouté que l'IA, en raison de la manière dont elle est développée et entraînée, a le potentiel de reprendre les biais présents dans les données historiques, de les exacerber et de les mettre en pratique».
Selon le professeur Bagheri, un autre motif de préoccupation potentiel est le biais d'automatisation, un phénomène qui conduit la plupart des gens à privilégier les suggestions des systèmes automatisés plutôt que de se fier à leurs propres connaissances.
Il a affirmé que dans le cas de l'indicateur de conformité des voyageurs, bien que l'intention de l'ASFC semble être de laisser aux agents frontaliers humains le soin de prendre la décision finale concernant les voyageurs qui doivent faire l'objet d'un examen secondaire, le biais d'automatisation signifie que ces agents sont susceptibles de s'en remettre à l'algorithme pour prendre leur décision.
Le professeur de l'Université de Toronto a soutenu que toute personne utilisant ce type de système aurait besoin d'une formation approfondie pour en comprendre la fiabilité, mais aussi que les biais inhérents et le biais d'automatisation sont «inévitables».
Il a ajouté que la technologie de l'intelligence artificielle pourrait être déployée pour aider les agents frontaliers d'autres manières, plutôt que d'être spécifiquement conçue pour établir des scores de risque pour les voyageurs.
D'après M. Reimer, l'ASFC s'efforce «activement» de minimiser l'impact des biais potentiels de l'indicateur de conformité des voyageurs, ajoutant que l'agence «a déjà pris plusieurs mesures importantes» à cette fin.
Il s'agit notamment de plans visant à surveiller les performances de l'outil auprès de différents groupes d'équité et à travailler «en permanence» à l'atténuation des biais.
«Le principal problème est que, généralement, les personnes ou les groupes qui élaborent un système ont déjà fait de leur mieux pour éviter tout biais», a expliqué e professeur Bagheri. «La seule façon d'améliorer un système est de permettre un examen indépendant de celui-ci.»
«Il est vraiment difficile de voir comment l'ASFC peut garantir efficacement que son système examine et surveille progressivement les biais et l'améliore», a-t-il dit.
Selon le porte-parole de l'ASFC, l'indicateur de conformité des voyageurs a coûté un peu moins que prévu, soit environ 15,3 millions de dollars au gouvernement. Il a ajouté qu'une fois la technologie pleinement mise en œuvre, les coûts opérationnels liés au développement et à la maintenance continus devraient s'élever à environ 700 000 dollars par an.
