Début du contenu principal.
Des experts en intelligence artificielle affirment qu'il est risqué pour l'Agence du revenu du Canada de recourir à l'IA pour aider les Canadiens à résoudre leurs problèmes fiscaux, alors que les employés des centres d'appels ont eux-mêmes du mal à fournir des informations exactes.
La vérificatrice générale fédérale Karen Hogan a publié mardi un rapport accablant révélant que non seulement l'ARC répondait à très peu d'appels, mais que, lorsqu'elle décrochait le téléphone, moins d'un appelant sur cinq recevait une réponse exacte concernant l'impôt sur le revenu des particuliers.
Mme Hogan a constaté que Charlie, l'agent conversationnel de l'ARC alimenté par IA, fournissait des informations correctes environ une fois sur trois.
Contrairement à l'IA générative, qui génère du nouveau contenu en fonction des questions posées, Charlie fournit des réponses à partir de scripts prédéfinis pour répondre aux questions fréquentes et aux demandes simples.
L'ARC teste également une version fonctionnant par IA générative et élargit l'utilisation des agents conversationnels en les faisant fonctionner plus longtemps et en augmentant le nombre de questions auxquelles ils peuvent répondre.
Anatoliy Gruzd, titulaire de la Chaire de recherche du Canada sur les technologies numériques protégeant la vie privée, a déclaré que l'ARC doit bien comprendre les besoins des citoyens avant de recourir à l'IA.
«Si vous êtes un agent du gouvernement et que vous lancez un agent conversationnel, vous devez d'abord vous assurer que le processus est parfaitement maîtrisé avec les agents humains», a-t-il déclaré.
M. Gruzd a expliqué que les IA dépendent de données précises provenant des agents humains.
«Il sera essentiel de revenir aux fondamentaux et de tenter de comprendre pourquoi les agents humains donnent parfois des réponses erronées avant de lancer toute initiative majeure en matière d'IA», a-t-il ajouté.
Adegboyega Ojo, professeur à l'Université Carleton spécialisé dans la gouvernance de l'IA, a déclaré que la technologie peut être mieux utilisée si elle est développée avec soin.
M. Ojo étudie les mécanismes techniques pour une utilisation sûre et bénéfique de l'IA au sein du gouvernement et a déclaré que l'ARC devrait utiliser un modèle mixte humain-IA. Cela permettrait aux machines de répondre aux questions fréquentes, tout en transmettant les requêtes plus complexes et plus nuancées à des spécialistes.
«Que l'on parle d'IA ou non, si vous êtes fonctionnaire, vous devez être bien formé, a soutenu M. Ojo. Mais lorsque vous avez des tâches complexes, il faut une charge cognitive importante pour mémoriser des informations et connaître les règles; c'est pourquoi vous avez besoin d'une machine.»
M. Ojo affirme que l'IA peut alléger le fardeau du personnel de l'ARC face aux volumes élevés d'appels, mais il précise que les travailleurs humains demeurent essentiels et ne devraient pas être remplacés d'emblée.
«Les agents conversationnels peuvent être les agents et les dialogueurs les plus sophistiqués aujourd'hui. Ils sont capables de planifier et d'accélérer les choses, mais ils peuvent aussi se retrouver bloqués parce qu'ils manquent de contexte, a expliqué M. Ojo. La façon idéale de déployer un système d'IA est de toujours avoir une supervision humaine, et c'est là que la responsabilisation entre en jeu.»
Jasmin Manseau, professeur agrégé à l'École de gestion Telfer de l'Université d'Ottawa, a expliqué que l'IA gère actuellement mieux les tâches prédictives que celles fondées sur le jugement, mais a soutenu que l'erreur des machines est toujours possible. «Je pense que cela dépend des tâches, et une tâche routinière peut certainement être automatisée, mais tout ne l'est pas nécessairement», a-t-il déclaré.
Il a noté que si l'utilisation de l'IA par le gouvernement est importante pour le progrès technologique, la confiance du public est essentielle à sa réussite.
«Si l'IA est précise et que les gens lui font confiance, ils l'utiliseront et elles donneront de meilleures recommandations, a résumé M. Manseau. Nous devons atteindre un seuil de précision dans les 70 %, 80 % ou 90 %.»