Le ministre de l’Intelligence artificielle, Evan Solomon, a déclaré que des représentants fédéraux avaient exprimé leur déception aux représentants d’OpenAI après une rencontre à Ottawa. Cette rencontre portait sur le défaut de l’entreprise d’alerter les forces de l’ordre au sujet de Jesse Van Rootselaar, l’auteure de la fusillade de Tumbler Ridge.
Dans une déclaration, M. Solomon a indiqué que cette rencontre avec les dirigeants de l’entreprise avait eu lieu à sa demande, après la révélation des «informations troublantes» selon lesquelles la firme d’IA n’avait pas immédiatement signalé les signaux d’alerte concernant le risque de violence.
La déclaration précise que les représentants de l’entreprise n’ont présenté aucune «nouvelle mesure de sécurité substantielle» lors de la réunion, mais qu’ils reviendraient avec des «propositions plus concrètes», tout en confirmant la collaboration d’OpenAI avec la Gendarmerie royale du Canada (GRC).
Dans sa déclaration, ¸M. Solomon affirme qu’aucun détail concernant la fusillade n’a été abordé, l’enquête étant toujours en cours. Toutefois, il est attendu que tout «signaux d’alerte crédibles» soit signalé rapidement plutôt qu’examiné en interne lorsque la sécurité publique est en jeu.
La gestion de cette affaire par l’entreprise a été critiquée après la publication, vendredi, d’un article du Wall Street Journal révélant que le compte de Van Rootselaar avait été suspendu en raison de publications inquiétantes, dont certaines évoquaient des scénarios de violence armée.
Le compte de la tireuse de Tumbler Ridge avait été banni de la plateforme ChatGPT d’OpenAI il y a au moins sept mois, et OpenAI n’a informé la police du comportement problématique de Mme Van Rootselaar qu’après la tuerie du 10 février.
Evan Solomon a demandé que la réunion d’Ottawa, qui comprenait également le ministre de la Sécurité publique Gary Anandasangaree, et le ministre de la Culture Marc Miller, se tienne mardi soir afin d’expliquer ses procédures de sécurité et son processus de prise de décision.
OpenAI avait suspendu le compte de Van Rootselaar en juin, mais avait déclaré que les activités en question ne justifiaient pas, à ce moment-là, d’informer les forces de l’ordre, faute d’éléments probants ou d’indices de planification imminente.
Une experte en droit de la cybersécurité a avancé que le Canada pourrait adopter des lois obligeant les entreprises d’intelligence artificielle à signaler les menaces en ligne à la police, mais que le processus serait complexe, car signaler chaque suspicion est «tout simplement impossible».
Emily Laidlaw, titulaire de la Chaire de recherche du Canada en droit de la cybersécurité à l’Université de Calgary, a expliqué que chaque entreprise d’IA établit sa propre politique quant au moment où elle doit informer la police des activités en ligne. Elle a ajouté que le Canada avait déjà envisagé d’adopter une telle loi, mais sans donner suite.
Voir au-delà de l’affaire
S’adressant aux journalistes avant la réunion du cabinet libéral mardi, M. Solomon a déclaré ne pas connaître les détails des publications du tireur et ne pas chercher à obtenir ces informations auprès de l’entreprise.
«Nous ne parlons pas des détails de l’affaire. Il s’agit d’une enquête criminelle», a-t-il souligné en se rendant à une réunion du cabinet au Parlement.
Il a ajouté vouloir comprendre le fonctionnement des protocoles de sécurité et de la technologie de l’entreprise. Il n’a pas précisé si le gouvernement fédéral entendait réglementer les dialogueurs d’IA, comme ChatGPT.
«Notre réponse est que toutes les options sont sur la table lorsqu’il s’agit de comprendre ce que nous pouvons faire au sujet des agents conversationnels IA», a fait savoir M. Solomon.
Le premier ministre de la Colombie-Britannique, David Eby, a énoncé mardi que le gouvernement fédéral devait établir un seuil de déclaration pour les entreprises d’IA afin de déterminer à partir de quel moment elles sont tenues de signaler les incidents aux forces de l’ordre.
«Il faut un seuil clair et transparent qui protège ces entreprises. Elles sont protégées en matière de protection de la vie privée. Elles ne font que respecter la loi. Mais surtout, cela protège les Canadiens», a affirmé M. Eby, ajoutant qu’il avait demandé une rencontre avec des représentants d’OpenAI.
Interrogé sur la possibilité pour les familles des victimes de Tumbler Ridge d’intenter un recours collectif, M. Eby a indiqué que la question restait ouverte, mais que les familles n’y pensaient pas pour le moment.
Il a raconté qu’après la tragédie, il avait parlé avec un père qui lui avait décrit les derniers instants de son enfant.
«Je veux que l’entreprise le sache. Je veux qu’elle l’entende de ma bouche. Je veux qu’elle rencontre les familles. Je veux qu’elle regarde ces familles dans les yeux et leur explique les raisons de sa décision. Et, au final, je veux que les Britanno-Colombiens sachent ce qu’ils savaient», a-t-il conclu.
Interrogé sur la manière dont le gouvernement peut déterminer si des changements sont nécessaires sans connaître les détails de l’affaire, le ministre fédéral de la Justice, Sean Fraser, a indiqué que les forces de l’ordre recueillaient ces informations et qu’«il pourrait être possible d’examiner ce qui s’est précisément passé» dans l’affaire Tumbler Ridge.
«C’est le genre d’information systémique que nous devons comprendre: quelles sont les conversations qui se tiennent et auxquelles les forces de l’ordre n’ont pas accès actuellement? Cela serait très utile et nous aiderait à éviter de futures catastrophes », a-t-il affirmé.
Une loi difficile à rédiger
Selon Mme Laidlaw, toute législation devrait être rédigée de manière restrictive afin de protéger la vie privée des utilisateurs en ligne, mais elle devrait exiger que la police soit informée en cas de préoccupation grave concernant des menaces pour la sécurité.
Elle a avancé qu’OpenAI semblait préoccupée par Van Rootselaar et que, même s’il n’y avait peut-être aucune indication que la menace était imminente, l’entreprise pouvait s’inquiéter d’une menace générale.
«Ce que nous souhaitons, c’est que, si l’on craint réellement pour la sécurité des personnes, même si la menace n’est pas imminente, les forces de l’ordre mènent une enquête, a-t-elle expliqué. Comment rédiger une loi appropriée qui n’ouvre pas la porte à un déluge de signalements, obligeant à transmettre systématiquement tout soupçon à la police? Car une telle approche est tout simplement irréalisable.»
En 2021, alors que le gouvernement fédéral examinait une loi sur la sécurité en ligne, certains ont suggéré d’imposer l’obligation de signaler les incidents aux forces de l’ordre. Cependant, face à une forte opposition, la proposition a été abandonnée, a indiqué Mme Laidlaw.
Le gouvernement libéral a confirmé le mois dernier qu’il travaillait à une nouvelle loi visant à lutter contre les préjudices en ligne.
En 2024, le gouvernement a présenté des règles qui auraient obligé les entreprises de médias sociaux à expliquer comment elles comptaient réduire les risques que leurs plateformes représentaient pour les utilisateurs, et leur auraient imposé l’obligation de protéger les enfants. Ces règles n’ont jamais été adoptées avant le déclenchement des élections de 2025.
«Je pense qu’il est nécessaire d’adopter une loi pour garantir la responsabilité des plateformes, mais les modalités restent à définir», a déclaré M. Miller, dont le ministère pilote l’élaboration d’une loi sur les préjudices en ligne.
Mme Laidlaw a indiqué qu’une obligation de signalement devrait être envisagée.
«Mais, je ne veux pas que cela soit considéré comme quelque chose de si facile qu’on l’a négligé, car, en réalité, il est très difficile de rédiger cela de manière appropriée sans provoquer toutes sortes d’effets dominos», a-t-elle ajouté.
— Avec des informations de Sarah Ritchie à Ottawa