Le ministre fédéral de l’Intelligence artificielle, Evan Solomon, a déclaré que le PDG d’OpenAI s’était engagé à prendre plusieurs mesures pour renforcer la sécurité, notamment la remise d’un rapport décrivant les nouveaux systèmes que l’entreprise développe pour identifier les délinquants à haut risque et les contrevenants aux politiques.
Dans une déclaration faisant suite à sa rencontre de mercredi avec Sam Altman, M. Solomon a indiqué qu’il demanderait également à l’Institut canadien de la sécurité de l’IA d’examiner le modèle de l’entreprise et de fournir des conseils techniques d’experts à son cabinet.
Cette rencontre fait suite à la révélation qu’OpenAI avait interdit au tireur de masse de Tumbler Ridge, en Colombie-Britannique, d’utiliser son robot conversationnel ChatGPT en juin dernier en raison d’interactions inquiétantes, mais n’avait pas alerté les forces de l’ordre avant les meurtres du mois dernier.
OpenAI a affirmé que de nouveaux protocoles auraient permis de signaler les interactions de Jesse Van Rootselaar à la police, mais M. Solomon a déclaré que cette tragédie «exige des réponses et des mesures de protection plus strictes lorsque des technologies d’IA puissantes sont en jeu».
M. Solomon a précisé que les mesures qu’a acceptées M. Altman comprennent l’établissement d’un point de contact direct avec la GRC et la mise en œuvre de protocoles de sécurité qui orientent les personnes «en détresse» vers les services locaux appropriés.
Le ministre indique qe M. Altman a également confirmé que l’entreprise appliquerait ses nouvelles normes de sécurité rétroactivement et réexaminerait les cas précédemment signalés.
«Cela permettra de déterminer si d’autres incidents qui auraient dû être signalés aux forces de l’ordre en vertu des nouvelles normes de sécurité d’OpenAI ont été omis, et de s’assurer qu’ils soient rapidement signalés à la GRC», précise la déclaration de M. Solomon.
L’entreprise s’est également engagée à évaluer comment elle intégrerait des experts canadiens en matière de protection de la vie privée, de santé mentale et d’application de la loi au processus d’identification et d’examen des cas à haut risque impliquant des utilisateurs canadiens de la technologie OpenAI.
Van Rootselaar a abattu huit personnes à Tumbler Ridge le 10 février, dont six enfants, avant de se suicider.
Plus tôt mercredi, M. Solomon était apparu à l’émission «Power and Politics» de CBC, où il affirmait avoir dit à M. Altman que les habitants de Tumbler Ridge méritaient des excuses pour le rôle de l’entreprise technologique dans les événements ayant mené à la tuerie.
M. Salomon a raconté avoir dit à M. Altman qu’il appuyait «absolument» la demande d’excuses du premier ministre de la Colombie-Britannique, David Eby, qui doit rencontrer le PDG jeudi.
La procureure générale de la Colombie-Britannique, Niki Sharma, a déclaré que M. Eby rencontrerait M. Altman afin de déterminer si l’entreprise aurait pu empêcher la fusillade.
Mme Sharma a ajouté qu’Ottawa devait se pencher sur une question plus large concernant la réglementation et la supervision des plateformes comme OpenAI.
Ces rencontres avec M. Altman font suite à l’annonce, mardi, par le coroner en chef de la Colombie-Britannique, le Dr Jatinder Baidwan, de l’ouverture d’une enquête sur la fusillade, qui examinera le rôle de l’intelligence artificielle.
Mme Sharma a indiqué espérer qu’OpenAI participerait à l’enquête et partagerait les informations dont elle dispose.