Le ministre canadien chargé de l’intelligence artificielle a affirmé qu’il demanderait davantage d’informations sur les modifications apportées par OpenAI à ses protocoles de sécurité mercredi, lors de sa rencontre avec le PDG de l’entreprise, Sam Altman.
Ce texte est une traduction d’un article de CTV News.
Evan Solomon rencontre M. Altman après qu’il a été révélé la semaine dernière que le tireur de Tumbler Ridge, qui a tué huit personnes au début du mois dans l’une des fusillades les plus meurtrières de l’histoire du Canada, avait été signalé en interne par OpenAI pour «abus et application de la loi» sept mois plus tôt. La GRC n’a été informée qu’après les événements tragiques survenus en Colombie-Britannique.
S’exprimant lors d’un événement à Halifax mardi, M. Solomon a indiqué que la réponse d’OpenAI avait été insuffisante jusqu’à présent et «manquait de détails».
«Je vais demander plus de détails», a exprimé M. Solomon. «Je veux savoir quels changements ils vont apporter précisément pour protéger les Canadiens.»
«Mon travail, le travail de notre gouvernement, est de veiller à la sécurité des Canadiens», a-t-il également dit.
«Ces agents IA nous posent de nouveaux défis.»
— Evan Solomon, ministre de l’Intelligence artificielle
Il a ajouté que toutes les options étaient envisagées, y compris une législation visant à réglementer les agents conversationnel. OpenAI est la société responsable du chatbot largement utilisé, ChatGPT.
M. Solomon a également affirmé aux journalistes que «le public attend, tout comme le gouvernement, un certain niveau d’utilisation responsable de la technologie».
«Il attend de la confiance et de la responsabilité», a-t-il expliqué. «Toutes les options sont sur la table.»
Le ministre a annoncé qu’il présenterait bientôt un projet de loi sur la confidentialité et les données, et a souligné le travail du ministre de l’Identité et de la Culture canadiennes sur un projet de loi sur les préjudices en ligne. M. Solomon a également noté que le projet de loi C-16, qui criminalise le partage non consensuel d’images à caractère sexuel et les deepfakes, a déjà été déposé.
M. Altman devrait également rencontrer le premier ministre de la Colombie-Britannique, David Eby, après s’être entretenu avec le ministre de l’IA. M. Eby a refusé de rencontrer l’équipe de direction d’OpenAI et a déclaré qu’il était déterminé à transmettre son message directement au PDG.
«Je pense qu’il est important que M. Altman sache que la décision de son équipe de ne pas divulguer ces informations a entraîné les ravages dont j’ai été témoin à Tumbler Ridge», a déclaré M. Eby jeudi dernier.
Après avoir été convoqués à Ottawa la semaine dernière, les hauts responsables d’OpenAI ont écrit dans une lettre ouverte à M. Solomon qu’ils amélioraient leur modèle afin de mieux identifier les signaux d’alerte potentiels de violence grave et de permettre à l’entreprise d’orienter les utilisateurs vers des services locaux de soutien en santé mentale lorsque cela est nécessaire.
Dans cette même lettre, Ann O’Leary, vice-présidente de la politique mondiale d’OpenAI, a reconnu que si le premier compte du tireur avait été banni, l’entreprise avait découvert un deuxième compte lié à lui à la suite de la fusillade.
