La ministre de la Justice de la Colombie-Britannique, Niki Sharma, annonce que le gouvernement a intenté une action en justice contre la société d’intelligence artificielle OpenAI, en Californie, pour son rôle dans la tuerie survenue à Tumbler Ridge, en Colombie-Britannique.
Mme Sharma précise que la province cherche à faire prendre ses responsabilités à l’entreprise et à obtenir le remboursement de frais liés à la fusillade de février, qui a coûté la vie à neuf personnes.
Elle indique que l’entreprise n’avait pas alerté la police des interactions alarmantes entre la tireuse, Jesse Van Rootselaar, âgée de 18 ans, et l’agent conversationnel de l’entreprise, ChatGPT.
Mme Sharma précise que les autorités provinciales ont demandé à consulter ces interactions, mais qu’OpenAI avait refusé de les divulguer.
La poursuite de la Colombie-Britannique allègue également que l’entreprise a conçu un «produit dangereux», ajoute-t-elle.
«Nous devrions tous leur demander pourquoi, dit-elle lors d’une conférence de presse à Vancouver. Nous savons que, dans des cas similaires, il a été établi que des agents conversationnels basés sur l’IA avaient conseillé à la personne de commettre le crime.»
La poursuite déposée lundi devant le tribunal fédéral de San Francisco cite Sam Altman, fondateur et président et chef de direction d’OpenAI, en tant que défendeur à titre individuel, aux côtés de l’entreprise et d’autres entités qui lui sont associées.
Elle demande un procès devant jury, accusant les défendeurs de négligence, de «complicité dans une tuerie de masse» et de responsabilité civile pour avoir mis sur le marché un produit défectueux.
Le gouvernement et le district scolaire de Tumbler Ridge réclament «une indemnisation pour le préjudice non seulement prévisible, mais aussi connu, qu’OpenAI leur a infligé, de même que les dommages qu’ils ont subis et continuent de subir, ainsi qu’une mesure injonctive visant à garantir que cette tragédie ne se reproduise plus».
«Un simple appel téléphonique à la Gendarmerie royale du Canada aurait pu empêcher cette tragédie», est-il écrit dans la poursuite.
Mme Sharma indique que la province réclame des dommages-intérêts précis, notamment le remboursement des frais liés à la construction d’une nouvelle école secondaire dans cette petite communauté du nord-est de la Colombie-Britannique.
Des survivants et des témoins, notamment des élèves et des membres du personnel de l’école secondaire de Tumbler Ridge, où six victimes et la tireuse ont trouvé la mort, ont déjà intenté des poursuites privées contre OpenAI.
Des avancées qui vont trop vite pour les lois
Mme Sharma souligne que les lois et les cadres de sécurité ne suivent pas le rythme des avancées de la technologie de l’IA et qu’on ne peut pas laisser les entreprises se réguler elles-mêmes.
La procureure générale indique avoir écrit aux autorités fédérales pour demander des modifications du Code criminel canadien afin de garantir que les entreprises d’IA puissent être tenues responsables des comportements criminels découlant de leurs technologies.
«Dans toute autre circonstance, lorsqu’une personne aide, encourage, conspire en vue de commettre une infraction pénale, ou fait preuve de négligence criminelle, elle peut faire l’objet d’une enquête, être poursuivie et jugée», illustre-t-elle.
«Il n’existe aucune exception liée à l’IA à ces principes de droit pénal.»
Mme Sharma précise que la province a déposé sa plainte en Californie, alléguant que c’est là qu’OpenAI a su que «des faits graves se produisaient dans cette conversation» entre Van Rotselaar et ChatGPT, mais qu’elle a omis de signaler la situation aux autorités.
Elle ajoute que le fait de déposer la poursuite en Californie, où de nombreuses entreprises technologiques ont leur siège social, offrait également la possibilité de faire évoluer les choses en matière de sécurité liée à l’IA.
