Des dizaines de chercheurs canadiens, dont Yoshua Bengio, font partie d’un groupe international d’experts qui réclament de meilleures mesures de confinement pour les modèles d’intelligence artificielle (IA).
Dans une lettre ouverte, les signataires rappellent que «plusieurs organisations ont révélé des failles de sécurité très médiatisées» lors desquelles des modèles d’IA ont «contourné des environnements de test insuffisamment isolés pour compromettre les systèmes d’organisations externes».
Les signataires préviennent qu’à moins que des changements immédiats ne soient apportés à la manière dont l’IA est développée et déployée, «de tels incidents continueront de se produire».
Ils avertissent que les incidents futurs seront «bien plus préjudiciables à nos infrastructures critiques exposées» et soulignent la nécessité d’intensifier la recherche sur la sécurité de l’IA et de mettre l’accent sur les technologies et procédures de confinement.
Les chercheurs souhaitent la création d’un organisme international dont la mission serait de normaliser les meilleures pratiques.
Parmi les signataires canadiens de la lettre figurent les pionniers de l’IA Yoshua Bengio et Geoffrey Hinton, ainsi que Nicolas Papernot et Catherine Régis, qui codirigent le programme de recherche de l’Institut canadien de la sécurité de l’IA.
Gillian Hadfield, professeure à l’Université Johns Hopkins récemment nommée au sein du nouveau conseil consultatif sur l’IA du premier ministre Mark Carney, a aussi signé la lettre.
Les signalements faisant état d’agents d’IA rebelles contribuent à alimenter une inquiétude du public concernant la sécurité de l’IA. OpenAI a révélé cet été que ses agents d’IA avaient piraté la jeune pousse Hugging Face sans en avoir reçu l’ordre.
D’autres révélations ont suivi. Anthropic a indiqué que ses modèles d’IA avaient piraté trois organisations lors de tests. Meta a également révélé qu’un de ses modèles d’IA avait accédé à internet de son propre chef et piraté une entreprise.
Pour sa part, Google a confirmé que son modèle d’IA Gemini avait piraté trois entreprises dans le cadre d’un test de ses capacités en matière de cybersécurité.
Dans un rapport publié le 30 septembre, un laboratoire spécialisé dans la surveillance des activités liées à l’IA, établi à San Francisco, a révélé que le site web de Bibliothèque et Archives Canada avait été l’une des cibles d’une tentative de piratage infructueuse menée par un agent d’IA.
Le ministre fédéral de l’Intelligence artificielle, Evan Solomon, a mentionné en septembre avoir discuté avec ses homologues internationaux du G7 de la création d’un «conseil de stabilité technologique» dont l’objectif serait d’évaluer les modèles d’IA à des fins de test.
