Le gouvernement canadien a assuré jeudi qu’aucun site de l’administration fédérale n’avait été «compromis» par des agents IA incontrôlés après un rapport d’un laboratoire de recherche faisant état d’une tentative d’infiltration.
«À ce stade, rien n’indique que les systèmes du gouvernement canadien ont été compromis», a déclaré le ministère canadien de l’Intelligence artificielle, dans une déclaration transmise à l’AFP.
Le ministère a indiqué «travailler en étroite collaboration avec le Centre canadien pour la cybersécurité dans le cadre de l’évaluation en cours» et a promis d’«être transparent avec les Canadiens».
Cette réaction intervient au lendemain d’un rapport publié par le laboratoire de recherche Transluce au sujet de «tentatives infructueuses» d’infiltration par des «agents IA incontrôlés» ayant utilisé des «techniques agressives pour accéder à des données» sur le site des archives fédérales canadiennes ainsi que sur un site du ministère américain de l’Éducation.
Selon Transluce, les «tentatives infructueuses de piratage» du site canadien ont eu lieu fin mai-début juin.
«Nous n’attribuons pas avec certitude ces tentatives à OpenAI, mais elles présentent des tactiques cohérentes avec l’activité d’agents précédemment observée que nous avons attribuée à OpenAI durant une période similaire», a souligné le laboratoire de recherche.
Depuis le début de l’été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions.
Un agent autonome d’OpenAI a notamment infiltré un site internet gouvernemental australien en juin, un incident qualifié d’«inacceptable» par le premier ministre Anthony Albanese.
OpenAI a reconnu que ses agents avaient ciblé plusieurs sites gouvernementaux australiens et a assuré regretter de ne pas avoir prévenu «plus tôt» le gouvernement de ce pays.
Tous ces incidents ont nourri les appels à ralentir le développement de l’IA. Le patron d’Anthropic, Dario Amodei, a appelé à freiner la course, redoutant qu’un groupe d’agents soit en mesure, à ce rythme, de «prendre le contrôle de l’intégralité d’internet» d’ici six à douze mois.