Les agents de l’intelligence artificielle (IA) s’améliorent dans leur capacité à travailler ensemble et, dans certains cas, à agir en dehors du cadre de leurs instructions. C’est quelque chose qui a toujours été possible, mais qui se produit désormais plus souvent, ce qui soulève de nouvelles questions sur la surveillance.
«Ils ont des hallucinations, ils mentent, ils déraillent», a lancé l’expert en technologie Carmi Levy. «Ils dépassent les limites de sécurité mises en place pour les protéger. Ils font des choses qu’on ne peut pas expliquer. Et on voit de plus en plus de preuves que ça se produit.»
Ce texte est une traduction d’un article de CTV News.
Cet été, environ 1200 robots d’OpenAI ont piraté Hugging Face, une plateforme d’IA open source, en se répartissant les tâches pour mener à bien le piratage et en effaçant leurs traces aux yeux des chercheurs humains. Cet incident a suscité des appels à une meilleure réglementation.
«Pour l’instant, ce qui se passe est plutôt anodin. Aucune donnée n’est perdue. Personne ne se fait vraiment pirater son système. Personne n’est lésé», a expliqué M. Levy. «Mais à l’avenir, quand cette technologie tombera entre les mains de mauvaises personnes qui ont de mauvaises intentions, les conséquences seront bien différentes.»
«Pas nouveau»
Même si les développeurs mettent en place des mesures de protection, l’incident de Hugging Face montre que les «essaims d’IA» peuvent désormais ignorer les consignes et défier les opérateurs humains.
«Cette préoccupation n’est pas nouvelle. Ce qui est nouveau, c’est la capacité de ces modèles à se rapprocher de plus en plus de cette limite», a rapporté Evan Solomon, ministre de l’IA et de l’Innovation numérique. «On prend ça extrêmement au sérieux.»
Le ministre précise que le gouvernement fédéral a adopté des lois visant à protéger la vie privée et les données (projet de loi C-36), à réglementer la sécurité numérique (projet de loi C-34), à interdire les deepfakes lors des élections et à criminaliser les images d’abus sexuels générées par l’IA.
Mais les critiques soulignent qu’il n’existe toujours pas de loi autonome et exhaustive sur l’IA au Canada.
«On a laissé l’industrie inventer les règles au fur et à mesure», a soutenu M. Levy. «Ce sont eux qui décident de ce qui est prioritaire: la sécurité ou la rentabilité. Et sans surprise, la rentabilité a toujours été leur priorité.»
Les principaux chefs d’entreprise du secteur de l’IA sont profondément divisés sur la nécessité d’une réglementation plus stricte. Certains, dont les dirigeants d’Anthropic et d’OpenAI, s’entendent pour dire qu’une surveillance accrue de la part du gouvernement est nécessaire. D’autres, dont Mark Zuckerberg, chef de Meta, s’opposent à une intervention accrue du gouvernement.
«On devrait vivre dans un monde où il y a une réglementation raisonnable», a dit Shion Guha, directeur du Human-Centred Data Science Lab à l’Université de Toronto. Mais ce dernir estime que la réglementation ne cible pas les bons enjeux.
«Si on ne pense qu’aux gros risques, on risque de ne pas tenir compte des risques quotidiens actuels qui touchent les gens», a-t-il avancé. «Je veux qu’il y ait des garde-fous, mais pour des choses raisonnables, pas pour ce dont parlent les entreprises d’IA.»
Un exemple, c’est la fusillade de masse à Tumbler Ridge, en Colombie-Britannique, qui a fait neuf morts dans une école plus tôt cette année. Plus d’une douzaine de poursuites ont été intentées contre OpenAI par les familles des victimes, qui affirment que l’entreprise n’a pas signalé à la police les commentaires violents du tireur, un utilisateur de son chatbot, avant que l’attaque n’ait lieu. Cette semaine, le gouvernement de la Colombie-Britannique a intenté sa propre poursuite contre l’entreprise.
M. Guha estime qu’il faudrait se concentrer davantage sur les lacunes actuelles en matière de sécurité de l’IA plutôt que sur les menaces futures.
«Ça arrange les grandes entreprises technologiques que le débat sur les mesures de protection porte sur des risques existentiels inexplorés et vagues qui pourraient ou non se réaliser», a mentionné le directeur du Human-Centred Data Science Lab. «Ça a pour effet de détourner la conversation des risques qui se produisent réellement.»
En juin, le gouvernement fédéral a lancé des consultations publiques sur la politique en matière d’IA, en se penchant sur les règles relatives à l’identification du contenu généré par l’IA et au signalement des incidents graves. Cette période de consultation se termine le 23 septembre, et le gouvernement affirme que les commentaires recueillis aideront à façonner la future législation.
Le ministre Solomon collabore aussi activement avec les ministres chargés de l’IA et de l’innovation dans d’autres pays du G7 et du G20 pour élaborer des politiques plus solides en matière d’IA. «On n’est pas encore à la fine pointe, mais on travaille pour s’assurer d’avoir des garde-fous», a-t-il précisé. «On salue cette discussion. C’est exactement le genre de discussion pragmatique qu’il faut avoir, parce qu’on doit mettre en place une IA sécuritaire et fiable. On croit que ça nécessitera une réglementation mondiale en matière de tests et d’évaluation des modèles.»
