Les dirigeants des banques canadiennes et les autorités de régulation se sont réunis vendredi dernier pour discuter des risques posés par Claude Mythos Preview, le nouveau modèle d’IA d’Anthropic, que l’entreprise juge si puissant qu’elle a décidé de ne pas le rendre public.
Ce texte est une traduction d’un contenu de CTV News.
Bien que le Groupe sur la résilience du secteur financier canadien (CFRG) se réunisse régulièrement, un porte-parole du ministère des Finances a indiqué que cette réunion avait été «précipitée» par la sortie de Mythos. Elle fait suite à une réunion similaire convoquée par le secrétaire au Trésor américain Scott Bessent, à laquelle avaient participé les dirigeants des plus grandes banques américaines.
Le CFRG compte parmi ses membres la Banque du Canada, le ministère des Finances, la Société d’assurance-dépôts du Canada (SADC) et les six grandes banques canadiennes.
En annonçant son nouveau modèle, Anthropic a averti que Claude Mythos pouvait rapidement détecter des vulnérabilités dans pratiquement tous les principaux systèmes d’exploitation et navigateurs web à l’aide de commandes relativement simples, exposant ainsi les grandes institutions telles que les banques, les hôpitaux et les infrastructures énergétiques à des risques de cyberattaques.
«C’est le genre de chose qui devrait nous empêcher de dormir», a déclaré l’expert en technologie Carmi Levy à CTV News.
«Nous savions que ce jour viendrait, que l’IA deviendrait si performante qu’elle serait capable de percer même les cyberdéfenses les plus robustes. Et c’est un peu là où nous en sommes avec le modèle Claude Mythos d’Anthropic.»
— Carmi Levy, expert en technologie
En prenant la décision de ne pas rendre Claude Mythos accessible au grand public, Anthropic a affirmé: «Compte tenu du rythme des progrès de l’IA, il ne faudra pas longtemps avant que de telles capacités se généralisent, potentiellement au-delà des acteurs qui s’engagent à les déployer en toute sécurité. Les répercussions — pour les économies, la sécurité publique et la sécurité nationale — pourraient être graves.»
«C’est comme utiliser ChatGPT pour devenir un pirate informatique», a expliqué M. Levy. «Cela signifie que nos défenses existantes ne suffisent plus à nous protéger contre ces nouvelles menaces émergentes.»
Bien qu’Anthropic ne rende pas Claude Mythos accessible au grand public, l’entreprise le met à la disposition d’un groupe restreint d’entreprises technologiques, notamment Amazon, Google, Apple, Microsoft, Nvidia et Cisco, dans le cadre du projet Glasswing, une initiative visant à identifier les vulnérabilités logicielles critiques et à renforcer les cyberdéfenses.
Alors que certains internautes ont qualifié Mythos de «fin du monde de l’IA», d’autres mettent en garde contre le fait que l’annonce d’Anthropic pourrait être une stratégie marketing astucieuse dans la course à la domination de l’IA. Il pourrait également s’agir des deux à la fois.
«Beaucoup auraient raison de dire qu’il s’agit d’un peu de battage médiatique, d’un peu de communiqué de presse, d’un peu de coup de pub», a affirmé Claudiu Popa, expert en cybersécurité. «Mais nous devons certainement reconnaître les capacités de cet outil et nous devons commencer à nous préparer à l’époque où de nombreuses IA parcourront Internet à la recherche de vulnérabilités.»
Selon M. Popa, l’un des aspects les plus inquiétants de Claude Mythos est qu’il ne nécessite pas de connaissances approfondies en cybersécurité, ce qui le rend potentiellement dangereux entre les mains de personnes mal intentionnées.
« C’est pourquoi cela ne doit pas servir à semer la panique, mais à sensibiliser davantage les organisations et à les inciter à se préoccuper de la question.»
— Claudiu Popa, expert en cybersécurité
Les experts estiment qu’il ne faudra que quelques mois avant que Mythos ou un modèle d’IA comparable ne soit accessible au grand public, qualifiant cela d’«appel à l’action» pour que les organisations et les gouvernements renforcent leur cybersécurité.
«Assurez-vous qu’il y ait le moins de vulnérabilités possible», a-t-il soutenu. «En fin de compte, si l’un de ces outils met une éternité à découvrir une vulnérabilité… il passera à autre chose et trouvera des cibles plus faciles.»
