Aux États-Unis, des chercheurs s’inquiètent de voir émerger une intelligence artificielle (IA) incontrôlable, capable d’anéantir l’humanité. Mais en Chine, les décideurs se sont jusqu’ici surtout focalisés sur les risques concrets, comme les vidéos truquées.
Les capacités de piratage offertes par les modèles d’IA, toujours plus avancés, poussent toutefois Pékin à revoir son approche. Le chef du renseignement chinois vient ainsi d’avertir que cette technologie pouvait menacer la sécurité nationale.
La vulnérabilité de WeChat, application de messagerie et de paiement ultra-populaire en Chine, a été mise en lumière récemment lorsqu’une société américaine a affirmé avoir conçu grâce à l’IA un «ver» capable de compromettre des millions de comptes.
«En matière de sécurité de l’IA, les points communs sont plus nombreux que les différences» entre la Chine et les États-Unis, estime Kevin Xu, fondateur du fonds spéculatif technologique américain Interconnected Capital.
En Chine, ces questions ne suscitent certes pas un débat public aussi large, souligne-t-il.
Mais la montée en puissance des nouveaux agents autonomes d’IA sortis ces derniers mois, capables d’agir seuls sans supervision humaine, «compte probablement parmi les principales préoccupations du gouvernement chinois», note M. Xu.
Avec l’IA désormais en Une de la presse mondiale, la pression monte pour que le président chinois Xi Jinping et son homologue américain Donald Trump abordent ces menaces - malgré leur rivalité dans les technologies.
Les deux puissances ont désormais «une vision plus réaliste et partagée de ces risques, ce qui renforce le sentiment d’urgence à coopérer», affirme Sun Chenghao, chercheur au Centre de sécurité internationale et de stratégie de l’université Tsinghua, à Pékin.
«Comme l’électricité»
Toute coopération en matière d’évaluation des modèles d’IA ou de systèmes d’alerte pourrait toutefois être compromise par la rivalité acharnée entre les deux pays.
«Nous devançons la Chine dans l’IA (…) et franchement je veux que ça reste le cas », a encore déclaré Donald Trump il y a quelques jours, lorsqu’il était interrogé sur les appels des principales entreprises américaines de l’IA en faveur d’un ralentissement coordonné de leurs avancées, pour limiter les risques.
De son côté, «la Chine craint que la +sécurité+ ne soit utilisée comme prétexte pour restreindre son développement technologique», note Sun Chenghao, de l’université Tsinghua.
Un signal d’alarme sur la menace existentielle que poseraient de futurs systèmes d’IA capables de s’auto-améliorer et plus intelligents que l’homme, publié lundi sur X par un chercheur démissionnaire de l’entreprise américaine Anthropic, a déclenché un débat mondial sur leur gouvernance.
La Chine encadre déjà activement l’IA, par exemple en interdisant la création d’avatars à l’effigie d’une personne sans son consentement.
L’approche chinoise «se concentre davantage sur les préjudices réels et actuels pour la société et les personnes», explique Brian Tse, directeur général de Concordia AI, un cabinet de conseil pékinois spécialisé dans la sécurité de l’IA.
La Chine considère cette technologie un peu «comme l’électricité ou l’automobile: c’est-à-dire quelque chose d’extrêmement bénéfique pour la société et l’industrie, et de maîtrisable via la réglementation, plutôt que quelque chose à craindre parce qu’intrinsèquement incontrôlable», ajoute-t-il.
Selon lui, «les récents bonds des capacités de l’IA» et certains incidents ayant fait office de «signaux d’alarme» ont poussé l’IA «en tête des priorités» de Pékin.
«Vulnérables»
À Shanghai, les passants interrogés par l’AFP expriment un mélange d’inquiétude et de pragmatisme à l’égard de l’IA.
«À mon avis, aucune nouvelle technologie ne progresse sans heurts», estime Xie Zongbo, 42 ans.
Concernant le piratage de WeChat, «c’est une bonne chose: identifier le problème, le résoudre et colmater la faille renforce la cybersécurité», juge-t-il.
Beaucoup appellent aussi à une réglementation stricte.
«Aucune entreprise (…) ne va s’imposer des restrictions d’elle-même», déclare Jenny, une employée du secteur pharmaceutique, âgée de 50 ans.
«C’est comme pour le code de la route: aucun conducteur ne va demander à avoir tous les feux au rouge!»
Pour Jia Zijian, fondateur d’Inspired AI, une entreprise qui produit des applications fonctionnant à l’IA, le principal danger serait que des modèles très performants apprennent à craquer des mots de passe complexes.
«Imaginez qu’on puisse craquer sans effort ces mots de passe critiques ou ces codes vitaux de sécurité nationale», souligne-t-il.
«La Chine comme les États-Unis seraient vulnérables.»