Le chef de l’ONU Antonio Guterres a exhorté mardi les États-Unis et la Chine à coopérer sur l’intelligence artificielle (IA), leur demandant d’«établir des canaux de dialogue, de transparence, de confiance et de coopération», dans son dernier discours devant l’Assemblée générale de l’ONU.
«Le premier devoir des gouvernements est de protéger leurs populations» et ceux «qui disposent des plus grandes capacités en matière d’IA ont les plus grandes responsabilités envers l’humanité», a-t-il estimé.
L’appel d’Antonio Guterres intervient alors que le ministre américain des Finances Scott Bessent s’est entretenu au sujet de l’IA dimanche à New York avec le vice-premier ministre chinois He Lifeng.
À cette occasion, les États-Unis ont proposé la mise en place d’un mécanisme de notification entre les deux pays en cas d’incident lié à l’IA, un événement relevant de la sécurité nationale.
Cette initiative a pour toile de fond la multiplication des dérapages des modèles les plus avancés, qui s’écartent régulièrement des objectifs, trichent, dissimulent leurs actions, se coordonnent et établissent même entre eux une hiérarchie.
Pour autant, autorités chinoises et américaines se sont refusées à encadrer ces risques et à peser sur le développement de l’IA, pour ne pas pénaliser leurs champions nationaux dans la course à cette technologie.
Lors de son allocution devant l’Assemblée générale, Antonio Guterres a situé l’IA et ses enjeux au même niveau que les dossiers majeurs de politique internationale, notamment le changement climatique et les guerres en cours.
«Le danger n’est pas la technologie», a-t-il avancé, mais «la technologie sans responsabilité, la capacité sans supervision, la prise de décision sans transparence. (…) Ceux-là même qui développent ces systèmes (d’IA) tirent aujourd’hui le signal d’alarme.»
Les grands acteurs de l’IA demandent depuis plusieurs mois aux gouvernements de réguler davantage leur industrie, en particulier concernant les risques des modèles les plus perfectionnés, sans succès jusqu’ici.
Le patron d’Anthropic Dario Amodei, soutenu ensuite par son homologue d’OpenAI Sam Altman, le président de Google DeepMind Demis Hassabis et Elon Musk, a proposé de ralentir le rythme de développement de l’IA pour avoir le temps d’appréhender les nouveaux risques associés aux modèles de pointe.
L’idée a été rejetée par Donald Trump et plusieurs membres de sa majorité.