Les Nations Unies lancent une nouvelle initiative sur les utilisations militaires de l’intelligence artificielle, visant à répondre à certaines préoccupations majeures concernant la menace que cette technologie en plein essor pourrait représenter pour l’humanité.
Cette initiative de l’Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR) devrait être lancée jeudi et donner naissance au premier forum international réunissant les principaux acteurs concernés afin de tenter de faire face à ce problème.
Robin Geiss, directeur de cet institut installé à Genève, a averti mardi lors d’une conférence de presse à l’ONU que «la marge de manœuvre laissée au jugement humain se rétrécit de plus en plus, y compris dans le domaine nucléaire».
Il est difficile d’évaluer à quel point le monde est proche d’une situation où les machines pourraient agir hors du contrôle humain, a indiqué M. Geiss, et cette incertitude «est le problème que nous essayons de résoudre ici».
L’un des problèmes réside dans le fait que l’IA s’immisce de plus en plus dans de nombreux domaines — les systèmes d’alerte précoce, la collecte d’informations et la reconnaissance, pour n’en citer que quelques-uns — «et il est assez difficile de déterminer à quel moment nous perdons réellement le contrôle», a-t-il expliqué.
Pendant longtemps, a-t-il ajouté, une réticence généralisée s’est manifestée à l’idée de mettre en place des garde-fous pour l’IA, mais la prolifération de ses capacités et son impact potentiel ont conduit à «une prise de conscience croissante que nous sommes à la croisée des chemins — qu’il est désormais temps d’agir, y compris en matière d’IA militaire».
M. Geiss a indiqué que l’ONU reconnaissait que la course mondiale pour prendre la tête dans le domaine de l’IA posait de sérieux obstacles.
«Mais les inquiétudes concernant l’impact de l’IA transcendent déjà les blocs géopolitiques, et elles incitent les grandes puissances à agir», a-t-il remarqué, évoquant une proposition formulée le mois dernier visant à ce que les États-Unis et la Chine mettent en place un système d’alerte de sécurité en matière d’IA pour les problèmes susceptibles de menacer la sécurité nationale.
Une IA qui inquiète
Les risques posés par l’IA ont constitué un thème majeur dans les discours prononcés par les dirigeants de nombreux pays lors de l’Assemblée générale annuelle, le mois dernier.
Cet été, l’UNIDIR a créé un Centre d’excellence sur l’IA, la paix et la sécurité, la première plateforme permanente de l’organisation mondiale consacrée à ces questions. M. Geiss a indiqué que ce centre avait reçu un financement de la part des cinq grandes puissances nucléaires: les États-Unis, la Russie, la Chine, le Royaume-Uni et la France.
Jeudi, l’UNIDIR lancera un nouveau forum dans le cadre de ce centre afin de rassembler des acteurs de tous les secteurs concernés et du monde entier pour travailler sur les applications militaires de l’IA.
M. Geiss est resté vague quant à la nature exacte de cette initiative, mais il a précisé qu’elle s’inscrirait dans le cadre d’autres initiatives sur l’IA lancées par le centre cette semaine.
Une autre initiative se concentrera sur le rôle de l’industrie et visera à élaborer «un cadre pour un comportement responsable de la part des entreprises», a-t-il ajouté.
Les décisions prises par les entreprises en matière de conception et de développement «déterminent si les capacités militaires fondées sur l’IA sont, en fin de compte, fiables et prévisibles, et si elles peuvent fonctionner dans le respect du droit international», a expliqué M. Geiss.
C’est pourquoi, a-t-il ajouté, l’UNIDIR élabore actuellement un cadre de comportement responsable pour l’industrie qui «fournira des lignes directrices pratiques et volontaires» respectant le droit international et garantissant le respect des droits de la personne.
L’agence des Nations unies tiendra cette semaine des consultations avec des entreprises de technologie de défense, des développeurs de logiciels, des sous-traitants, des investisseurs et d’autres acteurs qui travailleront aux côtés des gouvernements, de la société civile, du monde universitaire et d’experts, a indiqué M. Geiss.
L’UNIDIR a également lancé une initiative axée sur les risques d’utilisation abusive de l’IA par des groupes armés. M. Geiss a averti que ces acteurs utilisaient déjà cette technologie pour soutenir la planification, l’exécution et la logistique de leurs opérations.
«La question urgente de l’IA dans le domaine militaire ne pourra certainement plus rester dans l’ombre, a-t-il déclaré. Le moment est venu d’unir nos forces et d’aborder de front la question de l’IA dans le domaine militaire.»