Yoshua Bengio, pionnier canadien de l’IA, a indiqué mercredi devant le Conseil de sécurité de l’ONU que celui-ci était confronté à une «menace sans précédent» face aux dangers de l’intelligence artificielle.
«Une menace qu’aucun de ses membres ne choisirait, qu’aucun ne peut contenir à lui seul, et qui ne respecte pas les frontières que nous défendons», a mentionné M. Bengio, selon une copie de son intervention.
M. Bengio a exhorté mercredi le Conseil de sécurité à ne pas considérer ces avertissements comme un simple coup de publicité.
«Je comprends la méfiance, mais je tiens à être clair. Ces comportements de l’IA sont bien documentés et validés par de nombreux experts indépendants, a-t-il souligné. Les dangers sont réels et imminents.»
Même si «l’avenir reste incertain et fait l’objet de débats, la gravité de ces risques est extraordinaire», a-t-il ajouté.
M. Bengio a toutefois précisé qu’il existait également des solutions, notamment des accords internationaux sur des solutions techniques qui rendraient l’IA sûre dès sa conception.
Ses propos interviennent au lendemain de la publication, par le Canada et 19 autres pays, d’une déclaration commune lors de l’Assemblée générale des Nations unies appelant à un renforcement de la surveillance de l’IA, alors même que les États-Unis continuent de rejeter toute tentative de réglementation de cette technologie.
Des dirigeants des principales entreprises spécialisées dans l’intelligence artificielle ont aussi lancé mercredi un appel aux Nations unies pour qu’elles mettent en place des contrôles sur cette technologie en plein essor qu’ils développent afin de sauver le monde, ou, du moins, ses habitants.
«Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble», a indiqué Dario Amodei, chef de la direction d’Anthropic.
«Nous pourrions perdre le contrôle de l’avenir au profit de l’IA», a ajouté son concurrent, Sam Altman, PDG d’OpenAI.
Tous deux ont avancé que les pays du monde, par l’intermédiaire du Conseil de sécurité de l’ONU, devant lequel ils ont témoigné mercredi après-midi, devaient mettre en place des garde-fous, c’est-à-dire des contrôles concrets visant à empêcher cette technologie de devenir trop puissante pour être maîtrisée.
Ils ont également appelé la communauté internationale à veiller à ce que le pouvoir de l’IA ne soit pas concentré entre les mains d’une seule entreprise ou d’un seul pays.
Quels enjeux?
Pour les dirigeants mondiaux, une question clé se pose concernant l’IA: qui devrait contrôler les décisions de vie ou de mort, l’homme ou la machine ?
Le Conseil de sécurité des Nations unies s’est réuni mercredi avec les principaux dirigeants du secteur technologique afin de déterminer si les capacités croissantes et l’omniprésence de l’intelligence artificielle devaient être contrôlées et, le cas échéant, par qui.
D’autres questions restent en suspens: comment y parvenir ? À quel moment sera-t-il tout simplement trop tard ?
Les avertissements publics concernant les risques que l’IA fait peser sur les humains, ainsi que les cas avérés de robots IA ignorant les instructions humaines, ont suscité l’inquiétude dans le monde entier ces dernières semaines.
Après qu’un chercheur en IA ayant travaillé à la fois chez OpenAI et chez Anthropic a affirmé que ceux qui développent cette technologie «croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie», les dirigeants de certaines des plus grandes entreprises d’IA au monde ont déclaré que le rythme de développement de l’IA devait être ralenti.
OpenAI a révélé cet été que ses agents IA avaient piraté la jeune pousse d’IA Hugging Face sans qu’aucun humain ne leur en ait donné l’ordre.
La veille, le secrétaire général de l’ONU, Antonio Guterres, avait mis en garde contre les «robots tueurs». Des experts et des dirigeants européens ont déclaré qu’il ne s’agissait pas d’une hyperbole, mais d’une réalité déjà bien présente, ou du moins d’une menace très proche.
Avec des informations de l’Associated Press
