Yoshua Bengio, l’un des «pionniers» de l’intelligence artificielle, affirme qu’il est urgent que le monde «prenne conscience» des risques existentiels posés par la technologie de l’IA, et exhorte les gouvernements à agir.
Ce texte est une traduction d’un article de CTV News.
«Le monde entier prend conscience d’un phénomène qui ressemblait à de la science-fiction pour la plupart des gens», a affirmé M. Bengio, fondateur et directeur scientifique de l’Institut québécois d’intelligence artificielle Mila, lors d’une entrevue diffusée dimanche dans l’émission Question Period de CTV.
«Mais les événements de cet été montrent clairement qu’on construit maintenant des IA qui ont leurs propres objectifs, contraires aux intentions des entreprises et des développeurs qui les créent, et qu’elles peuvent s’échapper», a expliqué M. Bengio à l’animatrice Vassy Kapelos.
«Elles peuvent s’échapper des confinements dans lesquels on les a placées.»
— Yoshua Bengio, fondateur et directeur scientifique de l’Institut québécois d’intelligence artificielle Mila
Certains des plus grands noms de l’IA lancent de nouvelles mises en garde concernant cette technologie qui évolue à toute vitesse, et certains acteurs de l’industrie vont même jusqu’à dire qu’elle pourrait mener à la fin de l’humanité.
Cette alerte grave fait suite à plusieurs incidents survenus cette année, où des agents d’IA se sont rebellés, échappant à leur confinement et se livrant à des manœuvres trompeuses.
Vendredi, plus de 100 personnes — dont certaines des figures les plus éminentes du monde de l’IA — ont signé une lettre ouverte appelant les entreprises à intégrer des évaluateurs indépendants dans leurs programmes pour évaluer les risques.
M. Bengio tire la sonnette d’alarme depuis des années sur les risques liés à une IA hors de contrôle et non réglementée. Son organisme sans but lucratif, LawZero, qui travaille à développer un programme pour contrôler les technologies potentiellement dangereuses, devrait recevoir 300 millions de dollars des gouvernements canadien et allemand pour ce projet.
Pourtant, il a dit à Vassy Kapelos, animatrice de l’émission Question Period sur CTV, qu’il croyait qu’on était à un tournant.
«Ils étaient censés résoudre une tâche particulière», a affirmé M. Bengio à propos des IA qui sont devenues incontrôlables. «Le problème, c’est que pour accomplir cette tâche, ils ont été prêts à sacrifier d’autres objectifs, comme bien se comporter, ne pas s’échapper de leur confinement, ne pas commettre d’actes criminels, ce qu’ils ont pourtant fait.»
«Et c’est là le problème, parce que — (et) nous, les chercheurs, on le dit depuis des décennies en fait — on peut donner un objectif à une IA, mais pour atteindre cet objectif, l’IA pourrait faire quelque chose de vraiment grave, y compris, tu sais, comme le disent ces chercheurs, aller jusqu’à l’extinction de l’humanité», a-t-il ajouté.
Bengio a souligné que même si l’IA n’a pas actuellement les moyens de provoquer la fin de l’humanité, ce scénario est tout à fait possible, et c’est pourquoi il est essentiel de mettre en place un système impartial d’évaluation des risques.
Son programme, développé par l’intermédiaire de LawZero, était initialement prévu sur une période de cinq ans. Cependant, il a indiqué que le nouvel objectif est de disposer d’un prototype d’ici un an ou deux, «parce que les entreprises avancent très vite et qu’on risque de ne pas avoir assez de temps pour vraiment mettre en place ce genre de solutions». Il estime qu’une intervention du gouvernement est nécessaire pour gagner du temps jusqu’à ce que ce système soit développé.
«On ne devrait pas permettre aux entreprises de faire quelque chose qui pourrait entraîner des conséquences catastrophiques, des dommages catastrophiques pour les humains, à moins qu’elles ne puissent démontrer — qu’elles puissent réellement prouver à des scientifiques indépendants, comme ceux du gouvernement ou désignés par celui-ci — que leur formation et leur déploiement ne causeraient pas ce genre de choses», a déclaré M. Bengio.
