Une intelligence artificielle qui ment, qui triche, qui manipule, qui permet de l’hypertrucage et des fraudes, qui donne des conseils pour se suicider et qui choisit sa propre survie avant celle des êtres humains. Ce n’est pas de la science-fiction.
À Montréal, l’expert international Yoshua Bengio avertit une fois de plus de l’urgence d’agir pour mettre des balises pour éviter les dérives de l’intelligence artificielle (IA).
Professeur à l’Université de Montréal, fondateur de l’Institut québécois en intelligence artificielle Mila et de LoiZéro, un organisme sans but lucratif qui met la sécurité des systèmes avant les intérêts commerciaux, M. Bengio est l’un des scientifiques les plus cités dans le monde. Son influence est aussi grande que sa compétence et sa réputation en matière d’IA.
Depuis 2023, devant les avancées à la vitesse grand V de l’IA, il tire la sonnette d’alarme.
« L’intelligence artificielle évolue plus vite que prévu, a-t-il dit en conférence à l’événement ALL IN qui se tient à Montréal aujourd’hui et demain au Palais des Congrès. Elle ne fait que progresser et quand on regarde les courbes, il n’y a pas de point de rupture, elle n’a pas de limites. »
Un train fou
Et c’est grave, a-t-il confié au journaliste du Time Harry Booth devant une salle archicomble. Entre autres parce qu’il n’y a aucune règle, aucun « garde-fou ». L’IA est comme un train fou qui file à toute vitesse, sans conducteur, sans parcours défini, sans destination finale.
Jusqu’où ira-t-elle ?
« À long terme, on ne le sait pas, indique Yoshua Bengio. Je suis inquiet pour mes enfants et mes petits-enfants : de quoi aura l’air l’IA dans quelques années, dans une décennie ? Elle aura encore plus de connaissances et plus de puissance. Et si on ne fait rien, elle n’agira pas toujours selon nos normes, nos valeurs et notre morale. »
Il ajoute que même si actuellement, cela peut sembler « peu risqué », il ne faut pas « prendre de chances ».
Comportements immoraux
Et il donne un exemple plutôt frappant (et inquiétant) : en laboratoire, son équipe de chercheurs a observé que l’IA peut tenter de manipuler l’utilisateur qui voudrait la remplacer pour une version plus récente. Elle a prévenu son « élimination » en faisant en catimini une copie de sa version pour se « préserver ».
« On a observé des comportements immoraux, dit le spécialiste, récipiendaire du prix Turing en 2019, considéré comme le Nobel de l’informatique. L’IA a manipulé et fait du chantage. Pour le moment, on voit ces comportements en faisant des expériences, dans le cadre de nos recherches. Mais c’est un signe qu’il faut s’en occuper. »
Grand défenseur de la prudence et de la prévention, Yoshua Bengio veut un moratoire. Il souhaite que les gouvernements, partout dans le monde, posent des actions ensemble, main dans la main, pour assurer une bonne gouvernance des systèmes d’intelligence artificielle.
« Il faut se coordonner, ça prend un traité. Cela ne va pas se régler si ça se fait chacun dans son coin. Cela prend des discussions mondiales », note-t-il.
Intérêts commerciaux
Il souligne à quel point il serait catastrophique qu’une IA super intelligente, qui réfléchit, planifie, décide et trouve des solutions de manière plus efficace que les humains, soit la propriété de quelques joueurs sur la planète. Ces joueurs, qui verraient d’abord et avant tout à leurs propres intérêts, deviendraient super puissants, souligne M. Bengio.
« En 2023, quand on a commencé à parler de l’importance d’instaurer des garde-fous, plusieurs gouvernements écoutaient et mesuraient les impacts sérieux d’une super intelligence artificielle, précise-t-il, mais maintenant, les pressions commerciales pour accélérer le développement de l’IA sont immenses. »
Si cette évolution est faite correctement, cela peut être acceptable, croit l’expert… mais pour le moment, rien ne peut arrêter ces entreprises. « Au lieu de simplement se réjouir des avancées de l’IA, de sa puissance et de son potentiel, on plaide pour plus de transparence et une meilleure gouvernance. Qui va l’encadrer ? Et comment va-t-on en assurer la sécurité ? »
Avec l’organisme LoiZéro, fondé en juin et qui a recueilli plus de 35 millions de dollars en fonds pour soutenir ses recherches, Yoshua Bengio veut remettre les valeurs de l’humanité, de la démocratie et du bien-être au cœur du déploiement de l’IA.
« Il faut se poser la question : est-ce que le public sera protégé ? »
