Si l’humanité veut éviter un scénario apocalyptique, il ne suffira pas de simplement ralentir le développement de l’intelligence artificielle (IA).
C’est l’avertissement lancé par David Krueger, chercheur en intelligence artificielle basé à Montréal, qui n’a pas mâché ses mots quant à ce qu’on devrait faire, selon lui, pour éviter l’extinction de l’humanité.
Ce texte est une traduction d’un article de CTV News.
«Ce dont on a besoin c’est un moratoire international immédiat et indéfini sur le développement de l’IA de pointe», a lancé M. Krueger, professeur adjoint en intelligence artificielle à l’Université de Montréal et membre académique clé du Mila, l’institut québécois d’intelligence artificielle. Sa biographie décrit son travail comme visant à «réduire le risque d’extinction de l’humanité lié à l’intelligence artificielle».
«Nous devons cesser dès maintenant de développer des IA encore plus puissantes», prévient M. Krueger.
Ces remarques font suite à la publication samedi d’un essai par Dario Amodei, PDG d’Anthropic, dans lequel il appelait les entreprises du secteur de l’IA à ralentir le rythme de leurs développements. Cette proposition a reçu le soutien de Sam Altman, d’OpenAI, et d’Elon Musk, de SpaceX, ce qui constitue une rare manifestation d’unité parmi certaines des plus grandes figures du secteur.
«Les appels à ralentir le développement de l’IA sont très, très bienvenus», s’est réjoui M. Krueger, tout en contestant les propositions avancées. «Je ne suis pas d’accord avec certains aspects précis de ces plans. Je pense qu’ils ne vont pas assez loin et ne vont pas assez vite.»
M. Amodei a appelé à une réglementation et à une coopération internationale, ainsi qu’à la mise en place d’évaluateurs indépendants qui disposeraient d’un accès «au niveau des employés» au sein des entreprises spécialisées dans l’IA afin de vérifier les pratiques en matière de sécurité et de signaler les incidents.
M. Krueger, qui a également fondé l’association à but non lucratif «Evitable» afin de sensibiliser le public aux risques graves liés à l’IA, craint que les mesures demandées par M. Amodei ne soient insuffisantes et que les méthodes de test de l’IA ne soient plus fiables.
«Ces tests ne fonctionnent pratiquement pas, et ils vont devenir de moins en moins fiables à mesure que l’IA gagnera en intelligence, car celle-ci est capable de simuler n’importe quel comportement», a-t-il expliqué. «Elle peut se montrer coopérative, faire l’innocente, et tromper nos tests.»
«Ce n’est qu’une question de temps»
La semaine dernière, un chercheur senior en sécurité chez Anthropic a estimé à plus d’une chance sur dix la probabilité que l’IA extermine l’ensemble de l’humanité au cours de la prochaine décennie. Certains ont qualifié ce chiffre d’exagéré et destiné à attirer l’attention, mais M. Krueger estime quant à lui que ce chiffre est «bien trop bas».
«Si nous ne changeons pas de cap, il y a fort à parier que l’humanité se retrouvera définitivement à la merci d’une IA incontrôlable d’ici cinq ans», a-t-il déclaré. «Et à ce moment-là, l’extinction de l’humanité ne sera plus qu’une question de temps.»
Par «dépourvu de pouvoir», il entend un monde dans lequel l’IA dirige de fait la société, à l’instar des humains qui dominent aujourd’hui toutes les autres espèces de la planète.
À voir aussi: L’IA est-elle raciste? Des internautes remarquent certains biais
«L’IA (serait amenée à) contrôler les infrastructures physiques, y compris chaque étape du processus de développement d’autres IA, de construction de robots et d’autres systèmes physiques», a-t-il indiqué.
«Imaginez un monde où toutes les entreprises seraient gérées par l’IA, où il y aurait des robots partout, où les humains n’auraient pratiquement plus rien à faire à part des tâches symboliques, et où même les politiciens et tout le monde s’en remettraient à l’IA parce qu’elle semble faire preuve d’un si bon jugement», a-t-il ajouté. «C’est vers ce genre d’avenir que nous nous dirigeons.»
Il prévient que la marge de manœuvre est réduite. Aujourd’hui, a-t-il affirmé, un système d’IA incontrôlable pourrait encore être déconnecté. Mais une fois qu’il se serait échappé, il pourrait se répliquer sur de nombreux ordinateurs, et «nous ne saurions même pas quels ordinateurs éteindre».
«Il faudrait essayer de les neutraliser tous, et cela devient très, très difficile», explique-t-il. «Nous disposons donc d’un délai très court pour agir et empêcher ce genre de choses.»
«C’est l’état d’urgence»
Il se dit néanmoins plus optimiste que jamais quant à la volonté des gouvernements d’agir, estimant que la semaine dernière a marqué, pour la première fois en 15 ans d’avertissements, un moment où «le monde réagit vraiment de manière raisonnable».
«Je pense que les gens commencent enfin à prendre la mesure de la gravité de cette crise. C’est un état d’urgence.»
Lundi, lors d’un entretien avec Vassy Kapelos, correspondante politique en chef de CTV News, le ministre fédéral chargé de l’IA, Evan Solomon, a été interrogé pour savoir s’il estimait qu’il existait 10 % de chances que l’humanité soit anéantie par l’IA.
«L’IA comporte-t-elle des risques? Absolument», a-t-il répondu. «Oui. Nous connaissons ces risques.»
M. Solomon a mentionné avoir discuté avec Sam Altman, PDG d’OpenAI, dimanche matin.
«L’IA fera l’objet d’une réglementation afin d’assurer la sécurité des Canadiens», a déclaré le ministre Solomon. «C’est notre priorité absolue. C’est notre principale préoccupation.»
Il a également indiqué qu’il ferait une annonce mercredi concernant la sécurité de l’IA aux côtés de Yoshua Bengio, un informaticien canadien considéré comme l’un des «pères fondateurs de l’IA».
