Début du contenu principal.
Yoshua Bengio prévient que la réglementation sur l'IA avance trop lentement
L'expert en intelligence artificielle Yoshua Bengio juge que la réglementation canadienne est sur la bonne voie, mais qu'elle progresse beaucoup trop lentement.
L'expert en intelligence artificielle (IA) Yoshua Bengio juge que la réglementation canadienne est sur la bonne voie, mais qu'elle progresse beaucoup trop lentement.
Le professeur de l'Université de Montréal soutient un projet de loi déposé à la Chambre des communes en juin dernier, qui adopte une approche plus générale, fondée sur des balises pour encadrer l'IA, mais dont plusieurs détails restent à préciser.
Ottawa a déclaré que l'entrée en vigueur du projet de loi C-27 n'aurait pas lieu avant 2025, un échéancier que M. Bengio juge beaucoup trop lent, a-t-il dit mercredi lors d'une conférence de presse en marge d'une conférence à C2 Montréal.
«C'est beaucoup trop lent. Il y a des choses simples qui pourraient arriver et qui n'ont pas besoin de deux ans de réflexion.»
Il demande au gouvernement fédéral de commencer immédiatement à déployer des règles contre certaines menaces, telles que la «contrefaçon d'humains» à l'aide de robots pilotés par l'IA qui se font passer pour des personnes.
«Les utilisateurs doivent savoir s'ils parlent à une machine ou à un humain. Les comptes sur les réseaux sociaux doivent être réglementés afin que nous sachions qui se cache derrière le compte - et il doit s'agir d'êtres humains la plupart du temps», a affirmé M. Bengio, qui a remporté en 2019 le prix Turing, généralement considéré comme le prix Nobel de l'industrie technologique.
M. Bengio a averti que les systèmes d'IA, y compris ceux qui intègrent des outils conversationnels tels que ChatGPT, présentent un risque `existentiel' à l'humanité.
Critiquée comme étant vague par certains experts juridiques, la loi libérale sur l'intelligence artificielle et les données tente d'établir un cadre pour un développement responsable de l'IA, qui vise une certaine agilité tandis que la technologie évolue rapidement, tout en interdisant l'utilisation malveillante. Elle établirait un organisme de surveillance et des sanctions financières.
«Le gouvernement a l'intention de laisser suffisamment de temps à l'écosystème pour s'adapter au nouveau cadre avant que des mesures d'application ne soient prises», déclare Innovation, Sciences et Développement économique Canada dans un document d'accompagnement du projet de loi.
Des enjeux critiques
Lors de sa conférence aux côtés de l'historien Yuval Noah Harari, à C2 Montréal, M. Bengio était en accord avec sa mise en garde selon laquelle les systèmes d'IA posent un «risque existentiel pour l'humanité» et la démocratie.
M. Harari, auteur du livre Sapiens: une brève histoire de l'humanité, estime que le rythme et l'ampleur du développement de l'IA générative dépassent les avancées technologiques des époques précédentes.
«Nous avons affaire à quelque chose d'encore plus puissant que les trains, la radio et l'électricité que nous avons inventés lors de la révolution industrielle. Je pense qu'il existe certainement un moyen de construire de bonnes sociétés avec l'IA, mais cela prendra du temps», a estimé M. Harari par vidéoconférence, avertissant que les «expériences ratées» ne pourraient laisser aucune place à «une seconde chance: nous n'y survivrons pas».
En mars, les deux conférenciers ont rejoint plus de 1000 experts en intelligence artificielle pour demander une pause de six mois sur la formation de systèmes d'IA plus puissants que GPT-4 - le grand modèle de langage derrière ChatGPT d'OpenAI, établie à San Francisco.
Les cosignataires comprenaient des ingénieurs d'Amazon, Google, Meta et Microsoft ainsi que le cofondateur d'Apple, Steve Wozniak, et Rachel Bronson, présidente du Bulletin of the Atomic Scientists.
«Si l'IA d'aujourd'hui est comme une amibe, imaginez à quoi ressemblerait un tyrannosaure. Et, il ne faudra pas des milliards d'années pour y arriver», a illustré M. Harari lors de sa conversation avec M. Bengio et la correspondante politique en chef du réseau CTV, Vassy Kapelos, qui les a questionnés sur une scène décorée d'un robot géant.
D'une certaine manière, la propagande, la désinformation et les `trolls personnalisés qui pourraient influencer votre vote' présentent tous des défis pour la démocratie au cours de la prochaine décennie, a déclaré M. Bengio.
Il est nécessaire de mettre en place des balises «le plus tôt possible», a-t-il ajouté. «Nous devons faire face aux dangers - le plus tôt sera le mieux.»