Début du contenu principal.
Intelligence artificielle: pour le patron d'OpenAI, l'intervention des gouvernements est «cruciale»
«L'une de mes plus grandes peurs, c'est que nous, cette industrie, cette technologie, causions des dommages significatifs à la société», affirme le patron de l'entreprise derrière ChatGPT.
L'intervention des gouvernements pour réguler l'intelligence artificielle (IA) va être «cruciale» afin de «limiter les risques» liés à cette technologie, a plaidé mardi Sam Altman, le patron d'OpenAI, créateur de l'interface ChatGPT, qui déchaîne les passions.
«Il est essentiel que l'IA la plus puissante soit développée avec des valeurs démocratiques», a estimé le jeune entrepreneur devant une commission parlementaire américaine, «ce qui signifie que le leadership des États-Unis est déterminant».
La mise en ligne de ChatGPT, en novembre, a suscité un immense intérêt du public et des entreprises pour l'intelligence artificielle dite générative, c'est-à-dire capable de créer du contenu - texte, images, sons ou vidéo - après avoir été entraînée sur d'immenses bases de données.
«Si vous écoutiez de la maison, vous avez sans doute pensé que c'était ma voix et mes mots, alors que ce n'était ni ma voix, ni mes mots», a déclaré le sénateur Richard Blumenthal, qui préside la sous-commission du Sénat sur la protection de la vie privée, la technologie et le droit.
Il venait de faire entendre ses remarques préliminaires sur les dangers de l'IA, rédigées avec ChatGPT et lues par un logiciel entraîné sur sa voix réelle.
Les technologies d'IA «ne sont plus des fantasmes de science-fiction, elles sont réelles et présentes», a-t-il ajouté.
«Détruire nos vies»
Les élus ont débattu avec Sam Altman et deux autres experts de la nécessité de réguler des systèmes informatiques qui pourraient «littéralement détruire nos vies», selon la formule du sénateur Lindsey Graham.
Le Congrès américain évoque régulièrement la nécessité de réguler internet, pour mieux protéger la confidentialité des données et favoriser plus de concurrence. Mais les divisions politiques bloquent la plupart des propositions de loi depuis des années.
Le déploiement rapide de l'IA générative par OpenAI, Microsoft et Google a relancé la question de la régulation des technologies.
Beaucoup s'inquiètent de son impact potentiel sur une série de professions, de possibles suppressions d'emplois massives ou du vol de propriété intellectuelle des artistes, auteurs, compositeurs, développeurs informatiques...
Les sénateurs ont passé de nombreux domaines en revue, comme les algorithmes biaisés ou la propagation de désinformation de plus en plus sophistiquée.
«L'intelligence artificielle a le potentiel d'améliorer à peu près tous les aspects de nos vies, mais elle crée aussi des risques sérieux», a reconnu Sam Altman.
«L'une de mes plus grandes peurs, c'est que nous, cette industrie, cette technologie, causions des dommages significatifs à la société», a-t-il affirmé. «Si cette technologie va dans le mauvais sens, elle peut aller assez loin. (...) Et nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise.»
Une agence fédérale
Le trentenaire a rappelé que si OpenAI LP, l'entité qui a développé ChatGPT, était une société privée, elle était contrôlée par une organisation à but non lucratif. Elle «nous impose d’œuvrer à la large distribution des bénéfices de l'IA et à maximiser la sécurité des systèmes basés sur l'IA», a-t-il ajouté.
Sam Altman s'est régulièrement dit favorable à la mise en place d'un cadre réglementaire pour l'intelligence artificielle, de préférence au niveau international.
«Je sais que ça paraît naïf de proposer quelque chose comme ça, cela semble très difficile» à réaliser, mais «il y a des précédents», a-t-il expliqué, évoquant l'exemple de l'Agence internationale de l'énergie atomique (AIEA).
L'idée de créer une agence fédérale a suscité un certain enthousiasme, mais il faudrait qu'elle soit doté de ressources suffisantes, a souligné Richard Blumenthal.
«Et je ne parle pas juste de dollars, je parle d'expertise scientifique», a-t-il précisé.
Sam Altman a cependant noté que la régulation n'était elle-même pas sans risques. «Si l'industrie américaine ralentit, la Chine ou quelqu'un d'autre peut progresser plus vite», a-t-il alerté.
Il a aussi insisté pour que d'éventuelles mesures ne viennent pas étouffer la recherche indépendante, et se concentre plutôt sur les entreprises dominantes comme la sienne.