Technologie

L’administration Trump veut scruter les modèles d’IA avant leur sortie

Publié le 

Le site web de Google DeepMind sur un smartphone, photographié à New York, aux États-Unis, le samedi 9 décembre 2023. Le site web de Google DeepMind sur un smartphone, photographié à New York, aux États-Unis, le samedi 9 décembre 2023. (Gabby Jones/Bloomberg)

Le gouvernement américain a annoncé mardi des accords avec Google DeepMind, Microsoft et xAI qui vont lui donner accès à leur nouveaux modèles d’intelligence artificielle (IA) pour évaluer leurs capacités avant leur sortie.

C’est un tournant pour l’administration Trump, qui s’était tenue jusqu’ici largement en retrait sur les plans de la réglementation et de la régulation de l’IA.

Autre fait notable, les partenariats présentés mardi s’inspirent de conventions similaires passées sous l’ancien président démocrate Joe Biden, en 2024, même si le gouvernement Trump indique les avoir depuis renégociés.

Selon le New York Times, la Maison-Blanche élabore un décret présidentiel instituant un groupe de travail composé de membres du gouvernement et de responsables du secteur technologique qui auraient pour mission de passer en revue les nouveaux modèles d’IA.

Émanation du gouvernement fédéral, le Centre pour les standards et l’innovation dans l’IA (CAISI) «mènera des évaluations et des travaux de recherche ciblés pour mieux appréhender les capacités de l’IA la plus avancée et faire progresser la sécurité de l’intelligence artificielle».

Un modèle d’IA est trop dangereux pour être rendu public, selon ses développeurs Les dirigeants des banques canadiennes et les autorités de régulation se sont réunis le 10 avril dernier pour discuter des risques posés par Claude Mythos Preview, le nouveau modèle d’IA d’Anthropic, que l’entreprise juge si puissant qu’elle a décidé de ne pas le rendre public.

Le CAISI, qui dépend du ministère américain du Commerce, est bâti sur l’ossature de l’Institut pour la sûreté de l’IA (AISI) créé sous le gouvernement Biden en 2023.

Au premier jour de son mandat, le 21 janvier 2025, Donald Trump avait annulé un décret pris par son prédécesseur Joe Biden, qui imposait notamment aux entreprises du secteur de transmettre au gouvernement fédéral certaines données relatives à leurs modèles d’IA.

«Des mesures scientifiques rigoureuses et indépendantes sont essentielles à la compréhension de l’IA la plus avancée et de ses implications en matière de sécurité nationale», a déclaré le directeur du CAISI, Chris Fall, cité dans un communiqué.

Début avril, Anthropic a choisi de reporter la commercialisation de son nouveau modèle, baptisé Mythos, au motif qu’il pouvait mettre à jour de nombreuses vulnérabilités de cybersécurité dans des programmes et systèmes d’exploitation en ligne.

Selon plusieurs médias américains, l’Agence américaine de renseignement NSA a eu accès à Mythos et effectue actuellement des tests sur le modèle.