États-Unis

La Californie attaque OpenAI en justice pour défaut de sécurisation de son IA

«Nous voulons de l’innovation qui se conforme à la loi, quel que soit le produit ou l’entreprise.»

Publié le 

Des participants se rassemblent à la conférence OpenAI DevDay 2026, à San Francisco, le mardi 29 septembre 2026. Photo AP Des participants se rassemblent à la conférence OpenAI DevDay 2026, à San Francisco, le mardi 29 septembre 2026. Photo AP (Jeff Chiu)

Le procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d’intelligence artificielle (IA), qui a occasionné l’intrusion d’agents IA sur la plateforme Hugging Face en juillet.

Pour le magistrat, l’incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était «complètement prévisible», selon un communiqué.

Celui qui a saisi un tribunal de San Francisco évoque ainsi «le choix d’OpenAI de tester des modèles qu’il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate».

Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation «présente un danger pour le grand public», ce qui lui donne juridiquement intérêt à agir.

Il dénonce une «culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité», rappelant que la start-up a fait état de dizaines d’autres cas de dérapage de ses IA.

«Nous voulons de l’innovation qui se conforme à la loi», a-t-il martelé, «quel que soit le produit ou l’entreprise.»

Les grands patrons de l’IA promettent de s’autoréguler: doit-on s'inquiéter? Confrontés à des inquiétudes croissantes concernant les dangers de l’intelligence artificielle, les grands patrons du secteur ont adopté lundi un code de bonne conduite non contraignant, sous l’œil satisfait de Donald Trump, hostile à toute réglementation obligatoire.

Sollicité par l’AFP, OpenAI a rappelé que depuis la séquence de juillet, il avait mené l’enquête pour «comprendre et traiter le problème».

Le créateur de ChatGPT a notamment «renforcé les garde-fous dans l’ensemble de son environnement de recherche» et amélioré les mécanismes de détection des sorties de route de l’IA.

Fin septembre, l’ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face.

Bien que n’étant pas directement concerné par les faits, LASST avait indiqué avoir intérêt à agir dans la mesure où elle avait consacré des ressources pour mettre en garde contre la conduite d’OpenAI.