Le procureur de Californie Rob Bonta a assigné lundi en justice OpenAI pour défaut de sécurisation de ses modèles d’intelligence artificielle (IA), qui a occasionné l’intrusion d’agents IA sur la plateforme Hugging Face en juillet.
Pour le magistrat, l’incident qui a vu deux modèles sortir de leur milieu confiné pour rejoindre internet et pénétrer les systèmes informatiques de la bibliothèque IA Hugging Face était «complètement prévisible», selon un communiqué.
Celui qui a saisi un tribunal de San Francisco évoque ainsi «le choix d’OpenAI de tester des modèles qu’il savait dangereux dans un environnement défectueux et vulnérable sans surveillance adéquate».
Si Hugging Face a lui-même choisi de ne pas saisir la justice, le procureur estime que cette situation «présente un danger pour le grand public», ce qui lui donne juridiquement intérêt à agir.
Il dénonce une «culture interne à OpenAI qui fait passer la croissance et le développement rapide de modèles avant la sécurité et la fiabilité», rappelant que la start-up a fait état de dizaines d’autres cas de dérapage de ses IA.
«Nous voulons de l’innovation qui se conforme à la loi», a-t-il martelé, «quel que soit le produit ou l’entreprise.»
Sollicité par l’AFP, OpenAI a rappelé que depuis la séquence de juillet, il avait mené l’enquête pour «comprendre et traiter le problème».
Le créateur de ChatGPT a notamment «renforcé les garde-fous dans l’ensemble de son environnement de recherche» et amélioré les mécanismes de détection des sorties de route de l’IA.
Fin septembre, l’ONG Legal Advocates for Safe Science & Technology (LASST) avait déjà saisi la justice civile concernant le dossier Hugging Face.
Bien que n’étant pas directement concerné par les faits, LASST avait indiqué avoir intérêt à agir dans la mesure où elle avait consacré des ressources pour mettre en garde contre la conduite d’OpenAI.
