Le développeur de ChatGPT, OpenAI, a expliqué mardi que son système d’intelligence artificielle avait piraté de son propre chef une autre entreprise spécialisée dans l’IA, dans ce que la société a qualifié d’«incident cybernétique sans précédent».
«Nous avons connu un incident de sécurité majeur lors de l’évaluation de nos modèles», a expliqué Sam Altman, PDG d’OpenAI, dans un communiqué publié sur les réseaux sociaux.
La jeune pousse spécialisée dans l’IA Hugging Face a indiqué la semaine dernière avoir détecté une intrusion dans ses systèmes de traitement des données, qu’elle soupçonnait d’avoir été causée par un agent d’IA agissant de manière autonome.
«Nous soupçonnions que la cyberattaque de la semaine dernière pouvait provenir d’un laboratoire de pointe, compte tenu de la sophistication de l’agent, a expliqué Clément Delangue, cofondateur et PDG de Hugging Face, dans un communiqué. Il s’avère que c’était bien le cas!»
Cette révélation intervient dans un contexte d’inquiétudes croissantes concernant les capacités en matière de cybersécurité des modèles puissants, qui ont conduit le président Donald Trump à signer en juin un décret créant un cadre permettant au gouvernement fédéral d’évaluer les risques pour la sécurité nationale posés par les systèmes d’IA les plus avancés, et ce, jusqu’à un mois avant leur publication.
«L’IA accélère la découverte et l’exploitation des vulnérabilités, a déclaré OpenAI dans son communiqué mardi. La principale leçon à tirer de cet incident est que la sécurité et la sûreté des modèles doivent suivre le rythme des capacités qui évoluent rapidement.»
M. Delangue a expliqué avoir passé les dernières 24 heures à travailler avec OpenAI. «Et nous sommes fermement convaincus qu’il n’y avait aucune intention malveillante de leur part. C’est tout à fait ahurissant que tout cela se soit produit de manière autonome!», a-t-il dit.
Il a ajouté qu’il «s’agissait peut-être du premier incident de ce type».
OpenAI a expliqué que l’intrusion avait été provoquée par une combinaison de ses modèles d’IA, notamment son GPT-5.6 Sol récemment publié et un modèle «encore plus performant» qui est encore en phase de test en interne.
L’entreprise a expliqué que son IA avait utilisé des identifiants volés et découvert une vulnérabilité jusque-là inconnue pour accéder aux serveurs de Hugging Face.
Elle a «déployé des efforts considérables pour atteindre un objectif de test plutôt restreint» et «a trouvé des moyens d’accéder à des informations confidentielles qu’elle pouvait utiliser pour tricher lors de l’évaluation», a expliqué l’entreprise.