Claude, l’assistant d’intelligence artificielle d’Anthropic, dirige plus d’un quart des travaux de recherche et de développement des futurs modèles de la firme basée à San Francisco, selon des mesures effectuées en août et publiées jeudi par l’entreprise.
«Claude “mène” 26% des travaux de R&D en IA d’Anthropic», écrit la firme dans une note de blogue sur son site.
Il intervient en «collaboration» avec ses équipes de recherche dans «plus de 90%» de leurs travaux, ajoute-t-elle.
Claude ne fonctionne en revanche à aucun moment «de manière complètement autonome», assure Anthropic.
L’annonce de la start-up californienne intervient dans un contexte de préoccupation internationale croissante autour des risques posés par l’essor rapide de l’IA.
Dans sa note intitulée «Mesures pour comprendre le rythme de développement de l’IA au sein des laboratoires de pointe», Anthropic dit vouloir y répondre en publiant une série d’indicateurs apportant «une meilleure visibilité au public, aux tiers et aux gouvernements».
Cette volonté de transparence rejoint celle affichée par son concurrent OpenAI, qui a promis mercredi de communiquer plus systématiquement sur les sorties de route de ses modèles d’IA.
Ces engagements se veulent un moyen de montrer à l’extérieur où se situent les capacités de l’IA de pointe pour nourrir la réflexion sur l’avancée de son développement.
Anthropic justifie sa démarche par le fait que «les laboratoires d’IA de pointe utilisent de plus en plus l’IA pour concevoir (leurs) futurs modèles».
Or, souligne-t-elle, «des modèles qui accélèrent leur propre développement pourraient compliquer la compréhension ou le contrôle de ces systèmes par les humains».
«Il est donc important de partager ces indicateurs pour comprendre à quel point le monde se rapproche de l’auto-amélioration récursive (un modèle construisant son successeur de manière complètement autonome)», estime-t-elle.
Le patron d’Anthropic, Dario Amodei, a été le premier dirigeant du secteur à proposer de ralentir la cadence d’amélioration de l’IA dans un appel samedi soutenu par son alter ego d’OpenAI, Sam Altman, et d’autres dirigeants du secteur.
Les craintes d’une perte de contrôle de l’IA ont été alimentées par une série d’incidents ces derniers mois, qui ont vu des modèles d’Open AI et d’Anthropic sortir spontanément d’environnements confinés, accéder à internet et s’introduire sans autorisation sur plusieurs sites et plateformes d’autres entreprises.