L’entreprise américaine d’intelligence artificielle Anthropic va intégrer un filigrane invisible dans les textes produits par son robot conversationnel Claude, pour se conformer au règlement européen sur l’IA, mais cette marque signalera seulement qu’un contenu est passé par la machine, pas qu’elle en est l’auteur.
Le procédé, détaillé lundi par l’entreprise de San Francisco, est imperceptible à la lecture et survit au copier-coller, selon Anthropic.
La portée du dispositif reste toutefois limitée, ce que l’entreprise admet: un marquage détecté indiquera qu’un contenu a été traité par Claude, sans établir son origine ; un texte écrit par un humain puis relu, traduit ou résumé par l’IA en portera un.
À l’inverse, un passage trop court ou fortement réécrit peut n’en porter aucun. L’outil devrait donc être peu utilisable pour confondre un étudiant tricheur ou authentifier un document.
Les images et autres fichiers générés recevront des métadonnées de provenance signées, selon une norme technique publique. Seuls les modèles lancés à partir du 2 août sont concernés, les précédents devant être mis à niveau ultérieurement.
Cette annonce découle d’un article, entré en vigueur le 2 août, du règlement européen sur l’IA, qui impose aux fournisseurs d’IA de marquer leurs contenus de façon lisible par une machine. Les contrevenants risquent jusqu’à 15 millions d’euros d’amende ou 3% de leur chiffre d’affaires mondial.
Anthropic, signataire du code de bonnes pratiques associé à ce règlement, appliquera le marquage dans le monde entier et non aux seuls utilisateurs européens.
Outre le créateur de Claude, environ 190 organisations ont signé le code de bonnes pratiques européen fin juillet, dont Google, Meta, Microsoft, Mistral et OpenAI.
Google, qui a annoncé sa signature le 24 juillet, met en avant SynthID, sa technologie de filigranage maison, non publique, qu’elle cherche à imposer avec Apple, Nvidia ou OpenAI.
Anthropic n’a pas encore publié d’outil de détection de ce filigrane, exigé par le texte européen.