Les textes et fichiers produits par les modèles d’IA de l’entreprise seront bientôt identifiables comme tels, une mesure qui vise notamment à répondre aux exigences réglementaires européennes.
Anthropic a annoncé cette semaine que les textes et fichiers produits par ses modèles d’intelligence artificielle Claude seront désormais marqués de filigranes numériques. La mesure vise à informer les utilisateurs sur l’origine des contenus qu’ils consultent et à répondre aux exigences de l’Union européenne en matière de transparence.
Ce que dit la réglementation européenne
Le Code de pratique de l’UE sur la transparence des contenus générés par l’IA impose aux entreprises qui déploient des systèmes d’IA d’informer leurs utilisateurs lorsqu’ils interagissent avec une machine, et d’apposer des filigranes sur les contenus produits automatiquement.
Les consommateurs doivent également être informés lorsqu’ils sont exposés à des deepfakes ou à des outils de reconnaissance des émotions et de catégorisation biométrique.
Comment ça fonctionne ?
Dans les textes, des marqueurs invisibles à l’œil nu sont intégrés directement dans les mots et les lettres. Ils restent attachés au contenu même après un copier-coller d’une plateforme à une autre, et pourraient résister à certaines modifications humaines. Seuls les systèmes informatiques sont capables de les lire.
Pour les images aux formats .svg, .png ou .jpg, le filigranage prend la forme de métadonnées de provenance signées cryptographiquement. Si quelqu’un tente de les falsifier pour dissimuler l’origine du fichier, la signature sera corrompue, ce qui signalera une tentative de manipulation.
Les modèles Claude lancés à partir du 2 août sont concernés, que le contenu soit produit via l’API, Claude, Claude Code, Claude Cowork ou Claude Tag. La mesure s’applique partout dans le monde, pas uniquement en Europe. Anthropic a indiqué qu’elle précisera ultérieurement comment détecter ces filigranes.
Des limites reconnues
Anthropic a tenu à préciser que le système n’est pas infaillible. La présence d’un filigrane ne signifie pas que l’intégralité d’un contenu a été produite par Claude, et son absence ne garantit pas non plus que l’IA n’est pas intervenue.
Si un utilisateur soumet un texte existant à Claude pour le reformuler, le résultat sera marqué, alors que les idées proviennent d’un auteur humain. À l’inverse, un contenu pourrait ne porter aucun filigrane si la part générée par l’IA est trop faible, ou si le texte a été fortement modifié, traduit ou mélangé à d’autres écrits. Une image générée par Claude perdra également ses métadonnées si quelqu’un en fait une capture d’écran et la sauvegarde sous un nouveau fichier.
Plus largement, la fiabilité de la détection automatique des contenus IA est pointée du doigt dans certains rapports : les textes rédigés par des personnes dont l’anglais n’est pas la langue maternelle sont parfois, à tort, identifiés comme générés par une machine.
