Filigranes invisibles : Claude marque ses textes pour l'AI Act

TL;DR.

Anthropic a détaillé le fonctionnement du filigrane invisible appliqué aux textes générés par Claude. Le système repose sur une variante de SynthID-Text, une technologie de filigrane open source développée par Google DeepMind, et vise à répondre aux obligations de transparence de l'AI Act européen, qui impose que les contenus synthétiques soient porteurs de marques lisibles par une machine. Pour les équipes qui produisent du contenu, du code ou des documents avec un assistant IA, ce qui était jusqu'ici indétectable de façon fiable devient traçable.

Le filigrane textuel n'ajoute ni caractère caché, ni métadonnée, ni mention explicite. Il oriente légèrement les probabilités de formulation du modèle selon un motif statistique connu, ce qui crée une empreinte détectable dans la répartition des mots employés sans altérer le sens ni la qualité perçue du texte. Un outil de détection dédié est nécessaire pour la lire. Pour les images traitées par Claude, Anthropic s'appuie sur un autre standard, le C2PA, qui attache au fichier des métadonnées de provenance décrivant son origine.

Les textes produits par Claude vont devenir identifiables comme tels, sans que rien ne soit visible à l'œil nu. Anthropic a précisé vendredi comment fonctionnera son système de marquage : une variante de SynthID-Text, une technologie de filigrane open source développée par Google DeepMind. L'objectif n'est pas commercial mais réglementaire : se conformer aux règles de transparence de l'AI Act européen, qui impose que les contenus synthétiques soient porteurs de marques lisibles par une machine. Pour les équipes qui produisent du contenu, du code ou des documents avec un assistant IA, c'est un changement de nature : ce qui était jusqu'ici indétectable de façon fiable devient traçable.

Ce qu'est un filigrane invisible dans un texte

Contrairement à une image, un texte n'a pas de pixels dans lesquels dissimuler une signature. Le filigrane textuel joue donc sur autre chose : les probabilités de formulation. Un modèle de langage, à chaque mot qu'il génère, choisit parmi plusieurs candidats plus ou moins probables. L'approche SynthID-Text consiste à orienter légèrement ces choix selon un motif statistique connu, de façon à créer une empreinte détectable dans la répartition des mots employés, sans altérer le sens ni la qualité perçue du texte.

Concrètement, le lecteur ne voit rien. Il n'y a ni caractère caché, ni métadonnée collée en bas de page, ni mention explicite. La marque est dans la texture statistique du texte lui-même, et il faut un outil de détection dédié pour la lire.

Pourquoi Anthropic le fait maintenant

La motivation est explicitement réglementaire. L'AI Act européen impose aux fournisseurs de systèmes d'IA générative que les contenus synthétiques (audio, image, vidéo et texte) intègrent des marques lisibles par une machine. Le filigrane textuel est la réponse d'Anthropic pour le texte. Pour les images traitées par Claude, l'entreprise s'appuie sur un autre standard, le C2PA, qui attache au fichier des métadonnées de provenance décrivant l'origine et les transformations subies par le contenu.

Le choix de SynthID-Text mérite d'être noté : plutôt que de développer une technologie propriétaire, Anthropic reprend une approche open source issue de Google DeepMind. C'est un signal d'interopérabilité, à un moment où la question de la détection des contenus IA se pose de la même façon pour tous les fournisseurs de modèles.

Les questions ouvertes : édition, robustesse, code

Trois zones d'incertitude reviennent systématiquement dès qu'on parle de filigrane textuel, et elles restent les bonnes questions à poser.

Le filigrane résiste-t-il à l'édition ?

Puisque la marque repose sur une distribution statistique de mots, plus le texte est réécrit, reformulé ou coupé, plus l'empreinte se dilue. Un texte largement retravaillé par un humain n'est pas dans la même situation qu'un texte publié tel quel. Le degré exact de robustesse n'est pas précisé.

Et le code généré ?

Le code est un cas particulier. Sa syntaxe est contrainte : il y a beaucoup moins de façons équivalentes d'écrire une ligne de code que d'écrire une phrase. La marge de manœuvre pour insérer un motif statistique y est donc mécaniquement plus étroite que dans du texte en langue naturelle. C'est un point de vigilance pour les équipes techniques, sans que les modalités précises soient documentées à ce stade.

Que voit-on à la lecture ?

Rien. C'est à la fois l'intérêt du dispositif (il ne dégrade pas le rendu) et sa limite en termes de perception : personne dans votre organisation ne saura, en lisant un document, qu'il porte ou non une marque.

Ce que ça change pour vous

Quatre implications concrètes, selon les fonctions.

• Contenu et marketing : un texte généré puis publié en l'état peut potentiellement être identifié comme produit par une IA. Ce n'est pas un problème en soi, mais cela suppose d'avoir décidé en amont ce que vous assumez publiquement sur votre usage de l'IA, plutôt que de le découvrir après coup.
• Juridique et conformité : si votre organisation opère dans l'Union européenne, la transparence sur les contenus synthétiques n'est plus une bonne pratique optionnelle, c'est un cadre réglementaire actif auquel les fournisseurs de modèles s'adaptent déjà. Vos propres politiques internes ont intérêt à suivre.
• Équipes techniques : la question du marquage du code généré doit être posée explicitement à vos fournisseurs, notamment si vous intégrez du code assisté par IA dans des produits livrés à des clients.
• Ressources humaines et formation : les dispositifs de détection ne rendent pas l'usage de l'IA illégitime. Ils rendent utile le fait de clarifier, en interne, ce qui est encouragé, encadré ou déconseillé.

Un déplacement du débat

Pendant deux ans, la discussion sur la détection des contenus IA a tourné autour d'outils tiers peu fiables, souvent pris en défaut. L'approche par filigrane inverse la logique : ce n'est plus un détecteur externe qui devine, c'est le producteur du contenu qui signe à la source. C'est techniquement plus solide, mais cela ne fonctionne que si le fournisseur applique le marquage, et uniquement pour les modèles qui le font.

Autrement dit, la traçabilité progresse là où les acteurs sont soumis à une obligation réglementaire, et reste absente ailleurs. Pour une entreprise, la bonne question n'est donc pas « comment éviter d'être détecté », mais plutôt : quelle politique de transparence assumons-nous sur nos contenus, indépendamment de ce que la technologie permet de repérer ?

Questions fréquentes

Qu'est-ce qu'un filigrane invisible dans un texte généré par une IA ?

C'est une empreinte dissimulée dans la texture statistique du texte, et non dans des caractères cachés ou des métadonnées. À chaque mot généré, le modèle choisit parmi plusieurs candidats plus ou moins probables, et le filigrane oriente légèrement ces choix selon un motif statistique connu. Le lecteur ne voit rien et un outil de détection dédié est nécessaire pour lire la marque.

Quelle technologie Anthropic utilise-t-il pour marquer les textes de Claude ?

Anthropic utilise une variante de SynthID-Text, une technologie de filigrane open source développée par Google DeepMind. Elle s'applique au texte produit par Claude sans altérer le sens ni la qualité perçue du contenu.

Pourquoi Anthropic met-il en place ce filigrane maintenant ?

La motivation est explicitement réglementaire et non commerciale. L'AI Act européen impose aux fournisseurs de systèmes d'IA générative que les contenus synthétiques, qu'ils soient audio, image, vidéo ou texte, intègrent des marques lisibles par une machine. Le filigrane textuel est la réponse d'Anthropic pour le texte.

Comment Anthropic marque-t-il les images plutôt que les textes ?

Pour les images traitées par Claude, l'entreprise s'appuie sur le standard C2PA. Celui-ci attache au fichier des métadonnées de provenance qui décrivent son origine, une approche différente du filigrane statistique appliqué au texte.

Qu'est-ce que cela change pour les contenus produits en entreprise avec une IA ?

Les textes, le code et les documents produits avec un assistant IA deviennent traçables. Ce qui était jusqu'ici indétectable de façon fiable peut désormais être identifié comme généré par IA à l'aide d'un outil de détection dédié, sans qu'aucune marque ne soit visible à l'œil nu.