AI Act : OpenAI ajoute un filigrane invisible aux textes de ChatGPT et Codex en Europe

TL;DR.

OpenAI commence à intégrer un filigrane invisible, baptisé textGrain, dans les textes produits par ChatGPT et par Codex, son outil dédié au code. Ce marquage, lisible par machine, vise d'abord les utilisateurs situés dans l'Union européenne et répond aux exigences de l'AI Act, le règlement européen sur l'intelligence artificielle. Si vous utilisez ces outils pour rédiger des contenus, des e-mails ou du code, il est utile de savoir ce que ce marquage recouvre et ce qu'il ne fait pas.

Le filigrane ne modifie pas l'apparence du texte. Il repose sur de légers biais statistiques introduits lorsque le modèle choisit ses mots. Sur un passage suffisamment long, ces biais forment une signature qu'un outil de détection adapté peut reconnaître. OpenAI affirme que textGrain a « égalé ou dépassé » d'autres approches existantes, dont SynthID, la technologie de marquage de texte de Google DeepMind, et a publié des résultats de benchmarks. L'accès aux outils de détection est d'abord ouvert aux chercheurs.

OpenAI commence à intégrer un filigrane invisible dans les textes produits par ChatGPT et Codex, son outil dédié au code. Le déploiement vise d'abord les utilisateurs situés dans l'Union européenne et répond aux exigences de l'AI Act, le règlement européen sur l'intelligence artificielle. Pour les entreprises qui utilisent ces outils pour rédiger des contenus, des e-mails ou du code, il est utile de comprendre ce que recouvre ce marquage et ce qu'il ne fait pas.

Ce qu'OpenAI a annoncé

Dans une publication consacrée à son approche des règles européennes sur la provenance des textes, OpenAI explique qu'un filigrane, baptisé textGrain, est désormais ajouté aux réponses textuelles de ChatGPT et de Codex. Ce marquage présente deux caractéristiques :

• il est invisible : le texte reste identique en apparence pour le lecteur ;
• il est lisible par machine : un outil de détection adapté peut repérer qu'un texte provient du modèle.

Le déploiement concerne dans un premier temps les seuls utilisateurs de l'Union européenne. OpenAI précise également où le filigrane s'applique et comment fonctionne la détection, et indique que l'accès aux outils de détection est d'abord ouvert aux chercheurs.

Qu'est-ce qu'un filigrane de texte, concrètement ?

Pour une image, on imagine facilement un logo discret incrusté dans un coin. Pour un texte, le principe est différent : il n'y a ni pixel ni métadonnée visible à modifier. Un filigrane textuel repose en général sur de légers biais statistiques introduits au moment où le modèle choisit ses mots. Pris un par un, ces choix paraissent naturels. Sur un passage suffisamment long, ils forment une signature qu'un algorithme de détection peut reconnaître.

Selon OpenAI, textGrain a « égalé ou dépassé » d'autres approches existantes, dont SynthID, la technologie de marquage de texte développée par Google DeepMind. L'entreprise a aussi publié des résultats de benchmarks (des tests standardisés de performance) montrant des performances similaires entre les textes marqués et non marqués. Autrement dit, le filigrane ne devrait pas dégrader sensiblement la qualité des réponses.

Une limite reconnue : l'édition du texte

OpenAI le dit lui-même : modifier un texte peut rendre les marques invisibles plus difficiles à détecter. L'entreprise souligne aussi que textGrain ne constitue pas une garantie absolue. C'est une limite connue de ce type de technique : plus un texte est retravaillé (reformulé, raccourci, mélangé à du contenu écrit à la main), plus la signature statistique s'affaiblit.

Il faut donc voir le filigrane comme un indice de provenance, pas comme une preuve infaillible. Un texte non détecté n'est pas forcément d'origine humaine, et la détection reste une question de probabilité.

Un mouvement qui dépasse OpenAI

OpenAI n'est pas le premier acteur à franchir ce pas. En août, Anthropic, l'éditeur de Claude, avait annoncé son propre dispositif de marquage de texte, construit sur la base de SynthID et lui aussi motivé par les exigences de l'AI Act. Cette annonce n'avait pas été accueillie favorablement par tous les utilisateurs.

Le fait que plusieurs fournisseurs majeurs adoptent cette pratique pour le marché européen indique une tendance de fond : le marquage des contenus générés par IA devient une composante de la mise en conformité, et non plus une simple initiative volontaire.

Ce que ça change pour vous

Pour la plupart des usages quotidiens, rien ne change en apparence : vos textes s'affichent de la même manière. Plusieurs points méritent toutefois votre attention.

Pour les équipes marketing et communication

Les contenus produits avec ChatGPT dans l'Union européenne portent désormais une signature invisible. Si vous publiez des articles, des posts ou des newsletters rédigés en grande partie par IA, partez du principe que leur origine pourra, à terme, être identifiée par des outils de détection. C'est l'occasion de clarifier en interne votre politique de transparence sur l'usage de l'IA.

Pour les équipes tech

Codex est également concerné. Les modalités exactes d'application au code ne sont pas détaillées dans les éléments disponibles. Si votre organisation encadre l'usage du code généré par IA, il est pertinent de suivre la documentation publiée par OpenAI sur ce point.

Pour les fonctions conformité, juridique et RH

• Ne considérez pas la détection comme une preuve définitive : l'éditeur reconnaît lui-même qu'elle peut être contournée par l'édition.
• À ce stade, l'accès aux outils de détection est réservé en priorité aux chercheurs. Vous ne pourrez donc pas forcément vérifier vous-même la provenance d'un texte.
• Évitez de fonder des décisions sensibles (évaluation d'un collaborateur, d'un candidat ou d'un prestataire) sur une simple suspicion d'usage de l'IA.

Une étape vers plus de traçabilité

L'arrivée de textGrain illustre la manière dont l'AI Act commence à se traduire concrètement dans les outils utilisés chaque jour par les entreprises européennes. Le filigrane de texte reste une technologie imparfaite, sensible aux modifications et dont la détection n'est pas encore accessible à tous. Il pose néanmoins une question que chaque organisation aura intérêt à trancher : quelle place accorder à la transparence sur l'origine des contenus que l'on produit, et comment l'assumer auprès de ses clients, partenaires et collaborateurs ?

Questions fréquentes

Qu'est-ce que textGrain d'OpenAI ?

textGrain est le filigrane qu'OpenAI ajoute aux réponses textuelles de ChatGPT et de Codex. Il est invisible pour le lecteur, car le texte reste identique en apparence. Il est aussi lisible par machine : un outil de détection adapté peut repérer qu'un texte provient du modèle.

Pourquoi OpenAI ajoute-t-il un filigrane aux textes de ChatGPT en Europe ?

Ce filigrane permet à OpenAI de se conformer à l'AI Act, le règlement européen sur l'intelligence artificielle. L'entreprise a présenté cette mesure dans une publication consacrée à son approche des règles européennes sur la provenance des textes.

Qui est concerné par le filigrane invisible de ChatGPT et Codex ?

Dans un premier temps, le déploiement concerne uniquement les utilisateurs situés dans l'Union européenne. Il s'applique aux textes produits par ChatGPT et par Codex, l'outil d'OpenAI dédié au code. Les entreprises qui utilisent ces outils pour rédiger des contenus, des e-mails ou du code sont donc directement concernées.

Comment fonctionne un filigrane sur un texte généré par IA ?

Contrairement à une image, un texte n'a ni pixel ni métadonnée visible à modifier. Un filigrane textuel repose en général sur de légers biais statistiques introduits au moment où le modèle choisit ses mots. Pris un par un, ces choix paraissent naturels, mais sur un passage suffisamment long ils forment une signature reconnaissable par un algorithme de détection.

Qui peut détecter le filigrane textGrain ?

OpenAI indique que l'accès aux outils de détection est d'abord ouvert aux chercheurs. Selon l'entreprise, textGrain a « égalé ou dépassé » d'autres approches existantes, dont SynthID de Google DeepMind, et des résultats de benchmarks ont été publiés pour l'attester.