OpenAI déploie un filigrane invisible pour les textes de ChatGPT et Codex

OpenAI veut rendre l'IA traçable — sans que vous ne voyiez rien. L'entreprise a annoncé ce mardi 6 octobre le déploiement de « textGrain », un système de filigrane invisible appliqué aux textes générés par ChatGPT et Codex. Dans la foulée d'Anthropic, qui avait introduit un dispositif similaire pour Claude en août, OpenAI répond aux nouvelles exigences visant à rendre les contenus générés par IA identifiables.

Un déploiement d'abord européen

La technologie arrivera dans les prochaines semaines aux utilisateurs éligibles de ChatGPT et Codex dans l'Union européenne, sur tous les forfaits. Les développeurs utilisant l'API d'OpenAI pourront quant à eux l'activer dès aujourd'hui pour certains modèles, partout dans le monde — mais elle sera désactivée par défaut.

OpenAI précise ne pas en faire un réglage mondial par défaut pour l'instant : ce déploiement régional doit permettre d'« apprendre de l'utilisation réelle et des retours », selon le billet de blog publié mardi.

Comment ça marche

Le filigrane n'est ni un symbole visible ni une étiquette. Le système influence subtilement le choix des mots du modèle pendant la génération, créant un motif imperceptible à l'œil humain mais détectable par un système dédié. OpenAI affirme que le filigrane n'identifie pas l'utilisateur et n'entraîne aucun changement significatif des performances du modèle.

Reste que le dispositif a ses limites, et OpenAI les assume : l'édition du texte affaiblit considérablement le signal. Dans un test sur des passages de 400 tokens, remplacer 10 % des mots par des synonymes a fait chuter la détection de 92 % à 66 % ; à 25 % de mots remplacés, elle tombe à 17 %. Les passages courts ou très contraints — comme les mathématiques, où le choix des mots est limité — sont aussi beaucoup plus difficiles à détecter.

Notre avis

Sur le papier, textGrain est une avancée bienvenue pour la transparence : un simple thésaurus suffit pourtant à le contourner, ce qui en fait davantage un outil de bonne foi qu'une preuve infalsifiable. Le vrai signal est ailleurs : OpenAI et Anthropic normalisent le marquage des contenus IA, poussés par les régulateurs européens. À terme, c'est probablement moins la technologie elle-même que l'obligation légale qui changera la donne — et les tricheurs motivés devront au moins faire un effort.