OpenAI ajoutera un filigrane invisible dans les textes générés par ChatGPT en Europe pour répondre à la loi sur l'IA, mais la détection reste limitée et inaccessible au grand public

Un mot sur quatre.

OpenAI va bientôt ajouter un filigrane invisible dans les textes écrits par ChatGPT et Codex pour les utilisateurs de l'Union européenne. Est-ce que ça permettra de repérer les devoirs ou les candidatures écrits par une IA ? Pas si vite.

Comment fonctionne textGrain
La technologie s'appelle textGrain. Le texte reste exactement le même à lire, mais le modèle oriente très légèrement le choix de ses mots. Un détecteur, lui, sait repérer ce petit signal statistique. Seule une partie des textes est concernée : OpenAI parle de textes "éligibles", sans préciser lesquels.

Pourquoi seulement en Europe ?
Parce que l'AI Act, la loi européenne sur l'IA, exige que les textes générés par IA soient identifiables par une machine.

Les chiffres d'OpenAI
• sur des textes de 400 tokens (quelques paragraphes), le filigrane est repéré dans environ 95 % des cas, avec 1 % de faux positifs
• sur des textes deux fois plus courts : 80 %
• c'est nettement moins bon en maths, où le choix des mots est plus limité

Le gros point faible
Il suffit de retoucher le texte. En remplaçant un mot sur dix par un synonyme, la détection passe d'environ 92 % à 66 %. En remplaçant un mot sur quatre, elle tombe à 17 %.

Questions fréquentes
Un prof peut-il vérifier si un devoir a été fait avec ChatGPT ?
Non, pas en un clic. Le détecteur n'est pas ouvert au public : seuls des chercheurs et des organisations spécialisées peuvent demander à y accéder, car OpenAI craint les erreurs dans les deux sens.

Le filigrane change-t-il la qualité des réponses ?
D'après les propres tests d'OpenAI, non, et textGrain ferait au moins aussi bien que SynthID, la méthode de Google.

Peut-on effacer le filigrane ?
Oui, une simple reformulation suffit à le rendre presque indétectable.

#IA #ChatGPT #OpenAI #AIAct #Education