OpenAI s’apprête à introduire un filigrane invisible dans les textes produits par ChatGPT et Codex au sein de l’Union européenne. Baptisée « textGrain », cette technologie vise à permettre l’identification automatique des contenus générés par intelligence artificielle, dans le cadre des nouvelles exigences européennes en matière de transparence.

Contrairement à un filigrane classique, le dispositif ne rajoute ni symbole, ni caractère invisible, ni espace particulier dans le texte. Il repose sur une modification statistique des choix de mots effectués par le modèle. Cette combinaison crée une signature que des outils de détection pourront ensuite rechercher.

OpenAI explique que cette technologie sera déployée progressivement auprès des utilisateurs éligibles de ChatGPT et Codex dans l’Union européenne. Pour les utilisateurs de l’API, le système est déjà disponible sur certains modèles, mais uniquement sur une base volontaire. L’entreprise ne prévoit pas, pour l’instant, d’en faire une fonctionnalité activée par défaut dans le monde entier.

Le dispositif doit notamment répondre aux obligations de l’AI Act européen, qui prévoit que les contenus générés ou manipulés par l’intelligence artificielle puissent être identifiés de manière lisible par les machines. OpenAI indique avoir obtenu de bons résultats lors de ses évaluations, tout en reconnaissant que la technologie présente encore certaines limites.

La détection devient notamment plus difficile lorsque les textes sont très courts, traduits ou fortement modifiés. OpenAI précise également qu’un texte dans lequel aucun filigrane n’est détecté ne peut pas être considéré automatiquement comme ayant été écrit par un humain. Le système ne permet par ailleurs ni d’identifier l’utilisateur, ni de retrouver la conversation ou la consigne à l’origine du texte.

Avec textGrain, OpenAI veut ainsi renforcer la traçabilité des contenus produits par ses modèles, alors que la distinction entre textes humains et textes générés par IA devient un enjeu croissant dans l’éducation, l’édition, les médias et le monde professionnel.

A voir également sur Kessiya