Filigranes dans les textes de ChatGPT dans l’UE : ce que l’on sait et ce qui reste à confirmer

Ce qui a été annoncé et ce que l’on peut tenir pour confirmé

Les informations disponibles attribuent à OpenAI des projets visant à intégrer des filigranes invisibles dans des textes générés par ChatGPT et Codex au sein de l’Union européenne. Toutefois, les sources vérifiées ne comprennent pas de publication primaire spécifique à cette annonce qui permettrait d’en contrôler les modalités. Il faut donc décrire la portée de l’initiative avec prudence : des informations font état d’un déploiement dans l’UE, mais rien ne confirme suffisamment quels utilisateurs, modèles ou types de réponses seraient concernés.

La date de début du déploiement n’est pas non plus confirmée ici, pas plus que son éventuelle activation pour certains comptes. Les publications consultées ne précisent pas si la mesure concernerait toutes les offres de ChatGPT, seulement certains produits ou modèles, ou uniquement certains types de texte. La simple mention de ChatGPT et de Codex ne permet pas de conclure à une couverture universelle.

Une divergence précise subsiste quant à la portée de la mesure. Une source parle de « certains textes » de ChatGPT et Codex ; une autre présente le dispositif comme s’appliquant à tous les textes de ChatGPT en Europe. Les éléments disponibles ne permettent pas de savoir s’il s’agit de configurations différentes, si l’une des formulations est plus large que l’autre ou si l’une d’elles est inexacte. La conclusion la plus prudente est que la couverture exacte reste à déterminer.

OpenAI a bien publié des informations générales sur la provenance des contenus. Cette documentation décrit une approche qui combine plusieurs mesures et mentionne des filigranes reposant sur SynthID. Il s’agit d’un contexte utile pour comprendre l’orientation générale de l’entreprise, mais ces informations ne confirment pas que cette méthode précise sera utilisée pour le déploiement de filigranes textuels dans l’UE évoqué par les publications. Elles n’en établissent pas non plus les paramètres techniques.

UE et API : deux déploiements à ne pas confondre

La proposition distingue deux voies : une mesure liée à ChatGPT et Codex dans l’UE, et une option qui serait proposée aux clients de l’API dans le monde entier. Au vu des sources vérifiées disponibles, la première ne peut être présentée que comme une annonce attribuée à OpenAI dont la portée n’est pas entièrement précisée. La seconde n’est pas suffisamment étayée pour affirmer que l’option existe déjà, qu’elle a été officiellement annoncée ou qu’elle est disponible partout dans le monde.

Cette distinction est importante : utiliser un produit ChatGPT n’est pas la même chose qu’intégrer un modèle au moyen d’une API. Dans le premier cas, les paramètres et les fonctionnalités dépendent du service exploité par le fournisseur. Dans le second, le client peut intégrer des modèles à sa propre application et avoir besoin de contrôles différents. Cette différence aide à poser les bonnes questions, mais ne confirme pas quels contrôles OpenAI propose pour chaque canal.

Avant de décrire l’option API comme une fonctionnalité opérationnelle, il faudrait disposer d’une documentation primaire précisant les modèles compatibles, la manière de l’activer, la personne qui peut décider de son activation et le traitement réservé aux réponses textuelles par rapport aux autres formats. En l’absence de ces informations, on ne peut pas non plus affirmer que le filigrane est obligatoire, activé par défaut ou désactivable par le client.

Ce qu’un filigrane textuel peut — et ne peut pas — démontrer

Un filigrane vise à fournir un signal permettant de reconnaître, sous certaines conditions, qu’un texte a été généré par un système donné. Ce n’est pas la même chose qu’une signature visible, qu’une mention placée à la fin d’une réponse ou qu’un registre identifiant la personne à l’origine d’une requête. La documentation générale d’OpenAI sur la provenance présente les filigranes comme l’une des composantes d’un ensemble de mesures ; elle ne suffit pas à établir comment un signal serait encodé dans un texte ni comment il serait validé dans le cas présent.

Même si un détecteur repère un signal compatible, cela ne prouve pas à lui seul qui a écrit, révisé ou publié le contenu. Une personne peut avoir modifié un brouillon généré par l’IA, combiné des passages provenant de plusieurs sources ou copié le texte dans un autre document. À l’inverse, l’absence de signal détecté ne prouve pas que le texte a été entièrement écrit par un humain : il se peut qu’il n’ait pas été marqué ou que le signal n’ait pas résisté à des modifications.

Les modifications sont particulièrement importantes dans le cas d’un système fondé sur des motifs présents dans le texte. Reformuler des phrases, traduire, résumer, corriger ou mélanger des paragraphes peut modifier les éléments examinés par un détecteur. Sans informations techniques sur la méthode, il est impossible de préciser quelle quantité de modifications le filigrane pourrait tolérer ou quelle part du texte devrait être conservée pour qu’il soit détectable. Les langues compatibles et la longueur minimale requise ne sont pas connues non plus.

Pour évaluer la fiabilité du système, il faudrait disposer de résultats de tests reproductibles : description du protocole, textes évalués, langues, types de modifications, seuils et taux de faux positifs et de faux négatifs. Les informations vérifiées ne fournissent pas ces données. Il ne convient donc pas de présenter le filigrane comme une preuve infaillible de l’auteur d’un texte ni de lui attribuer un niveau de précision chiffré.

Une décision de produit ne prouve pas, à elle seule, une obligation légale

Une annonce d’entreprise et les obligations réglementaires sont deux questions distinctes. Le fait qu’OpenAI décide d’ajouter un filigrane ne démontre pas, à lui seul, ce que l’AI Act exige pour chaque catégorie de texte généré par l’IA. Pour décrire une obligation précise, il faudrait examiner l’article applicable, sa date d’entrée en application, le type de système concerné et le contexte d’utilisation, en s’appuyant sur le texte juridique pertinent.

Les sources vérifiées pour cet article ne comprennent pas le texte de l’AI Act ni une analyse juridique primaire permettant de trancher ces questions. Aucune obligation spécifique concernant ce filigrane n’est donc attribuée à la réglementation, et rien ne permet d’affirmer que le déploiement répond nécessairement à une exigence légale. Les éléments disponibles permettent de parler d’une initiative d’entreprise rapportée, mais pas d’en établir précisément le fondement juridique.

Cette prudence évite également de confondre provenance et responsabilité. Un filigrane peut fournir des informations utiles dans certains processus de vérification, mais il ne détermine pas à lui seul si un contenu est exact, s’il doit être publié, qui en est responsable ou si toutes les obligations applicables ont été respectées. Pour tirer ces conclusions, il faut des données et des règles supplémentaires.

Ce qu’il reste à savoir et comment interpréter l’annonce

Pour clarifier la portée de la mesure, OpenAI devrait préciser publiquement les modèles, produits, langues et types de contenus concernés, indiquer si elle s’applique à tous les utilisateurs de l’UE ou seulement à certains d’entre eux, et donner une date de début. Pour l’API, les informations devraient préciser la disponibilité, les modèles compatibles et les contrôles proposés aux clients. Aucun de ces points n’est résolu par les sources consultées.

Il manque également la description technique nécessaire pour évaluer la détection : le type de filigrane intégré, les conditions requises par le détecteur et les résultats observés après modification, traduction ou résumé du texte. Sans protocole ni résultats de tests, il est impossible d’évaluer de manière indépendante la robustesse du système ou le risque de classifications erronées.

La conclusion pratique est limitée, mais claire : il a été rapporté qu’OpenAI prévoyait des filigranes pour les textes de ChatGPT et Codex dans l’UE, tandis que l’étendue exacte de la couverture reste contestée. Les informations vérifiées ne suffisent pas à confirmer l’activation du dispositif, l’option mondiale pour l’API, la méthode appliquée au texte ni le lien précis avec l’AI Act. Dans l’attente d’une documentation primaire plus détaillée, ces éléments doivent être considérés comme des questions en suspens, et non comme des fonctionnalités déjà démontrées.

Poursuivre l’exploration

Corrections et transparence

Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.