OpenAI décrit des opérations d’influence sous de fausses couvertures : ce que l’on sait et ce qui reste à vérifier

Ce qu’affirme OpenAI et ce que signifie l’attribution

OpenAI a publié un rapport sur deux opérations clandestines d’influence qui auraient, selon l’entreprise, utilisé de fausses couvertures pour diffuser des contenus. La description officielle mentionne de fausses identités de journalistes dans l’opération attribuée à l’Iran, ainsi qu’un centre de recherche présenté comme faisant partie de l’autre opération. L’entreprise indique être intervenue pour démanteler ces deux activités. Il s’agit de ce qu’OpenAI affirme avoir détecté sur ses propres services, et non d’une évaluation indépendante de l’ensemble des faits et de leurs conséquences.

La proposition de cet article associe les opérations à des acteurs russes et iraniens. Toutefois, les éléments vérifiables réunis ici ne permettent pas de reconstituer en détail la manière dont OpenAI est parvenue à chacune de ces attributions, les indicateurs qu’elle a considérés comme déterminants ni le degré de certitude associé à chaque lien. L’attribution doit donc être présentée comme l’évaluation d’OpenAI, et non comme une identité démontrée de façon indépendante.

Cette distinction est importante. Une entreprise peut avoir accès à des données d’utilisation de ses outils qui ne sont pas publiques, mais ces données ne prouvent pas automatiquement qui contrôlait un compte, qui a rédigé chaque texte ou qui a commandité une campagne. Pour évaluer l’attribution, il faudrait également disposer d’éléments susceptibles d’être examinés, tels que des documents, des liens opérationnels vérifiables ou une analyse technique dont la méthode peut être étudiée.

Fausses couvertures et diffusion : distinguer le procédé du résultat

Le terme « fausse couverture » désigne une apparence de légitimité qui dissimule l’origine d’une activité. Dans le cas présent, le rapport d’OpenAI porte sur des opérations qui auraient présenté des identités ou des entités comme des voix journalistiques ou institutionnelles. Cette tactique peut donner l’impression qu’un contenu provient d’une source indépendante, alors que l’identité ou l’organisation en question n’est pas authentique.

Mais détecter une fausse couverture ne prouve pas qu’un article donné a été publié par un média, qu’un éditeur l’a accepté sans en connaître l’origine ou que le contenu a atteint un public important. Il s’agit de faits distincts, qui nécessitent des preuves différentes : des profils archivés, des copies datées des textes, des registres éditoriaux, des indicateurs de diffusion et des éléments permettant d’identifier les personnes qui contrôlaient les comptes.

Les informations réunies pour cet article ne permettent pas de retrouver et d’archiver de manière indépendante les publications et les profils associés aux opérations. Elles ne fournissent pas non plus de données vérifiables sur leur portée ou leur impact. Il est donc impossible d’affirmer ici combien de contenus ont effectivement été publiés, où ils sont apparus ou combien de personnes les ont vus. L’absence de ces données dans les documents consultés ne prouve pas qu’elles n’existent pas : elle marque simplement la limite de ce qui peut être confirmé.

Il faut également distinguer la création de contenus de leur circulation. Un texte peut être rédigé avec l’aide d’un outil, modifié par une personne, puis diffusé par des comptes ou des canaux distincts. La preuve d’une étape ne démontre pas automatiquement les autres. En particulier, le recours à un modèle d’IA pour produire des brouillons ne permet pas, à lui seul, d’établir que le modèle a conçu la campagne ou que ses opérateurs ont réussi à faire publier des articles.

Quel rôle l’intelligence artificielle a-t-elle joué ?

Le rapport porte sur des opérations utilisant l’IA, mais cette expression ne signifie pas que tous les contenus ont été générés automatiquement. Une campagne peut faire appel à des outils pour des tâches très différentes : rédiger des brouillons, traduire, corriger, proposer des variantes, préparer des publications ou automatiser une partie de l’activité. Chacune de ces utilisations doit être étayée par des éléments qui lui sont propres.

Les documents consultables pour cette vérification ne permettent pas de déterminer quels modèles ont été utilisés dans chaque opération, combien de textes ont été produits, quelle proportion a été rédigée par des personnes ni quelles modifications ont précédé la diffusion. Ils ne permettent pas non plus d’attribuer à l’IA la création de profils ou la publication effective d’articles en l’absence de registres précis reliant ces actions à des outils particuliers.

Cette prudence ne réduit pas l’importance d’un éventuel recours aux outils génératifs. Si une opération s’en sert pour réduire le coût ou accélérer la production de contenus, cela peut être significatif même si les personnes gardent le contrôle des décisions et de la diffusion. Mais une description rigoureuse doit distinguer les expressions « contenu créé avec l’IA », « contenu assisté par l’IA » et « opération ayant utilisé des outils d’IA ». Elles ne sont pas interchangeables.

Ce qui peut être vérifié et ce qui manque encore

Les éléments documentaires examinés confirment qu’OpenAI a publié un rapport consacré à deux opérations d’influence utilisant de fausses couvertures. La description officielle mentionne de fausses identités de journalistes dans l’opération iranienne. OpenAI a également publié des rapports sur d’autres campagnes d’influence, mais ces documents portent sur des opérations distinctes : ils apportent un contexte sur ses activités de détection et de réponse, sans corroborer de manière indépendante les détails du rapport consacré aux opérations décrites ici.

Les éléments disponibles ne permettent pas de vérifier séparément les archives des articles et des profils, la publication de contenus dans des médias, la portée de leur diffusion ou leurs effets sur le public. Ils ne suffisent pas non plus à évaluer une classification de gravité mentionnée dans la proposition : sa définition, son échelle, son mode de calcul et son application à ce cas ne sont pas disponibles ici. La présenter comme une mesure objective sans ces explications donnerait une fausse impression de précision.

La réponse d’OpenAI à une activité détectée sur ses services peut interrompre l’utilisation de ses outils, mais elle ne démontre pas que l’opération a cessé sur tous les canaux. Elle ne permet pas non plus de conclure que l’activité n’a eu aucun effet en dehors de la plateforme. Des données publiques supplémentaires et une vérification indépendante des publications, des comptes et de leur diffusion seraient nécessaires pour étayer des affirmations plus larges.

Pourquoi une vérification indépendante est importante

Les opérations qui dissimulent leur origine peuvent éroder la confiance dans le journalisme et les institutions, même lorsque leur portée est inconnue. Dans le même temps, attribuer une campagne sans expliquer la manière dont cette conclusion a été obtenue peut conduire à confondre l’évaluation d’une plateforme avec une vérification externe. La transparence suppose de présenter les résultats autant que leurs limites.

Une enquête reproductible permettrait de comparer les textes identifiés aux archives publiques, de vérifier quand les profils sont apparus et de retracer la circulation des mêmes contenus dans différents espaces. Elle devrait également expliquer quels éléments relient ces activités aux opérateurs désignés et quelles autres hypothèses ont été examinées. Si certaines données ne peuvent être divulguées pour des raisons de sécurité ou de confidentialité, il convient de le préciser sans présenter les informations non publiées comme si elles avaient déjà été vérifiées par des tiers.

Pour l’instant, la conclusion prudente doit rester circonscrite : OpenAI affirme avoir démantelé deux opérations clandestines d’influence utilisant de fausses couvertures, et sa description officielle mentionne de fausses identités de journalistes dans l’une d’elles. Les documents réunis ne permettent pas de vérifier de manière indépendante quels articles ont été publiés, quelle quantité de contenu a été produite avec l’IA, quelle a été la portée des opérations ni l’ensemble des fondements de l’attribution. Ces questions doivent rester ouvertes tant que des preuves publiques suffisantes ne sont pas disponibles.

Poursuivre l’exploration

Corrections et transparence

Si vous repérez une information incorrecte ou obsolète, envoyez-nous la page et la source à vérifier.