Filigrane nei testi di ChatGPT nell’UE: cosa sappiamo e cosa resta da verificare

Che cosa è stato annunciato e che cosa si può considerare confermato

Le informazioni disponibili attribuiscono a OpenAI il progetto di introdurre filigrane invisibili nei testi generati da ChatGPT e Codex nell’Unione europea. Tuttavia, le fonti verificate non comprendono una pubblicazione primaria specifica sull’annuncio che ne consenta la verifica delle condizioni. Per questo è opportuno descriverne con cautela la portata: si parla di un’introduzione nell’UE, ma non ci sono conferme sufficienti su quali utenti, modelli o risposte sarebbero interessati.

Non è confermato neppure quando inizierebbe l’introduzione, né se sia già stata attivata per qualche account. Le pubblicazioni consultate non precisano se riguarderebbe tutti i piani di ChatGPT, soltanto determinati prodotti o modelli, oppure solo alcuni tipi di testo. Il riferimento a ChatGPT e Codex non basta per affermare che la copertura sarà universale.

C’è una discrepanza concreta sulla portata. Una fonte parla di «alcuni testi» di ChatGPT e Codex; un’altra presenta la misura come applicabile a tutti i testi di ChatGPT in Europa. Il materiale disponibile non consente di stabilire se descrivano configurazioni diverse, se una formulazione sia più ampia dell’altra o se una delle due sia errata. La conclusione più prudente è che la copertura esatta resta da chiarire.

OpenAI ha effettivamente pubblicato documentazione generale sulla provenienza dei contenuti. La pagina descrive un approccio che combina diverse misure e menziona filigrane basate su SynthID. È un contesto utile per comprendere la direzione generale dell’azienda, ma non conferma che questo specifico metodo venga usato per la filigrana testuale prevista nell’UE, né ne definisce i parametri tecnici.

UE e API: due modalità di distribuzione da non confondere

La proposta distingue due canali: una misura associata a ChatGPT e Codex nell’UE e un’opzione che sarebbe offerta ai clienti API di tutto il mondo. Sulla base delle fonti verificate disponibili, la prima può essere descritta soltanto come un annuncio attribuito a OpenAI, la cui portata non è ancora chiara. La seconda non è documentata a sufficienza per affermare che l’opzione sia già attiva, che sia stata annunciata formalmente o che sia disponibile a livello globale.

La distinzione è importante perché usare ChatGPT non equivale a integrare un modello tramite un’API. Nel primo caso, configurazione e funzionalità dipendono dal servizio gestito dal fornitore. Nel secondo, un cliente può integrare i modelli nella propria applicazione e avere bisogno di controlli diversi. Questa differenza aiuta a formulare le domande giuste, ma non conferma quali controlli OpenAI offra attraverso ciascun canale.

Prima di descrivere l’opzione API come una funzione operativa servirebbe una documentazione primaria che indichi i modelli compatibili, la modalità di attivazione, se la scelta spetti a ciascun cliente e che cosa accada alle risposte testuali rispetto agli altri formati. Senza questi dati non si può neppure affermare che la filigrana sia obbligatoria, attiva per impostazione predefinita o rimovibile dal cliente.

Che cosa dimostra — e che cosa non dimostra — una filigrana testuale

Una filigrana mira a fornire un segnale che, in determinate condizioni, permetta di riconoscere che un testo è stato generato con un sistema specifico. Non è la stessa cosa di una firma visibile, di un’etichetta alla fine della risposta o di un registro che identifichi la persona che ha inviato una richiesta. La documentazione generale di OpenAI sulla provenienza colloca le filigrane all’interno di un insieme di misure; non è sufficiente per capire come verrebbe codificato un segnale nel testo o come sarebbe convalidato in questo caso.

Anche se un rilevatore individua un segnale compatibile, questo non dimostra da solo chi abbia scritto, rivisto o pubblicato il contenuto. Una persona potrebbe aver modificato una bozza generata dall’IA, combinato frammenti di più fonti o incollato il testo in un altro documento. Viceversa, il fatto che il rilevatore non trovi un segnale non prova che il testo sia stato scritto interamente da una persona: potrebbe non essere stato contrassegnato, oppure il segnale potrebbe non essere sopravvissuto alle modifiche.

Le modifiche sono particolarmente importanti per un sistema basato su schemi presenti nel testo. Riformulare frasi, tradurre, riassumere, correggere o mescolare paragrafi può cambiare il materiale analizzato dal rilevatore. Senza informazioni tecniche sul metodo non è possibile precisare quante modifiche la filigrana potrebbe tollerare, né quanto testo dovrebbe restare intatto per poterla riconoscere. Non sono note neppure le lingue compatibili o le condizioni minime di lunghezza.

Per valutare l’affidabilità servirebbero risultati di test riproducibili: una descrizione del protocollo, i testi valutati, le lingue, i tipi di modifica, le soglie e i tassi di falsi positivi e falsi negativi. Le fonti verificate non forniscono questi dati. Non è quindi corretto presentare la filigrana come una prova infallibile di paternità del testo o attribuirle una precisione quantificata.

Una decisione di prodotto non dimostra, da sola, un obbligo di legge

L’annuncio di un’azienda e gli obblighi normativi sono questioni distinte. La decisione di OpenAI di aggiungere una filigrana non dimostra, di per sé, che cosa imponga l’AI Act per ciascuna categoria di testo generato dall’IA. Per descrivere un obbligo specifico bisognerebbe esaminare la disposizione applicabile, la sua data di applicazione, il tipo di sistema e il contesto d’uso, confrontandoli con il testo giuridico pertinente.

Le fonti verificate per questo articolo non comprendono il testo dell’AI Act né una spiegazione giuridica primaria che consenta di chiarire questi punti. Non si attribuisce quindi alla normativa un obbligo specifico relativo a questa filigrana, né si afferma che l’introduzione sia necessariamente una risposta a un vincolo di legge. Le informazioni disponibili permettono di parlare di un’iniziativa aziendale riportata, non del suo preciso fondamento giuridico.

Questa cautela evita anche di confondere la provenienza con la responsabilità. Una filigrana può fornire informazioni utili in alcuni processi di revisione, ma non determina da sola se un contenuto sia corretto, se debba essere pubblicato, chi ne sia responsabile o se siano stati rispettati tutti gli obblighi applicabili. Per arrivare a queste conclusioni servono ulteriori dati e regole.

Che cosa resta da sapere e come interpretare l’annuncio

Per chiarire la portata della misura, OpenAI dovrebbe specificare pubblicamente quali modelli, prodotti, lingue e tipi di output siano coinvolti; se riguardi tutti gli utenti nell’UE o soltanto alcuni; e da quale data. Per le API, la documentazione dovrebbe indicare la disponibilità, i modelli compatibili e i controlli a disposizione dei clienti. Nessuno di questi dettagli trova risposta nelle fonti consultate.

Manca anche la descrizione tecnica necessaria per valutare il rilevamento: quale filigrana venga inserita, quali condizioni siano richieste al rilevatore e quale comportamento sia stato osservato dopo aver modificato, tradotto o riassunto il testo. Senza un protocollo e i risultati dei test non è possibile valutare in modo indipendente la robustezza del sistema o il rischio di classificazioni errate.

La conclusione pratica è limitata, ma chiara: è stato riportato che OpenAI prevede filigrane per i testi di ChatGPT e Codex nell’UE, mentre la copertura esatta resta controversa. Le informazioni verificate non bastano a confermare l’attivazione, l’opzione API globale, il metodo applicato ai testi o il rapporto specifico con l’AI Act. Finché non sarà disponibile una documentazione primaria più dettagliata, è opportuno considerare questi aspetti come ancora da chiarire, non come caratteristiche già dimostrate.

Continua a esplorare

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.