Marcas de água nos textos do ChatGPT na UE: o que se sabe e o que falta confirmar

O que foi anunciado e o que se pode dar por confirmado

As informações disponíveis atribuem à OpenAI planos para incorporar marcas de água invisíveis em textos gerados pelo ChatGPT e pelo Codex na União Europeia. No entanto, as fontes verificadas não incluem uma publicação primária específica sobre o anúncio que permita confirmar as respetivas condições. Por isso, o alcance deve ser descrito com cautela: há referências a uma implementação na UE, mas não uma confirmação suficiente sobre os utilizadores, modelos ou respostas que seriam abrangidos.

Também não está confirmado quando começaria a implementação nem se já foi ativada para alguma conta. As publicações consultadas não especificam se a medida se aplicaria a todos os planos do ChatGPT, apenas a determinados produtos ou modelos, ou somente a certos tipos de texto. A menção ao ChatGPT e ao Codex não permite concluir que a cobertura seja universal.

Há uma divergência concreta quanto ao alcance. Uma fonte refere «alguns textos» do ChatGPT e do Codex; outra apresenta a medida como aplicável a todos os textos do ChatGPT na Europa. O material disponível não permite determinar se descrevem configurações diferentes, se uma formulação é mais abrangente do que a outra ou se alguma está incorreta. A conclusão responsável é que a cobertura exata continua por esclarecer.

A OpenAI publicou documentação geral sobre a proveniência do conteúdo. Essa página descreve uma abordagem que combina diferentes medidas e menciona marcas de água baseadas no SynthID. É um contexto útil sobre a orientação geral da empresa, mas não confirma que esse método específico seja utilizado na implementação europeia de texto referida nas publicações, nem estabelece os respetivos parâmetros técnicos.

UE e API: duas implementações que não devem ser confundidas

A proposta distingue duas vias: uma medida associada ao ChatGPT e ao Codex na UE e uma opção que seria disponibilizada a clientes da API em todo o mundo. Com as fontes verificadas disponíveis, a primeira só pode ser apresentada como um anúncio atribuído à OpenAI cujo alcance não está totalmente esclarecido. A segunda não tem sustentação suficiente para afirmar que a opção já existe, que foi anunciada formalmente ou que está disponível a nível global.

A distinção é importante porque utilizar um produto do ChatGPT não é o mesmo que integrar um modelo através de uma API. No primeiro caso, a configuração e as funcionalidades dependem do serviço operado pelo fornecedor. No segundo, o cliente pode incorporar modelos na sua própria aplicação e precisar de controlos diferentes. Esta distinção ajuda a formular as perguntas certas, mas não confirma que controlos a OpenAI disponibiliza em cada canal.

Antes de descrever a opção da API como uma funcionalidade operacional, seria necessária documentação primária que identificasse os modelos compatíveis, explicasse como ativá-la, esclarecesse se a decisão cabe a cada cliente e especificasse o que acontece com respostas de texto em comparação com outros formatos. Sem esses dados, também não se pode afirmar que a marca seja obrigatória, esteja ativada por predefinição ou possa ser removida pelo cliente.

O que uma marca de água textual demonstra — e o que não demonstra

Uma marca de água pretende fornecer um sinal que permita reconhecer, em determinadas condições, que um texto foi gerado por um sistema específico. Não é o mesmo que uma assinatura visível, uma etiqueta no final de uma resposta ou um registo que identifique a pessoa que fez uma consulta. A documentação geral da OpenAI sobre proveniência enquadra as marcas num conjunto de medidas; não basta para perceber como um sinal seria codificado no texto ou validado neste caso.

Mesmo que um detetor encontre um sinal compatível, isso não prova, por si só, quem escreveu, reviu ou publicou o conteúdo. Uma pessoa pode ter editado um rascunho gerado por IA, combinado excertos de várias fontes ou colado o texto noutro documento. Inversamente, o facto de o detetor não encontrar um sinal não prova que o texto tenha sido inteiramente escrito por uma pessoa: pode não ter sido marcado ou o sinal pode ter desaparecido após alterações.

A edição é especialmente relevante num sistema que se baseie em padrões presentes no texto. Reformular frases, traduzir, resumir, corrigir ou misturar parágrafos pode alterar o material analisado por um detetor. Sem informações técnicas sobre o método, não é possível precisar quanta edição a marca suportaria nem quanto texto teria de ser preservado para a identificar. Também não se conhecem os idiomas compatíveis nem os requisitos mínimos de extensão.

Para avaliar a fiabilidade seriam necessários resultados de testes reproduzíveis: uma descrição do protocolo, dos textos avaliados, dos idiomas, dos tipos de edição, dos limiares e das taxas de falsos positivos e falsos negativos. As referências verificadas não fornecem esses dados. Por isso, não é adequado apresentar a marca como prova infalível de autoria nem atribuir-lhe uma precisão quantificada.

Uma decisão sobre o produto não prova, por si só, uma obrigação legal

O anúncio empresarial e as obrigações legais são questões distintas. O facto de a OpenAI decidir acrescentar uma marca de água não demonstra, por si só, o que o AI Act exige para cada tipo de texto gerado por IA. Para explicar uma obrigação específica, seria necessário confrontar o artigo aplicável, a respetiva data de aplicação, o tipo de sistema e o contexto de utilização com o texto jurídico pertinente.

As fontes verificadas para este artigo não incluem o texto do AI Act nem uma explicação jurídica primária que permita esclarecer essas questões. Por esse motivo, não se atribui à norma uma obrigação específica relativa a esta marca, nem se afirma que a implementação decorra necessariamente de uma exigência legal. As informações disponíveis permitem falar de uma iniciativa empresarial comunicada, não do seu fundamento jurídico exato.

Esta cautela também evita confundir proveniência com responsabilidade. Uma marca pode fornecer informação útil para certos processos de revisão, mas não determina, por si só, se um conteúdo está correto, se deve ser publicado, quem é responsável por ele ou se todas as obrigações aplicáveis foram cumpridas. Essas conclusões exigem dados e regras adicionais.

O que falta saber e como interpretar o anúncio

Para esclarecer o alcance, a OpenAI teria de especificar publicamente os modelos, produtos, idiomas e tipos de saída afetados; se a medida se aplica a todos os utilizadores da UE ou apenas a alguns; e a partir de que data. No caso da API, a informação teria de esclarecer a disponibilidade, os modelos compatíveis e os controlos disponibilizados aos clientes. Nenhum destes detalhes fica resolvido pelas fontes consultadas.

Falta também a descrição técnica necessária para avaliar a deteção: que marca é incorporada, de que condições depende o detetor e que comportamento foi observado após a edição, tradução ou síntese do texto. Sem um protocolo e resultados de testes, não é possível avaliar de forma independente a robustez da medida nem o risco de classificações erradas.

A conclusão prática é limitada, mas clara: foi publicado que a OpenAI planeia marcas de água para textos do ChatGPT e do Codex na UE, mas a cobertura exata continua a ser objeto de versões divergentes. As informações verificadas não bastam para confirmar a ativação, a opção global para a API, o método aplicável ao texto ou a relação concreta com o AI Act. Até existir documentação primária mais específica, estes pormenores devem ser tratados como questões pendentes, não como características já demonstradas.

Continue a explorar

Correções e transparência

Se encontrar informação incorreta ou desatualizada, envie-nos a página e a fonte que devemos rever.