Wasserzeichen für ChatGPT-Texte in der EU: Was bekannt ist – und was noch offenbleibt

Was angekündigt wurde – und was als bestätigt gelten kann

Die verfügbaren Informationen schreiben OpenAI Pläne zu, unsichtbare Wasserzeichen in von ChatGPT und Codex erzeugte Texte in der Europäischen Union einzubauen. Die überprüften Informationen enthalten jedoch keine konkrete Primärveröffentlichung zu dieser Ankündigung, anhand derer sich die Bedingungen nachvollziehen ließen. Deshalb ist bei der Beschreibung des Umfangs Vorsicht geboten: Es gibt Hinweise auf eine Einführung in der EU, aber keine ausreichende Bestätigung dazu, welche Nutzerinnen und Nutzer, Modelle oder Antworten betroffen wären.

Auch der Zeitpunkt des Starts ist hier nicht bestätigt. Ebenso wenig ist geklärt, ob die Einführung für einzelne Konten bereits begonnen hat. Die verfügbaren Veröffentlichungen erläutern nicht, ob alle ChatGPT-Tarife, nur bestimmte Produkte oder Modelle oder lediglich bestimmte Arten von Text betroffen wären. Aus der Nennung von ChatGPT und Codex lässt sich keine flächendeckende Einführung ableiten.

Beim Umfang besteht ein konkreter Widerspruch. Eine Beschreibung bezieht sich auf „einige Texte“ von ChatGPT und Codex; eine andere stellt die Maßnahme so dar, als gelte sie für alle ChatGPT-Texte in Europa. Die verfügbaren Informationen zeigen nicht, ob damit unterschiedliche Konfigurationen gemeint sind, ob eine der Beschreibungen weiter gefasst ist oder ob eine davon unzutreffend ist. Die sachgerechte Schlussfolgerung lautet daher: Der genaue Umfang bleibt ungeklärt.

OpenAI hat allgemeine Informationen zur Herkunft von Inhalten veröffentlicht. Darin beschreibt das Unternehmen einen Ansatz, der verschiedene Maßnahmen kombiniert, und erwähnt Wasserzeichen auf Grundlage von SynthID. Das bietet Kontext für die grundsätzliche Ausrichtung des Unternehmens. Es bestätigt aber weder, dass genau dieses Verfahren bei der diskutierten europäischen Einführung für Texte eingesetzt wird, noch nennt es deren technische Parameter.

EU und API: Zwei mögliche Einführungswege, die nicht gleichzusetzen sind

Der Vorschlag unterscheidet zwei Wege: eine Maßnahme im Zusammenhang mit ChatGPT und Codex in der EU sowie eine Option, die API-Kunden weltweit angeboten werden soll. Auf Grundlage der überprüften Informationen lässt sich der erste Weg lediglich als eine OpenAI zugeschriebene Ankündigung beschreiben, deren Umfang nicht vollständig geklärt ist. Der zweite Weg ist nicht ausreichend belegt, um zu behaupten, die Option existiere bereits, sei formell angekündigt oder weltweit verfügbar.

Diese Unterscheidung ist wichtig, denn die Nutzung von ChatGPT ist nicht dasselbe wie die Einbindung eines Modells über eine API. Im ersten Fall hängen Konfiguration und Funktionen von dem Dienst ab, den der Anbieter betreibt. Im zweiten können Kunden Modelle in ihre eigenen Anwendungen integrieren und dafür andere Steuerungsmöglichkeiten benötigen. Die Unterscheidung hilft dabei, die richtigen Fragen zu stellen, bestätigt aber nicht, welche Kontrollen OpenAI für die jeweiligen Zugangswege anbietet.

Bevor sich die API-Option als verfügbare Funktion beschreiben lässt, wären Primärinformationen nötig. Sie müssten benennen, welche Modelle kompatibel sind, wie die Funktion aktiviert wird, ob die Entscheidung bei den einzelnen Kunden liegt und was für Textantworten im Vergleich zu anderen Formaten gilt. Ohne diese Angaben lässt sich auch nicht behaupten, das Wasserzeichen sei verpflichtend, standardmäßig aktiviert oder könne von Kunden entfernt werden.

Was ein Textwasserzeichen belegt – und was nicht

Ein Wasserzeichen soll ein Signal liefern, anhand dessen sich unter bestimmten Bedingungen erkennen lässt, dass ein Text mit einem bestimmten System erzeugt wurde. Das ist nicht dasselbe wie eine sichtbare Signatur, ein Hinweis am Ende einer Antwort oder ein Protokoll, das die Person identifiziert, die eine Anfrage gestellt hat. OpenAIs allgemeine Informationen zur Herkunft von Inhalten ordnen Wasserzeichen in ein Bündel verschiedener Maßnahmen ein. Sie reichen nicht aus, um zu erklären, wie ein Signal in Text codiert oder in diesem konkreten Fall überprüft würde.

Selbst wenn ein Detektor ein passendes Signal findet, beweist das für sich genommen nicht, wer den Inhalt geschrieben, überarbeitet oder veröffentlicht hat. Eine Person könnte einen KI-generierten Entwurf bearbeitet, Abschnitte aus mehreren Quellen kombiniert oder den Text in ein anderes Dokument kopiert haben. Umgekehrt beweist ein nicht gefundenes Signal nicht, dass der Text vollständig von Menschen stammt: Vielleicht war er gar nicht markiert, oder das Signal blieb nach Änderungen nicht erhalten.

Besonders wichtig sind Änderungen am Text, wenn ein Verfahren auf darin enthaltenen Mustern beruht. Umformulierungen, Übersetzungen, Zusammenfassungen, Korrekturen oder das Vermischen von Absätzen können das Material verändern, das ein Detektor untersucht. Ohne technische Informationen zum Verfahren lässt sich nicht bestimmen, wie viel Bearbeitung das Wasserzeichen toleriert oder wie viel Text erhalten bleiben müsste, damit es erkannt werden kann. Auch die unterstützten Sprachen und eine etwaige Mindestlänge sind hier nicht bekannt.

Um die Zuverlässigkeit zu beurteilen, wären reproduzierbare Testergebnisse erforderlich. Dazu gehören eine Beschreibung des Prüfverfahrens, der getesteten Texte und Sprachen, der Arten von Bearbeitung, der Schwellenwerte sowie der Raten falsch positiver und falsch negativer Ergebnisse. Die überprüften Informationen enthalten diese Angaben nicht. Daher sollte das Wasserzeichen weder als unfehlbarer Beweis für die Urheberschaft dargestellt noch mit einer konkreten Erkennungsgenauigkeit versehen werden.

Eine Produktentscheidung belegt nicht automatisch eine rechtliche Pflicht

Eine Ankündigung eines Unternehmens und die Anforderungen einer Rechtsvorschrift sind zwei verschiedene Dinge. Dass OpenAI ein Wasserzeichen einführen möchte, belegt für sich genommen nicht, was der AI Act für jede Art von KI-generiertem Text verlangt. Um eine konkrete Pflicht zu erläutern, müssten der einschlägige Artikel, sein Anwendungszeitpunkt, die Art des Systems und der Nutzungskontext mit dem maßgeblichen Rechtstext abgeglichen werden.

Die für diesen Artikel überprüften Informationen enthalten weder den Text des AI Act noch eine rechtsverbindliche Erläuterung, mit der sich diese Fragen klären ließen. Deshalb wird dem Gesetz keine bestimmte Pflicht zu diesem Wasserzeichen zugeschrieben. Ebenso wird nicht behauptet, die Einführung gehe notwendigerweise auf eine gesetzliche Vorgabe zurück. Die verfügbaren Informationen erlauben es, über eine kommunizierte Unternehmensinitiative zu sprechen, nicht aber über ihre genaue rechtliche Grundlage.

Diese Vorsicht verhindert außerdem, Herkunft und Verantwortung miteinander zu verwechseln. Ein Wasserzeichen kann für bestimmte Prüfprozesse nützliche Informationen liefern. Für sich genommen entscheidet es jedoch nicht, ob ein Inhalt korrekt ist, veröffentlicht werden sollte, wer dafür verantwortlich ist oder ob sämtliche einschlägigen Pflichten erfüllt wurden. Für solche Schlussfolgerungen wären weitere Informationen und Regeln erforderlich.

Was noch offen ist – und wie die Ankündigung einzuordnen ist

Damit der Umfang klar wäre, müsste OpenAI öffentlich angeben, welche Modelle, Produkte, Sprachen und Ausgabearten betroffen sind, ob die Maßnahme für alle Nutzerinnen und Nutzer in der EU oder nur für bestimmte Gruppen gilt und ab wann sie eingeführt wird. Für die API wären Angaben zur Verfügbarkeit, zu den unterstützten Modellen und zu den Kontrollen nötig, die Kunden erhalten. Keine dieser Fragen wird durch die hier überprüften Informationen geklärt.

Es fehlt auch die technische Beschreibung, die nötig wäre, um die Erkennung zu beurteilen: welches Wasserzeichen eingesetzt wird, welche Voraussetzungen der Detektor benötigt und wie sich das Verfahren nach Bearbeitung, Übersetzung oder Zusammenfassung verhält. Ohne Prüfprotokoll und Testergebnisse lässt sich weder die Robustheit unabhängig bewerten noch das Risiko falscher Einstufungen einschätzen.

Das praktische Fazit ist begrenzt, aber klar: Es wurde veröffentlicht, dass OpenAI Wasserzeichen für Texte von ChatGPT und Codex in der EU plant; der genaue Umfang ist jedoch umstritten. Die überprüften Informationen reichen nicht aus, um den Start, eine weltweite Option für die API, das konkret verwendete Textverfahren oder den Zusammenhang mit dem AI Act zu bestätigen. Bis spezifischere Primärinformationen vorliegen, sollten diese Punkte als offen gelten – nicht als nachgewiesene Eigenschaften.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.