SynthID-Detektor: Was er prüfen kann – und was unbestätigt bleibt

Was SynthID ist und was das Werkzeug beschreibt

SynthID ist eine digitale Wasserzeichentechnologie von Google, die Inhalte kennzeichnen soll, die mit einigen seiner KI-Modelle erzeugt wurden. Google beschreibt, dass das Wasserzeichen direkt in den generierten Inhalt eingebettet wird. Die hier relevante Funktion beurteilt nicht beliebige Dateien und stellt auch nicht eigenständig fest, wer sie erstellt hat. Sie sucht nach einem bestimmten SynthID-Wasserzeichen.

Google stellt Supportdokumentation zur Überprüfung von Inhalten sowie allgemeine technische Informationen zu SynthID bereit. Zusammengenommen erklären diese Seiten den Zweck des Wasserzeichens und bestätigen, dass die Überprüfung Bilder und Videos umfasst. Die verfügbaren Informationen reichen jedoch nicht aus, um alle Einzelheiten eines angeblichen öffentlichen Starts eines eigenständigen Detektors, dessen allgemeine Verfügbarkeit oder den vollständigen Zugangsweg zu bestätigen.

Diese Unterscheidung ist wichtig: Dass eine Kennzeichnungstechnologie existiert und Google eine Möglichkeit zu ihrer Überprüfung dokumentiert, beantwortet nicht automatisch Fragen dazu, wer das Werkzeug verwenden kann, welche Dateien es tatsächlich akzeptiert oder welche Informationen es in den einzelnen Fällen ausgibt. Für solche Aussagen wären vollständige offizielle Anweisungen erforderlich, die sich auf das konkrete Werkzeug beziehen.

Welche Formate analysiert werden können – und was noch offen ist

Die Google-Supportdokumentation behandelt die Überprüfung von Bildern und Videos. Für diese beiden Formate gibt es somit dokumentierte Grundlagen, um den Zweck des Detektors zu beschreiben. Eine Supportseite erwähnt in ihrem Titel außerdem Audio. Die hier verifizierten Informationen reichen jedoch nicht aus, um die Bedingungen für eine Audioanalyse genauer zu bestimmen: Sie bestätigen weder, welche Dateitypen akzeptiert werden, noch welche Modelle oder Erstellungsprozesse abgedeckt sind oder ob das Ergebnis nach denselben Maßstäben wie bei Bildern und Videos funktioniert.

Auch sollte aus einer allgemeinen Erwähnung von Formaten keine vollständige Kompatibilitätsliste abgeleitet werden. Die Kompatibilität kann vom verfügbaren Werkzeug, von der Art des Inhalts und davon abhängen, wie dieser erzeugt wurde. Ohne ausreichende offizielle Anweisungen für jeden Anwendungsfall sollte man nicht davon ausgehen, dass sich beliebige Bilder, Videos oder Audioaufnahmen hochladen und mit identischem Ergebnis überprüfen lassen.

Insbesondere ist hier nicht bestätigt, dass der Detektor alle gängigen Dateiformate akzeptiert, lange Dateien analysiert oder bestimmte Sequenzen in beliebigen Videos oder Audiodateien erkennt. Solche Details sollten anhand der offiziellen Anweisungen geprüft werden, die bei der Nutzung des Dienstes angezeigt werden. Dass eine Funktion in den verfügbaren Informationen nicht bestätigt ist, beweist nicht, dass es sie nicht gibt. Es bedeutet, dass sie nicht als verifiziert dargestellt werden sollte.

Was ein positives Ergebnis bedeutet

Wenn eine Überprüfung SynthID erkennt, lautet die begrenzte, aber hilfreiche Schlussfolgerung: Im analysierten Inhalt wurde nach den Fähigkeiten des Systems ein Wasserzeichen dieser Technologie erkannt. Das kann einen Hinweis auf die Herkunft liefern, der mit Google-Werkzeugen zusammenhängt, die SynthID einbetten. Daraus folgt jedoch nicht, wer die Datei erstellt hat, wann dies geschah, welche Anweisungen verwendet wurden oder ob der Inhalt in seiner ursprünglichen Form veröffentlicht wurde.

Ein Wasserzeichen ist auch keine Bestätigung der Wahrheit. Ein markiertes Bild kann falsche Angaben enthalten, aus dem Zusammenhang gerissen sein oder eine erfundene Szene zeigen. Die Erkennung überprüft nicht, ob die dargestellten Ereignisse tatsächlich stattgefunden haben. Ebenso belegt das Wasserzeichen nicht, dass jemand die Datei mit Täuschungsabsicht verändert hat. Das sind unterschiedliche Fragen, für die andere Belege erforderlich sind.

Google beschreibt SynthID allgemein als Wasserzeichen, das in Inhalte eingebettet wird, die mit seinen KI-Modellen erzeugt wurden. Daraus sollte man nicht schließen, dass zwangsläufig jede Kreation von Google ein solches Wasserzeichen trägt: Die hier verfügbaren Informationen belegen nicht, dass alle Modelle, Produkte, Versionen oder Arbeitsabläufe erfasst sind. Die Interpretation sollte sich auf das Ergebnis und die Bedingungen beschränken, die das Werkzeug angibt.

Warum ein negatives Ergebnis den Einsatz von KI nicht ausschließt

Ein negatives Ergebnis bedeutet lediglich, dass der Detektor unter den Bedingungen dieser Überprüfung kein SynthID-Wasserzeichen erkannt hat. Es beweist nicht, dass der Inhalt vollständig von Menschen erstellt wurde oder nicht mit künstlicher Intelligenz erzeugt oder verändert worden ist. Es kann sich um Inhalte eines anderen Anbieters, um eine Erzeugung ohne SynthID oder um eine Datei handeln, deren Wasserzeichen bei dieser Analyse nicht erkannt werden konnte.

Das Werkzeug sollte nicht mit einem universellen Detektor für synthetische Bilder, Videos oder Audiodateien verwechselt werden. Es kann nicht allein deshalb feststellen, dass ein Inhalt nicht mit KI erzeugt wurde, weil es das gesuchte Wasserzeichen nicht findet. Eine kontextbezogene Prüfung ersetzt es ebenfalls nicht: Die Herkunft der Datei, ihre ursprüngliche Veröffentlichung, verfügbare Metadaten und der Abgleich mit weiteren Belegen können wichtig sein. Keines dieser Elemente garantiert für sich genommen die Echtheit.

Diese Einschränkung ist keine Besonderheit, sondern folgt aus dem konkreten Prüfauftrag. Ein Detektor für ein bestimmtes Wasserzeichen beantwortet eine eng umrissene Frage. Für andere Fragen braucht es zusätzliche Hinweise und andere Methoden. Deshalb sollten das technische Ergebnis und redaktionelle oder investigative Schlussfolgerungen daraus getrennt kommuniziert werden.

Die Zahl markierter Inhalte sagt nichts über die Reichweite des Detektors aus

In manchen Beschreibungen von SynthID wird eine Zahl von mehr als 180 Milliarden markierten Inhalten genannt. Die für diese Prüfung vorliegende offizielle Dokumentation reicht nicht aus, um diese Zahl zu bestätigen, den erfassten Zeitraum anzugeben oder zu klären, was als einzelner Inhalt gezählt wird. Daher sollte sie in dieser Erklärung nicht als gesicherte Angabe erscheinen.

Selbst wenn eine solche Zahl bestätigt würde, entspräche sie weder der Anzahl der Dateien, die der Detektor analysieren kann, noch dem Anteil aller KI-generierten Inhalte, die ein Wasserzeichen tragen. Für eine Einordnung bräuchte es mindestens eine Definition der gezählten Einheit, des Zeitraums, der einbezogenen Produkte und der Zählmethode. Die Zahl würde außerdem nicht belegen, dass das System alle Wasserzeichen oder sämtliche Änderungen an einer Datei erkennt.

Der Umfang einer Wasserzeichentechnologie und die Reichweite eines Prüfwerkzeugs sind unterschiedliche Messgrößen. Die erste betrifft Inhalte, auf die ein Wasserzeichen angewendet worden sein soll; die zweite betrifft das, was der Detektor verarbeiten und erkennen kann. Ohne vergleichbare und dokumentierte Angaben lässt sich das eine nicht aus dem anderen ableiten.

Grenzen bei anderen Generatoren, Bearbeitungen und Datenschutz

SynthID sollte nicht mit einem universellen Standard verwechselt werden, den alle Anbieter verwenden. Die geprüfte Dokumentation beschreibt eine Technologie von Google; sie bestätigt nicht, dass der Detektor Wasserzeichen anderer Anbieter erkennt. Trägt ein Bild oder eine Aufnahme ein anderes Wasserzeichen, folgt daraus nicht, dass SynthID dieses identifizieren kann. Und fehlt ein kompatibles Wasserzeichen, kann das Ergebnis negativ ausfallen, obwohl der Inhalt mit KI erstellt wurde.

Außerdem sind die Erkennung eines Wasserzeichens und die Analyse von Änderungen voneinander zu unterscheiden. Die verfügbaren Informationen geben nicht an, welche Veränderungen die Erkennbarkeit erhalten oder beeinträchtigen. Sie belegen auch nicht, dass ein Wasserzeichen nach jeder Bearbeitung, Komprimierung oder Umwandlung erkannt werden kann. Ohne konkrete technische Anweisungen, die für den Detektor gelten, wären Aussagen über vollständige Widerstandsfähigkeit oder über erfolgreiche Erkennung in solchen Fällen nicht abgesichert.

Schließlich ist in den geprüften Quellen nicht bestätigt, wie mit Dateien umgegangen wird, die an das Werkzeug übermittelt werden: wie lange sie gespeichert bleiben, wer darauf zugreifen kann oder zu welchen Zwecken sie verarbeitet werden könnten. Vor dem Hochladen vertraulicher, persönlicher oder anderweitig geschützter Inhalte sollte man die im Dienst angezeigten Datenschutz- und Datenverarbeitungsbedingungen prüfen. Man sollte weder annehmen, dass Dateien sofort gelöscht werden, noch dass sie unbegrenzt gespeichert bleiben.

Was vor der Nutzung geprüft werden sollte

Die bestätigten Informationen erlauben es, SynthID als digitale Wasserzeichentechnologie von Google zu beschreiben. Die Supportdokumentation bietet außerdem eine Grundlage für Aussagen zur Überprüfung von Bildern und Videos. Sie reicht dagegen nicht aus, um alle Aspekte des geplanten öffentlichen Starts zu bestätigen, die Bedingungen für Audio festzulegen, die Zahl der markierten Inhalte zu belegen oder die Speicherung übermittelter Dateien im Detail zu beschreiben.

Wer eine Datei prüfen möchte, sollte die Schlussfolgerung eng begrenzen: das analysierte Format benennen, das vom Werkzeug ausgegebene Ergebnis genau festhalten und dieses nicht auf die allgemeine Echtheit oder auf Systeme außerhalb von SynthID übertragen. Wird das Ergebnis weitergegeben, sollte erklärt werden, was geprüft wird und was nicht. Für Informationen zu Verfügbarkeit und Datenschutz sind vor dem Hochladen die aktuellen Anweisungen des Dienstes zu prüfen.

Der Nutzen eines Detektors hängt ebenso davon ab, was er erkennen kann, wie von den Grenzen seiner Antwort. Erkennt SynthID ein Wasserzeichen, kann das einen Hinweis auf die Herkunft liefern. Das Werkzeug ist weder ein universeller Nachweis für die Erzeugung mit KI noch eine Echtheitsbestätigung, wenn es kein Wasserzeichen erkennt.

Weiter entdecken

Korrekturen und Transparenz

Wenn du falsche oder veraltete Angaben findest, sende uns die Seite und die zu prüfende Quelle.