SynthID: Was es ist und wie es funktioniert

Bild vom Autor

# Einführung

Da KI-generierte Medien immer leistungsfähiger und Mainstream werden, ist es immer schwieriger geworden, KI-generierte Inhalte von von Menschen erstellten Inhalten zu unterscheiden. Als Reaktion auf Risiken wie Fehlinformationen, Deepfakes und den Missbrauch synthetischer Medien Google DeepMind hat SynthID entwickelt, eine Sammlung von Tools, die nicht wahrnehmbare digitale Wasserzeichen in KI-generierte Inhalte einbetten und eine spätere zuverlässige Identifizierung dieser Inhalte ermöglichen.

Durch die direkte Einbeziehung des Wasserzeichens in den Inhaltsgenerierungsprozess hilft SynthID bei der Überprüfung der Herkunft und unterstützt Transparenz und Vertrauen in KI-Systeme. SynthID erstreckt sich auf Text, Bilder, Audio und Video mit jeweils einem benutzerdefinierten Wasserzeichen. In diesem Artikel erkläre ich, was SynthID ist, wie es funktioniert und wie Sie damit Wasserzeichen auf Text anwenden können.

# Was ist SynthID?

In seinem Zentrum, Synthesizer-ID ist ein Wasserzeichen- und Erkennungs-Framework, das für KI-generierte Inhalte entwickelt wurde. Dabei handelt es sich um ein Wasserzeichen-Framework, das nicht wahrnehmbare Signale in KI-generierte Texte, Bilder und Videos einfügt. Diese Signale überstehen übliche Komprimierung, Größenänderung, Zuschneiden und Transformationen. Im Gegensatz zu metadatenbasierten Ansätzen wie Koalition für Inhaltsherkunft und Authentizität (C2PA) arbeitet SynthID auf Modell- oder Pixelebene. Anstatt Metadaten nach der Generierung hinzuzufügen, bettet SynthID eine versteckte Signatur in den Inhalt selbst ein, die auf eine Weise codiert ist, die für Menschen unsichtbar oder unhörbar, aber von algorithmischen Scannern erkennbar ist.

Das Designziel von SynthID besteht darin, für Benutzer unsichtbar, verzerrungsbeständig und für Software zuverlässig erkennbar zu sein.

SynthID ist in die KI-Modelle von Google integriert, darunter Gemini (Text), Imagen (Bilder), Lyria (Audio) und Veo (Video). Es unterstützt auch Tools wie das SynthID Detector-Portal zur Überprüfung hochgeladener Inhalte.

// Warum SynthID wichtig ist

Generative KI kann äußerst realistische Texte, Bilder, Audiodateien und Videos erstellen, die nur schwer von von Menschen erstellten Inhalten zu unterscheiden sind. Dies führt zu Risiken wie:

• Deepfake-Videos und manipulierte Medien
• Fehlinformationen und irreführende Inhalte
• Unbefugte Wiederverwendung von KI-Inhalten in Kontexten, in denen Transparenz erforderlich ist

SynthID stellt Original-Tags bereit, die Plattformen, Forschern und Benutzern dabei helfen, die Herkunft von Inhalten zurückzuverfolgen und zu beurteilen, ob sie synthetisch hergestellt wurden.

// Technische Prinzipien des SynthID-Wasserzeichens

Der Wasserzeichen-Ansatz von SynthID basiert auf der Steganographie – der Kunst, Signale in anderen Daten zu verbergen, sodass das Vorhandensein der verborgenen Informationen nicht wahrnehmbar ist, aber mit einem Schlüssel oder Detektor wiederhergestellt werden kann.

Die wichtigsten Designziele sind:

• Wasserzeichen dürfen die Qualität der Inhalte für den Nutzer nicht mindern
• Wasserzeichen müssen häufigen Änderungen wie Komprimierung, Zuschneiden, Rauschen und Filtern standhalten
• Das Wasserzeichen muss zuverlässig anzeigen, dass der Inhalt von einem KI-Modell mithilfe von SynthID generiert wurde

Nachfolgend erfahren Sie, wie SynthID diese Ziele über verschiedene Medientypen hinweg umsetzt.

# Textmedien

// Wahrscheinlichkeitsbasiertes Wasserzeichen

SynthID integriert Signale während der Textgenerierung, indem es Wahrscheinlichkeitsverteilungen manipuliert, die von großen Sprachmodellen (LLMs) verwendet werden, wenn das nächste Token (Wort oder Teil des Tokens) ausgewählt wird.

Diese Methode profitiert von der Tatsache, dass die Textgenerierung von Natur aus probabilistisch und statistisch erfolgt; Kleine kontrollierte Anpassungen lassen die Ausgabequalität unverändert und sorgen gleichzeitig für eine nachvollziehbare Signatur.

# Bilder und Videomedien

// Wasserzeichen auf Pixelebene

Bei Bildern und Videos bettet SynthID ein Wasserzeichen direkt in die generierten Pixel ein. Bei der Generierung, beispielsweise über ein Diffusionsmodell, verändert SynthID subtil Pixelwerte an bestimmten Stellen.

Diese Veränderungen sind kleiner als die vom Menschen wahrnehmbaren Unterschiede, kodieren aber ein maschinenlesbares Muster. Bei Videos wird das Wasserzeichen Bild für Bild angewendet und ermöglicht so eine zeitliche Erkennung auch nach Transformationen wie Zuschneiden, Komprimieren, Rauschen oder Filtern.

# Audiomedien

// Visuelle Kodierung

Bei Audioinhalten nutzt der Wasserzeichenprozess die spektrale Darstellung des Audios.

• Konvertieren Sie die Audiowellenform in eine Zeit-Frequenz-Darstellung (Spektrogramm).
• Kodieren Sie das Wasserzeichenmuster mithilfe von Kodierungstechniken, die auf psychoakustische Eigenschaften (Klangwahrnehmung) abgestimmt sind, in das Spektrogramm.
• Rekonstruieren Sie die Wellenform aus dem modifizierten Spektrogramm, sodass das eingebettete Wasserzeichen für menschliche Zuhörer nicht wahrnehmbar bleibt, aber vom SynthID-Detektor erkennbar ist.

Dieser Ansatz stellt sicher, dass das Wasserzeichen auch nach Änderungen wie Komprimierung, Hinzufügen von Rauschen oder Geschwindigkeitsänderungen erkennbar bleibt – Sie sollten sich jedoch darüber im Klaren sein, dass extreme Änderungen die Erkennbarkeit beeinträchtigen können.

# Erkennung und Überprüfung von Wasserzeichen

Sobald ein Wasserzeichen eingebettet ist, untersucht das Erkennungssystem von SynthID einen Inhalt, um festzustellen, ob die versteckte Signatur vorhanden ist.

Mit Tools wie dem SynthID Detector-Portal können Benutzer Medien hochladen, um das Vorhandensein von Wasserzeichen zu überprüfen. Die Erkennung hebt Bereiche mit starken Wasserzeichensignalen hervor und ermöglicht so eine präzisere Originalitätsprüfung.

# Stärken und Grenzen von SynthID

SynthID ist so konzipiert, dass es typischen Inhaltstransformationen wie dem Zuschneiden von Bildern/Videos, der Größenänderung und Komprimierung sowie der Hinzufügung von Rauschen und der Konvertierung von Audioformaten standhält. Es übernimmt auch kleinere Bearbeitungen und Paraphrasierungen von Texten.

Allerdings können erhebliche Änderungen wie extreme Bearbeitung, aggressive Paraphrasierung und Nicht-KI-Transformationen die Erkennbarkeit von Wasserzeichen beeinträchtigen. Darüber hinaus funktioniert die SynthID-Erkennung hauptsächlich für Inhalte, die von Modellen generiert werden, die in das Wasserzeichensystem integriert sind, wie z. B. die KI-Modelle von Google. Ohne SynthID-Integration werden möglicherweise keine KI-Inhalte von externen Modellen erkannt.

# Anwendungen und weitere Auswirkungen

Die Hauptanwendungsfälle für SynthID sind:

• Die Überprüfung der Originalität von Inhalten unterscheidet KI-generierte Inhalte von von Menschen erstelltem Material
• Bekämpfung von Fehlinformationen, beispielsweise durch die Rückverfolgung der Ursprünge synthetischer Medien, die in irreführenden Erzählungen verwendet werden
• Medienquellen, Compliance-Plattformen und Regulierungsbehörden können dabei helfen, die Herkunft von Inhalten zu verfolgen
• Forschung und akademische Integrität, die den kopierten und verantwortungsvollen Einsatz von KI unterstützen

Durch die Integration konstanter Identifikatoren in die KI-Ausgabe verbessert SynthID die Transparenz und das Vertrauen in generative KI-Ökosysteme. Mit zunehmender Akzeptanz könnte das Anbringen von Wasserzeichen zur Standardpraxis auf allen KI-Plattformen in Industrie und Forschung werden.

# Abschluss

SynthID stellt einen einflussreichen Fortschritt in der Rückverfolgbarkeit von KI-Inhalten dar und bettet kryptografisch starke und nicht wahrnehmbare Wasserzeichen direkt in generierte Medien ein. Durch die Nutzung modellspezifischer Einflüsse auf Token-Wahrscheinlichkeiten für Text, Pixeländerungen für Bilder und Videos und Spektrogrammkodierung für Audio erreicht SynthID ein praktisches Gleichgewicht zwischen Unsichtbarkeit, Stärke und Erkennbarkeit, ohne die Qualität des Inhalts zu beeinträchtigen.

Während sich die generative KI weiterentwickelt, werden Technologien wie SynthID eine immer zentralere Rolle bei der Gewährleistung eines verantwortungsvollen Einsatzes, der Bekämpfung von Missbrauch und der Wahrung des Vertrauens in einer Welt spielen, in der synthetische Inhalte allgegenwärtig sind.

Shittu Olumide ist ein Software-Ingenieur und technischer Autor, der sich leidenschaftlich dafür einsetzt, modernste Technologien zu nutzen, um fesselnde Geschichten zu erstellen, mit einem scharfen Blick fürs Detail und einem Talent für die Vereinfachung komplexer Konzepte. Sie können Shittu auch auf finden Twitter.