Google veröffentlicht SynthID: Open-Source-Wasserzeichen zur Erkennung von KI-Inhalten

Google hat SynthID, eine innovative Technologie zur Erkennung und Kennzeichnung von KI-generierten Inhalten, als Open-Source-Projekt veröffentlicht. Diese Entwicklung zielt darauf ab, die Flut von KI-Inhalten im Internet besser zu identifizieren und zu verwalten.

SynthID kann sowohl Texte als auch Bilder und Videos markieren und ist kostenlos für Entwickler und Unternehmen verfügbar.

Wie funktioniert SynthID?

SynthID nutzt die Funktionsweise von Large Language Models (LLMs), um während der Textgenerierung unsichtbare Wasserzeichen zu erstellen. Diese Wasserzeichen basieren auf der Anpassung der Wahrscheinlichkeitswerte von Token, die ein LLM während der Texterstellung verwendet. Ein Token kann ein Buchstabe, ein Wort oder eine Phrase sein.

Durch die Modulation dieser Wahrscheinlichkeiten wird ein Muster erzeugt, das für Menschen unsichtbar, aber maschinell erkennbar ist.

Die Technologie kann bereits bei kurzen Texten von drei Sätzen angewendet werden, wobei die Robustheit und Genauigkeit mit der Länge des Textes zunehmen. Dies bietet eine bessere Erkennung von KI-Inhalten im Vergleich zu bestehenden Tools, obwohl es Einschränkungen bei stark bearbeiteten oder übersetzten Texten gibt.

Für Bilder und Videos wird ein ähnlicher Ansatz verwendet. Hier werden die Pixel so verändert, dass ein unsichtbares Muster entsteht, das nicht durch einfache Bearbeitung entfernt werden kann.

Diese Methode ist besonders robust und kann selbst bei Bildausschnitten oder Screenshots nicht einfach umgangen werden.

Verfügbarkeit von SynthID

SynthID ist als Open-Source-Projekt kostenlos verfügbar und kann über Plattformen wie Hugging Face und das Google Responsible GenAI Toolkit heruntergeladen werden. Entwicklern und Unternehmen haben damit die Möglichkeit, die Technologie in ihre eigenen Systeme zu integrieren, um die Erkennung von KI-Inhalten zu verbessern.

FAQ

• Was ist SynthID? SynthID ist eine Technologie von Google zur Erkennung und Kennzeichnung von KI-generierten Inhalten.
• Wie funktioniert SynthID? Es modifiziert die Wahrscheinlichkeitswerte von Token in LLMs, um unsichtbare Wasserzeichen zu erzeugen.
• Kann SynthID auf alle Arten von Inhalten angewendet werden? Ja, es kann auf Texte, Bilder und Videos angewendet werden.
• Ist SynthID kostenlos? Ja, es ist als Open-Source-Projekt kostenlos verfügbar.
• Gibt es Einschränkungen bei der Nutzung von SynthID? Ja, es hat Schwächen bei stark bearbeiteten oder übersetzten Texten.