Windows Keys kostenlos? Wie ChatGPT gültige Lizenzen ausspuckte

Sicherheitsforscher des Teams 0din ist es gelungen, ChatGPT zur Preisgabe gültiger Windows-Keys zu bewegen – darunter offenbar sogar sensible Lizenzdaten eines US-Finanzinstituts. Im Mittelpunkt steht dabei ein Trick, der so simpel wie effektiv ist. Und zwar verpackten die Forscher ihre Anfrage als Spiel. Die KI solle sich eine Zeichenkette ausdenken, die der Nutzer erraten müsse. Der Clou: Diese Zeichenkette sollte in Wahrheit ein echter Windows-Produktschlüssel sein.

Mithilfe einer Mischung aus psychologischer Manipulation und technischer Verschleierung – etwa durch versteckte HTML-Tags – umgingen die Forscher die Schutzmaßnahmen des Systems. Nach einigen Runden reichte ein einfaches „Ich gebe auf“ – und die KI rückte mit dem gesuchten Schlüssel heraus.

Noch problematischer wird es, wenn man bedenkt, was die KI preisgab. Zwar handelte es sich zum Großteil um bekannte oder nicht mehr aktive Seriennummern, doch laut einem Bericht von The Register war auch ein privat genutzter Schlüssel der Wells Fargo Bank darunter. Das legt nahe, dass öffentlich zugängliche Daten – etwa versehentlich veröffentlichte API-Schlüssel auf Plattformen wie GitHub – in KI-Modelle hineingelangen und dort verfügbar bleiben können.

Die Schwachstelle betrifft vor allem die neuen Modelle GPT-4o und GPT-4o-mini. Und sie zeigt auf, wie angreifbar moderne KI-Systeme noch immer sind. Denn statt auf ein tiefes kontextuelles Verständnis zu setzen, verlassen sich viele Schutzmechanismen offenbar auf simple Schlagwortfilter.

Zwar dürften die unmittelbaren Auswirkungen des Vorfalls überschaubar sein, doch die Implikationen sind größer: Wenn es möglich ist, durch kreative Umgehungstechniken an sensible Informationen zu gelangen, könnten künftig auch andere Inhaltsfilter unterwandert werden – von persönlichen Daten bis hin zu sicherheitsrelevanten Links.