Cyberkriminelle mit eigenen LLMs
Der Zugang zu Deepfake-Tools wird immer einfacher
Cyberkriminelle setzen verstärkt auf selbstentwickelte Chatbots und Deepfake-Technologien, um Sicherheitsmechanismen zu umgehen und Anonymität zu wahren.
Die Sicherheitsfirma Trend Micro berichtet, dass Cyberkriminelle ihr Angebot von Large Language Models (LLMs) und Deepfake-Technologien ausweiten. Auf kriminellen Telegram-Marktplätzen werben sie für neue ChatGPT-ähnliche Chatbots. ...
Die Sicherheitsfirma Trend Micro berichtet, dass Cyberkriminelle ihr Angebot von Large Language Models (LLMs) und Deepfake-Technologien ausweiten. Auf kriminellen Telegram-Marktplätzen werben sie für neue ChatGPT-ähnliche Chatbots.
Kommerzielle LLMs wie Gemini oder ChatGPT sind zum einen so programmiert, dass sie die Beantwortung von böswilligen oder unethischen Anfragen verweigern, begründen die die Analysten von Trend Micro die Entwicklung. Zum anderen würden Kriminelle bekannte Dienste wie ChatGPT vermeiden, da sie durch regulierte Tools befürchten, aufgespürt zu werden.
Ein weiterer Angriffsweg geht, laut Trend Micro, über Jailbreak-as-a-Service-Frontends. Diese können böswillige Fragen in spezielle Eingabeaufforderungen verpacken, was den ethischen Codex der KI-Tools umgeht. Damit werden die kommerziellen LLMs ausgetrickst, um eine ungefilterte Antwort zu geben.
Die selbstentwickelten Chatbots der Cyberkriminellen garantieren Vertraulichkeit und Anonymität und werden speziell mit bösartigen Daten trainiert.
Auch alte LLMs, die eigentlich eingestellt wurden, tauchen so Trend Micro wieder auf:
WormGPT wurde im August 2023 öffentlich eingestellt. Trotzdem verkaufen Cyberkriminelle derzeit drei Varianten.
DarkBERT ist ein Chatbot, der als Scam gilt, da er zusammen mit vier anderen kriminellen LLMs mit sehr ähnlichen Fähigkeiten verkauft wurde. Der böse DarkBERT sollte jedoch nicht verwechselt werden mit dem legalen Projekt DarkBERT.
Bei dem guten DarkBERT handelt es sich um ein LLM, das von einem Cybersicherheitsunternehmen auf Dark-Web-Posts trainiert wurde. Damit unterstützt das LLM die Überwachung oder Interpretation von Dark Web-Inhalten.
Weitere kriminelle LLMs wie DarkGemini und TorGPT verwenden Namen, die mit bestehenden Technologien in Verbindung gebracht werden. Ihre Funktionalität unterscheidet sich jedoch nicht allzu sehr vom Rest der kriminellen Angebote, mit Ausnahme ihrer Fähigkeit Bilder zu verarbeiten.
Deepfake 3D Pro und seine Avatar-Generierungsfunktion kann dazu verwendet werden, Verifikationssysteme von Finanzinstituten zu umgehen und Kriminellen mit gestohlenen Ausweisen Zugang zu Konten zu verschaffen. In Kombination mit einem Dienst, der Stimmen klont, kann die App verwendet werden, um mit Skripts versehene Video-Phishing-Kampagnen zu erstellen
SwapFace und Avatar AI VideoCallSpoofer bieten beide die Möglichkeit, Echtzeit-Videoanrufe zu fälschen.
