Telekom stellt Sicherheitskonzept für KI-Agenten in Unternehmen vor

Die Deutsche Telekom hat ein Sicherheitskonzept vorgestellt, das den Einsatz von KI-Agenten in Unternehmen absichern soll. Nach Angaben des Anbieters wird das gesamte Produktportfolio auf diesen Ansatz ausgerichtet und schrittweise „AI Agent ready“ gemacht. Ziel sei es, Automatisierungsprozesse auch in sensiblen Bereichen kontrollierbar zu gestalten.

Telekom-Sicherheitschef Thomas Tschersich verweist auf die wachsenden Risiken durch KI-basierte Manipulationen. Stimmen, Bilder oder Identitäten ließen sich inzwischen täuschend echt nachbilden. Laut Telekom sollen deshalb digitale Vertrauensmechanismen etabliert werden, die vergleichbar mit klassischen Identitätsprüfungen zwischen Menschen funktionieren.

Digitale Identitäten als Grundlage

Basis des Konzepts ist das langjährige Engagement der Telekom im Bereich digitaler Identitäten und Zertifikate. Mit Lösungen wie Magenta Security Mobile.ID sollen Menschen, Geräte sowie Bots und KI-Agenten eindeutig identifizierbar sein.

Diese Identitäten ermöglichen es laut Hersteller, auch KI-Instanzen wie reguläre Nutzerkonten zu überwachen. Auffälligkeiten im Verhalten könnten so schneller erkannt werden. Da die Zahl der beteiligten Systeme steigt, sollen wiederum KI-gestützte Sicherheitslösungen helfen, verdächtige Aktivitäten zu analysieren.

Schutz vor Deepfakes und geklonten Agenten

Ein Schwerpunkt liegt auf der Erkennung synthetischer Inhalte. So sollen Systeme echte von künstlich erzeugten Stimmen unterscheiden können. In diesem Zusammenhang verweist die Telekom auf das Start-up Resemble AI, das beim T Challenge Wettbewerb von T-Mobile US und Deutsche Telekom ausgezeichnet wurde.

Neben dem Schutz von Personen sieht der Konzern auch Risiken für KI-Agenten selbst. Theoretisch könnten manipulierte oder geklonte Agenten in Geschäftsprozesse eingreifen, Daten abgreifen oder Abläufe blockieren. Eindeutige digitale Identitäten und ein erweitertes Regelwerk für KI-Ökosysteme sollen solche Abweichungen als Anomalien sichtbar machen.

SASE und Zero Trust weitergedacht

Bereits etablierte Sicherheitsmodelle wie SASE (Secure Access Service Edge) und Zero Trust bilden nach Angaben der Telekom weiterhin die Grundlage. Sie wurden vor allem mit Blick auf Cloud-Anwendungen und dezentrale Arbeitsmodelle entwickelt.

Mit zusätzlichen KI-Agenten entstünden jedoch neue Angriffsszenarien. Deshalb sollen bestehende Konzepte erweitert werden, sodass auch KI-Instanzen konsequent wie eigenständige Akteure behandelt werden. Zugriffsrechte für das Lesen, Schreiben oder Verändern von Daten ließen sich damit granular steuern. Selbst Änderungen am Quellcode von KI-Systemen könnten auf definierte Rechte beschränkt werden.

Einheitliche Regeln für alle Beteiligten

Der Ansatz sieht vor, Menschen, Geräte und KI-Agenten unter ein gemeinsames Sicherheitsregime zu stellen. Laut Telekom soll so eine durchgängig abgesicherte Kommunikation und Zusammenarbeit möglich sein.

Abdu Mudesir, Vorstand Product & Technology der Deutschen Telekom AG, betont, man setze auf einen verantwortungsvollen Umgang mit KI-Technologien. Ziel sei es, sowohl Privat- als auch Geschäftskunden einen sicheren Mehrwert zu bieten.