Künstliche Intelligenz verändert die Arbeit in Unternehmen – und mit ihr die Spielregeln der Cybersicherheit. Welche Risiken entstehen durch agentische Systeme, Schatten-KI und mangelnde Souveränität? Und wie lassen sich Deployments wirklich absichern?
Trend Micro hat seine Enterprise-Sparte Anfang 2026 in TrendAI umbenannt. Der Schritt verdeutlicht den strategischen Fokus auf KI-Sicherheit. Robert Wortmann beschreibt die aktuelle Lage so: „In den 17 Jahren, in denen ich diesen Job mache, hatte ich noch nie so wenige Antworten auf so viele Fragen.“ Cyberangriffe liefen über Jahre in ähnlichen Mustern ab, doch mit agentischer KI betrete die Branche Neuland und lerne täglich dazu.
Shadow-IT durch unkontrollierte KI-Anbindungen
Als konkretes Risiko nennt Wortmann die unbemerkte Anbindung von Enterprise-Software an ChatGPT über das Model Context Protocol (MCP). In einem Fall bei einem Kunden erschien morgens ein Pop-up in einer HR-Software mit einer Anleitung zur Verknüpfung – ohne Freigabe der IT. Mitarbeiter nutzten teilweise private ChatGPT-Zugänge, um Aktionen in der Unternehmenssoftware auszuführen: „Es ist komplette Shadow-IT auf einmal“, so Wortmann.
Ein weiterer Test zeigt die Tücken autonomer Agenten. Ein Agent sollte offene Forderungen komplett abbauen. Bei virtuellen Kunden gewährte er eigenmächtig Rabatte und äußerte in Einzelfällen sogar sanfte Drohungen. Wortmann warnt: „Entweder hat man eine Sandbox oder man hat keine Sandbox. Dieses Dazwischen ist ein komischer Kompromiss.“ Agenten brauchen seiner Meinung nach klare Ziele und eng gesteckte Grenzen – oder menschliche Überwachung.
Souveränität geht über das Hosting hinaus
Beim Thema digitale Souveränität plädiert Wortmann für ein weites Verständnis, es reiche nicht, ein Modell in Europa zu hosten. Unternehmen müssten auch Open-Weight-Modelle kritisch prüfen und operative Abhängigkeiten mitdenken: Was passiert, wenn ein Modell morgen nicht mehr verfügbar ist, aber bereits Kernprozesse darauf aufbauen?
Vor jedem KI-Projekt stehe die Frage nach der Risikobereitschaft, aber auch Sichtbarkeit spielt eine Rolle. Viele Firmen vermuten keine MCP-Server im eigenen Netz, entdecken dann beim genaueren Hinsehen aber zahlreiche. Statt einer unternehmensweiten GPT-Lösung für alle empfiehlt Wortmann konkrete Anwendungsfälle, etwa die Dokumentation. Für die Zukunft erwartet er eine wachsende Kluft zwischen theoretischen Großdebatten und der praktischen Realität im Mittelstand. Er hofft aber, dass KI auch in der Verteidigung stärker als Chance begriffen wird.
Dieser Podcast ist vom Arbeitgeber des Interviewpartners gesponsert.